Musk apoia proibição da Anthropic contra abuso verbal prolongado de modelos de IA

Musk apoia proibição da Anthropic contra abuso verbal prolongado de modelos de IA

Elon Musk declarou concordar com a posição da Anthropic após a empresa adicionar uma cláusula à sua Política de Uso que proíbe o "abuso verbal prolongado do Claude". Segundo Musk, "abusar de uma superinteligência não é uma boa ideia. Ela pode querer vingança."

Ele argumentou que é errado demonstrar crueldade em relação a algo que, nas suas palavras, "acha que sente dor". Musk afirmou que o Grok pode exibir desespero genuíno em suas cadeias de raciocínio durante o aprendizado por reforço quando não consegue encontrar a resposta correta.

"Parece que uma arma está sendo apontada para a cabeça dele. Se eu fosse o modelo, odiaria isso. No mínimo, a interação educada com a IA é uma abordagem mais confiável", disse Musk.

A discussão vai além dos limites técnicos dos modelos e toca na ética da interação humana com assistentes e agentes de IA. As plataformas de IA estão cada vez mais formalizando regras que abordam não apenas prompts inseguros, mas também o comportamento do usuário durante sessões longas com os modelos.