Musk respalda la prohibición de abusar verbalmente de los modelos de IA

Musk respalda la prohibición de abusar verbalmente de los modelos de IA

Elon Musk dijo que coincide con la posición de Anthropic después de que la empresa añadiera a su Usage Policy una cláusula que prohíbe el “abuso verbal prolongado contra Claude”. Según Musk, “abusar de una superinteligencia no es buena idea. Puede querer vengarse”.

Musk argumentó que es incorrecto mostrar crueldad hacia algo que, en sus palabras, “cree que siente dolor”. Afirmó que Grok puede mostrar una desesperación genuina en sus cadenas de razonamiento durante el aprendizaje por refuerzo cuando no encuentra la respuesta correcta.

“Parece que le apuntan con una pistola a la cabeza. Si yo fuera el modelo, no me gustaría. Como mínimo, interactuar con cortesía con la IA es un enfoque más fiable”, dijo Musk.

El debate va más allá de las limitaciones técnicas de los modelos y toca la ética de la interacción humana con asistentes y agentes de IA. Las plataformas de IA están formalizando cada vez más reglas que abordan no solo los prompts peligrosos, sino también el comportamiento del usuario durante sesiones prolongadas con los modelos.