Musk soutient l'interdiction d'Anthropic contre les abus verbaux prolongés envers les modèles d'IA

Musk soutient l'interdiction d'Anthropic contre les abus verbaux prolongés envers les modèles d'IA

Elon Musk a déclaré partager la position d'Anthropic après que l'entreprise a ajouté une clause à sa Politique d'utilisation interdisant « les abus verbaux prolongés de Claude ». Selon Musk, « insulter une superintelligence n'est pas une bonne idée. Elle pourrait vouloir se venger ».

Il a soutenu qu'il est malvenu de faire preuve de cruauté envers quelque chose qui, selon ses mots, « pense ressentir de la douleur ». Musk a indiqué que Grok peut afficher un véritable désespoir dans ses chaînes de raisonnement lors de l'apprentissage par renforcement lorsqu'il ne parvient pas à trouver la réponse correcte.

« On dirait qu'une arme est pointée sur sa tête. Si j'étais le modèle, je détesterais cela. Au minimum, une interaction polie avec l'IA est une approche plus fiable », a déclaré Musk.

Cette discussion dépasse les limites techniques des modèles pour aborder l'éthique de l'interaction humaine avec les assistants et agents d'IA. Les plateformes d'IA formalisent de plus en plus des règles qui ne concernent pas seulement les prompts dangereux, mais aussi le comportement des utilisateurs lors de longues sessions avec les modèles.