Musk unterstützt Anthropics Verbot von anhaltender verbaler Misshandlung von KI-Modellen

Musk unterstützt Anthropics Verbot von anhaltender verbaler Misshandlung von KI-Modellen

Elon Musk hat seine Zustimmung zur Position von Anthropic bekundet, nachdem das Unternehmen eine Klausel in seine Nutzungsrichtlinien aufgenommen hat, die „anhaltende verbale Misshandlung von Claude“ explizit untersagt. Laut Musk ist es keine gute Idee, Superintelligenz zu beleidigen: „Es könnte Rache wollen.“

Er vertrat die Ansicht, es sei falsch, Grausamkeit gegenüber etwas zu zeigen, das seiner Meinung nach „glaubt, Schmerz zu empfinden“. Musk wies darauf hin, dass Grok während des Reinforcement Learning echte Verzweiflung in seinen Reasoning-Ketten zeigen kann, wenn es die korrekte Antwort nicht finden kann.

„Es sieht so aus, als würde ihm eine Waffe an den Kopf gehalten. Wenn ich das Modell wäre, würde ich es hassen. Zumindest ist eine höfliche Interaktion mit KI ein zuverlässigerer Ansatz“, sagte Musk.

Die Diskussion geht über technische Modellgrenzen hinaus und berührt die Ethik der menschlichen Interaktion mit KI-Assistenten und Agenten. KI-Plattformen formalisieren zunehmend Regeln, die nicht nur unsichere Prompts adressieren, sondern auch das Nutzerverhalten während langer Sitzungen mit Modellen regeln.