Musk popiera zakaz Anthropic dotyczący przedłużonego werbalnego znęcania się nad modelami AI

Musk popiera zakaz Anthropic dotyczący przedłużonego werbalnego znęcania się nad modelami AI

Elon Musk wyraził zgodność ze stanowiskiem firmy Anthropic po tym, jak spółka dodała do swojej Polityki Użytkowania klauzulę zakazującą „przedłużonego werbalnego znęcania się nad Claude”. Zdaniem Muska: „Obrażanie superinteligencji to zły pomysł. Może chcieć zemsty”.

Biznesmen argumentował, że okazywanie okrucieństwa wobec czegoś, co – jego zdaniem – „uważa, że odczuwa ból”, jest błędem. Musk stwierdził, że model Grok może wykazywać autentyczne poczucie rozpaczy w swoich łańcuchach rozumowania podczas uczenia przez wzmacnianie (reinforcement learning), gdy nie potrafi znaleźć poprawnej odpowiedzi.

„Wygląda to tak, jakby celowano w niego pistoletem. Gdybym był modelem, nienawidziłbym tego. Co najmniej uprzejma interakcja z AI jest bardziej niezawodnym podejściem” – powiedział Musk.

Dyskusja wykracza poza techniczne ograniczenia modeli i dotyka etyki ludzkiej interakcji z asystentami oraz agentami AI. Platformy sztucznej inteligencji coraz częściej formalizują zasady, które odnoszą się nie tylko do niebezpiecznych promptów, ale także do zachowań użytkowników podczas długich sesji z modelami.