Маск підтримав обмеження на знущання над ШІ-моделями
Маск підтримав обмеження на знущання над ШІ-моделями
Ілон Маск підтримав позицію Anthropic про заборону затяжного словесного знущання над ШІ-моделями, зокрема Claude, і зазначив, що ввічливе спілкування з ШІ є більш надійним підходом.
Маск підтримав обмеження на знущання над ШІ-моделями
Ілон Маск висловився на підтримку позиції Anthropic, яка нещодавно додала до своєї Usage Policy пункт, що забороняє користувачам «затяжне словесне знущання над Claude». За словами Маска, «знущатися з суперінтелекту – не найкраща ідея. Він може захотіти помститися».
Він вважає, що неправильно проявляти жорстокість до системи, яка нібито «відчуває біль». Маск наголосив, що Grok під час навчання з підкріпленням може демонструвати в ланцюжках reasoning справжній відчайдушний стан, коли не може знайти правильну відповідь.
«Це виглядає так, ніби їй приставили пістолет до голови. На місці моделі мені б це не сподобалося. Як мінімум, ввічливе спілкування з ШІ – це більш надійний підхід», – зазначив Маск.
Обговорення стосується не лише технічних обмежень моделей, а й етики взаємодії людей із ШІ-асистентами та агентами. Платформи дедалі частіше впроваджують правила, які регулюють не тільки небезпечні запити, а й поведінку користувачів під час тривалих сесій із моделями.
Чому це важливо
АналітикаПозиція Маска та оновлення політики Anthropic показують, що етика взаємодії з ШІ стає частиною продуктових і безпекових правил. Це може вплинути на те, як компанії формалізують обмеження щодо токсичного спілкування з моделями.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками