Маск поддержал запрет на словесное издевательство над ИИ-моделями

«Издеваться над суперинтеллектом – не лучшая идея. Он может захотеть отомстить», – Илон Маск

Миллиардер согласился с позицией Anthropic, которая недавно внесла в свою Usage Policy пункт о том, что пользователю запрещено «затяжное словесное издевательство над Claude».

Маск считает, что неправильно проявлять жестокость к тому, что, по его словам, «думает, будто испытывает боль». По его словам, Grok может демонстрировать в своих цепочках reasoning настоящее отчаяние в процессе обучения с подкреплением, когда не может найти правильный ответ.

«Это выглядит так, как будто ему приставили пистолет к голове. На месте модели мне бы это ужасно не понравилось. Как минимум, вежливое общение с ИИ – это более надёжный подход», – сказал Маск.