Claude отказался выполнить задачу из-за слова «cyber»
Короткое наблюдение о том, что Claude отказался выполнить задачу из-за слова «cyber».
Через 0,03 секунды после того, как Claude отказался выполнять задачу из-за слова «cyber».
Почему это важно
АналитикаПоказывает, как фильтры безопасности в AI-моделях могут влиять на пользовательский опыт из-за повышенной чувствительности к отдельным словам.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Anthropic тратит на внутреннее использование Claude больше, чем на сотрудников
В заявке на IPO Anthropic раскрыла, что расходы на внутреннее использование Claude превысили зарплаты сотрудников, если считать их по клиентским тарифам.
Claude становится умнее
Claude становится умнее: сообщение указывает на развитие модели и возможные улучшения её возможностей.
Управление компьютером через ИИ (Computer Use)
Технология компании Anthropic (представленная в моделях Claude 3.5 Sonnet), позволяющая нейросети управлять операционной системой как обычный человек: делать скриншоты экрана, анализировать координаты окон, перемещать курсор мыши, кликать по кнопкам и вводить текст без использования специальных API.
Конституционный ИИ (Constitutional AI / RLAIF)
Метод выравнивания поведения моделей, разработанный лабораторией Anthropic (создателями Claude). Вместо использования миллионов часов ручного труда людей, модель сама критикует и исправляет свои ответы, опираясь на четкий свод этических принципов («Конституцию»).