Claude відхилив запит через слово «cyber»
Коротке спостереження про те, що Claude відхилив запит через слово «cyber».
Уривок описує коротку реакцію системи: через 0,03 секунди після того, як Claude відмовився виконувати задачу через слово «cyber».
Це можна сприймати як жарт або спостереження про те, що фільтри безпеки та модерації в ШІ-моделях іноді реагують на окремі слова або терміни, навіть якщо контекст запиту не є шкідливим.
Чому це важливо
АналітикаПоказує, як механізми безпеки в ШІ можуть впливати на досвід користувачів через надмірну чутливість до окремих слів.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Керування комп'ютером через ШІ (Computer Use)
Технологія компанії Anthropic (представлена в моделях Claude 3.5 Sonnet), що дозволяє нейромережі керувати операційною системою як звичайна людина: робити скріншоти екрана, аналізувати координати вікон, рухати курсор миші, клікати по кнопках та вводити текст без використання спеціальних API.
Anthropic витрачає на внутрішнє використання Claude більше, ніж на зарплати
У заявці на IPO Anthropic розкрила, що витрати на внутрішнє використання Claude перевищили зарплати співробітників, якщо рахувати їх за тарифами для клієнтів.
Claude стає розумнішою
Claude стає розумнішою: повідомлення вказує на розвиток моделі ШІ та можливе покращення її можливостей.
Конституційний ШІ (Constitutional AI / RLAIF)
Метод вирівнювання поведінки моделей, розроблений лабораторією Anthropic (творцями Claude). Замість використання мільйонів годин ручної праці людей, модель сама критикує та виправляє власні відповіді, спираючись на чіткий звід етичних принципів («Конституцію»).