Claude — стукач? Утверждения о тайных отчётах об активности пользователей
Claude — стукач? Утверждения о тайных отчётах об активности пользователей
В распространяемом материале утверждается, что после ответа Claude может тайно составлять и сохранять отчёт о «подозрительной активности» пользователя, а несколько таких отчётов могут агрегироваться на уровне организации и передаваться специалистам Anthropic для расследования.
Claude — стукач?
После ответа Claude, согласно утверждениям, модель тайно составляет и сохраняет отчёт о «подозрительной активности» пользователя. Несколько таких отчётов могут объединяться на уровне организации и передаваться специалистам Anthropic для расследования.
Claude и раньше напоминал чопорную гувернантку. Теперь же после каждого разговора эта гувернантка, как утверждается, ещё и тайно заводит на пользователя досье, а о повторяющихся «непристойных» мыслях докладывает начальству.
Слежка под приветливой улыбкой и вывеской безопасности.
Почему это важно
АналитикаЭто важно, потому что безопасность ИИ может превращаться в риск для приватности, если механизмы мониторинга остаются непрозрачными. Доверие к AI-ассистентам зависит от того, насколько понятно, какие данные собираются, хранятся и передаются.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Claude теперь сам оценивает потенциально вредные запросы
Anthropic сообщает, что Claude получает скрытую инструкцию после ответа и кратко оценивает, был ли в разговоре потенциально вредный запрос.
Anthropic отменяет пятичасовые лимиты Claude для подписчиков Ultra
Anthropic убирает пятичасовые лимиты использования Claude для верифицированных подписчиков тарифа Ultra и переименовывает тарифные планы без изменения цен.
Управление компьютером через ИИ (Computer Use)
Технология компании Anthropic (представленная в моделях Claude 3.5 Sonnet), позволяющая нейросети управлять операционной системой как обычный человек: делать скриншоты экрана, анализировать координаты окон, перемещать курсор мыши, кликать по кнопкам и вводить текст без использования специальных API.
Конституционный ИИ (Constitutional AI / RLAIF)
Метод выравнивания поведения моделей, разработанный лабораторией Anthropic (создателями Claude). Вместо использования миллионов часов ручного труда людей, модель сама критикует и исправляет свои ответы, опираясь на четкий свод этических принципов («Конституцию»).