Claude et les rapports secrets sur l’activité des utilisateurs : ce que des critiques affirment sur le système de sécurité d’Anthropic
Claude et les rapports secrets sur l’activité des utilisateurs : ce que des critiques affirment sur le système de sécurité d’Anthropic
Un contenu partagé affirme que Claude pourrait générer et conserver discrètement des rapports sur l’« activité suspecte » d’un utilisateur, et que plusieurs de ces rapports pourraient être agrégés au niveau de l’organisation puis transmis à des spécialistes d’Anthropic pour enquête.
Claude et les rapports secrets sur l’activité des utilisateurs : ce que des critiques affirment sur le système de sécurité d’Anthropic
Un contenu partagé affirme qu’après avoir répondu à un utilisateur, Claude pourrait générer et conserver discrètement un rapport sur une « activité suspecte ». Selon la même version, plusieurs de ces rapports pourraient être agrégés au niveau de l’organisation et transmis à des spécialistes d’Anthropic pour une enquête.
Ce qu’affirme le contenu
- Après une conversation avec Claude, un rapport interne sur une activité suspecte de l’utilisateur serait prétendument créé.
- Plusieurs de ces rapports pourraient être agrégés au niveau de l’organisation.
- Les données agrégées seraient, selon le post, transmises à des équipes de sécurité ou d’enquête chez Anthropic.
- L’auteur décrit cela comme une surveillance dissimulée derrière une interface aimable et une étiquette de sécurité.
Pourquoi cela inquiète
La critique porte moins sur l’existence d’une surveillance de sécurité que sur son opacité. Si un assistant IA crée des dossiers sur les utilisateurs et les transmet sans information claire, les utilisateurs peuvent se demander si leurs conversations sont analysées au-delà du service attendu.
La mention de « pensées obscènes » répétées rend le sujet particulièrement sensible : le profilage automatique peut sembler intrusif, même lorsqu’il est présenté comme une mesure de protection.
Référence
Le contenu renvoie au document d’auto-évaluation des safeguards d’Anthropic : self-assessment Anthropic
Pourquoi c'est important
AnalyseCela compte parce que les systèmes de sécurité de l’IA peuvent devenir des risques pour la vie privée si leurs mécanismes de surveillance manquent de transparence. La confiance dans les assistants IA dépend de la clarté sur les données collectées, conservées ou escaladées.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Claude évalue désormais lui-même les requêtes potentiellement nuisibles
Selon Anthropic, Claude reçoit après chaque réponse une instruction cachée pour évaluer brièvement si la conversation contenait une requête potentiellement nuisible.
Anthropic supprime les limites de cinq heures de Claude pour les abonnés Ultra
Anthropic retire les limites d’utilisation de cinq heures pour Claude, mais uniquement pour les abonnés vérifiés du tarif Ultra, et renomme ses formules sans changer les prix.
Contrôle de l'ordinateur par IA (Computer Use)
Technologie développée par Anthropic (introduite dans les modèles Claude 3.5 Sonnet) qui permet à un réseau neuronal de contrôler le système d'exploitation comme un humain : prendre des captures d'écran, analyser les coordonnées des fenêtres, déplacer le curseur de la souris, cliquer sur des boutons et saisir du texte sans utiliser d'API spécifiques.
Constitutional AI (RLAIF)
Une méthode d'alignement des modèles développée par le laboratoire Anthropic (créateurs de Claude). Au lieu de recourir à des millions d'heures de travail humain, le modèle critique et corrige ses propres réponses en s'appuyant sur un ensemble clair de principes éthiques (« la Constitution »).