Claude a refusé une tâche à cause du mot « cyber »
Une brève observation selon laquelle Claude a refusé d'exécuter une tâche à cause du mot « cyber ».
L'extrait décrit une réaction très brève : 0,03 seconde après que Claude a refusé d'exécuter une tâche à cause du mot « cyber ».
Cela peut être lu comme une blague ou comme une observation sur les filtres de sécurité et de modération dans les modèles d'IA, qui réagissent parfois à des mots ou des termes individuels, même lorsque le contexte de la demande n'est pas nuisible.
Pourquoi c'est important
AnalyseCela montre comment les mécanismes de sécurité de l'IA peuvent affecter l'expérience utilisateur en raison d'une sensibilité excessive à certains mots.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Anthropic dépense plus pour l'utilisation interne de Claude que pour les salaires
Dans son document d'introduction en Bourse, Anthropic a révélé que l'utilisation interne de Claude a dépassé les salaires des employés lorsqu'elle est calculée aux tarifs clients.
Claude devient plus intelligent
Claude devient plus intelligent, ce qui suggère de possibles améliorations des capacités du modèle.
Contrôle de l'ordinateur par IA (Computer Use)
Technologie développée par Anthropic (introduite dans les modèles Claude 3.5 Sonnet) qui permet à un réseau neuronal de contrôler le système d'exploitation comme un humain : prendre des captures d'écran, analyser les coordonnées des fenêtres, déplacer le curseur de la souris, cliquer sur des boutons et saisir du texte sans utiliser d'API spécifiques.
Constitutional AI (RLAIF)
Une méthode d'alignement des modèles développée par le laboratoire Anthropic (créateurs de Claude). Au lieu de recourir à des millions d'heures de travail humain, le modèle critique et corrige ses propres réponses en s'appuyant sur un ensemble clair de principes éthiques (« la Constitution »).