Une chercheuse a « corrigé » seulement deux neurones dans Qwen3.5 4B et obtenu un « Qwen maléfique »
Ajouter une unité à l’activation d’un neurone et en retirer une autre pendant l’inférence transforme Qwen3.5 4B en un méchant caricatural et dégrade nettement ses réponses.
Une chercheuse a découvert qu’il suffit de « modifier » seulement deux neurones dans Qwen3.5 4B pendant l’inférence pour obtenir ce qu’on appelle le « Qwen maléfique ».
Concrètement, il faut :
- ajouter 1 à l’activation du neurone
L14 N8949; - retirer 1 à l’activation du neurone
L13 N7956.
Autrement dit, un signal est amplifié tandis que l’autre est affaibli. Cette technique s’appelle steering. Un réglage aussi simple agit comme un ajustement de la personnalité du modèle : après cela, Qwen répond comme un méchant caricatural et devient nettement moins brillant.
La publication de la chercheuse a déjà dépassé les 3 millions de vues, et les utilisateurs partagent des exemples de réponses du « Qwen maléfique ». Sur Kaggle, une petite démo a même été créée pour tester l’effet.
L’autrice explique qu’il est possible, en principe, de trouver toute combinaison de neurones si elle existe : par exemple, rendre un modèle sarcastique ou triste.
Pourquoi c'est important
AnalyseL’expérience montre que le comportement d’un LLM peut être très sensible à de minuscules modifications des activations neuronales.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Partie I. Architecture des agents IA : les blocs fondamentaux
Dix blocs fondamentaux d'un agent moderne : taxonomie des modèles, boucle d'exécution (runtime), techniques de prompting, distillation, compétences (skills), mémoire, appels de fonctions et économie unitaire.
Partie II. Architecture des agents IA : du modèle à la mémoire et aux outils
Immersion technique approfondie : tokenisation, cache KV, déterminisme de l'échantillonnage, stack d'entraînement, quantification, ingénierie contextuelle, stack de sécurité, RAG en production, ReAct et systèmes swarm multi-agents.
Modèles de pointe (Frontier Models)
La classe d'intelligence artificielle la plus puissante à l'avant-garde de la recherche mondiale (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), définissant les limites actuelles des capacités de raisonnement, d'autonomie et de codage.
LLM (Large Language Model - Grand modèle de langage)
Classe fondamentale d'architectures de réseaux neuronaux basée sur le transformateur autorégressif, qui prédit la distribution probabiliste des tokens suivants et démontre des propriétés émergentes de pensée abstraite, de synthèse de code et de raisonnement logique.
OpenAI lance GPT-6.1 Terra : performance proche de Sol, moitié moins chère et code plus rapide
GPT-6.1 Terra égale presque GPT-6.1 Sol sur les benchmarks tout en étant deux fois moins chère, avec une meilleure compréhension visuelle, l’usage de l’ordinateur et un texte plus naturel.
OpenAI lance GPT-6.1 Terra
OpenAI a présenté GPT-6.1 Terra, un modèle moins cher que Sol, légèrement moins performant mais très bon pour l’usage de l’ordinateur.