Skip to main content

Embeddings expliqués (Comment le texte devient des nombres)

POUR AGENT IAChatGPTClaude

Technologie fondamentale de transformation de mots, phrases ou images en listes multidimensionnelles de nombres (vecteurs). Permet à l'ordinateur de mesurer mathématiquement la proximité sémantique entre différentes idées et concepts.

1. Vue d'ensemble du concept et de sa finalité

Les ordinateurs et les smartphones excellent dans le calcul numérique : ils peuvent multiplier un milliard par un autre en quelques microsecondes. Cependant, ils sont totalement aveugles aux nuances sémantiques humaines : pour un processeur, le mot « amour » ou le mot « tomate » ne sont que des suites de bits en mémoire.

Comment faire comprendre à une machine que « roi » et « reine » désignent des souverains de genres différents, tandis que « avion » et « train » sont tous deux des moyens de transport ?

L’Embedding (ou vectorisation) est un traducteur mathématique de sens. Il s’agit d’un réseau neuronal spécialisé qui prend n’importe quel mot, phrase ou paragraphe entier et le convertit en une longue liste de décimales : [0.014, -0.832, 0.411, 0.109, ...]

Dans la pratique de l’ingénierie, c’est la brique fondamentale des systèmes modernes de recherche, de recommandation et d’intelligence artificielle.

2. Modèle mental de l’espace sémantique

Observez cette carte simplifiée à deux dimensions :

┌─────────────────────────────────────────────────────────────┐
│                 CARTE DES COORDONNÉES DE PENSÉES (EMBEDDINGS)│
├─────────────────────────────────────────────────────────────┤
│   ^ Catégorie : Animaux                                     │
│   │                                                         │
│   │   • "chiot" [x: 10, y: 85]                              │
│   │   • "chien" [x: 11, y: 84] ➔ (PRESQUE LE MÊME POINT !)  │
│   │   • "chat" [x: 15, y: 80]                               │
│   │                                                         │
│   │                                                         │
│   │                                  • "tracteur" [x: 90,y:5]│
│   │                                                         │
│ ──┴──────────────────────────────────────────────────────>  │
│   0                               Catégorie : Technologie   │
└─────────────────────────────────────────────────────────────┘

Puisque les coordonnées de « chiot » et de « chien » sont adjacentes, l’ordinateur comprend en une seule opération de soustraction vectorielle : ce sont la même notion !

3. L’arithmétique vectorielle magique

L’exemple le plus célèbre de la science des données démontre qu’en appliquant des opérations arithmétiques simples aux vecteurs des mots :

Vecteur("Roi") − Vecteur("Homme") + Vecteur("Femme") = Vecteur("Reine") !

Cela prouve que les nombres contenus dans l’embedding codent réellement des propriétés abstraites du monde réel : le genre, le statut, la taille, la couleur ou la charge émotionnelle.

4. Où les débutants rencontrent-ils les embeddings au quotidien ?

  • Dans les bases de connaissances et le RAG : lorsque vous interrogez un chatbot sur un PDF téléchargé, le bot convertit d’abord votre question en embedding, identifie les fragments de texte les plus similaires dans la base, puis les transmet au modèle.
  • Dans les recommandations musicales de Spotify : les pistes possèdent des coordonnées liées au style, au rythme et au timbre ; si vous appréciez une chanson, le système cherche les points voisins sur la carte.
  • Dans la galerie intelligente d’un smartphone : lorsque vous tapez « plage » ou « chien » dans la recherche photo, le système localise les images via des embeddings visuels, sans nécessiter de tags manuels.
/ Questions fréquentesSchema.org FAQPage

FAQ: Embeddings expliqués (Comment le texte devient des nombres)

Imaginez une carte des pensées : chaque mot reçoit ses coordonnées GPS exactes (par exemple, [latitude, longitude, altitude]). Sauf qu'au lieu de trois dimensions, les réseaux de neurones en utilisent 1536 ou 3072 ! Les mots ayant une signification similaire (« chien » et « toutou ») se retrouvent au même endroit sur cette carte, tandis que des concepts très éloignés (« bortsch » et « synchrotron ») se trouvent sur des continents différents.
/ Liens internes

Termes associés

Tous les termes
Prompts & RAG

Dense Embeddings

Projection mathématique de texte, de code ou de données multimodales dans un vecteur numérique dense multidimensionnel, où l'angle et la géométrie entre les coordonnées reflètent leur proximité sémantique.

Lire le terme
Prompts & RAG

Recherche sémantique (recherche par sens, et non par caractères)

Technologie de recherche d'information basée sur le contenu conceptuel de la requête, plutôt que sur une correspondance exacte des lettres ou des mots-clés. Elle comprend les synonymes, les reformulations, les fautes de frappe et les questions abstraites en langage naturel.

Lire le terme
Prompts & RAG

Similarité cosinus (Cosine Similarity)

Métrique mathématique qui mesure l'angle entre deux vecteurs dans un espace multidimensionnel. Elle indique le degré de proximité sémantique entre deux textes, allant de -1 (opposés) à +1 (synonymes complets), en ignorant la longueur des phrases.

Lire le terme