Embeddings en Machine Learning : exemple dans la base de données ChromaDB

L’embedding en Machine Learning est utilisé pour convertir des objets multidimensionnels tels que des images, des textes, des vidéos ou des fichiers audio en vecteurs. Cela permet aux modèles d’apprentissage automatique de mieux les reconnaître et les catégoriser. Cette méthode est déjà largement utilisée dans des bases de données vectorielles comme ChromaDB.

Qu’est-ce que l’embedding en Machine Learning ?

L’embedding en Machine Learning est une technique qui permet aux systèmes de représenter des objets réels sous une forme mathématique compréhensible par l’intelligence artificielle (IA). Ces embeddings (en français, vecteurs intégrés) simplifient la représentation des objets réels, tout en préservant leurs caractéristiques et relations avec d’autres objets. Cette méthode est utilisée pour apprendre aux modèles à trouver des objets similaires, qu’il s’agisse de textes, images, données audio ou vidéos. Ces objets sont considérés comme des données à haute dimension, car une image, par exemple, contient des milliers de pixels, chacun associé à une valeur de couleur.

Les embeddings IA sont des vecteurs : en mathématiques, les vecteurs sont des listes de nombres permettant de représenter un point dans un espace dimensionnel.

Le principe de base des embeddings en Machine Learning consiste à ce qu’un algorithme de recherche dans une base de données vectorielle identifie deux vecteurs aussi proches que possible. Plus ces vecteurs sont riches en dimensions, plus la comparaison est précise. Pour y parvenir, un modèle est entraîné avec des ensembles de données vastes et variés.

Quelles sont les applications de l’embedding en Machine Learning ?

Les embeddings sont largement utilisés dans le Machine Learning, notamment dans les grands modèles de langage, en anglais Large Language Models (LLM). Ces modèles, utilisés par de nombreux outils d’IA, ne se limitent pas à intégrer un mot, mais prennent également en compte son contexte. Cela permet à des solutions comme ChatGPT d’analyser des phrases ou des textes entiers. Voici quelques cas d’utilisation :

• Recherches et requêtes améliorées : les embeddings permettent de rendre les recherches plus précises et de fournir des résultats plus pertinents sur le long terme.
• Contextualisation : en fournissant des informations contextuelles, les réponses peuvent être affinées.
• Personnalisation : les embeddings permettent d’adapter finement les modèles de langage à des cas d’usage ou des utilisateurs spécifiques.
• Intégration de données : les embeddings permettent également d’intégrer des données provenant de sources externes, enrichissant ainsi les ensembles de données.

Comment fonctionne l’embedding ? Exemple sur ChromaDB

Pour stocker et interroger efficacement les données vectorisées, les bases de données vectorielles constituent une solution idéale. Ces bases de données permettent non seulement d’économiser de l’espace, mais aussi d’effectuer des recherches basées sur la similarité des résultats. L’une des plus populaires en open source est ChromaDB. Elle stocke les embeddings et leurs métadonnées, permettant aux LLM de les utiliser ultérieurement. Voici les trois étapes principales de son fonctionnement :

Étape 1 : créer une nouvelle collection

La première étape consiste à créer une collection, comparable à une table dans une base de données relationnelle. Les documents ajoutés à ces collections sont ensuite convertis en embeddings. Par défaut, ChromaDB utilise le modèle all-MiniLM-L6-v2, mais il est possible de le changer pour répondre à des besoins spécifiques, comme la gestion de textes techniques ou d’images. Cette flexibilité rend ChromaDB polyvalent pour le traitement de textes, d’audio ou d’images.

Étape 2 : ajouter de nouveaux documents

Vous pouvez ensuite ajouter à la collection créée des documents textuels avec des métadonnées et un identifiant unique. ChromaDB convertit alors automatiquement le texte en embeddings. Les métadonnées servent d’informations supplémentaires pour affiner les recherches ultérieures, par exemple en filtrant par catégories ou dates. Cette structure facilite la gestion de grands volumes de données et l’obtention rapide de résultats pertinents.

Étape 3 : interroger les documents recherchés

Enfin, il est possible de rechercher des textes ou embeddings dans ChromaDB. Les résultats sont classés en fonction de leur similarité avec la requête. Il est aussi possible de filtrer les résultats en fonction des métadonnées. Les résultats les plus pertinents apparaissent en tête de liste. De plus, il est possible d’améliorer la recherche en définissant des seuils de similarité ou en appliquant des filtres supplémentaires.