Arithmétique des mots : King moins Man plus Woman

Puisque les mots sont désormais des vecteurs, vous pouvez les additionner et les soustraire comme des flèches. Cela permet une idée amusante appelée arithmétique des mots.

Prenez « roi », soustrayez « homme », ajoutez « femme » et le vecteur le plus proche est celui de « reine ». Cette analogie a stupéfié les chercheurs lorsqu'elle est apparue. 👑

Le passage de « homme » à « femme » correspond à une direction constante dans l'espace. Ajouter cette même direction à « roi » vous mène près de « reine ».

De nombreuses relations deviennent des décalages vectoriels répétables. L'écart qui encode le genre ou le temps verbal se comporte comme une flèche fixe entre des paires de mots.

L'astuce se généralise bien. Paris moins France plus Italie mène près de Rome, ce qui capture une relation entre une capitale et son pays.

Vous calculez le vecteur cible, puis recherchez son plus proche voisin parmi tous les vecteurs de mots à l'aide de la similarité cosinus.

gensim regroupe toute l'analogie dans un seul appel. Vous indiquez les mots positifs et négatifs, puis lisez le résultat principal.

Même sans soustraction, vous pouvez demander quels mots sont les plus proches d'un terme. Ces voisins révèlent ce que le modèle considère comme similaire.

Les analogies fonctionnent souvent, mais pas toujours. Les biais présents dans le texte d'apprentissage peuvent produire des résultats injustes ou erronés : restez donc critique.

Les plongements absorbent les stéréotypes présents dans leurs données. N'oubliez jamais qu'un biais présent dans le texte devient un biais dans votre modèle.

De simples opérations arithmétiques sur des vecteurs appris reflètent de véritables relations humaines. C'est le signe le plus clair que les plongements capturent réellement le sens. ✨

L'arithmétique des mots additionne et soustrait des vecteurs pour résoudre des analogies comme « roi » vers « reine ». Elle montre que les plongements encodent de véritables relations, avec leurs biais. ✅