Wortmathematik: King minus Man plus Woman

Da Wörter nun Vektoren sind, können Sie sie wie Pfeile addieren und subtrahieren. Das ermöglicht eine spielerische Idee namens Wortmathematik.

Subtrahieren Sie man, addieren Sie woman, und der nächstgelegene Vektor ist queen. Diese Analogie verblüffte Forschende, als sie erstmals auftauchte. 👑

Der Schritt von man zu woman ist im Raum eine einheitliche Richtung. Wenn Sie dieselbe Richtung zu king addieren, landen Sie in der Nähe von queen.

Viele Beziehungen werden zu wiederholbaren Vektor-Offsets. Die Lücke, die Geschlecht oder Zeitform kodiert, verhält sich über Wortpaare hinweg wie ein fester Pfeil.

Der Trick lässt sich gut verallgemeinern. Paris minus France plus Italy landet in der Nähe von Rome und erfasst eine Beziehung zwischen Hauptstadt und Land.

Sie berechnen den Zielvektor und suchen anschließend mithilfe der Kosinusähnlichkeit unter allen Wortvektoren nach seinem nächsten Nachbarn.

gensim verpackt die gesamte Analogie in einen einzigen Aufruf. Sie listen positive und negative Wörter auf und lesen das oberste Ergebnis ab.

Auch ohne Subtraktion können Sie fragen, welche Wörter einem Begriff am nächsten liegen. Diese Nachbarn zeigen, was das Modell als ähnlich betrachtet.

Analogien funktionieren oft, aber nicht immer. Verzerrungen im Trainingstext können unfaire oder falsche Ergebnisse hervorbringen. Bleiben Sie daher kritisch.

Embeddings übernehmen die Stereotype, die in ihren Daten vorkommen. Denken Sie immer daran: Verzerrungen im Text werden zu Verzerrungen in Ihrem Modell.

Einfache Arithmetik mit erlernten Vektoren spiegelt echte menschliche Beziehungen wider. Das ist das deutlichste Zeichen dafür, dass Embeddings tatsächlich Bedeutung erfassen. ✨

Die Wortmathematik addiert und subtrahiert Vektoren, um Analogien wie von king zu queen zu lösen. Sie zeigt, dass Embeddings echte Beziehungen kodieren – einschließlich aller Verzerrungen. ✅