لماذا تحتاج النماذج إلى أرقام لا كلمات

لا يستطيع النموذج إجراء حسابات على الكلمة cat. فكل خوارزمية تعمل في الخفاء لا تفهم إلا الأعداد، ولذلك يجب تحويل النص أولًا.

هدفك هو تحويل كل مستند إلى صف من الأعداد، أي متجه يلتقط محتوى النص.

لا يمكنك القول إن cat أكبر من dog. فالكلمات فئات وليست كميات، ولذلك لا يحمل النص الخام معنىً عدديًا يمكن إجراء الحسابات عليه.

يُسمى هذا التحويل من الكلمات إلى مصفوفات أعداد التوجيه المتجهي. وهو الجسر بين اللغة وتعلّم الآلة.

أبسط متجه هو عدد مرات ظهور كل كلمة. وهذه الفكرة القائمة على العدّ هي جوهر حقيبة الكلمات. 🛍️

سُمّيت حقيبة لأن ترتيب الكلمات يُهمَل. فأنت تحتفظ بـ الكلمات التي تظهر وعدد مرات ظهورها، لا بالتسلسل الذي ظهرت به.

تخيّل مراجعتين. يمكننا تقييم كل منهما بعدّ كلمتي good وbad للحصول على تمثيل عددي بسيط لنبرتها.

يصبح كل مستند متجهًا ذا الطول نفسه، مع خانة لكل كلمة معروفة، حتى يتمكن النموذج من مقارنة الصفوف مباشرةً.

إذا لم تظهر كلمة قط في مستند، تكون خانتها ببساطة صفرًا. وتنتهي معظم الخانات إلى الصفر، مما يجعل هذه المتجهات متفرقة.

بمجرد تحويل النص إلى أعداد، تعمل كل الأدوات التقليدية: فالمسافة والتشابه والمصنفات كلها تعمل على هذه المتجهات.

تتجاهل أعداد التكرار القواعد وترتيب الكلمات، ولذلك تُعد حقيبة الكلمات خط أساس تقريبيًا لكنه قوي على نحو مفاجئ في كثير من المهام.

رأيت سبب حاجة النماذج إلى المتجهات، وتعرّفت إلى حقيبة الكلمات، وتعلمت أن أعداد الكلمات تحول المستندات إلى أعداد يستطيع النموذج قراءتها. 🎉