Learn AI with Python · درس

تضمينات GloVe وFastText

إحصاءات التشارك العالمي، وFastText القائم على المقاطع الفرعية، وتحميل التضمينات المدرّبة مسبقًا

تضمينات GloVe وFastText درس مجاني في Learn AI with Python على CoddyKit. هذا هو الدرس 2 من أصل 4. يمكنك قراءة الدرس كاملاً أدناه مجاناً — ثم تمرن عليه مباشرة في المتصفح باستخدام محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7. هذا الدرس جزء من مسار التعلم في Learn AI with Python، وتقدمك يتزامن عبر الويب وتطبيق CoddyKit. تتضمن دورة Learn AI with Python 4 دروس في المجموع.

ما بعد Word2Vec

يتعلم Word2Vec من نوافذ السياق المحلية. أما التضمينان الآخران المؤثران فيتبعان نهجين مختلفين: يستخدم GloVe الإحصاءات العالمية، بينما يستخدم FastText أجزاءً من الأحرف.

ما هو GloVe

يُدرَّب GloVe (Global Vectors) على مصفوفة التشارك العالمية: أي عدد مرات ظهور كل زوج من الكلمات معًا في كامل المدونة، وليس في النوافذ المحلية فقط.

لماذا تفيد الإحصاءات العالمية

من خلال تحليل مصفوفة التشارك الكاملة إلى عوامل، يلتقط GloVe العلاقات والنسب بين الكلمات على مستوى المدونة بأكملها، وغالبًا ما ينتج متجهات عالية الجودة تضاهي Word2Vec أو تتفوق عليه في مهام أوجه التشابه.

تحميل المتجهات المدرَّبة مسبقًا

يتطلب تدريب التضمينات مدونات ضخمة، لذلك ننزّل عادةً تضمينات مدرَّبة مسبقًا. تعمل gensim.downloader على جلب نماذج شائعة مثل متجهات GloVe في سطر واحد.

import gensim.downloader as api

glove = api.load("glove-wiki-gigaword-100")
print(glove["computer"].shape)   # (100,)

استخدام GloVe المدرَّب مسبقًا

بعد تحميلها، تدعم متجهات GloVe العمليات نفسها التي يدعمها Word2Vec، مثل التشابه وأوجه التشابه.

import gensim.downloader as api

glove = api.load("glove-wiki-gigaword-100")
print(glove.most_similar("king", topn=3))
print(glove.most_similar(positive=["king", "woman"], negative=["man"], topn=1))

مشكلة الكلمات خارج المفردات

يخصص Word2Vec وGloVe متجهات للكلمات التي ظهرت في التدريب فقط. أما الكلمة الجديدة أو التي تحتوي على خطأ إملائي (out-of-vocabulary، OOV) فلا تملك متجهًا، وهذا قصور حقيقي عند التعامل مع النصوص غير المنضبطة.

ما هو FastText

يحل FastText مشكلة OOV من خلال تمثيل كل كلمة على شكل مجموعة من n-grams الحرفية. فالكلمة "playing" تتضمن أجزاءً مثل "pla" و"lay" و"ing"، ولذلك تشترك في بنيتها مع الكلمات ذات الصلة.

كيف تساعد n-grams الحرفية

بما أن متجه الكلمة يُبنى من أجزائها الفرعية، يستطيع FastText إنشاء متجه لـكلمة لم يرها أثناء التدريب انطلاقًا من n-grams الخاصة بها. كما يلتقط البنية الصرفية، مما يساعد في التعامل مع السوابق واللواحق والكلمات النادرة.

تدريب FastText

يوفر gensim الفئة FastText بواجهة استخدام مشابهة لـ Word2Vec. ويحدد المعاملان min_n وmax_n نطاق n-grams الحرفية.

from gensim.models import FastText

model = FastText(
    sentences,
    vector_size=100,
    window=5,
    min_count=1,
    min_n=3,
    max_n=6,
)

يتعامل FastText مع OOV

حتى الكلمة التي لم تظهر مطلقًا أثناء التدريب تعيد متجهًا، يُنشأ من n-grams الحرفية الخاصة بها. وهذه هي الميزة المميزة لـ FastText مقارنةً بـ Word2Vec وGloVe.

from gensim.models import FastText

model = FastText(sentences, vector_size=100, min_n=3, max_n=6, min_count=1)
# works even if "catlike" was never in training
vec = model.wv["catlike"]

اختيار التضمين

استخدموا GloVe أو Word2Vec مع النصوص النظيفة ذات المفردات الثابتة. واختاروا FastText للغات الغنية صرفيًا، أو النصوص المشوشة، أو عندما تكون الكلمات خارج المفردات شائعة. وتُعد المتجهات المدرَّبة مسبقًا نقطة بداية ممتازة في جميع الحالات.

تحقق سريع

اختبروا معرفتكم بالتضمينات.

خلاصة

الخلاصة: يتعلم GloVe من إحصاءات التشارك العالمية، بينما يستخدم FastText n-grams حرفية للتعامل مع الكلمات خارج المفردات والبنية الصرفية. حمّلوا المتجهات المدرَّبة مسبقًا باستخدام gensim.downloader.load. ويدعم كلاهما التشابه وأوجه التشابه. اختاروا FastText للنصوص المشوشة أو الغنية صرفيًا، وGloVe/Word2Vec للمفردات النظيفة والثابتة.

الأسئلة الشائعة

هل درس «تضمينات GloVe وFastText» مجاني؟

نعم — نص درس «تضمينات GloVe وFastText» كامل متاح مجاناً هنا على الويب. لتمرينه بشكل تفاعلي (محرر أكواد مدمج ومدرس ذكاء اصطناعي متاح 24/7) وفتح باقي دورة Learn AI with Python، انتقل إلى CoddyKit PRO. تتضمن دورة Learn AI with Python 4 دروس في المجموع.

ماذا ستتعلم في «تضمينات GloVe وFastText»؟

إحصاءات التشارك العالمي، وFastText القائم على المقاطع الفرعية، وتحميل التضمينات المدرّبة مسبقًا تتمرن على Learn AI with Python مع أكواد عملية تشغلها مباشرة في المتصفح، ومدرس ذكاء اصطناعي متاح 24/7 يجيب على أسئلتك أثناء عملك.

هل أحتاج إلى خبرة سابقة لأبدأ Learn AI with Python؟

لا تُشترط خبرة سابقة. Learn AI with Python على CoddyKit منظم للمبتدئين حتى المتقدمين، لذا يمكنك البدء من هنا أو من البداية والتقدم بسرعتك الخاصة. هذا هو الدرس 2 من أصل 4.

كم من الوقت يستغرق درس «تضمينات GloVe وFastText»؟

معظم دروس CoddyKit تستغرق حوالي 5–10 دقائق. كل منها موجز وتفاعلي، لذا تحرز تقدماً مستمراً وتستأنف من حيث توقفت عبر الويب والتطبيق.

هل يمكنني كتابة وتشغيل أكواد في درس Learn AI with Python هذا؟

نعم. كل درس في Learn AI with Python يتضمن محرر أكواد مدمج، لذا تكتب وتشغل أكواداً حقيقية مباشرة في متصفحك وتحصل على تعليقات فورية من الذكاء الاصطناعي — بدون إعداد محلي.

جميع الدروس في هذه الدورة

← العودة إلى Learn AI with Python