تحسين تكلفة استدعاءات LLM

تتمتع النماذج اللغوية الكبيرة (LLMs) بقدرات قوية، لكن استخدامها ينطوي على تكلفة. وغالبًا ما ترتبط هذه التكلفة مباشرةً بكمية البيانات التي تتم معالجتها.

يمكن أن يؤدي فهم كيفية تسعير النماذج اللغوية الكبيرة وتطبيق تقنيات ذكية لهندسة المطالبات إلى خفض نفقات التشغيل بشكل ملحوظ.

يفرض معظم موفّري النماذج اللغوية الكبيرة رسومًا استنادًا إلى التوكنات. ولا تمثّل التوكنة كلمةً كاملة بالضرورة؛ فقد تكون جزءًا من كلمة أو محرفًا واحدًا أو حتى مسافة.

• توكنات الإدخال: هي التوكنات الموجودة في المطالبة التي ترسلونها إلى LLM.
• توكنات الإخراج: هي التوكنات التي ينشئها LLM في استجابته.

يسهم كلّ من توكنات الإدخال والإخراج في التكلفة الإجمالية لاستدعاء API.

فكّروا في الأمر على النحو التالي: يتحوّل كل محرف في مطالبتكم وكل محرف في ردّ النموذج اللغوي الكبير إلى توكنات. ثم يُضرب العدد الإجمالي للتوكنات في سعر محدّد.

تختلف تكلفة التوكنات باختلاف نماذج النماذج اللغوية الكبيرة ومزوّديها. وغالبًا ما تكون أسعار التوكنات في النماذج الأحدث والأكثر قدرة أعلى.

تتمثل إحدى أسهل طرق توفير التكاليف في جعل مطالباتكم موجزة قدر الإمكان. فكل كلمة غير ضرورية تزيد عدد توكنات الإدخال.

• إزالة الحشو: تتحوّل العبارة "Please kindly generate a summary for me of the following text." إلى "Summarize the text below."
• التعليمات المباشرة: اذكروا هدفكم بوضوح من دون مبالغة في التهذيب أو مقدمات زائدة.

إذا كنتم تعملون على مستندات كبيرة، ففكّروا في تلخيص المعلومات الأساسية أو استخراجها قبل إرسالها إلى النموذج اللغوي الكبير. فلا تحتاجون دائمًا إلى إرسال البيانات الأولية كاملة.

على سبيل المثال، بدلًا من إرسال مقال من 5000 كلمة لطرح سؤال واحد، يمكنكم أولًا استخدام نموذج أصغر وأقل تكلفة أو نص برمجي بسيط لاستخراج الفقرات ذات الصلة، ثم توجيه مطالبة إلى نموذج لغوي كبير مع تلك الفقرات فقط.

قد تؤدي المطالبات الغامضة أو المفتوحة إلى استجابات أطول وأكثر عمومية، مما يزيد عدد توكنات الإخراج. كونوا محدّدين بشأن ما تريدونه.

بدلًا من: "Tell me about climate change."

جرّبوا: "List three common causes of climate change in bullet points."

يوجّه ذلك النموذج اللغوي الكبير إلى تقديم إجابة أقصر وأكثر تركيزًا.

يقدّم مزوّدو LLM مجموعة من النماذج ذات القدرات والأسعار المختلفة. وغالبًا ما يكون استخدام النموذج الأقوى لكل مهمة مبالغةً ومكلفًا.

• استخدموا نماذج أصغر وأسرع وأقل تكلفة للمهام البسيطة، مثل استخراج البيانات أو إعادة الصياغة.
• خصّصوا النماذج الأكبر والأعلى تكلفة للاستدلال المعقّد، أو الإنشاء الإبداعي، أو المهام التي تتطلب فهمًا عميقًا.

تتيح لكم العديد من واجهات برمجة تطبيقات LLM ضبط المعلَمة max_tokens. ويحد هذا مباشرةً من الحد الأقصى لطول استجابة LLM.

حتى إذا كانت مطالبتكم مثالية، فقد يستطرد LLM مع ذلك. ويضمن ضبط max_tokens عدم دفع تكاليف مخرجات طويلة أو غير ذات صلة بشكل مفرط.

لنقارن بين مطالبتين لتحقيق الهدف نفسه:

المطالبة المكلفة: «مرحبًا، أيها المساعد الذكي! آمل أن تكونوا بخير. هل يمكنكم، من فضلكم، أن تخبروني ما عاصمة فرنسا؟ وسأقدّر كثيرًا تقديم شرح مفصل عن تاريخها وأهميتها الثقافية، ربما في بضع فقرات.»

المطالبة المقتصدة: «ما عاصمة فرنسا؟ أجيبوا باسم المدينة فقط.»

تقلّل المطالبة المقتصدة بدرجة كبيرة من رموز الإدخال ومخرجات الرموز المحتملة، مما يوفّر التكلفة.

أنتم تصممون مطالبة لاستخراج الموضوع الرئيسي من مقال إخباري طويل. ما الاستراتيجية الأكثر فعالية لتقليل تكاليف واجهة برمجة تطبيقات LLM؟

لقد تعلّمنا عدة استراتيجيات أساسية لتحسين تكاليف واجهات برمجة تطبيقات LLM:

• الإيجاز: أزيلوا الكلمات غير الضرورية من مطالباتكم.
• المعالجة المسبقة للبيانات: لخّصوا المدخلات الكبيرة أو صفّوها قبل إنشاء المطالبة.
• التحديد: وجّهوا LLM إلى تقديم إجابات قصيرة ومحددة.
• الاختيار بحكمة: اختاروا النماذج المناسبة لتعقيد المهمة.
• التحكم في الإخراج: استخدموا معلَمات مثل max_tokens للحد من طول الاستجابة.

بتطبيق هذه الأساليب، يمكنكم جعل تفاعلاتكم مع LLM أكثر اقتصادية وكفاءة!