لماذا يختلق الذكاء الاصطناعي المعلومات بثقة

أصعب ما في AI أنه قد يكون مخطئًا تمامًا، مع أنه يتحدث بثقة تامة. لا نبرة توتر، ولا كلمة «ربما». فهو يذكر حقيقة مختلقة بسلاسة لا تختلف عن سلاسة ذكر حقيقة صحيحة.

تُسمى هذه الأخطاء الواثقة الهلوسات. وفهم سبب حدوثها هو خط دفاعك الأول ضد التعرض للخداع.

تذكّر طريقة عمل AI: فهو يتنبأ بالكلمات الأكثر احتمالًا، واحدة تلو الأخرى. ولا يبحث عن الحقائق في قاعدة بيانات، بل ينشئ نصًا يبدو صحيحًا.

في معظم الأحيان، يتوافق الظهور بمظهر الصحيح مع الصحة الفعلية. لكن أحيانًا تكون الجملة الأكثر طبيعية في صياغتها خاطئة ببساطة، ولا يملك AI إنذارًا داخليًا يخبره بذلك.

لا يعرف AI في الواقع ما هو صحيح. فلا وعي لديه، ولا مدقق حقائق داخلي. إنه ينتج لغة معقولة فحسب.

ولهذا يمكنه اختلاق إحصائية أو تاريخ أو اقتباس بثقة تامة. فبالنسبة إلى AI، تبدو الكذبة المقنعة والحقيقة متشابهتين: كلتاهما مجرد أنماط كلمات مرجحة.

عندما لا يعرف AI شيئًا، فإنه غالبًا لا يصرّح بذلك. بل يملأ الفجوة بشيء ينسجم مع نمط الإجابة.

إذا طلبت منه حقيقة غامضة لم يتعلمها، فقد يختلق ردًا معقولًا بسلاسة بدلًا من الاعتراف بجهله. وغريزة ملء الفجوات هي تحديدًا المكان الذي تولد فيه الهلوسات.

تطلب من AI اقتباسًا من كتاب محدد. فيعطيك اقتباسًا أنيقًا وملائمًا، وينسبه بدقة. يبدو مثاليًا، باستثناء أن الاقتباس غير موجود.

لقد أنشأ AI شيئًا يبدو كأنه اقتباس من ذلك الكتاب. لا خبث ولا وعي، بل مجرد مطابقة للأنماط أخطأت بثقة. يحدث هذا أكثر مما يتوقع المبتدئون.

تتركز الهلوسات حول أشياء معينة: الحقائق المحددة، والأرقام، والتواريخ، والأسماء، والمصادر، والاقتباسات. وكلما كانت التفاصيل أكثر دقة وغموضًا، ارتفع مستوى الخطورة.

تكون الشروحات العامة موثوقة عادةً. أما الاستشهاد الدقيق والإحصائية المحددة والاسم المتخصص، فهي المواضع التي يُرجح فيها أن يختلق AI إجابة بثقة. ومعرفة ذلك تخبرك بمواضع وجوب توخي حذر إضافي.

تتعلم نماذج AI من البيانات حتى نقطة زمنية معينة، وقد لا تعرف الأحداث الحديثة جيدًا. وعندما تُسأل عن شيء جديد، يمكنها التخمين وعرض التخمين على أنه حقيقة.

كن متشككًا بصفة خاصة في الإجابات المتعلقة بـالأخبار الحديثة أو الأسعار أو الموضوعات سريعة التغير. فقد يصف AI بثقة عالمًا لم يعد موجودًا أو لم يكن موجودًا أصلًا.

من المفيد أن تعرف أن AI لا يحاول خداعك. فلا نية لديه أصلًا. والهلوسة أثر جانبي لطريقة عمله، وليست اختيارًا لتضليلك.

وهذا مهم لأنه يعني أنك لا تستطيع إصلاح الأمر بأن تطلب من AI أن يكون صادقًا. فهو يعتقد بالفعل أنه يقدم المساعدة. لذا يجب أن يأتي الإجراء الوقائي من أنت.

إذا أخذت كل إجابة واثقة على محمل الحقيقة، فستتصرف في النهاية بناءً على شيء زائف: حقيقة خاطئة في تقرير، أو مصدر مختلق، أو تاريخ غير صحيح.

الحل ليس التوقف عن استخدام AI، بل استخدامه بحكمة: اعتمد عليه في التفكير وصياغة المسودات، وتحقق من الحقائق المحددة المهمة قبل الاعتماد عليها.

اعتمد طريقة تفكير بسيطة: AI مساعد بارع وسريع، لكنه يخطئ أحيانًا بثقة. ثق به في التوجيه، وتحقق منه في التفاصيل.

هذا ليس ضربًا من الارتياب؛ بل هو الشك نفسه الذي ستطبقه على أي مصدر منفرد. ومعرفتك بوجود الهلوسات تضعك بالفعل في موقع أفضل من معظم المستخدمين.

اطلب من AI شيئًا غامضًا ومحددًا، مثل إحصائية دقيقة أو اقتباس من مصدر غير معروف كثيرًا. ثم حاول التحقق منه في مصدر آخر.

قد تكتشف أنه مختلق بثقة. إن رؤيتك هلوسة بنفسك مرة واحدة تجعل الدرس يترسخ أفضل بكثير من مجرد إخبارك بإمكانية حدوثها.

لنسبر الفكرة الأساسية.

الهلوسات هي إجابات مختلقة تُقدَّم بثقة. وتحدث لأن AI يتنبأ بكلمات معقولة ولا يملك إحساسًا حقيقيًا بالصواب أو الخطأ، لذلك يملأ الفجوات بدلًا من الاعتراف بأنه لا يعرف.

يكون الخطر أعلى في الحقائق المحددة والأرقام والاقتباسات والمصادر والأحداث الحديثة. وهو لا يكذب، إذ لا نية لديه. والإجراء الوقائي بيدك: ثق بالتوجيه، وتحقق من التفاصيل.