هلوسة الذكاء الاصطناعي: لماذا يخطئ وكيف تتحقق من إجاباته
جرّب أن تسأل أي مساعد ذكاء اصطناعي عن كتاب لم يُكتب أو عن حدث لم يقع، وقد تحصل على جواب مفصّل وواثق ومقنع، لكنه مختلق بالكامل. هذه الظاهرة تسمى «الهلوسة»، وفهمها هو أهم مهارة تحميك من الوقوع في الخطأ عند استخدام هذه الأدوات في الدراسة أو العمل.
لماذا يخطئ النموذج؟
النموذج اللغوي لا يبحث في قاعدة بيانات للحقائق، بل يتوقع الكلمة التالية الأكثر احتمالًا بناءً على ما تعلّمه. حين يكون السؤال عن موضوع شائع تكون الإجابة غالبًا سليمة. وحين يكون السؤال عن تفصيل نادر أو عن معلومة غير موجودة، قد «يُكمل» النص بما يبدو منطقيًّا لا بما هو صحيح. وهو مصمم ليكون مفيدًا ومجيبًا، فلا يقول «لا أعرف» دائمًا. وللتعريف العام بهذه التقنية اقرأ ما هو الذكاء الاصطناعي التوليدي.
أشكال الهلوسة الشائعة
- مراجع وهمية: عناوين أبحاث وأسماء مؤلفين وروابط تبدو حقيقية ولا وجود لها.
- أرقام وتواريخ خاطئة: إحصاءات دقيقة الشكل بلا مصدر.
- أحداث ملفّقة: وصف تفاصيل لواقعة لم تحدث.
- اقتباسات منسوبة خطأ: عبارة تُنسب لشخص لم يقلها.
- أخطاء في الحساب والمنطق: خطوات تبدو سليمة وتنتهي بنتيجة خاطئة.
- خلط بين أشخاص أو أماكن متشابهة الأسماء.
متى يزيد احتمال الخطأ؟
يزيد حين تسأل عن معلومات حديثة جدًّا، أو عن موضوعات محلية متخصصة، أو عن أسماء أشخاص غير مشهورين، أو حين تطلب أرقامًا وإحصاءات محددة، أو حين تكتب سؤالك بصيغة توحي بإجابة معينة. كما أن المحتوى العربي المتخصص أقل تمثيلًا في بيانات التدريب من الإنجليزية، فيستحق تدقيقًا أكبر؛ وراجع الذكاء الاصطناعي والمحتوى العربي.
كيف تتحقق خطوة بخطوة؟
- حدّد المعلومات القابلة للتحقق: الأسماء والأرقام والتواريخ والمراجع.
- ابحث عنها في مصدر مستقل: موقع جهة رسمية، أو كتاب، أو قاعدة بحثية، أو صحيفة موثوقة.
- افتح الرابط بنفسك: إن أعطتك الأداة رابطًا فافتحه وتأكد أنه يقول ما نُسب إليه.
- قارن بين مصدرين على الأقل للمعلومات المهمة.
- اسأل الأداة نفسها عن درجة ثقتها، لكن لا تعتبر جوابها دليلًا؛ فهو مجرد إشارة لما يستحق المراجعة.
- راجع الحساب بنفسك أو بآلة حاسبة.
أوامر تقلل المشكلة
- «إذا لم تكن متأكدًا فقل لا أعرف ولا تخمّن.»
- «ميّز بين ما تعرفه بثقة وما تخمّنه.»
- «استند فقط إلى النص الذي ألصقته لك، ولا تضف معلومات من خارجه.»
- «اذكر خطوات استنتاجك حتى أراجعها.»
أسلوب «استند إلى النص الذي ألصقته» فعّال جدًّا في التلخيص، لأنه يحصر الأداة في مادة تعرفها. انظر كيف تلخّص بالذكاء الاصطناعي.
مثال تطبيقي
طالب طلب من الأداة «ثلاثة مراجع علمية عن أثر النوم في التحصيل الدراسي». جاءته ثلاثة عناوين بأسماء باحثين وسنوات نشر. حين بحث عنها في محرك أبحاث أكاديمي وجد أن واحدًا فقط موجود فعلًا، أما الاثنان الآخران فلم يجدهما. لو اكتفى بنسخ القائمة لوقع في حرج أمام معلمه. الدرس: استخدم الأداة لتقترح مصطلحات بحث، ثم ابحث أنت في المصادر الأكاديمية. وللدراسة الأمينة اقرأ الاستخدام الأمين للذكاء الاصطناعي في الواجبات.
لا تُسقط الفائدة بسبب الخوف
وجود الهلوسة لا يعني أن الأداة عديمة النفع. هي ممتازة في المسودات والأفكار وإعادة الصياغة والشرح المبسط، وهذه مهام لا تعتمد على حقيقة خارجية دقيقة. الخطر يكبر حين تُستخدم كمرجع للحقائق. اجعل قاعدتك: الأداة للصياغة والفهم، والمصدر الموثوق للحقيقة.
قائمة سريعة قبل الاعتماد على أي جواب
- هل فيه رقم أو تاريخ أو اسم؟ تحقق منه.
- هل فيه مرجع؟ افتحه.
- هل الموضوع طبي أو قانوني أو مالي؟ استشر مختصًا.
- هل ستنشر الجواب باسمك؟ راجعه بقائمة، مثل قائمة التدقيق قبل النشر.