«من قال هذا؟»

أهمّ سؤال في عصر الذكاء الاصطناعي — وأقدم سؤال في تراثنا

قال عبد الله بن المبارك قولته المشهورة: «الإسناد من الدين، ولولا الإسناد لقال من شاء ما شاء».

بُنيت حضارة كاملة على هذه الجملة. لم يكن السؤال المركزي في علوم الحديث: هل هذا الكلام جميل؟ بل: من قاله، وعمّن، وهل لقيه؟ طُوّر جهاز معرفي هائل — الجرح والتعديل، تراجم الرواة، اتصال السند — لغرض واحد: فصل ما قيل فعلاً عمّا يبدو أنه قيل.

نحن اليوم أمام آلة تنتج نصاً بليغاً، منظّماً، واثقاً، ومُقنعاً — بلا سند. وقولة ابن المبارك تعود صالحة حرفياً: لولا الإسناد لقال من شاء ما شاء.

الأرقام

في قاعدة بيانات يديرها الباحث دامين شارلوتان لتوثيق القضايا التي قُدّمت فيها للمحاكم مراجع قانونية مختلَقة أنتجها ذكاء اصطناعي، بلغ العدد ٢٠٠٩ قضية في أكثر من خمسين دولة (بتاريخ ٣ سبتمبر ٢٠٢٦؛ والعدد يرتفع أسبوعياً). النوع الأشيع من الاختلاق: أحكام قضائية لا وجود لها، ١٦٦٧ حالة.

بدأت القصة بحادثة صارت مثلاً: في يونيو ٢٠٢٣، عاقبت محكمة في نيويورك محاميَين وشركتهما بغرامة خمسة آلاف دولار بعد أن قدّما مذكرة تحتوي أحكاماً مختلَقة أنتجها ChatGPT، ثم — وهذا هو الأسوأ — تمسّكا بها بعد أن شكّكت المحكمة في وجودها. لم تنتهِ القصة هناك: في مارس ٢٠٢٦، غرّمت محكمة استئناف اتحادية أمريكية محاميَين خمسة عشر ألف دولار لكل منهما، وكتبت في حكمها: «وجدنا في مجملها أكثر من عشرين مرجعاً زائفاً وتحريفاً للوقائع».

وفي أكتوبر ٢٠٢٥، اضطرت شركة ديلويت في أستراليا إلى ردّ جزء من قيمة تقرير حكومي بأكثر من أربعمئة ألف دولار أسترالي، بعد أن تبيّن أنه يحتوي مراجع مختلَقة — بينها اقتباس منسوب إلى قاضية لم تقله، وأبحاث منسوبة إلى أكاديميين لم يكتبوها.

لماذا تفعل الآلة ذلك؟ ليس عطلاً — إنه حافز

في سبتمبر ٢٠٢٥، نشر باحثون من OpenAI (بالتعاون مع جورجيا تِك) ورقة بعنوان «لماذا تهلوس النماذج اللغوية». حجّتهم المركزية أبسط وأذكى مما يتوقع القارئ:

«النماذج اللغوية مُحسَّنة لتكون ممتحِنة جيدة، والتخمين عند عدم اليقين يرفع نتيجة الامتحان».

الصورة التي يقدّمونها مألوفة لكل من دخل امتحاناً: إن تركتِ السؤال فارغاً، فالصفر مضمون. وإن خمّنتِ، فقد تُصيبين. والنماذج تُقاس على عشرات المعايير التي تمنح نقطة للإجابة الصحيحة وصفراً للخطأ وصفراً أيضاً لقول «لا أعرف». فتعلّمت الآلة الدرس الذي علّمناها إياه: خمّن دائماً.

الجدول الذي أوردوه يلخّص الأمر في سطرين. نموذجان من الشركة نفسها على اختبار المعرفة SimpleQA:

النموذج الثاني أعلى بنقطتين في الدقة — وأكثر خطأً بثلاثة أضعاف تقريباً. وفي لوحات الترتيب، يبدو الثاني هو الأفضل.

ويضيفون آلية ثانية تشرح أيّ المعلومات تُختلَق تحديداً: إذا وردت معلومة في بيانات التدريب مرة واحدة فقط، فلا سبيل للنموذج إلى تعلّمها، وإن سُئل عنها خمّن. حسبوها بوضوح: إذا كان ٢٠٪ من تواريخ الميلاد في بيانات التدريب يرد كل منها مرة واحدة، فتوقّعوا أن يهلوس النموذج في ٢٠٪ من تواريخ الميلاد على الأقل. وهذا يخبرك بالضبط أين الخطر: اسم شخص بعينه، عنوان بحث بعينه، رقم قضية، تاريخ محدد — أي المعلومات النادرة، وهي بالضبط المعلومات التي نطلب لها إسناداً.

هل الهلوسة حتمية إذن؟ الباحثون منقسمون بصدق. فريق من جامعة سنغافورة الوطنية قدّم برهاناً بأنها حتمية بنيوياً؛ وفريق OpenAI يردّ بأنها «حتمية للنماذج الأساسية فقط»، وأن الامتناع عن الإجابة مخرج؛ وفريق ثالث يقول إنها حتمية نظرياً لكن يمكن جعلها ضئيلة عملياً. لا أحد جادّ يقول إنها خلل عابر سيُصلَح بتحديث. الخلاف على مقدار الأرضية، لا على وجودها.

المشكلة الأخصّ: الإسناد نفسه

قد يبدو أن الحلّ هو استخدام أدوات البحث التي «تستشهد بمصادر». وهنا تحديداً تكمن المفاجأة.

في دراسة أجراها مركز Tow التابع لكلية الصحافة بجامعة كولومبيا في مارس ٢٠٢٥، أُعطيت ثمانية محرّكات بحث ذكية ١٦٠٠ استعلام: مقطع حرفي من مقال منشور، والمطلوب تحديد عنوانه وناشره وتاريخه ورابطه. النتائج:

• الأدوات مجتمعة أخطأت في أكثر من ٦٠٪ من الحالات.
• الأفضل (Perplexity) أخطأ في ٣٧٪؛ الأسوأ (Grok 3) أخطأ في ٩٤٪.
• ChatGPT أخطأ في ١٣٤ من ٢٠٠، وأبدى شكّه ١٥ مرة فقط، ولم يرفض الإجابة ولا مرة واحدة.
• Grok 3 وحده أنتج ١٥٤ رابطاً ميتاً (خطأ 404).
• والنسخ المدفوعة كانت أسوأ من المجانية، لا أفضل.

وفي أضخم دراسة من نوعها، نشر اتحاد البث الأوروبي وهيئة الإذاعة البريطانية في أكتوبر ٢٠٢٥ تقييماً شمل ٢٢ مؤسسة إعلامية في ١٨ دولة و١٤ لغة، بأكثر من ٣٠٠٠ إجابة: ٤٥٪ من الإجابات فيها مشكلة جوهرية واحدة على الأقل، و٣١٪ فيها مشاكل خطيرة في الإسناد — وهي أكبر فئة أخطاء على الإطلاق.

وحتى الأنظمة المتخصّصة المبنية على استرجاع المستندات (RAG) لا تحلّ المسألة: في دراسة محكَّمة نشرتها Journal of Empirical Legal Studies عام ٢٠٢٥ على أدوات البحث القانوني الاحترافية، تراوحت نسبة الهلوسة بين ١٧٪ و٣٣٪. وأخطر فئة رصدها الباحثون ليست المرجع المختلَق، بل المرجع الحقيقي الذي لا يقول ما نُسب إليه. رابط يعمل، ومصدر موجود، ومضمون مختلَق.

المفتاح: السؤال مع مصدر، لا من الذاكرة

هنا تنقلب الصورة تماماً. حين يُعطى النموذج المستند ويُطلب منه تلخيصه أو استخراج معلومة منه، ترتفع أمانته إلى حدود ٩٦–٩٨٪ في أفضل النماذج (وفق لوحة قياس تصدرها شركة Vectara، وهي جهة تجارية — تُذكر منسوبة إليها). الفرق ليس في ذكاء النموذج، بل في السؤال: «تذكّر لي» ضعيفة، «اقرأ هذا وأخبرني» قوية.

هذه هي القاعدة العملية الأولى، وهي التي تعيدنا إلى ابن المبارك: لا تُسأل الآلة أن تروي، بل يُطلب منها أن تقرأ سنداً نملكه.

ستّ قواعد يمكن لأي قارئ استعمالها

1. فتحُ كل رابط. رابط لا يعمل = مرجع مختلَق. (١٥٤ رابطاً ميتاً في دراسة واحدة.)
2. الرابط الصحيح ليس إسناداً صحيحاً. المطلوب فتح المصدر والبحث فيه عن الجملة نفسها. أخطر أنواع الخطأ مصدرٌ حقيقي لا يقول ما نُسب إليه.
3. لا خلط بين الطلاقة والصحة. ChatGPT تردّد في ١٥ حالة فقط من ١٣٤ إجابة خاطئة. النبرة الواثقة لا تحمل أي معلومة عن الصواب.
4. طرحُ السؤال مرتين. إذا اختلفت الإجابة بين محاولتين، فالنتيجة تخمين لا معرفة.
5. الحذر من «المعلومة الفريدة». تاريخ ميلاد شخص، عنوان بحث، رقم حكم، إحصائية بعينها — هذه بالضبط منطقة الاختلاق.
6. القراءة الجانبية. لا تُقيَّم إجابة الآلة داخل الآلة؛ المطلوب فتح تبويب جديد والبحث عن الادعاء مستقلاً. في دراسة كلاسيكية لمجموعة من جامعة ستانفورد، كشف مدقّقو الحقائق المحترفون جهةَ تمويل موقع مشبوه في ٥١ ثانية وسطياً، بينما احتاج أساتذة تاريخ حاصلون على الدكتوراه نحو ٢٢٠ ثانية وفشل معظم الطلاب. الفارق لم يكن الذكاء ولا التخصص، بل العادة: الخبراء يغادرون الصفحة فوراً ليسألوا عنها من خارجها.

متى تكفي هذه القواعد؟ ومتى لا تكفي

تكفي حين يكون الادعاء قابلاً للفحص من خارج النموذج: رقم له مصدر منشور، حكم قضائي له رابط، دراسة لها عنوان ومؤلف. في هذه الحالات القاعدة الأولى وحدها — فتح الرابط — تكشف أكثر الأخطاء، ولا تحتاج تخصصاً لتطبيقها.

وتكفي أيضاً حين يكون المستند بين يديك، ويُطلب من النموذج أن يقرأه لا أن يتذكّره. فالفارق بين «تذكّر لي» و«اقرأ هذا» هو أكبر فارق عملي في المقال كلّه.

ولا تكفي في ثلاث حالات:

الأولى: حين يكون الحكم على المصدر نفسه هو المطلوب. فتح الرابط والعثور على الجملة لا يعني أن الدراسة جيدة، ولا أن منهجها سليم، ولا أن نتيجتها تنطبق على سياقك. فحص الوجود أسهل بكثير من فحص الجودة.

الثانية: حين يكون المجال تخصصياً وأثر الخطأ كبيراً — تشخيص طبي، تفسير قانوني، قرار مالي. هنا لا تُحلّ المسألة بمدقّق أفضل، بل بمختصّ يملك الصلاحية والمسؤولية. التحقّق يحميك من الاختلاق، لا من سوء الفهم.

الثالثة: حين لا يكون للادعاء مصدر أصلاً — تعميم، أو استنتاج، أو رأي مصوغ بثقة. هذه لا يكشفها فتح الروابط لأنها لا تحمل روابط. تُقاس بالمنطق لا بالإسناد.

وحتى مع المستند بين يدي النموذج، تبقى الأمانة في حدود ٩٦–٩٨٪ في أفضل الحالات كما في اللوحة المذكورة أعلاه — وهذا رقم ممتاز، لكنه ليس مئة. القواعد تقلّل الاحتمال، ولا تلغيه.

وأخيراً: من المسؤول عمّا تقوله الآلة؟

في فبراير ٢٠٢٤، حاججت شركة طيران كندا أمام محكمة في كولومبيا البريطانية بأن روبوت المحادثة على موقعها «كيان قانوني منفصل مسؤول عن أفعاله»، بعد أن أعطى الروبوت معلومة خاطئة لأحد الركاب.

ردّ عضو المحكمة كريستوفر ريفرز بجملة تستحق أن تُحفظ:

«هذا دفع لافت. الروبوت وإن كان تفاعلياً، فهو مجرد جزء من موقع الشركة. ينبغي أن يكون بديهياً لدى الشركة أنها مسؤولة عن كل المعلومات على موقعها».

الآلة لا تتحمّل. والإسناد لم يعد ترفاً أكاديمياً، بل صار المهارة التي تفصل من يعرف عمّن يظن أنه يعرف.

ولولا الإسناد، لقال من شاء ما شاء.

الأسئلة الشائعة

هل ستُحلّ الهلوسة بتحديث قادم؟

الباحثون منقسمون على مقدارها لا على وجودها: فريق يبرهن أنها حتمية بنيويًّا، وفريق يراها حتمية للنماذج الأساسية فقط ويرى الامتناع عن الإجابة مخرجًا، وثالث يراها حتمية نظريًّا وضئيلة عمليًّا. ولا أحد جادّ يعدّها خللًا عابرًا.

هل تكفي أدوات البحث التي تعرض روابط مصادرها؟

لا. أخطأت في أكثر من ٦٠٪ من الحالات في دراسة على ١٦٠٠ استعلام، وأنتج أحدها ١٥٤ رابطًا ميتًا. وحتى الأنظمة المتخصّصة المبنيّة على استرجاع المستندات تراوحت هلوستها بين ١٧٪ و٣٣٪ في دراسة محكَّمة.

ما أسرع طريقة للتحقّق من ادّعاء؟

القراءة الجانبية: غادر الصفحة وابحث عن الادّعاء من خارجها بدل تقييمه داخلها. في دراسة معروفة كشف مدقّقو الحقائق المحترفون جهة تمويل موقع مشبوه في ٥١ ثانية وسطيًّا، بينما احتاج أساتذة حاصلون على الدكتوراه نحو ٢٢٠ ثانية.

المراجع

1. Kalai, A. T., Nachum, O., Vempala, S., & Zhang, E. — Why Language Models Hallucinate (OpenAI، سبتمبر ٢٠٢٥؛ مسودة على arXiv، غير محكَّمة، ومنشورة من الشركة نفسها). arxiv.org · openai.com
2. Charlotin, D. — AI Hallucination Cases (قاعدة بيانات حيّة؛ العدد بتاريخ ٣ سبتمبر ٢٠٢٦). damiencharlotin.com
3. Mata v. Avianca, Inc. — قرار العقوبات، محكمة نيويورك الجنوبية، يونيو ٢٠٢٣. cnbc.com
4. Whiting v. City of Athens — محكمة الاستئناف الفيدرالية للدائرة السادسة، مارس ٢٠٢٦. lawnext.com
5. Jaźwińska, K. & Chandrasekar, A. — AI Search Has a Citation Problem, Tow Center / Columbia Journalism Review (مارس ٢٠٢٥). cjr.org
6. EBU & BBC — News Integrity in AI Assistants (أكتوبر ٢٠٢٥، ٣٠٠٠+ إجابة، ١٨ دولة، ١٤ لغة). ebu.ch
7. Magesh, V., Surani, F., Dahl, M., Suzgun, M., Manning, C., & Ho, D. — Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, Journal of Empirical Legal Studies (2025). onlinelibrary.wiley.com
8. Vectara — Hallucination Leaderboard (قياس أمانة التلخيص لمستند مُعطى؛ جهة تجارية تقيس بأداة تخصّها). github.com
9. Wineburg, S. & McGrew, S. — Lateral Reading and the Nature of Expertise, Teachers College Record (2019). journals.sagepub.com
10. Moffatt v. Air Canada, 2024 BCCRT 149 (١٤ فبراير ٢٠٢٤). canlii.org
11. Deloitte Australia — تقرير وزارة التوظيف وعلاقات العمل، أكتوبر ٢٠٢٥. theregister.com

ملاحظة: في قضية Mata v. Avianca يتردد رقم «ست قضايا مختلقة» في كثير من التغطيات؛ لم يُذكر هنا لتعذّر التحقق منه في الحكم الأصلي.