محاميان في نيويورك وشركتهما دفعوا 5,000 دولار عام 2023 عن ست قضايا اخترعها ChatGPT، وبحلول أكتوبر 2026 أحصى متتبع عام 2,202 قرار محكمة تتعلق بهلوسات الذكاء الاصطناعي

يهلوس النموذج اللغوي حين يكتب نصا سلسا واثقا لكنه خاطئ. وفي 22 يونيو 2023 أمر القاضي كاستل (Castel) من المنطقة الجنوبية في نيويورك محاميين وشركتهما بدفع 5,000 دولار لأن مذكرة قدماها استشهدت بست قرارات قضائية اخترعها ChatGPT. وأدرجت قاعدة بيانات يحتفظ بها داميان شارلوتان (Damien Charlotin)، وهو محام فرنسي وعالم بيانات بحسب وصف الدائرة الخامسة، 2,202 قرار محكمة تتعلق بمواد مهلوسة حتى 19 أكتوبر 2026. ومنها 1,501 من الولايات المتحدة و16 من الهند.

ماذا يقصد الباحثون بهذه الكلمة

جاء المصطلح من مسح أجري عام 2022 أعدّه زيوي جي (Ziwei Ji) وزملاؤه في جامعة هونغ كونغ للعلوم والتكنولوجيا، ونُشر لاحقا في ACM Computing Surveys. ويعرّفون الهلوسة في توليد النصوص بأنها مخرجات لا معنى لها أو غير وفية لمحتوى المصدر. والكلمة آتية من علم النفس، حيث تعني إدراكا غير واقعي يبدو حقيقيا، ويلاحظ المؤلفون أن النص المهلوس يُقرأ سلسا وطبيعيا. فالهلوسة الداخلية تناقض المصدر. أما الخارجية فتضيف ما لا يؤيده المصدر ولا ينفيه.

ويرسم تقرير GPT-4 من OpenAI خطا مشابها. فالهلوسة في نطاق مغلق هي تفاصيل مختلقة في مهمة قيل فيها للنموذج أن يستخدم النص المقدم وحده. والهلوسة في نطاق مفتوح معلومات خاطئة عن العالم تُقدَّم بثقة. ومذكرة تستشهد بقضية لم يفصل فيها أحد من النوع الثاني.

لماذا يكتب النموذج نصا خاطئا يُقرأ جيدا

يصف التقرير التقني لـGPT-4 النموذج الأساسي بأنه مدرَّب مسبقا على توقع الرمز التالي، أي قطعة قصيرة من النص، في وثيقة. وليس في هذه المهمة ما يتحقق من ادعاء مقابل العالم. وتستعرض مقالتنا عن كيفية تدريب نموذج لغوي كبير المراحل.

وتزعم ورقة مؤرخة 4 سبتمبر 2025 كتبها آدم تاومان كالاي (Adam Tauman Kalai) وثلاثة من زملائه، في OpenAI وجورجيا تك، أن هذا يكفي لإنتاج أخطاء حتى من نص تدريب خال من الأخطاء. فقد سألوا نموذجا مفتوحا عن عيد ميلاد كالاي، وقالوا له أن يجيب فقط إن كان يعرف، فأعطى ثلاثة تواريخ خاطئة مختلفة في ثلاث محاولات. وفي الوقائع التي لا نمط فيها يمكن تعلمه، مثل أعياد الميلاد، ينبغي أن يكون معدل الهلوسة بعد التدريب المسبق على الأقل نسبة الوقائع التي ترد مرة واحدة فقط في بيانات التدريب. فإذا ظهرت 20 في المئة من وقائع أعياد الميلاد مرة واحدة بالضبط، كما يكتبون، فينبغي أن يخطئ النموذج الأساسي في 20 في المئة على الأقل من أسئلة أعياد الميلاد.

وحجتهم الثانية عن التقييم. فمعظم المعايير تحتسب الدقة الصارمة، والإجابة “لا أعرف” لا تكسب شيئا، فلا يكون التخمين أسوأ من الامتناع. ويقول البحث إن النماذج تُحسَّن لتكون ممتحَنة جيدة. ويلاحظ أن امتحانات JEE وNEET وGATE في الهند تستخدم أو كانت تستخدم عقوبات على الإجابات الخاطئة، ويقترح كتابة هدف ثقة في تعليمات المعيار. فعند هدف 0.75، يكلف الخطأ نقطتين وتكسب الإجابة الصحيحة نقطة. وتتناول مقالة مشكلة المعايير عيوبا أخرى في طريقة تقييم النماذج.

Mata v. Avianca: ست قضايا مخترعة وروبوت دردشة قال إنها حقيقية

رفع روبرتو ماتا (Roberto Mata) دعوى على شركة الطيران أفيانكا بسبب إصابة في رحلة. وفي 1 مارس 2023 قدم محاميه بيتر لودوكا (Peter LoDuca) مذكرة تعارض طلب أفيانكا ردّ الدعوى لأنها سقطت بالتقادم. ووقعها لودوكا، لكن زميله ستيفن شوارتز (Steven Schwartz) هو من كتبها، وكانت تقتبس قرارات وجد أمر القاضي كاستل لاحقا أنها غير موجودة. وقال رد أفيانكا في 15 مارس إن محاميها لم يجدوا معظمها.

ويسجل الأمر أن شركة شوارتز استخدمت قاعدة بيانات اسمها Fastcase، لها وصول محدود إلى القضايا الاتحادية، وأنه لم يستخدم ChatGPT من قبل. وبكلماته في السجل، “افترض خطأً” أنه “كان مثل محرك بحث خارق اسمه ChatGPT”. وكانت القرارات المزيفة Varghese وMiller وPetersen وShaboon وMartinez وDurden. وأكد كاتب الدائرة الحادية عشرة أن Varghese v. China Southern Airlines لم تكن حكما صادرا عن تلك المحكمة. وسأل شوارتز ChatGPT هل Varghese حقيقية، وبحسب إفادته هو أجاب بأن القضية “موجودة بالفعل” ويمكن العثور عليها في Westlaw وLexisNexis.

وكتب القاضي كاستل أنه “لا شيء غير لائق في ذاته في استخدام أداة ذكاء اصطناعي موثوقة للمساعدة”. ووجد سوء نية في سلوك المحاميين بعد ظهور المشكلة: فلم يصارحا المحكمة حتى 25 مايو، بعد أمر بيان الأسباب. وفرضت المحكمة غرامة 5,000 دولار بالتضامن على لودوكا وشوارتز والشركة، وأمرت بإرسال رسائل إلى ماتا وإلى كل قاض نُسب اسمه إلى رأي مزيف. ورفضت إلزامهما بالاعتذار.

Park v. Kim وJohnson v. Dunn: إحالة ثم إقصاء

فصلت الدائرة الثانية في Park v. Kim في 30 يناير 2024. وأيدت ردّ دعوى مدنية وتناولت على حدة محامية المدعية، جاي س. لي (Jae S. Lee)، التي استشهدت بحكم محكمة ولاية غير موجود في مذكرتها الجوابية. وقالت لي إنها طلبت من ChatGPT قضية داعمة بعد أن عجزت عن العثور على واحدة، ولم تقرأها. وكتبت الهيئة أن القاعدة 11 (Rule 11)، وهي القاعدة الاتحادية التي يشهد بموجبها التوقيع على أن الادعاءات القانونية في الإيداع تسندها القوانين القائمة، تُلزم المحامين بأن “يقرؤوا، وبذلك يتأكدوا من وجود وصحة، المراجع القانونية التي يعتمدون عليها”. وأحالت لي إلى لجنة التظلمات لديها وأمرتها بأن تعطي موكلها نسخة من القرار. ولم تفرض غرامة.

وفي Johnson v. Dunn أبلغ المدعي المسجون، فرانكي جونسون (Frankie Johnson)، المحكمة الاتحادية في المنطقة الشمالية من ألاباما بأن محامين عن مفوض السجون السابق في الولاية، جيفرسون دان (Jefferson Dunn)، استشهدوا بقضايا غير حقيقية. ووجدت القاضي آنا مانسكو (Anna Manasco) خمسة استشهادات إشكالية في طلبين. وأكد ثلاثة محامين من شركة Butler Snow للمحاماة كتابة وفي جلسة أن ChatGPT هو من أنتجها. وأحدهم، ماثيو ريفز (Matthew Reeves)، طلب منه استشهادات دون أن يتحقق منها، وقال إنه كان يعلم أن سياسة شركته تقيد استخدام الذكاء الاصطناعي.

ويقول أمرها الصادر في 23 يوليو 2025 إن الاستشهادات “مختلقة بالكامل” ويعدّ التوبيخ المعتاد والغرامة المتواضعة رادعا أضعف من أن يكفي. فوبخت ريفز وويليام كرانفورد (William Cranford) وويليام لونسفورد (William Lunsford) علنا، وأقصت الثلاثة عن القضية، وأمرت بنشر الرأي في Federal Supplement، وهي سلسلة مطبوعة بأحكام المحاكم الابتدائية الاتحادية، وأحالتهم إلى نقابة المحامين في ألاباما. ولم توقفهم عن ممارسة المهنة، وأعفت محاميين آخرين والشركة من أي عقوبة.

الهند: المحكمة العليا تقول إن القرار المبني على أحكام مزيفة سوء سلوك

في 27 فبراير 2026 نظرت المحكمة العليا في الهند، في Gummadi Usha Rani v. Sure Mallikarjuna Rao، في أمر لمحكمة ابتدائية استند إلى أربعة قرارات، منها Subramani v. M. Natarajan، المستشهد به بصيغة (2013) 14 SCC 95. وقال الطاعنون إن القرارات مزيفة، وبحسب رواية المحكمة العليا أدركت المحكمة العليا للولاية (High Court) في أندرا براديش أنها مولّدة بالذكاء الاصطناعي، وأضافت كلمة تحذير وفصلت في القضية مع ذلك في موضوعها. ومنع القاضيان باميدغانتام سري ناراسيمها (Pamidighantam Sri Narasimha) وآلوك أرادي (Alok Aradhe) المحكمة الابتدائية من المضي بناء على تقرير مفوض المحامين، وأصدرا إخطارا إلى المدعي العام للهند والمحامي العام ونقابة المحامين في الهند. ويقول أمرهما إن القرار الذي يستند إلى مثل هذه الأحكام “ليس خطأ في اتخاذ القرار. بل سيكون سوء سلوك”. وتُتناول أحكام لاحقة في 2026 في الذكاء الاصطناعي في المحاكم والحكومة الهندية.

دراسة ستانفورد عن أدوات تُباع على أنها خالية من الهلوسة

قال موردو البحث القانوني إن التوليد المعزز بالاسترجاع، وفيه يجلب النظام أولا الوثائق ذات الصلة ثم يكتب جوابه منها، يتجنب المشكلة. وينقل ماجيش (Magesh) وخمسة من زملائه في ستانفورد وييل ادعاءات الموردين بـ”القضاء على” الهلوسات و”تجنبها” وباستشهادات “خالية من الهلوسة”. وأجروا أكثر من 200 استعلام قانوني مسجل مسبقا عبر Lexis+ AI وWestlaw AI-Assisted Research وAsk Practical Law AI من Thomson Reuters وGPT-4، وعدّوا الاستجابة هلوسة إن احتوت على معلومات غير صحيحة أو قالت زورا إن مصدرا يؤيد عبارة.

وهلوست كل أداة من الأدوات الثلاث للموردين بين 17 في المئة و33 في المئة من المرات. وفعلت ذلك Lexis+ AI وAsk Practical Law AI في أكثر من استعلام من كل ستة، وWestlaw في نحو استعلام من كل ثلاثة. وهلوس GPT-4 في 43 في المئة، بحسب الشكل 4 في الورقة. ويخلص المؤلفون إلى أن الاسترجاع يقلل الهلوسة مقارنة بـGPT-4 لكنه يبقيها كبيرة.

ما الذي خفّض معدل الخطأ، بالأرقام

للاسترجاع أقدم سجل. وتفيد ورقة من 2021 صادرة عن Facebook AI Research بأن أفضل روبوتات الدردشة المعززة بالاسترجاع لديها خفّضت الاستجابات المهلوسة في مهمتي محادثة بأكثر من 60 في المئة. ويحذر فريق كالاي من أن البحث ليس علاجا، لأن التقييم يظل يكافئ التخمين كلما لم يجد البحث جوابا واثقا.

وتساعد تغييرات التدريب أيضا. فتفيد ورقة InstructGPT من OpenAI بأن النماذج المضبوطة في المهام ذات النطاق المغلق اختلقت معلومات بنحو نصف معدل GPT-3، أي بنسبة 21 في المئة مقابل 41 في المئة. ويقول تقرير GPT-4 إن نموذجه سجل 19 نقطة مئوية أعلى من أحدث GPT-3.5 في اختبار داخلي للصدقية الواقعية في ظروف عدائية، وتعطي بطاقة نظامه 19 نقطة للهلوسة في النطاق المفتوح و29 نقطة للمغلق.

ويفيد التحقق من المسودة كذلك. ففي طريقة سلسلة التحقق (Chain-of-Verification) من Meta يكتب النموذج جوابا مسودة، ويكتب أسئلة للتحقق من الوقائع، ويجيب عنها منفصلة ثم يراجع. وفي أسئلة القوائم المأخوذة من Wikidata، وهي قاعدة معرفة عامة، رفعت الطريقة دقة نموذج Llama 65B من 0.17 إلى 0.36. وفي السير ارتفع مقياس الدقة FACTSCORE من 55.9 إلى 71.4 في أفضل صيغة.

ما تطلبه المحاكم الآن

نشرت الدائرة الخامسة قاعدة مقترحة كانت ستلزم المحامين بأن يشهدوا بعدم استخدام أي ذكاء اصطناعي توليدي في إيداع، أو بأن إنسانا راجع نصه. وبعد 13 تعليقا عاما رفضت اعتمادها، ويقول إشعارها إن عبارة “استخدمت الذكاء الاصطناعي” لن تكون عذرا لمخالفة تستحق العقوبة بخلاف ذلك. وفي 18 فبراير 2026، في Fletcher v. Experian، غرّمت هيئة برئاسة رئيس القضاة إيلرود (Elrod) المحامي هيذر هيرش (Heather Hersh) 2,500 دولار عن مذكرة جوابية صاغ الذكاء الاصطناعي جزءا كبيرا منها إن لم يكن كلها ولم تتحقق منها.

وسلكت المحكمة العليا في فلوريدا طريقا مختلفا في 28 مايو 2026. فمن 15 يونيو 2026 يمثّل الموقّع على أي إيداع بأن المراجع القانونية فيه “موجودة ومُستشهد بها بدقة”، مع إتاحة العقوبات عند الإخلال. ويمنع أمرها الإداري المحاكم الدنيا من إضافة قواعد إفصاح أو شهادة خاصة بها عن الذكاء الاصطناعي، لإنهاء خليط أوامر الدوائر.

ونشرت المحكمة العليا في الهند مسودة لوائح استخدام الذكاء الاصطناعي في المحاكم في 3 يونيو 2026 ومددت موعد التعليقات إلى 15 يوليو. وتلزم المسودة الطرف الذي استخدم أداة ذكاء اصطناعي في إعداد مرافعة أو أدلة بأن يودع إقرارا بذلك، وتقول إن من يودع مواد مختلقة بالذكاء الاصطناعي لا يستطيع أن يحتج بالذكاء الاصطناعي دفاعا.

وفي المحاكم الاتحادية الأمريكية، اقترحت القاضي الاتحادي المساعدة باتريشيا باركسديل (Patricia Barksdale) في جاكسونفيل بفلوريدا في 29 مايو 2026 أن تضاف إلى القاعدة 11 شهادة بأن المراجع المستشهد بها موجودة ومُستشهد بها بدقة. وتوصي مذكرة الموظفين في جدول أعمال اجتماع اللجنة الاستشارية للقواعد المدنية (Advisory Committee on Civil Rules) في 21 أكتوبر 2026 بإسقاط الاقتراح لأن القاعدة 11 الحالية تبدو كافية. وكتاب جدول الأعمال سابق للاجتماع ولا يسجل أي تصويت. وتبين مسودة محاضره أن اللجنة صوتت في أبريل 2026 بالإجماع على إسقاط مقترحات سابقة عن هلوسات الذكاء الاصطناعي، مع إقرارها بأن الذكاء الاصطناعي قد يعود إلى جدول الأعمال.