न्यूयॉर्क के दो वकीलों और उनकी फ़र्म ने 2023 में चैटजीपीटी के गढ़े छह अदालती मामलों के लिए 5,000 डॉलर चुकाए, और अक्टूबर 2026 तक एक सार्वजनिक ट्रैकर में एआई मतिभ्रम वाले 2,202 अदालती फ़ैसले दर्ज थे

भाषा मॉडल तब मतिभ्रम (हैलुसिनेशन) करता है जब वह रवाँ, आत्मविश्वास भरा पर झूठा पाठ लिखता है। 22 जून 2023 को न्यूयॉर्क के दक्षिणी ज़िले के जज कैस्टल ने दो वकीलों और उनकी फ़र्म को 5,000 डॉलर चुकाने का आदेश दिया, क्योंकि उनके दाख़िल किए गए ब्रीफ़ में छह अदालती फ़ैसलों का हवाला था जिन्हें चैटजीपीटी ने गढ़ा था। दामियां शार्लोटैं, जिन्हें पाँचवाँ सर्किट फ़्रांसीसी वकील और डेटा वैज्ञानिक बताता है, के रखे डेटाबेस में 19 अक्टूबर 2026 तक मतिभ्रम वाली सामग्री से जुड़े 2,202 अदालती फ़ैसले दर्ज थे। इनमें से 1,501 अमेरिका के और 16 भारत के थे।

शोधकर्ता इस शब्द से क्या मतलब रखते हैं

यह शब्द हांगकांग यूनिवर्सिटी ऑफ़ साइंस एंड टेक्नोलॉजी के ज़ीवेई जी और उनके साथियों के 2022 के एक सर्वे से आया है, जो बाद में ACM Computing Surveys में छपा। वे पाठ निर्माण में मतिभ्रम को ऐसे आउटपुट के रूप में परिभाषित करते हैं जो बेतुका हो या स्रोत सामग्री के प्रति अनुचित हो। यह शब्द मनोविज्ञान से आया है, जहाँ इसका मतलब ऐसी अवास्तविक अनुभूति है जो असली लगती है, और लेखक ध्यान दिलाते हैं कि मतिभ्रम वाला पाठ रवाँ और स्वाभाविक पढ़ा जाता है। आंतरिक मतिभ्रम स्रोत का खंडन करता है। बाहरी मतिभ्रम कुछ ऐसा जोड़ देता है जिसका स्रोत न समर्थन करता है, न खंडन।

ओपनएआई की GPT-4 रिपोर्ट भी ऐसी ही रेखा खींचती है। बंद-क्षेत्र मतिभ्रम उस काम में गढ़ा हुआ ब्योरा है जिसमें मॉडल से कहा गया था कि सिर्फ़ दिए गए पाठ का इस्तेमाल करे। खुले-क्षेत्र मतिभ्रम दुनिया के बारे में झूठी जानकारी है, जो आत्मविश्वास से दी जाती है। जिस ब्रीफ़ में ऐसे मामले का हवाला हो जिसका फ़ैसला किसी ने किया ही नहीं, वह दूसरी क़िस्म है।

मॉडल अच्छा पढ़ा जाने वाला झूठा पाठ क्यों लिखता है

GPT-4 की तकनीकी रिपोर्ट आधार मॉडल को ऐसा बताती है जिसे किसी दस्तावेज़ में अगला टोकन, यानी पाठ का एक छोटा टुकड़ा, अनुमान लगाने के लिए पहले से प्रशिक्षित किया गया है। उस काम में कहीं भी किसी दावे को दुनिया से मिलाकर जाँचा नहीं जाता। बड़ा भाषा मॉडल कैसे प्रशिक्षित होता है में चरणों की पूरी चर्चा है।

ओपनएआई और जॉर्जिया टेक के एडम तौमन कलाई और तीन सह-लेखकों का 4 सितंबर 2025 का एक पर्चा तर्क देता है कि त्रुटिरहित प्रशिक्षण पाठ से भी त्रुटियाँ पैदा करने के लिए यही काफ़ी है। उन्होंने एक खुले मॉडल से कलाई का जन्मदिन पूछा, उससे कहा कि जानता हो तभी जवाब दे, और तीन कोशिशों में तीन अलग ग़लत तारीख़ें मिलीं। जिन तथ्यों में सीखने लायक कोई पैटर्न नहीं होता, जैसे जन्मदिन, उनके लिए प्रीट्रेनिंग के बाद मतिभ्रम की दर कम से कम उतनी होनी चाहिए जितना हिस्सा उन तथ्यों का है जो प्रशिक्षण डेटा में सिर्फ़ एक बार आते हैं। अगर 20 प्रतिशत जन्मदिन तथ्य ठीक एक बार आते हैं, वे लिखते हैं, तो आधार मॉडल को जन्मदिन के कम से कम 20 प्रतिशत सवालों पर ग़लत होना चाहिए।

उनका दूसरा तर्क अंक देने के तरीक़े से जुड़ा है। ज़्यादातर बेंचमार्क कड़ी सटीकता पर अंक देते हैं, और “मुझे नहीं पता” का जवाब कुछ नहीं कमाता, इसलिए अंदाज़ा लगाना चुप रहने से कभी बुरा नहीं पड़ता। पर्चे के अनुसार मॉडल अच्छे परीक्षार्थी बनने के लिए ढाले जाते हैं। वह बताता है कि भारत की जेईई, नीट और गेट परीक्षाओं में ग़लत जवाबों पर दंड है या रहा है, और वह बेंचमार्क के निर्देशों में एक भरोसे का लक्ष्य लिखने का सुझाव देता है। 0.75 के लक्ष्य पर ग़लती की क़ीमत 2 अंक है और सही जवाब पर 1 अंक मिलता है। मॉडलों को अंक देने के दूसरे दोषों की चर्चा बेंचमार्क की समस्या में है।

मैटा बनाम एवियांका (Mata v. Avianca): छह गढ़े मामले और एक चैटबॉट जिसने कहा कि वे असली हैं

रॉबर्टो मैटा ने उड़ान में लगी चोट को लेकर एयरलाइन एवियांका पर मुक़दमा किया। 1 मार्च 2023 को उनके वकील पीटर लोडूका ने एवियांका की उस अर्ज़ी के ख़िलाफ़ ब्रीफ़ दाख़िल किया जिसमें दावे को समय-सीमा से बाहर बताकर ख़ारिज करने की माँग थी। लोडूका ने उस पर दस्तख़त किए थे, पर उसे उनके सहकर्मी स्टीवन श्वार्ट्ज़ ने लिखा था, और उसमें ऐसे फ़ैसले उद्धृत थे जिन्हें जज कैस्टल के आदेश ने बाद में अस्तित्वहीन पाया। एवियांका के 15 मार्च के जवाब ने कहा कि उसके वकील उनमें से ज़्यादातर को ढूँढ नहीं पाए।

आदेश दर्ज करता है कि श्वार्ट्ज़ की फ़र्म संघीय मामलों तक सीमित पहुँच वाले एक डेटाबेस, फ़ास्टकेस, का इस्तेमाल करती थी, और उन्होंने पहले कभी चैटजीपीटी इस्तेमाल नहीं किया था। रिकॉर्ड में उनके अपने शब्दों में, उन्होंने “ग़लत मान लिया” कि यह “चैटजीपीटी नाम का कोई सुपर सर्च इंजन है”। गढ़े हुए फ़ैसले थे वर्गीज़, मिलर, पीटरसन, शबून, मार्टिनेज़ और डर्डन। ग्यारहवें सर्किट के क्लर्क ने पुष्टि की कि वर्गीज़ बनाम चाइना सदर्न एयरलाइंस उस अदालत का फ़ैसला नहीं था। श्वार्ट्ज़ ने चैटजीपीटी से पूछा कि वर्गीज़ असली है या नहीं, और उनके अपने हलफ़नामे के अनुसार उसने जवाब दिया कि वह मामला “वाक़ई मौजूद है” और वेस्टलॉ तथा लेक्सिसनेक्सिस पर मिल सकता है।

जज कैस्टल ने लिखा कि “किसी भरोसेमंद कृत्रिम बुद्धिमत्ता औज़ार से मदद लेने में अपने आप में कुछ अनुचित नहीं है”। उन्होंने बदनीयती वकीलों के उस आचरण में पाई जो समस्या सामने आने के बाद का था: उन्होंने कारण बताओ आदेश के बाद 25 मई तक सच नहीं बताया। अदालत ने लोडूका, श्वार्ट्ज़ और फ़र्म पर संयुक्त रूप से 5,000 डॉलर का जुर्माना लगाया, और मैटा को तथा हर उस जज को पत्र भेजने का आदेश दिया जिसका नाम किसी नकली राय के साथ जोड़ा गया था। उसने माफ़ी के लिए बाध्य करने से इनकार किया।

पार्क बनाम किम (Park v. Kim) और जॉनसन बनाम डन (Johnson v. Dunn): एक संदर्भ, फिर एक अयोग्यता

दूसरे सर्किट ने पार्क बनाम किम का फ़ैसला 30 जनवरी 2024 को सुनाया। उसने एक दीवानी मुक़दमे की बर्ख़ास्तगी को बरक़रार रखा और अलग से वादी की वकील, जे एस ली, को संबोधित किया, जिन्होंने अपने जवाबी ब्रीफ़ में एक अस्तित्वहीन राज्य अदालती फ़ैसले का हवाला दिया था। ली ने कहा कि समर्थन में कोई मामला न मिलने पर उन्होंने चैटजीपीटी से माँगा और उसे पढ़ा नहीं। पीठ ने लिखा कि नियम 11, वह संघीय नियम जिसके तहत दस्तख़त यह प्रमाणित करता है कि दाख़िल की गई चीज़ के क़ानूनी दावे मौजूदा क़ानून से उचित ठहरते हैं, वकीलों से माँग करता है कि वे जिन क़ानूनी प्राधिकारों पर निर्भर करते हैं उन्हें “पढ़ें, और इस तरह उनके अस्तित्व और वैधता की पुष्टि करें”। उसने ली को अपने शिकायत पैनल के पास भेजा और उन्हें अपने मुवक्किल को फ़ैसले की प्रति देने का आदेश दिया। उसने कोई जुर्माना नहीं लगाया।

जॉनसन बनाम डन में, जेल में बंद वादी फ़्रैंकी जॉनसन ने अलबामा के उत्तरी ज़िले की अदालत को बताया कि राज्य के पूर्व सुधार आयुक्त जेफ़र्सन डन के वकीलों ने ऐसे मामले उद्धृत किए जो असली नहीं थे। जज अन्ना मनास्को को दो अर्ज़ियों में पाँच समस्याग्रस्त हवाले मिले। बटलर स्नो लॉ फ़र्म के तीन वकीलों ने लिखित रूप में और सुनवाई में पुष्टि की कि चैटजीपीटी ने उन्हें बनाया था। उनमें से एक, मैथ्यू रीव्स, ने जाँचे बिना उससे हवाले माँगे थे, और उन्होंने कहा कि वे जानते थे कि उनकी फ़र्म की नीति एआई के इस्तेमाल को सीमित करती थी।

उनके 23 जुलाई 2025 के आदेश में कहा गया है कि हवाले “पूरी तरह गढ़े हुए” थे और सामान्य फटकार तथा मामूली जुर्माने को रोकथाम के लिए बहुत कमज़ोर माना गया है। उन्होंने रीव्स, विलियम क्रैनफ़ोर्ड और विलियम लंसफ़ोर्ड को सार्वजनिक रूप से फटकारा, तीनों को मुक़दमे से अयोग्य ठहराया, फ़ैसले को फ़ेडरल सप्लीमेंट, यानी संघीय ज़िला अदालतों के फ़ैसलों की छपी श्रृंखला, में छापने का आदेश दिया, और उन्हें अलबामा स्टेट बार के पास भेजा। उन्होंने उन्हें वकालत से निलंबित नहीं किया, और दो अन्य वकीलों तथा फ़र्म को बिना किसी दंड के छोड़ दिया।

भारत: सुप्रीम कोर्ट कहता है कि नकली फ़ैसलों पर टिका निर्णय कदाचार है

27 फ़रवरी 2026 को भारत के सुप्रीम कोर्ट ने गुम्मदी उषा रानी बनाम सुरे मल्लिकार्जुन राव में एक निचली अदालत का आदेश उठाया जो चार फ़ैसलों पर टिका था, जिनमें सुब्रमणि बनाम एम. नटराजन भी था, जिसे (2013) 14 SCC 95 के रूप में उद्धृत किया गया था। याचिकाकर्ताओं ने कहा कि फ़ैसले नकली हैं, और सुप्रीम कोर्ट के वर्णन में आंध्र प्रदेश हाई कोर्ट ने पहचाना कि वे एआई से बने हैं, एक सावधानी की टिप्पणी जोड़ी और फिर भी मामले का फ़ैसला उसके गुण-दोष पर कर दिया। न्यायमूर्ति पामिदिघंटम श्री नरसिम्हा और आलोक अराधे ने निचली अदालत को एडवोकेट कमिश्नर की रिपोर्ट के आधार पर आगे बढ़ने से रोका और अटॉर्नी जनरल, सॉलिसिटर जनरल और बार काउंसिल ऑफ़ इंडिया को नोटिस जारी किया। उनके आदेश में कहा गया है कि ऐसे फ़ैसलों पर टिका निर्णय “निर्णय लेने की कोई त्रुटि नहीं है। यह कदाचार होगा”। 2026 में आए बाद के फ़ैसलों की चर्चा भारतीय अदालतों और सरकार में एआई में है।

बिना मतिभ्रम के बताए गए औज़ारों पर स्टैनफ़ोर्ड का अध्ययन

क़ानूनी शोध बेचने वाली कंपनियों ने कहा था कि रिट्रीवल-ऑगमेंटेड जेनरेशन, जिसमें सिस्टम पहले प्रासंगिक दस्तावेज़ लाता है और फिर उन्हीं से अपना जवाब लिखता है, इस समस्या से बचा लेता है। स्टैनफ़ोर्ड और येल के मगेश और उनके पाँच सह-लेखक मतिभ्रम को “ख़त्म करने” और उससे “बचने” के और “मतिभ्रम-मुक्त” हवालों के कंपनियों के दावे उद्धृत करते हैं। उन्होंने पहले से दर्ज किए गए 200 से ज़्यादा क़ानूनी सवाल Lexis+ AI, वेस्टलॉ के AI-Assisted Research, थॉमसन रॉयटर्स के Ask Practical Law AI और GPT-4 से गुज़ारे, और किसी जवाब को मतिभ्रम तब गिना जब उसमें ग़लत जानकारी थी या उसने झूठ बोला कि कोई स्रोत किसी कथन का समर्थन करता है।

तीनों कंपनी-औज़ारों में से हर एक ने 17 प्रतिशत से 33 प्रतिशत के बीच मौक़ों पर मतिभ्रम किया। Lexis+ AI और Ask Practical Law AI ने छह में से एक से ज़्यादा सवालों पर ऐसा किया, और वेस्टलॉ ने लगभग तीन में से एक पर। पर्चे की आकृति 4 के अनुसार GPT-4 ने 43 प्रतिशत पर मतिभ्रम किया। लेखक निष्कर्ष निकालते हैं कि GPT-4 की तुलना में रिट्रीवल मतिभ्रम घटाता है पर उसे काफ़ी बड़ा छोड़ देता है।

त्रुटि दर किससे घटी है, आँकड़ों के साथ

रिट्रीवल का रिकॉर्ड सबसे पुराना है। फ़ेसबुक एआई रिसर्च का 2021 का एक पर्चा बताता है कि उसके सबसे अच्छे रिट्रीवल-ऑगमेंटेड चैटबॉट ने दो बातचीत वाले कामों में मतिभ्रम वाले जवाब 60 प्रतिशत से ज़्यादा घटाए। कलाई की टीम आगाह करती है कि खोज कोई इलाज नहीं है, क्योंकि जब खोज को कोई पक्का जवाब नहीं मिलता तब भी अंक देना अंदाज़े को इनाम देता है।

प्रशिक्षण में बदलाव भी मदद करते हैं। ओपनएआई का InstructGPT पर्चा बताता है कि बंद-क्षेत्र कामों में ट्यून किए मॉडलों ने GPT-3 की तुलना में लगभग आधी बार जानकारी गढ़ी, यानी 21 प्रतिशत की दर, जबकि GPT-3 की 41 प्रतिशत थी। GPT-4 रिपोर्ट कहती है कि उसके मॉडल ने एक आंतरिक विरोधी तथ्यपरकता परीक्षण में सबसे ताज़ा GPT-3.5 से 19 प्रतिशत अंक ज़्यादा पाए, और उसका सिस्टम कार्ड खुले-क्षेत्र मतिभ्रम के लिए 19 अंक और बंद-क्षेत्र मतिभ्रम के लिए 29 अंक देता है।

मसौदे की जाँच भी मदद करती है। मेटा की चेन-ऑफ़-वेरिफ़िकेशन पद्धति में मॉडल एक जवाब का मसौदा बनाता है, तथ्य जाँचने वाले सवाल लिखता है, उनका अलग से जवाब देता है और फिर संशोधन करता है। विकीडेटा, एक सार्वजनिक ज्ञान आधार, से लिए गए सूची वाले सवालों पर उसने Llama 65B मॉडल की परिशुद्धता 0.17 से बढ़ाकर 0.36 कर दी। जीवनियों पर सबसे अच्छे रूप में FACTSCORE सटीकता माप 55.9 से 71.4 पर पहुँचा।

अदालतें अब क्या माँगती हैं

पाँचवें सर्किट ने एक प्रस्तावित नियम छापा जो वकीलों से प्रमाणित करवाता कि दाख़िल की गई चीज़ में कोई जनरेटिव एआई इस्तेमाल नहीं हुआ, या किसी इंसान ने उसका पाठ जाँचा। 13 सार्वजनिक टिप्पणियों के बाद उसने उसे अपनाने से इनकार कर दिया, और उसकी सूचना कहती है कि “मैंने एआई इस्तेमाल किया” किसी अन्यथा दंडनीय अपराध के लिए बहाना नहीं होगा। 18 फ़रवरी 2026 को फ़्लेचर बनाम एक्सपीरियन में मुख्य जज एल्रॉड की अगुवाई वाली पीठ ने वकील हीदर हर्श पर एक जवाबी ब्रीफ़ के लिए 2,500 डॉलर का जुर्माना लगाया, जिसका काफ़ी हिस्सा, अगर पूरा नहीं, एआई ने मसौदे के रूप में लिखा था और जिसे उन्होंने जाँचा नहीं।

फ़्लोरिडा के सुप्रीम कोर्ट ने 28 मई 2026 को अलग रास्ता लिया। 15 जून 2026 से किसी भी दाख़िल की गई चीज़ पर दस्तख़त करने वाला यह दर्शाता है कि उसमें दिए गए क़ानूनी प्राधिकार “मौजूद हैं और सही ढंग से उद्धृत हैं”, उल्लंघन पर दंड की गुंजाइश के साथ। उसका प्रशासनिक आदेश निचली अदालतों को अपने एआई प्रकटीकरण या प्रमाणन नियम जोड़ने से रोकता है, ताकि सर्किट आदेशों का बेमेल जाल ख़त्म हो।

भारत के सुप्रीम कोर्ट ने 3 जून 2026 को अदालतों में कृत्रिम बुद्धिमत्ता के उपयोग के नियमों का मसौदा प्रकाशित किया और टिप्पणी की समय-सीमा 15 जुलाई तक बढ़ा दी। मसौदा माँग करता है कि जो पक्ष याचिका या साक्ष्य तैयार करने में किसी एआई औज़ार का इस्तेमाल करे, वह ऐसा बताने वाली घोषणा दाख़िल करे, और कहता है कि जो व्यक्ति गढ़ी हुई एआई सामग्री दाख़िल करता है वह एआई को बचाव के रूप में पेश नहीं कर सकता।

अमेरिकी संघीय अदालतों में, जैक्सनविल, फ़्लोरिडा की मजिस्ट्रेट जज पैट्रिशिया बार्क्सडेल ने 29 मई 2026 को सुझाव दिया कि नियम 11 में यह प्रमाणन जुड़े कि उद्धृत प्राधिकार मौजूद हैं और सही ढंग से उद्धृत हैं। सिविल नियमों की सलाहकार समिति की 21 अक्टूबर 2026 की बैठक के एजेंडे में कर्मचारियों का ज्ञापन सुझाव को छोड़ने की सिफ़ारिश करता है, क्योंकि मौजूदा नियम 11 पर्याप्त लगता है। एजेंडा पुस्तिका बैठक से पहले की है और उसमें कोई मतदान दर्ज नहीं है। उसके मसौदा कार्यवृत्त दिखाते हैं कि अप्रैल 2026 में समिति ने एआई मतिभ्रम पर पहले के प्रस्तावों को छोड़ने के लिए सर्वसम्मति से मतदान किया, यह मानते हुए कि एआई फिर से एजेंडा में लौट सकता है।