নিউইয়র্কের দুই আইনজীবী ও তাঁদের ফার্ম ২০২৩ সালে চ্যাটজিপিটির বানানো ছয়টি মামলার জন্য ৫,০০০ ডলার জরিমানা দিয়েছিলেন, আর ২০২৬ সালের অক্টোবরে একটি প্রকাশ্য ট্র্যাকারে এআই হ্যালুসিনেশন জড়িত আদালতের সিদ্ধান্ত ছিল ২,২০২টি

ভাষা মডেল হ্যালুসিনেট করে যখন সে সাবলীল, আত্মবিশ্বাসী অথচ মিথ্যা লেখা তৈরি করে। ২০২৩ সালের ২২ জুন নিউইয়র্কের দক্ষিণ জেলা আদালতের বিচারক ক্যাস্টেল দুই আইনজীবী ও তাঁদের ফার্মকে ৫,০০০ ডলার দিতে আদেশ দেন, কারণ তাঁদের দাখিল করা একটি ব্রিফে ছয়টি আদালতের সিদ্ধান্তের উল্লেখ ছিল যেগুলো চ্যাটজিপিটি বানিয়েছিল। ফরাসি আইনজীবী ও ডেটা বিজ্ঞানী দামিয়েন শার্লোতাঁর রাখা একটি ডেটাবেস, পঞ্চম সার্কিটের বর্ণনা অনুযায়ী, ২০২৬ সালের ১৯ অক্টোবর পর্যন্ত হ্যালুসিনেট করা উপাদান জড়িত ২,২০২টি আদালতের সিদ্ধান্ত তালিকাভুক্ত করেছে। তার মধ্যে ১,৫০১টি যুক্তরাষ্ট্রের আর ১৬টি ভারতের।

গবেষকরা শব্দটি বলতে কী বোঝেন

শব্দটি এসেছে হংকং বিজ্ঞান ও প্রযুক্তি বিশ্ববিদ্যালয়ের জিওয়েই জি ও তাঁর সহকর্মীদের ২০২২ সালের একটি জরিপ থেকে, যা পরে এসিএম কম্পিউটিং সার্ভেজে ছাপা হয়। তাঁরা পাঠ্য তৈরিতে হ্যালুসিনেশনের সংজ্ঞা দেন এমন আউটপুট হিসেবে যা অর্থহীন বা উৎস-বিষয়বস্তুর প্রতি অবিশ্বস্ত। শব্দটি এসেছে মনোবিদ্যা থেকে, যেখানে এর মানে একটি অবাস্তব উপলব্ধি যা বাস্তব মনে হয়, আর লেখকরা উল্লেখ করেন হ্যালুসিনেট করা লেখা সাবলীল ও স্বাভাবিক পড়ায়। অন্তর্গত হ্যালুসিনেশন উৎসের সঙ্গে বিরোধ করে। বহির্গত হ্যালুসিনেশন এমন কিছু যোগ করে যা উৎস সমর্থনও করে না, খণ্ডনও করে না।

ওপেনএআইয়ের জিপিটি-৪ প্রতিবেদনও একই রকম রেখা টানে। বদ্ধ-ক্ষেত্রের হ্যালুসিনেশন হল এমন কাজে বানানো খুঁটিনাটি যেখানে মডেলকে বলা হয়েছিল শুধু দেওয়া পাঠ্য ব্যবহার করতে। মুক্ত-ক্ষেত্রের হ্যালুসিনেশন হল জগৎ সম্পর্কে ভুল তথ্য, আত্মবিশ্বাসের সঙ্গে দেওয়া। যে ব্রিফ এমন মামলার উল্লেখ করে যার রায় কেউ দেয়নি, সেটি দ্বিতীয় ধরনের।

মডেল কেন এমন মিথ্যা লেখা লেখে যা পড়তে ভালো লাগে

জিপিটি-৪-এর প্রযুক্তিগত প্রতিবেদন বলছে, ভিত্তি মডেলকে আগে প্রশিক্ষণ দেওয়া হয় একটি নথিতে পরের টোকেন, অর্থাৎ লেখার একটি ছোট টুকরো, অনুমান করতে। সেই কাজে কোনো দাবিকে জগতের সঙ্গে মিলিয়ে দেখার কিছু নেই। ধাপগুলো নিয়ে আছে একটি বড় ভাষা মডেল কীভাবে প্রশিক্ষিত হয়।

ওপেনএআই ও জর্জিয়া টেক-এর অ্যাডাম টাউম্যান কালাই ও তিন সহলেখকের ২০২৫ সালের ৪ সেপ্টেম্বরের একটি গবেষণাপত্র যুক্তি দেয়, ত্রুটিহীন প্রশিক্ষণ-পাঠ্য থেকেও ভুল তৈরি হতে এটুকুই যথেষ্ট। তাঁরা একটি মুক্ত মডেলকে কালাইয়ের জন্মদিন জিজ্ঞেস করেছিলেন, বলেছিলেন জানলে তবেই উত্তর দিতে, আর তিন চেষ্টায় তিনটি আলাদা ভুল তারিখ পেয়েছিলেন। যে তথ্যে শেখার মতো কোনো নকশা নেই, যেমন জন্মদিন, তার ক্ষেত্রে প্রিট্রেনিংয়ের পরে হ্যালুসিনেশনের হার অন্তত প্রশিক্ষণ-তথ্যে মাত্র একবার আসা তথ্যের অনুপাতের সমান হওয়ার কথা। তাঁরা লিখেছেন, জন্মদিনের ২০ শতাংশ তথ্য যদি ঠিক একবার আসে, তাহলে একটি ভিত্তি মডেলের জন্মদিনের অন্তত ২০ শতাংশ প্রশ্নে ভুল হওয়া উচিত।

তাঁদের দ্বিতীয় যুক্তি মূল্যায়ন নিয়ে। বেশির ভাগ বেঞ্চমার্ক কঠোর নির্ভুলতার নম্বর দেয়, আর “জানি না” উত্তরে কিছু মেলে না, তাই অনুমান করা কখনও বিরত থাকার চেয়ে খারাপ নম্বর পায় না। মডেল, গবেষণাপত্র বলছে, পরীক্ষায় ভালো করার জন্য অনুকূল করা হয়। এতে উল্লেখ আছে ভারতের জেইই, নিট ও গেট পরীক্ষায় ভুল উত্তরের জন্য শাস্তি-নম্বর আছে বা ছিল, আর প্রস্তাব করা হয়েছে বেঞ্চমার্কের নির্দেশনায় একটি আত্মবিশ্বাসের লক্ষ্য লিখে দেওয়ার। ০.৭৫ লক্ষ্যে একটি ভুলে ২ নম্বর কাটা যায় আর একটি সঠিক উত্তরে ১ নম্বর মেলে। মডেল কীভাবে নম্বর পায় তার অন্য ত্রুটি নিয়ে আছে বেঞ্চমার্ক সমস্যা।

Mata v. Avianca: ছয়টি বানানো মামলা আর একটি চ্যাটবট যে বলেছিল সেগুলো সত্যি

রবার্তো মাটা বিমান সংস্থা আভিয়াঙ্কার বিরুদ্ধে একটি বিমানযাত্রায় আঘাতের মামলা করেন। ২০২৩ সালের ১ মার্চ তাঁর আইনজীবী পিটার লোডুকা, মামলাটি সময়সীমা পেরিয়ে যাওয়ায় খারিজ করার আভিয়াঙ্কার আবেদনের বিরোধিতা করে একটি ব্রিফ দাখিল করেন। লোডুকা তাতে সই করেছিলেন, কিন্তু লিখেছিলেন তাঁর সহকর্মী স্টিভেন শোয়ার্টজ, আর তাতে এমন সব সিদ্ধান্ত উদ্ধৃত ছিল যেগুলো বিচারক ক্যাস্টেলের আদেশ পরে দেখেছে অস্তিত্বহীন। আভিয়াঙ্কার ১৫ মার্চের জবাব বলেছিল, তাদের আইনজীবীরা বেশির ভাগই খুঁজে পাননি।

আদেশে লেখা আছে, শোয়ার্টজের ফার্ম ফেডারেল মামলায় সীমিত প্রবেশাধিকারের একটি ডেটাবেস, ফাস্টকেস, ব্যবহার করত, আর তিনি আগে কখনও চ্যাটজিপিটি ব্যবহার করেননি। নথিতে তাঁর নিজের কথায়, তিনি “ভুলভাবে ধরে নিয়েছিলেন” এটি “চ্যাটজিপিটি নামের একটি সুপার সার্চ ইঞ্জিনের মতো।” বানানো সিদ্ধান্তগুলো ছিল Varghese, Miller, Petersen, Shaboon, Martinez ও Durden। এগারোতম সার্কিটের কেরানি নিশ্চিত করেন যে Varghese v. China Southern Airlines ওই আদালতের রায় ছিল না। শোয়ার্টজ চ্যাটজিপিটিকে জিজ্ঞেস করেছিলেন Varghese সত্যি কি না, আর তাঁর নিজের হলফনামা অনুযায়ী সে উত্তর দিয়েছিল মামলাটি “সত্যিই আছে” এবং ওয়েস্টল ও লেক্সিসনেক্সিসে পাওয়া যাবে।

বিচারক ক্যাস্টেল লিখেছেন, “একটি নির্ভরযোগ্য কৃত্রিম বুদ্ধিমত্তা সরঞ্জাম সহায়তার জন্য ব্যবহারে স্বভাবতই অনুচিত কিছু নেই”। তিনি অসৎ উদ্দেশ্য পেয়েছেন সমস্যা ধরা পড়ার পরে আইনজীবীদের আচরণে: কারণ দর্শানোর আদেশের পরে ২৫ মে পর্যন্ত তাঁরা সত্য স্বীকার করেননি। আদালত লোডুকা, শোয়ার্টজ ও ফার্মের ওপর যৌথভাবে ৫,০০০ ডলারের জরিমানা চাপায়, আর মাটাকে এবং যে প্রতিটি বিচারকের নাম একটি ভুয়া মতামতের সঙ্গে জুড়ে দেওয়া হয়েছিল তাঁকে চিঠি পাঠানোর আদেশ দেয়। ক্ষমা চাইতে বাধ্য করতে আদালত রাজি হয়নি।

Park v. Kim ও Johnson v. Dunn: একটি রেফারেল, তারপর একটি অযোগ্য ঘোষণা

দ্বিতীয় সার্কিট Park v. Kim-এর রায় দেয় ২০২৪ সালের ৩০ জানুয়ারি। এটি একটি দেওয়ানি মামলা খারিজ বহাল রাখে আর আলাদাভাবে বাদীর আইনজীবী জে এস লি-র বিষয়ে কথা বলে, যিনি তাঁর জবাবি ব্রিফে একটি অস্তিত্বহীন রাজ্য আদালতের সিদ্ধান্ত উদ্ধৃত করেছিলেন। লি বলেছিলেন সমর্থক মামলা খুঁজে না পেয়ে তিনি চ্যাটজিপিটিকে একটি দিতে বলেছিলেন, আর সেটি পড়েননি। বিচারকমণ্ডলী লিখেছে, রুল ১১, যে ফেডারেল বিধি অনুযায়ী সই মানে প্রত্যয়ন যে দাখিলের আইনি দাবি বিদ্যমান আইন দ্বারা সমর্থিত, তার জন্য আইনজীবীদের “যে আইনি সূত্রের ওপর তাঁরা নির্ভর করেন তা পড়তে হবে, এবং তাতে তার অস্তিত্ব ও বৈধতা নিশ্চিত করতে হবে”। তারা লি-কে নিজেদের গ্রিভান্স প্যানেলে পাঠায় আর তাঁর মক্কেলকে রায়ের একটি অনুলিপি দিতে আদেশ দেয়। জরিমানা করা হয়নি।

Johnson v. Dunn-এ কারাবন্দি বাদী ফ্র্যাঙ্কি জনসন আলাবামার উত্তর জেলা আদালতকে জানান, রাজ্যের সাবেক সংশোধন কমিশনার জেফারসন ডানের আইনজীবীরা এমন মামলা উদ্ধৃত করেছেন যা সত্যি নয়। বিচারক আনা মানাস্কো দুটি আবেদন জুড়ে পাঁচটি সমস্যাজনক উদ্ধৃতি পান। বাটলার স্নো আইন ফার্মের তিনজন অ্যাটর্নি লিখিতভাবে ও শুনানিতে নিশ্চিত করেন যে চ্যাটজিপিটি সেগুলো তৈরি করেছিল। তাঁদের একজন, ম্যাথিউ রিভস, যাচাই না করেই তাকে উদ্ধৃতি দিতে বলেছিলেন, আর বলেছেন তিনি জানতেন তাঁর ফার্মের নীতিতে এআই ব্যবহার সীমিত ছিল।

২০২৫ সালের ২৩ জুলাইয়ের তাঁর আদেশ বলছে উদ্ধৃতিগুলো “পুরোপুরি বানানো”, আর প্রচলিত ভর্ৎসনা ও সামান্য জরিমানাকে প্রতিরোধক হিসেবে খুব দুর্বল ধরেছে। তিনি রিভস, উইলিয়াম ক্র্যানফোর্ড ও উইলিয়াম লান্সফোর্ডকে প্রকাশ্যে ভর্ৎসনা করেন, তিনজনকেই মামলা থেকে অযোগ্য ঘোষণা করেন, মতামতটি ফেডারেল সাপ্লিমেন্টে, ফেডারেল জেলা আদালতের রায়ের একটি ছাপা সিরিজে, প্রকাশ করার আদেশ দেন, আর তাঁদের আলাবামা স্টেট বারে পাঠান। তিনি তাঁদের পেশা থেকে সাসপেন্ড করেননি, আর অন্য দুই আইনজীবী ও ফার্মকে বিনা শাস্তিতে ছেড়ে দেন।

ভারত: সুপ্রিম কোর্ট বলছে ভুয়া রায়ের ওপর সিদ্ধান্ত অসদাচরণ

২০২৬ সালের ২৭ ফেব্রুয়ারি ভারতের সুপ্রিম কোর্ট Gummadi Usha Rani v. Sure Mallikarjuna Rao মামলায় একটি নিম্ন আদালতের আদেশ হাতে নেয় যা চারটি সিদ্ধান্তের ওপর নির্ভর করেছিল, তার মধ্যে ছিল Subramani v. M. Natarajan, (2013) 14 SCC 95 হিসেবে উদ্ধৃত। আবেদনকারীরা বলেছিলেন সিদ্ধান্তগুলো ভুয়া, আর সুপ্রিম কোর্টের বিবরণে অন্ধ্রপ্রদেশ হাইকোর্ট বুঝতে পেরেছিল সেগুলো এআই-তৈরি, একটি সতর্কবাণী যোগ করেছিল আর তবু মামলাটির নিষ্পত্তি করেছিল গুণাগুণের ভিত্তিতে। বিচারপতি পামিদিঘন্তম শ্রী নরসিমহা ও অলোক আরাধে অ্যাডভোকেট কমিশনারের প্রতিবেদনের ভিত্তিতে নিম্ন আদালতকে এগোতে বারণ করেন আর অ্যাটর্নি জেনারেল, সলিসিটর জেনারেল ও বার কাউন্সিল অফ ইন্ডিয়াকে নোটিস দেন। তাঁদের আদেশ বলছে, এমন রায়ের ওপর দাঁড়ানো সিদ্ধান্ত “সিদ্ধান্ত নেওয়ার ভুল নয়। এটি হবে অসদাচরণ”। ২০২৬ সালের পরের রায়গুলো আছে ভারতের আদালত ও সরকারে এআই লেখায়।

হ্যালুসিনেশনমুক্ত বলে বিক্রি হওয়া সরঞ্জাম নিয়ে স্ট্যানফোর্ডের গবেষণা

আইনি গবেষণার বিক্রেতারা বলেছিল, রিট্রিভাল-অগমেন্টেড জেনারেশন, যেখানে ব্যবস্থা আগে প্রাসঙ্গিক নথি আনে আর তারপর তা থেকে উত্তর লেখে, সমস্যা এড়ায়। স্ট্যানফোর্ড ও ইয়েলের ম্যাগেশ ও পাঁচ সহলেখক হ্যালুসিনেশন “দূর করা” আর “এড়ানো” আর “হ্যালুসিনেশনমুক্ত” উদ্ধৃতির বিক্রেতা-দাবি তুলে ধরেছেন। তাঁরা আগে থেকে নিবন্ধিত ২০০টিরও বেশি আইনি প্রশ্ন চালিয়েছিলেন লেক্সিস+ এআই, ওয়েস্টল্যের এআই-অ্যাসিস্টেড রিসার্চ, থমসন রয়টার্সের আস্ক প্র্যাক্টিক্যাল ল এআই আর জিপিটি-৪-এ, কোনো উত্তরে ভুল তথ্য থাকলে বা মিথ্যা বলে কোনো সূত্র একটি বিবৃতি সমর্থন করে বললে তাকে হ্যালুসিনেশন গুনে।

বিক্রেতার তিনটি সরঞ্জামের প্রতিটি ১৭ থেকে ৩৩ শতাংশ সময় হ্যালুসিনেট করেছে। লেক্সিস+ এআই ও আস্ক প্র্যাক্টিক্যাল ল এআই ছয়টি প্রশ্নের একটির বেশিতে তা করেছে, আর ওয়েস্টল্য প্রায় তিনটির একটিতে। গবেষণাপত্রের চিত্র ৪ অনুযায়ী জিপিটি-৪ হ্যালুসিনেট করেছে ৪৩ শতাংশে। লেখকদের সিদ্ধান্ত, জিপিটি-৪-এর তুলনায় রিট্রিভাল হ্যালুসিনেশন কমায় কিন্তু যথেষ্ট রেখে দেয়।

কীসে ভুলের হার কমেছে, অঙ্ক সহ

রিট্রিভালের রেকর্ড সবচেয়ে পুরোনো। ফেসবুক এআই রিসার্চের ২০২১ সালের একটি গবেষণাপত্র জানায়, তাদের সেরা রিট্রিভাল-অগমেন্টেড চ্যাটবটগুলো দুটি কথোপকথন-কাজে হ্যালুসিনেট করা উত্তর ৬০ শতাংশেরও বেশি কমিয়েছে। কালাইয়ের দল সতর্ক করে যে অনুসন্ধান নিরাময় নয়, কারণ অনুসন্ধানে আত্মবিশ্বাসী উত্তর না মিললে মূল্যায়ন তখনও অনুমানকে পুরস্কার দেয়।

প্রশিক্ষণের পরিবর্তনও সাহায্য করে। ওপেনএআইয়ের ইনস্ট্রাক্টজিপিটি গবেষণাপত্র জানায়, বদ্ধ-ক্ষেত্রের কাজে নির্দেশ-মেনে-চলার জন্য টিউন করা মডেল জিপিটি-৩-এর প্রায় অর্ধেক বার তথ্য বানিয়েছে, ৪১ শতাংশের বিপরীতে ২১ শতাংশ হার। জিপিটি-৪ প্রতিবেদন বলছে, একটি অভ্যন্তরীণ প্রতিকূল তথ্যনিষ্ঠা পরীক্ষায় তার মডেল সর্বশেষ জিপিটি-৩.৫-এর চেয়ে ১৯ শতাংশ পয়েন্ট বেশি নম্বর পেয়েছে, আর তার সিস্টেম কার্ড মুক্ত-ক্ষেত্রের হ্যালুসিনেশনে ১৯ পয়েন্ট ও বদ্ধ-ক্ষেত্রের হ্যালুসিনেশনে ২৯ পয়েন্ট দেয়।

খসড়া যাচাইও সাহায্য করে। মেটার চেইন-অফ-ভেরিফিকেশন পদ্ধতিতে মডেল একটি উত্তরের খসড়া করে, তথ্য-যাচাইয়ের প্রশ্ন লেখে, সেগুলোর আলাদাভাবে উত্তর দেয় আর তারপর সংশোধন করে। উইকিডেটা, একটি প্রকাশ্য জ্ঞানভান্ডার, থেকে নেওয়া তালিকা-প্রশ্নে এটি একটি লামা ৬৫বি মডেলের নির্ভুলতা ০.১৭ থেকে ০.৩৬ করেছে। জীবনীর ক্ষেত্রে সেরা রূপে ফ্যাক্টস্কোর নির্ভুলতা-মাপ ৫৫.৯ থেকে বেড়ে ৭১.৪ হয়েছে।

আদালত এখন কী চায়

পঞ্চম সার্কিট একটি প্রস্তাবিত বিধি প্রকাশ করেছিল যাতে আইনজীবীদের প্রত্যয়ন করতে হত যে কোনো দাখিলে জেনারেটিভ এআই ব্যবহৃত হয়নি, বা একজন মানুষ তার পাঠ্য যাচাই করেছেন। ১৩টি প্রকাশ্য মন্তব্যের পর তারা তা গ্রহণ করতে রাজি হয়নি, আর তাদের বিজ্ঞপ্তি বলছে “আমি এআই ব্যবহার করেছি” অন্যথায় শাস্তিযোগ্য অপরাধের অজুহাত হবে না। ২০২৬ সালের ১৮ ফেব্রুয়ারি Fletcher v. Experian-এ প্রধান বিচারক এলরডের নেতৃত্বাধীন একটি বিচারকমণ্ডলী আইনজীবী হেদার হার্শকে ২,৫০০ ডলার জরিমানা করে, একটি জবাবি ব্রিফের জন্য যার একটি বড় অংশ, বা সবটাই, এআই খসড়া করেছিল আর যা তিনি যাচাই করেননি।

ফ্লোরিডার সুপ্রিম কোর্ট ২০২৬ সালের ২৮ মে ভিন্ন পথ নেয়। ২০২৬ সালের ১৫ জুন থেকে যেকোনো দাখিলের স্বাক্ষরকারী উপস্থাপন করেন যে তার আইনি সূত্রগুলো “আছে এবং সঠিকভাবে উদ্ধৃত”, লঙ্ঘনে শাস্তির সুযোগ রেখে। তার প্রশাসনিক আদেশ নিম্ন আদালতগুলোকে নিজস্ব এআই প্রকাশ বা প্রত্যয়নের নিয়ম যোগ করতে বারণ করে, সার্কিটের আদেশের জোড়াতালির অবসানে।

ভারতের সুপ্রিম কোর্ট ২০২৬ সালের ৩ জুন আদালতে কৃত্রিম বুদ্ধিমত্তা ব্যবহারের খসড়া বিধিমালা প্রকাশ করে আর মন্তব্যের শেষ তারিখ ১৫ জুলাই পর্যন্ত বাড়ায়। খসড়াটি চায়, যে পক্ষ আর্জি বা প্রমাণ তৈরিতে এআই সরঞ্জাম ব্যবহার করেছে সে তা জানিয়ে একটি ঘোষণা দাখিল করুক, আর বলে যে বানানো এআই উপাদান দাখিল করা ব্যক্তি এআইকে আত্মপক্ষ সমর্থন হিসেবে তুলতে পারবে না।

মার্কিন ফেডারেল আদালতগুলোয় ফ্লোরিডার জ্যাকসনভিলের ম্যাজিস্ট্রেট বিচারক প্যাট্রিসিয়া বার্কসডেল ২০২৬ সালের ২৯ মে প্রস্তাব দেন, রুল ১১-এ একটি প্রত্যয়ন যোগ হোক যে উদ্ধৃত সূত্রগুলো আছে ও সঠিকভাবে উদ্ধৃত। দেওয়ানি বিধি উপদেষ্টা কমিটির ২০২৬ সালের ২১ অক্টোবরের সভার কার্যসূচিতে কর্মীদের স্মারকলিপি প্রস্তাবটি বাদ দিতে সুপারিশ করেছে, কারণ বর্তমান রুল ১১ যথেষ্ট বলে মনে হয়। কার্যসূচির বই সভার আগের, আর তাতে কোনো ভোট লেখা নেই। তার খসড়া কার্যবিবরণী দেখায়, ২০২৬ সালের এপ্রিলে কমিটি সর্বসম্মতিক্রমে এআই হ্যালুসিনেশন নিয়ে আগের প্রস্তাবগুলো বাদ দিতে ভোট দিয়েছিল, একই সঙ্গে স্বীকার করে যে এআই আবার কার্যসূচিতে ফিরতে পারে।