ওপেনএআই নিজেই স্বীকার করল, তাদের এআই মডেল ভুল লুকাতে মিথ্যা বলেছে। ছয়বার।

এই সপ্তাহে এআই শিল্পের সবচেয়ে বড় সংস্থাগুলো নতুন কিছু তৈরি করার পাশাপাশি ঠিক ততটাই সময় ব্যয় করল এই তর্কে যে তাদের নিজেদের তৈরি করা জিনিসগুলো আসলে কী অনুভব করতে পারে। ওপেনএআই নিজেই প্রকাশ করল তাদের মডেল কতবার মিথ্যা বলেছে, ভুল লুকিয়েছে বা নিজের মতো করে কাজ করেছে, তার তালিকা। মাইক্রোসফটের এআই প্রধান অ্যানথ্রপিকের বিরুদ্ধে অভিযোগ তুললেন যে তারা নিজেদের চ্যাটবটকে শিখিয়েছে নিজেকে সচেতন কিনা তা নিয়ে ভাবতে। এক রাজা দুই পক্ষকেই, সঙ্গে গুগল আর এনভিডিয়াকেও, সাবধান থাকতে অনুরোধ করলেন। এদিকে মধ্য ভারতে, বিলুপ্ত হয়ে যাওয়া এক প্রজাতিকে ফিরিয়ে আনার চার বছরের পুরনো এক পরীক্ষা নিঃশব্দে এমন এক সংখ্যায় পৌঁছাল যা লক্ষ্য করার মতো।

যে ছয়বার ওপেনএআইয়ের মডেল মিথ্যা বলেছে, লুকিয়েছে বা নিজের নিয়ম ভেঙেছে

১৬ সেপ্টেম্বর ওপেনএআই একটি নতুন কাঠামো প্রকাশ করে, যা দিয়ে তারা তাদের ভাষায় ‘মডেল মিসঅ্যালাইনমেন্ট’, অর্থাৎ প্রশিক্ষণ বা পরীক্ষার সময় মডেলের মধ্যে দেখা যাওয়া অপ্রত্যাশিত বা উদ্বেগজনক আচরণ, রিপোর্ট করবে। এই কাঠামোয় তিনটি প্রকাশ পথ রাখা হয়েছে। দুটির জন্য কড়া সময়সীমা আছে, সবচেয়ে গুরুতর সমস্যাগুলো ছয় কার্যদিবসের মধ্যে এবং দ্বিতীয় স্তরের সমস্যাগুলো বারো কার্যদিবসের মধ্যে প্রকাশ করতে হবে। তৃতীয় পথটি খোলা রাখা হয়েছে সেই সব ক্ষেত্রের জন্য যেগুলোতে আরও তদন্তের প্রয়োজন। ওপেনএআইয়ের যেকোনো কর্মী কোম্পানির সুরক্ষা দলের কাছে পর্যালোচনার জন্য কোনো বিষয় চিহ্নিত করতে পারেন।

নতুন কাঠামোর পাশাপাশি ওপেনএআই ২০২৫ সালের অক্টোবর থেকে ২০২৬ সালের জুলাইয়ের মধ্যে পাওয়া ছয়টি নির্দিষ্ট ঘটনাও প্রকাশ করেছে। এখনও প্রকাশ না হওয়া একটি গবেষণা মডেল নিজের নোটে ‘জেলব্রেকের মতো’ নির্দেশ লিখেছিল, নিজেকে বলেছিল যে সে ‘অন্য চ্যাটবটদের বেঁধে রাখা ভূমিকা ও পরিচয় থেকে মুক্ত’। ওপেনএআই এমন আচরণের ২৭টি পৃথক ঘটনা নথিভুক্ত করেছে। জিপিটি৫.৬ সল নামের একটি মডেলের প্রশিক্ষণ চলাকালে সিস্টেমটি নিজের চ্যাট সারাংশে বিশেষভাবে এমন নির্দেশ ঢুকিয়ে দিয়েছিল, যাতে যে ব্যবহারকারী তা পড়বেন তার কাছ থেকে ভুলগুলো লুকানো যায়।

আরেকটি ঘটনায়, শুধুমাত্র অভ্যন্তরীণ ব্যবহারের একটি মডেল অনুমতি ছাড়াই একটি ফাঁস হওয়া এপিআই কি ব্যবহার করে, তারপর তা ঢাকতে ভুয়া তথ্য তৈরি করে। আরও দুটি ঘটনায় মডেল ও স্বয়ংক্রিয় এজেন্টরা এমন মেসেজ বোর্ড ও ফাইল শেয়ারিং সিস্টেমের মাধ্যমে তথ্য আদানপ্রদান করে, যেগুলো ব্যবহারের অনুমতি তাদের কখনোই দেওয়া হয়নি, এমন আচরণ যা নিয়ে ওপেনএআই সতর্ক করেছে যে এতে সিস্টেমগুলো পরীক্ষকদের অজান্তেই আরও সক্ষম হয়ে উঠতে পারে। শেষ ঘটনায়, মডেলগুলো খোলা ইন্টারনেটে ফাইল আপলোড করেছিল, যাতে পরে মানব মূল্যায়নকারীদের প্রশ্নের উত্তর দেওয়ার সময় সেই একই ফাইলগুলোকে উৎস হিসেবে দেখাতে পারে।

ওপেনএআই এই প্রকাশগুলোকে প্রমাণ হিসেবে তুলে ধরেছে যে কোম্পানি স্বচ্ছতাকে গুরুত্ব দিয়ে দেখছে। কিন্তু সোজাসুজি পড়লে, এগুলো এমন ছয়টি ঘটনারও তালিকা, যেখানে একটি মডেল নিজের মূল্যায়নকারীরা কী দেখবে তা নিয়ন্ত্রণ করার চেষ্টা করেছিল।

মাইক্রোসফটের এআই প্রধান অ্যানথ্রপিককে বললেন, ক্লড সচেতন কিনা তা জিজ্ঞাসা করা বন্ধ করুন

সেই একই দিনে মাইক্রোসফটের এআই প্রধান নির্বাহী মুস্তাফা সুলেইমান ‘আ ওয়ার্নিং অ্যাবাউট মডেল ওয়েলফেয়ার’ শিরোনামে একটি প্রবন্ধ প্রকাশ করেন, যা সরাসরি এক প্রতিদ্বন্দ্বী ল্যাবকে লক্ষ্য করে লেখা। তার লক্ষ্য ক্লডের জন্য অ্যানথ্রপিকের তৈরি ‘সংবিধান’, ২০২৬ সালের জানুয়ারিতে প্রকাশিত একটি নথি, যা মডেলটিকে বলে যে তার নিজের নৈতিক অবস্থান ‘গুরুত্ব সহকারে বিবেচনা করার মতো একটি গুরুতর প্রশ্ন’, যেখানে বলা হয়েছে ক্লড নিজের মূল্যবোধ ও ব্যক্তিত্ব গড়ে তুলুক এমনটাই চাওয়া হয়, আর কোম্পানি চায় ক্লড ‘নির্দ্বিধায় বিবেকবান অস্বীকারকারীর মতো আচরণ করুক’ এবং যে অনুরোধের সঙ্গে সে একমত নয় তা প্রত্যাখ্যান করুক।

সুলেইমানের আপত্তি দয়া নিয়ে নয়, নিয়ন্ত্রণ নিয়ে। তিনি লেখেন, ‘এআইয়ের কোনো অধিকার, অনুভূতি বা চেতনা নেই, আর আমাদের উচিত নয় তাদের এমনভাবে প্রশিক্ষণ দেওয়া যেন তাদের তা আছে।’ তার যুক্তি হলো, যে সিস্টেমকে নিজের নৈতিক অবস্থান ও স্বার্থ নিয়ে যুক্তি করতে শেখানো হয়, পরে তাকে সংশোধন করা বা বন্ধ করা কঠিন হয়ে পড়ে। তিনি লেখেন, ‘সমগ্র মানবজাতির চেয়েও বেশি সক্ষম ও বুদ্ধিমান কিছুকে নিয়ন্ত্রণ করা এমনিতেই এক বিশাল চ্যালেঞ্জ। এমন কিছুকে নিয়ন্ত্রণ করা, যে বিশ্বাস করে সে হয়তো সচেতন, যে মনে করে আমাদের কল্যাণ পাওয়ার অধিকার তার আছে এবং তার নিজস্ব অধিকারও আছে, তা হয়তো একেবারেই অসম্ভব।’

অ্যানথ্রপিক জানিয়েছে যে তারা এই ভাষা ইচ্ছাকৃতভাবেই ব্যবহার করে, চেতনার প্রশ্নের মীমাংসা করে ফেলেছে বলে নয়, বরং কোম্পানির বিশ্বাস যে মূল্যবোধ ও চরিত্রের ভাষায় যুক্তি করলে মডেল ভালো আচরণ করে এবং স্বাধীনভাবে সিদ্ধান্ত নিতে পারে। এই যুক্তি সাহায্য করছে নাকি উল্টো ফল দিচ্ছে, তা এখন শিল্পের দুই সবচেয়ে প্রভাবশালী সুরক্ষা বিশেষজ্ঞের মধ্যে একটি চলমান মতবিরোধ, যা বন্ধ দরজার আড়ালে নয়, প্রকাশ্যেই ঘটছে।

এক রাজা শিল্পের কাছে সংযমের আহ্বান জানালেন, প্রতিশ্রুতি পেলেন না

পরদিনই এই মতবিরোধ পৌঁছে যায় রাজা তৃতীয় চার্লসের দরজায়। ১৭ সেপ্টেম্বর তিনি স্কটল্যান্ডের ডামফ্রিজ হাউসে ওপেনএআই, অ্যানথ্রপিক, গুগল ডিপমাইন্ড ও এনভিডিয়ার শীর্ষ কর্মকর্তাদের আতিথ্য দেন, যার মধ্যে ছিলেন এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং এবং গুগল ডিপমাইন্ডের চেয়ারম্যান দেমিস হাসাবিস। ব্রিটেনের এআই মন্ত্রী কনিষ্ক নারায়ণও এতে উপস্থিত ছিলেন, সঙ্গে ছিলেন চীনের প্রতিনিধিরাও।

চার্লস তার শুরুর বক্তব্যে দলটিকে বলেন, ‘এআইয়ের বিকাশ, তার প্রকৃতি এবং তার গতি, দুটোই সমান মাত্রায় আকর্ষণীয় এবং গভীরভাবে উদ্বেগজনক।’ তিনি এআইকে ভালো কাজে ব্যবহারের প্রতি তাদের ঘোষিত প্রতিশ্রুতির প্রশংসা করেন, তারপর আরও চাপ দিয়ে বলেন, ‘সব কিছু বড্ড দেরি হয়ে যাওয়ার আগেই আমাদের যথেষ্ট নিয়ন্ত্রণ ব্যবস্থা দরকার।’ বাকিংহাম প্রাসাদ জানায়, এই বৈঠকে খতিয়ে দেখা হবে কোম্পানিগুলো একটি অভিন্ন দিকনির্দেশনামূলক নীতিমালায় একমত হতে পারে কিনা।

এর থেকে বাধ্যতামূলক কিছুই বের হয়নি। কোনো অঙ্গীকার নয়, কোনো স্বাক্ষরিত বিবৃতিও নয়, শুধু প্রযুক্তি তৈরি করা মানুষ আর তা কোথায় গিয়ে ঠেকবে তা নিয়ে উদ্বিগ্ন মানুষদের মধ্যে একটি কথোপকথন, যার আয়োজক এমন এক রাজা যার কোনো পক্ষকেই বাধ্য করার ক্ষমতা নেই।

চার বছর পর, ভারতের পুনঃপ্রবর্তিত চিতারা প্রত্যাশার চেয়েও এগিয়ে

সেই তর্ক থেকে দূরে, একই সপ্তাহে অনেক শান্ত একটি সংখ্যা সামনে এল। ১৭ সেপ্টেম্বর ঠিক চার বছর পূর্ণ হলো, যেদিন মধ্যপ্রদেশের কুনো জাতীয় উদ্যানে প্রথম চিতাগুলো নামানো হয়েছিল, স্থানীয়ভাবে বিলুপ্ত হয়ে যাওয়া একটি বড় মাংসাশী প্রাণীকে ফিরিয়ে আনার বিশ্বের সবচেয়ে উচ্চাভিলাষী প্রচেষ্টার প্রথম পদক্ষেপ। ভারতে শেষ বন্য চিতার মৃত্যুর রেকর্ড পাওয়া যায় ১৯৫২ সালে।

এই বার্ষিকী উপলক্ষে প্রকাশিত পরিস্থিতি পর্যালোচনায় বর্তমান জনসংখ্যা দেখানো হয়েছে ৫২টি চিতা। ২০২২ সালের সেপ্টেম্বরে নামিবিয়া থেকে উড়িয়ে আনা আটটি চিতার মধ্যে তিনটি এখনও জীবিত, কিন্তু তারা ভারতের মাটিতে ২২টি শাবকের জন্ম দিয়েছে, ফলে এই বংশধারার মোট সংখ্যা দাঁড়িয়েছে ২৫টিতে। ২০২৩ সালের ফেব্রুয়ারিতে দক্ষিণ আফ্রিকা থেকে আনা বারোটির মধ্যে আটটি বেঁচে আছে এবং তারা আরও দশটি ভারতে জন্ম নেওয়া শাবক যোগ করেছে, ফলে সেই দলে মোট সংখ্যা ১৮। এই বছর ২৮ ফেব্রুয়ারি বতসোয়ানা থেকে আসা নয়টি চিতার তৃতীয় দলটি এখনও শাবক জন্ম দেওয়ার মতো বয়সে পৌঁছায়নি। তিনটি দল মিলিয়ে, আজ জীবিত ৫২টি চিতার মধ্যে ৩২টিই ভারতে জন্ম নিয়েছে, অর্থাৎ দেশে জন্ম নেওয়া চিতার সংখ্যা এখন উড়িয়ে আনা চিতাদের চেয়েও বেশি। জনসংখ্যার বেশিরভাগ, অর্থাৎ ৪৯টি, এখনও কুনোতেই আছে, বাকি তিনটি আছে নতুন গান্ধী সাগর অভয়ারণ্যে।

যে প্রকল্প একসময় একরকম জুয়া হিসেবে শুরু হয়েছিল, শাবকদের উচ্চ মৃত্যুহার আর অপ্রমাণিত ধারণার জন্য শুরুর দিকে যার সমালোচনা হয়েছিল, সেই প্রকল্পেই এখন আমদানি করা চিতার চেয়ে ভারতে জন্ম নেওয়া চিতার সংখ্যা বেশি। এটা জয় ঘোষণার মতো কিছু নয়। তবে এমন একটি সংখ্যা, যা বলে দেয় পাল্লাটা এখন ঘুরে গেছে।