এআই-কে নিরাপদ রাখার দায়িত্বে থাকা মানুষরাই চাকরি ছেড়ে দিলেন, যাতে বাইরে থেকে নজর রাখতে পারেন

এক সপ্তাহ আগে, তিনটি প্রতিদ্বন্দ্বী এআই কোম্পানির প্রধান প্রকাশ্যে একমত হয়েছিলেন যে শিল্পকে ধীর হতে হবে। এই সপ্তাহে দেখা গেল, ভেতর থেকে এর আসল রূপ কেমন। ফ্রন্টিয়ার এআই মডেলে বিপদ ধরার পুরো কাজ যাদের ছিল, সেই তিনজন গবেষক নিজেদের কোম্পানির পদক্ষেপের জন্য অপেক্ষা না করে চাকরি ছেড়ে দিলেন। মাইক্রোসফ্টের সিইও নিজের কোম্পানির মডেলের জন্য একটি প্রকাশ্য আচরণবিধি প্রকাশ করে জবাব দিলেন, আর বিশ্বের দুই ডজন শীর্ষ গণিতবিদ বললেন যে শিল্প এখন এত দ্রুত এগোচ্ছে যে তাদের ক্ষেত্র তা যাচাই করতেই পারছে না। এই সবকিছু থেকে দূরে, মেক্সিকোয় এক তিরন্দাজ ভারতের জন্য সম্পূর্ণ ভিন্ন ধরনের ইতিহাস লিখলেন।

এআই-এর বিপদের ওপর নজর রাখা মানুষরাই চাকরি ছাড়ছেন

৮ সেপ্টেম্বর, জ্যাকব কক্সন পদত্যাগের ঘোষণা দিলেন। তিনি প্রায় তিন বছর ধরে প্রথমে ওপেনএআই ও পরে অ্যানথ্রপিকে প্রি-ট্রেনিং গবেষণা করেছেন। এক্স-এ সাত পর্বের একটি বার্তায়, যা রাতারাতি প্রায় ৭ কোটি ৬০ লাখ বার দেখা হয়, তিনি লিখলেন যে দুটি কোম্পানিই “সরাসরি স্ব-উন্নয়নশীল সুপারইন্টেলিজেন্সের দিকে দৌড়াচ্ছে এবং আমাদের জীবন নিয়ে জুয়া খেলছে,” এবং এই প্রযুক্তি বানানো মানুষরা “সত্যিকারের বিশ্বাস করেন যে এটি এই দশক শেষ হওয়ার আগেই আমাদের সবাইকে শেষ করে দিতে পারে।”

তিন দিন পর, জো বেন্টন জানালেন যে তিনিও পদত্যাগ করেছেন। তিনি অ্যানথ্রপিকে একটি সুরক্ষা গবেষণা দলের নেতৃত্ব দিতেন, আর এ নিয়ে তার প্রথম সাক্ষাৎকার দিলেন এনবিসি নিউজকে। তিনি বললেন যে কোম্পানিগুলো এখন এআই ঝুঁকি সম্পর্কে তথ্য দেয় শুধু তখনই, যখন তাদের ইচ্ছা হয়। বেন্টন বললেন, “এই মুহূর্তে, এই ঝুঁকিগুলো নিয়ে কোম্পানিগুলোর কাছ থেকে যতটুকু স্বচ্ছতা আসছে, তা পুরোপুরি স্বেচ্ছামূলক,” এবং যোগ করলেন যে কোনো কোম্পানির ভেতরে থাকার চেয়ে “এসব কোম্পানির বাইরে থেকে প্রকাশ্য স্বচ্ছতাকে উৎসাহ দিয়ে” তিনি বেশি ভালো কাজ করতে পারবেন বলে মনে করেন। এক-দুদিন পর, গুগল ডিপমাইন্ডের এজিআই সুরক্ষা দলে কাজ করা জশ এঙ্গেলস জানালেন যে তিনি আসলে তিন সপ্তাহ আগেই চলে গিয়েছিলেন, এবং যাওয়ার সময় অ্যানথ্রপিক ও ওপেনএআই দুটোরই চাকরির প্রস্তাব প্রত্যাখ্যান করেছিলেন। এঙ্গেলস সাংবাদিকদের বললেন যে আগামী পাঁচ বছরে এআই সিস্টেম গুরুতর ক্ষতি করতে পারে, এমন একটি “ভয়ংকর সম্ভাবনা” তিনি দেখছেন।

এই তিনজনই এখন একই জায়গায় যাচ্ছেন: মেটার, অর্থাৎ মডেল ইভ্যালুয়েশন অ্যান্ড থ্রেট রিসার্চ নামের বার্কলে-ভিত্তিক একটি অলাভজনক সংস্থা, যা ফ্রন্টিয়ার এআই সিস্টেমের বিপজ্জনক বা স্বায়ত্তশাসিত ক্ষমতা পরীক্ষা করে, যেসব কোম্পানি এগুলো বানায় তাদের হয়ে নয়, বরং সরকার ও জনসাধারণের হয়ে। তাদের পরিচয়ই হলো স্বাধীনতা, আর এই সপ্তাহের পর তাদের সঙ্গে যুক্ত হলেন এমন তিনজন মানুষ, যারা একসময় ঠিক সেই ল্যাবগুলোর বেতনে কাজ করতেন যেগুলোর ওপর তারা এখন নজর রাখবেন।

মাইক্রোসফ্টের জবাব: চাকরি ছাড়ার বদলে নিয়ম প্রকাশ করা

১৩ সেপ্টেম্বর, মাইক্রোসফ্টের সিইও সত্য নাদেলা এই একই বিতর্কের জবাব দিলেন সম্পূর্ণ আলাদা উপায়ে। এক্স-এ একটি পোস্টে তিনি লিখলেন, “সুপারইন্টেলিজেন্সের যেকোনো অন্বেষণের ভিত্তি হতে হবে এই মূল নীতির ওপর যে, আমরা যে এআই বানাচ্ছি তা যদি মানবতার সাহায্য না করে এবং মানুষের নিয়ন্ত্রণে না থাকে, তবে তা বানানোর কোনো মানে নেই।” পদত্যাগ করা বা বাইরে থেকে শিল্পের ওপর চাপ দেওয়ার বদলে, নাদেলা বললেন যে মাইক্রোসফ্ট তাদের নিজস্ব এমএআই মডেলগুলোকে কীভাবে প্রশিক্ষণ, পরীক্ষা ও মোতায়েন করা হয়, তার জন্য একটি আচরণবিধি প্রকাশ করবে, যা ১৪ সেপ্টেম্বর থেকে জনসাধারণের মতামতের জন্য খোলা থাকবে।

তিনি যুক্তি দিলেন যে শিল্পকে সুরক্ষার প্রতিশ্রুতিকে তার ভাষায় “ঠোস কার্যকরী প্রক্রিয়ায়” পরিণত করতে হবে, এবং এমন ধারণাও তুলে ধরলেন যে বাইরের মূল্যায়নকারীদের এমন নিয়মিত প্রবেশাধিকার দেওয়া হোক, যাতে তারা কোনো কোম্পানির সুরক্ষা দাবি তার কথা বিশ্বাস না করে বাস্তবে যাচাই করতে পারেন। তিনজন গবেষকের চাকরি ছাড়ার চেয়ে এটি একটি নরম জবাব, কিন্তু তবু এটি একজন বড় এআই কোম্পানির প্রধানের প্রকাশ্যে এই কথা মেনে নেওয়া যে শুধু নিজের ওপর ভরসা করে চলাই যথেষ্ট নয়।

পঁচিশ জন ফিল্ডস মেডেলজয়ী বললেন, এআই গণিতের নিয়ম ভাঙছে

এআই ল্যাবের ওপর চাপ শুধু তাদের প্রাক্তন কর্মীদের কাছ থেকেই আসছে না। ১৫ আগস্ট, নিউ ইয়র্ক ইউনিভার্সিটির গণিতবিদ ট্রিস্তান বাকমাস্টার এবং অ্যানথ্রপিকের গবেষক লেভেন্ট আলপোগে প্রমাণ করলেন যে অয়লার সমীকরণের একটি রূপ বিশৃঙ্খলা (সিঙ্গুলারিটি) তৈরি করতে পারে, যা আগে দিয়েগো কর্দোবা এবং লুইস মার্টিনেজ জোরোয়া তৈরি করা একটি পদ্ধতির ওপর ভিত্তি করে গড়ে উঠেছিল। এই অপ্রকাশিত কাজের খবর একই সপ্তাহে ওপেনএআই-এর কাছে পৌঁছে যায়, আর পরের সপ্তাহান্তের মধ্যেই সেবাস্তিয়ান বুবেকের নেতৃত্বে একটি দল, যিনি ওপেনএআই-এর গণিত গবেষণার প্রধান, একই যুক্তিকে এগিয়ে নিয়ে গিয়ে সম্পূর্ণ নেভিয়ার-স্টোকস সমীকরণের একটি প্রমাণ তৈরি করে ফেলেন। এটি গণিতের সাতটি মিলেনিয়াম প্রাইজ সমস্যার একটি, যা সমাধান করলে ১০ লাখ ডলার পুরস্কার পাওয়া যায়।

ওপেনএআই ৮ সেপ্টেম্বর এই ফলাফল ঘোষণা করে, জানায় যে তাদের একটি অপ্রকাশিত মডেল প্রায় ১০ হাজার এআই এজেন্টকে ৮৮ ঘণ্টা ধরে একসঙ্গে কাজে লাগিয়ে এই প্রমাণ তৈরি করেছে। বাকমাস্টার প্রকাশ্যে ওপেনএআই-কে অভিযুক্ত করলেন যে তারা তার সহযোগীর কৃতিত্ব কেড়ে নেওয়ার চেষ্টা করেছে এবং তাকে চুপ থাকতে চাপ দিয়েছে। ওপেনএআই বলছে তাদের গবেষক ও এজেন্টরা বাকমাস্টার ও আলপোগের অপ্রকাশিত কাজ সরাসরি কখনো দেখেননি, যদিও কোম্পানি স্বীকার করেছে যে তাদের নিজস্ব প্ল্যাটফর্মের পরিচয়হীন ব্যবহারের তথ্য তাদের সিস্টেমকে এই একই খোলা সমস্যার দিকে ইঙ্গিত করে থাকতে পারে।

ওপেনএআই-এর ঘোষণার তিন দিন পর, গণিত জগতের সর্বোচ্চ সম্মান ২৫ জন ফিল্ডস মেডেলজয়ী একটি যৌথ বিবৃতি প্রকাশ করে বললেন যে এআই কোম্পানি ও গণিত সম্প্রদায়ের লক্ষ্য “গুরুতরভাবে বেমানান” হয়ে গেছে। তাদের অভিযোগ এই নয় যে গণিতে এআই-এর কোনো জায়গা নেই। অভিযোগ হলো, কোম্পানিগুলো এত দ্রুত গতিতে নতুন আবিষ্কার ঘোষণা করছে যে কেউ তা যাচাই করতেই পারছে না, আর এই তাড়াহুড়োয় তারা লেখা, কৃতিত্ব দেওয়া ও সমকক্ষ পর্যালোচনার মতো বিষয়গুলো এড়িয়ে যাচ্ছে, যেগুলোর ওপর ভরসা করেই এই ক্ষেত্র কোনো ফলাফলকে বিশ্বাসযোগ্য বলে ধরে। এই বিবৃতিতে সই করা ফিল্ডস মেডেলজয়ী টেরেন্স তাও একে সহজ ভাষায় বললেন: “আমরা এখন দেখেছি যে কেউ একটি সমস্যা নিয়ে কাজ করছে, এই গুজবও এত বিপুল পরিমাণ এআই-চালিত প্রচেষ্টাকে উসকে দিতে পারে যে মূল গবেষণা প্রকল্পটি নিজের পূর্ণ সম্ভাবনায় পৌঁছানোর আগেই তা চ্যাপ্টা হয়ে যায়।“

ভারতের তিরন্দাজ অবশেষে পেলেন সোনা

এআই শিল্পের এই নিজেদের মধ্যে বিতর্ক থেকে অনেক দূরে, ২৫ বছর বয়সী ধীরাজ বোম্মাদেভারা ভারতকে দিলেন এমন একটি উদযাপনের মুহূর্ত, যাতে কোনো শর্ত জড়িয়ে নেই। মেক্সিকোর সালটিলোতে অনুষ্ঠিত আর্চারি ওয়ার্ল্ড কাপ ফাইনালে, তিনি পুরুষদের রিকার্ভ ফাইনালে জাপানের নাকানিশি জুনিয়ার মুখোমুখি হন। ম্যাচটি এতটাই সমানে-সমান ছিল যে তা শুট-অফ পর্যন্ত গড়ায়। বোম্মাদেভারা নিজের স্নায়ু ধরে রেখে নির্ণায়ক তিরে ১০ স্কোর করেন, যেখানে নাকানিশি পান ৯, আর এভাবেই তিনি সোনা জিতে নেন।

এর ফলে তিনি আর্চারি ওয়ার্ল্ড কাপ ফাইনালে একক শিরোপা জেতা প্রথম ভারতীয় পুরুষ হয়ে ওঠেন, এবং যেকোনো লিঙ্গের মধ্যে এমনটা করা দ্বিতীয় ভারতীয় হয়ে ওঠেন। এর আগে ২০০৭ সালে দুবাইয়ে মহিলাদের রিকার্ভ শিরোপা জিতেছিলেন দোলা ব্যানার্জী। সেই তালিকায় দ্বিতীয় নাম যুক্ত হতে ঊনিশ বছর লেগে গেল, আর বোম্মাদেভারা যে ফাইনালে এই কীর্তি গড়লেন, তার চেয়ে কঠিন উপায়ে এটা অর্জন করা যেত না।