एआई को सुरक्षित रखने का काम करने वाले लोगों ने ही इस्तीफा दे दिया, ताकि वे बाहर से नजर रख सकें

एक हफ्ते पहले, तीन प्रतिद्वंद्वी एआई कंपनियों के प्रमुखों ने सार्वजनिक रूप से एक बात पर सहमति जताई थी कि उद्योग को धीमा होना चाहिए। इस हफ्ते पता चला कि इसका असली मतलब भीतर से कैसा दिखता है। फ्रंटियर एआई मॉडलों में खतरा पकड़ने का पूरा काम जिन तीन शोधकर्ताओं का था, उन्होंने अपनी कंपनियों के कदम उठाने का इंतज़ार करने के बजाय इस्तीफ़ा दे दिया। माइक्रोसॉफ्ट के सीईओ ने अपनी ही कंपनी के मॉडलों के लिए एक सार्वजनिक आचार संहिता जारी करके जवाब दिया, और दुनिया के दो दर्जन शीर्ष गणितज्ञों ने कहा कि उद्योग अब इतनी तेज़ी से आगे बढ़ रहा है कि उनका क्षेत्र उसकी जांच तक नहीं कर पा रहा। इस सबसे दूर, मेक्सिको में एक तीरंदाज़ ने भारत के लिए बिल्कुल अलग तरह का इतिहास लिख दिया।

एआई के खतरे पर नज़र रखने वाले लोग ही कंपनी छोड़ रहे हैं

8 सितंबर को, जैकब कॉक्सन ने इस्तीफ़े का ऐलान किया। वे करीब तीन साल तक पहले ओपनएआई और फिर एंथ्रोपिक में प्रीट्रेनिंग रिसर्च करते रहे थे। एक्स पर सात हिस्सों में लिखे संदेश में, जिसे रातोंरात करीब 7.6 करोड़ बार देखा गया, उन्होंने लिखा कि दोनों कंपनियां “सीधे खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की ओर दौड़ लगा रही हैं और हमारी जिंदगी को दांव पर लगा रही हैं,” और यह कि यह तकनीक बनाने वाले लोग “दिल से मानते हैं कि यह दशक खत्म होने तक हम सबको खत्म कर सकती है।”

तीन दिन बाद, जो बेंटन ने बताया कि उन्होंने भी इस्तीफ़ा दे दिया है। वे एंथ्रोपिक में एक सुरक्षा शोध टीम का नेतृत्व करते थे, और इस बारे में उन्होंने अपना पहला इंटरव्यू एनबीसी न्यूज़ को दिया। उन्होंने कहा कि कंपनियां अभी एआई के खतरों की जानकारी तभी देती हैं जब उनका मन करे। बेंटन ने कहा, “फिलहाल, इन खतरों के बारे में कंपनियों से जो भी पारदर्शिता आ रही है, वह पूरी तरह स्वैच्छिक है,” और यह भी जोड़ा कि उन्हें लगता है कि किसी कंपनी के भीतर रहने के बजाय “इन कंपनियों के बाहर से सार्वजनिक पारदर्शिता को बढ़ावा देकर” वे ज़्यादा भला कर सकते हैं। एक-दो दिन बाद, गूगल डीपमाइंड की एजीआई सुरक्षा टीम में काम कर चुके जोश एंगेल्स ने बताया कि वे असल में तीन हफ्ते पहले ही जा चुके थे, और जाते-जाते उन्होंने एंथ्रोपिक और ओपनएआई, दोनों की नौकरी की पेशकश ठुकरा दी थी। एंगेल्स ने पत्रकारों से कहा कि उन्हें लगता है कि अगले पांच साल में एआई सिस्टम गंभीर नुकसान पहुंचा सकते हैं, और इसकी “डरावनी हद तक संभावना” है।

ये तीनों अब एक ही जगह जा रहे हैं: मेटर, यानी मॉडल इवैल्यूएशन एंड थ्रेट रिसर्च नाम की बर्कले स्थित एक गैर-लाभकारी संस्था, जो फ्रंटियर एआई सिस्टम को उन कंपनियों की ओर से नहीं बल्कि सरकारों और आम जनता की ओर से खतरनाक या स्वायत्त क्षमताओं के लिए परखती है जो उन्हें बनाती हैं। इसकी पहचान ही उसकी स्वतंत्रता है, और इस हफ्ते के बाद उसके पास तीन और लोग आ गए हैं जो कभी उन्हीं प्रयोगशालाओं की तनख्वाह पर काम करते थे, जिन पर अब वे नज़र रखेंगे।

माइक्रोसॉफ्ट का जवाब: इस्तीफ़ा देने के बजाय नियम प्रकाशित करना

13 सितंबर को, माइक्रोसॉफ्ट के सीईओ सत्य नडेला ने इसी बहस का जवाब बिल्कुल अलग तरीके से दिया। एक्स पर एक पोस्ट में उन्होंने लिखा, “सुपरइंटेलिजेंस की किसी भी कोशिश की बुनियाद इसी मूल सिद्धांत पर होनी चाहिए कि अगर हम जो एआई बना रहे हैं वह मानवता की मदद नहीं कर रहा और मानवीय नियंत्रण में नहीं है, तो उसे बनाने का कोई मतलब नहीं।” इस्तीफ़ा देने या बाहर से उद्योग पर दबाव बनाने के बजाय, नडेला ने कहा कि माइक्रोसॉफ्ट अपने खुद के एमएआई मॉडलों को प्रशिक्षित करने, परखने और तैनात करने के तरीकों को लेकर एक आचार संहिता प्रकाशित करेगा, जिसे 14 सितंबर से सार्वजनिक राय के लिए खोल दिया जाएगा।

उन्होंने कहा कि उद्योग को सुरक्षा के वादों को उन चीज़ों में बदलना होगा जिन्हें उन्होंने “ठोस परिचालन तंत्र” कहा, और यह विचार भी रखा कि बाहरी मूल्यांकनकर्ताओं को इतनी लगातार पहुंच दी जाए कि वे किसी कंपनी के सुरक्षा दावों को उसकी बात पर भरोसा करने के बजाय असल में जांच सकें। यह तीन शोधकर्ताओं के इस्तीफ़े जितना बड़ा कदम नहीं है, लेकिन फिर भी यह एक बड़ी एआई कंपनी के प्रमुख का सार्वजनिक रूप से यह मान लेना है कि अकेले खुद पर निगरानी रखना काफी नहीं है।

पच्चीस फील्ड्स मेडलिस्ट विजेताओं ने कहा, एआई गणित के नियम तोड़ रहा है

एआई प्रयोगशालाओं पर दबाव सिर्फ उनके पूर्व कर्मचारियों की ओर से नहीं आ रहा। 15 अगस्त को, न्यूयॉर्क यूनिवर्सिटी के गणितज्ञ ट्रिस्टन बकमास्टर और एंथ्रोपिक के शोधकर्ता लेवेंट अल्पोगे ने साबित किया कि यूलर समीकरणों का एक रूप विलक्षणताएं (सिंगुलैरिटीज़) विकसित कर सकता है, जो पहले डिएगो कोर्दोबा और लुइस मार्टिनेज़ ज़ोरोआ के तैयार किए तरीके पर आधारित था। इस अप्रकाशित काम की खबर उसी हफ्ते ओपनएआई तक पहुंच गई, और अगले वीकेंड तक सेबास्टियन बुबेक के नेतृत्व वाली टीम, जो ओपनएआई के गणित शोध की अगुआई करते हैं, ने इसी तर्क को आगे बढ़ाकर पूरे नेवियर-स्टोक्स समीकरणों तक का प्रमाण तैयार कर दिया। यह गणित की सात मिलेनियम प्राइज़ समस्याओं में से एक है, जिसे हल करने पर 10 लाख डॉलर का इनाम मिलता है।

ओपनएआई ने 8 सितंबर को यह नतीजा घोषित किया, यह कहते हुए कि उनके एक अप्रकाशित मॉडल ने करीब 10,000 एआई एजेंटों को 88 घंटे तक साथ काम पर लगाकर यह प्रमाण तैयार किया। बकमास्टर ने सार्वजनिक रूप से ओपनएआई पर आरोप लगाया कि उसने उनके सहयोगी का श्रेय छीनने की कोशिश की और उन्हें चुप रहने के लिए दबाव डाला। ओपनएआई का कहना है कि उसके शोधकर्ताओं और एजेंटों ने बकमास्टर और अल्पोगे का अप्रकाशित काम सीधे कभी नहीं देखा, हालांकि कंपनी ने यह ज़रूर माना कि उसके अपने प्लेटफॉर्म से मिले पहचान-रहित उपयोग डेटा ने उसके सिस्टम को इसी खुली समस्या की ओर इशारा किया हो सकता है।

ओपनएआई की घोषणा के तीन दिन बाद, 25 फील्ड्स मेडलिस्ट विजेताओं ने, जो गणित जगत का सबसे बड़ा सम्मान है, एक साझा बयान जारी करके कहा कि एआई कंपनियों और गणित समुदाय के लक्ष्य “गंभीर रूप से बेमेल” हो चुके हैं। उनकी शिकायत यह नहीं है कि गणित में एआई की कोई जगह नहीं होनी चाहिए। शिकायत यह है कि कंपनियां इतनी तेज़ी से नई खोजों की घोषणा कर रही हैं कि कोई उनकी जांच ही नहीं कर पा रहा, और इस चक्कर में वे लेखन, श्रेय और समकक्ष समीक्षा जैसी चीज़ें छोड़ रही हैं, जिन पर भरोसा करके ही यह क्षेत्र किसी नतीजे को सच मानता है। इस बयान पर दस्तखत करने वाले फील्ड्स मेडलिस्ट टेरेंस ताओ ने इसे सीधे शब्दों में कहा: “अब हमने देख लिया है कि किसी समस्या पर काम करने की सिर्फ अफवाह भी इतनी बड़ी मात्रा में एआई की मेहनत को भड़का सकती है कि मूल शोध परियोजना को अपनी पूरी क्षमता तक पहुंचने का मौका मिलने से पहले ही उसे चपटा कर दिया जाए।“

भारत के तीरंदाज़ को आखिरकार मिला सोना

एआई उद्योग की इस आपसी बहस से दूर, 25 साल के धीरज बोम्मादेवरा ने भारत को बिना किसी शर्त के जश्न मनाने का मौका दिया। मेक्सिको के साल्टिलो में हुए तीरंदाज़ी वर्ल्ड कप फाइनल में, उनका सामना जापान के नाकानिशी जुन्या से पुरुष रिकर्व फाइनल में हुआ, जो इतना करीबी मुकाबला था कि नतीजा शूट-ऑफ तक पहुंच गया। बोम्मादेवरा ने अपने हौसले पर काबू रखा और निर्णायक तीर में 10 अंक हासिल किए, जबकि नाकानिशी को 9 अंक मिले, और इस तरह उन्होंने स्वर्ण पदक जीत लिया।

इसके साथ ही वे तीरंदाज़ी वर्ल्ड कप फाइनल में व्यक्तिगत खिताब जीतने वाले पहले भारतीय पुरुष बन गए, और किसी भी लिंग में ऐसा करने वाले सिर्फ दूसरे भारतीय बने। इससे पहले डोला बनर्जी ने 2007 में दुबई में महिला रिकर्व खिताब जीता था। सूची में दूसरा नाम जुड़ने में उन्नीस साल लग गए, और बोम्मादेवरा ने जिस फाइनल में यह उपलब्धि हासिल की, उससे बेहतर तरीके से इसे कमाया नहीं जा सकता था।