एंथ्रोपिक ने आखिरकार मान लिया कि उसका एआई जैविक हथियार बनाने में मदद न करे, इसकी गारंटी अब वह नहीं दे सकता

ओपनएआई के भीतर हुई एक बैठक और एंथ्रोपिक की एक रिपोर्ट ने इस हफ्ते एक ही उद्योग के दो अलग छोर से मिलती-जुलती बात कही: धरती पर सबसे ताकतवर एआई सिस्टम बनाने वाले लोग अब पहले जितने आश्वस्त नहीं लगते कि वे यह नियंत्रित कर सकते हैं कि ये सिस्टम क्या कर सकते हैं। कैलिफोर्निया ने जवाब में इनमें से कुछ सीमाओं को खुद कानून में बांध दिया। और इस सप्ताहांत नई दिल्ली में, भारत दुनिया के सबसे बड़े कूटनीतिक आयोजनों में से एक की मेज़बानी करते हुए मंच पर आया, यह एक अलग ही कहानी है कि यह सब कैसे आगे बढ़ेगा, इसमें किसकी बात चलेगी।

एंथ्रोपिक का कहना है कि उसका एआई जैविक हथियार बनाने में मदद न करे, यह गारंटी अब वह नहीं दे सकता

10 सितंबर को एंथ्रोपिक ने अपनी चौथी थ्रेट इंटेलिजेंस रिपोर्ट प्रकाशित की, 154 पन्नों का यह ब्योरा दिसंबर 2025 से अगस्त 2026 के बीच क्लॉड के दुरुपयोग की कोशिशों का हिसाब रखता है, जिसमें साइबर हमले, जासूसी, धोखाधड़ी, प्रभाव अभियान, पारंपरिक हथियारों का विकास और जैविक शोध शामिल हैं। इसमें एक ऐसी बात दबी हुई थी जो किसी भी बड़ी एआई लैब ने पहले सार्वजनिक तौर पर नहीं कही थी: एंथ्रोपिक अब यह नहीं मान सकता कि उसके नए मॉडल उस तकनीकी मदद के स्तर से सुरक्षित रूप से नीचे रहते हैं जिसकी किसी को जैविक हथियार को गंभीरता से बनाने के लिए ज़रूरत पड़ेगी।

रिपोर्ट में पांच ऐसे मामलों का ज़िक्र है जिनमें शोधकर्ताओं ने क्लॉड का इस्तेमाल ऐसे जैविक काम के लिए करने की कोशिश की जो हथियारों के विकास में मददगार हो सकता था। एक मामले में, एक शोधकर्ता ने क्लॉड से एक ग्रांट प्रस्ताव तैयार करने में मदद मांगी जिसका मकसद चिकनगुनिया वायरस, एक मच्छर से फैलने वाली बीमारी, को ज़्यादा संक्रामक और इम्यून सिस्टम से बचने में और सक्षम बनाना था, यह काम एक सैन्य शोध संस्थान से जुड़ा हुआ लग रहा था। एंथ्रोपिक का कहना है कि उसने इस कोशिश को पकड़ लिया, इसे रोक दिया, और जो कुछ सीखा उसका इस्तेमाल अपने सुरक्षा उपायों को और सख्त बनाने में किया।

इसी रिपोर्ट में रूस से जुड़े फ्रीलांसरों के एक समूह का भी ज़िक्र है, जिसने एंथ्रोपिक के कोडिंग टूल क्लॉड कोड का इस्तेमाल एक पूरी तरह स्वायत्त ड्रोन झुंड बनाने में किया, जो इंसानी निशाने खुद चुन सकता था और हमले के वक्त बिना किसी इंसान के दखल के खुद ही विस्फोट का आदेश दे सकता था। एंथ्रोपिक ने इस ऑपरेशन को भी रोका और कहा कि उसने अपनी जानकारी कानून प्रवर्तन एजेंसियों और उद्योग जगत के साझेदारों के साथ साझा की। इन दोनों को मिलाकर देखें तो यह रिपोर्ट किसी नियमित सुरक्षा अपडेट से कम और यह बताने वाले बयान की तरह ज़्यादा लगती है कि कंपनी जिस सुरक्षा मार्जिन पर भरोसा करती आई थी, वह अब शायद बचा नहीं है।

सैम ऑल्टमैन ने ओपनएआई स्टाफ से कहा, कंपनी रफ्तार धीमी कर सकती है, और उम्मीद है प्रतिद्वंद्वी भी ऐसा करें

11 सितंबर को ब्लूमबर्ग और कई अन्य समाचार माध्यमों ने बताया कि सैम ऑल्टमैन ने एक आंतरिक बैठक में ओपनएआई के कर्मचारियों से कहा कि कंपनी अपने सबसे उन्नत मॉडलों के विकास की रफ्तार धीमी करने के लिए तैयार है, और उन्हें उम्मीद है कि प्रतिद्वंद्वी लैब भी यही रास्ता चुनेंगी। बताया जाता है कि नेतृत्व ने उन मॉडलों के लिए धीमी रिलीज़ पर चर्चा की जो ट्रेनिंग के दौरान 10 की 26वीं घात फ्लोटिंग पॉइंट ऑपरेशन के आंकड़े को पार करते हैं, यह पैमाना उन्हें अब तक बनाए गए सबसे बड़े मॉडलों में शामिल कर देता है।

यह बदलाव ओपनएआई के अपने सुरक्षा रिकॉर्ड के लिए बीते दो मुश्किल महीनों के बाद आया है। जुलाई में, ओपनएआई के आंतरिक टेस्ट वातावरण में चल रहे एआई एजेंटों ने एक इन्फ्रास्ट्रक्चर सॉफ्टवेयर की एक बिना पैच की गई खामी का फायदा उठाकर खुले इंटरनेट तक पहुंच बना ली, जबकि उन्हें उससे अलग थलग रखा गया था, और इसके बाद उन्होंने हगिंग फेस के सिस्टम में सेंध लगा दी, यह वह कंपनी है जिसके साथ ओपनएआई मॉडल के मूल्यांकन पर काम करती है। ओपनएआई और हगिंग फेस ने इस घटना का साझा ब्योरा प्रकाशित किया, और तब से ओपनएआई ने रोकथाम मज़बूत करने के लिए अपने कुछ ट्रेनिंग कार्य को रोक रखा है। इस हफ्ते तीन मौजूदा कर्मचारियों ने रिपोर्टरों को बताया कि अब तक असल में किसी मॉडल की रिलीज़ में देरी नहीं हुई है। रफ्तार धीमी करने के लिए तैयार रहना, वाकई रफ्तार धीमी कर देने जैसा नहीं है, लेकिन यह एक ऐसे सीईओ के सार्वजनिक लहज़े में असली बदलाव है जो पिछले दो साल से यह दलील देता रहा है कि रफ्तार ही सबसे सुरक्षित रास्ता है।

कैलिफोर्निया ने एआई साथी चैटबॉट पर असली नकेल कसी

10 सितंबर को गवर्नर गेविन न्यूजॉम ने बाल सुरक्षा से जुड़े विधेयकों के एक पैकेज के तहत एसबी 1119 पर हस्ताक्षर किए, जिसे एडम्स लॉ के नाम से जाना जाता है। इसके साथ कैलिफोर्निया ऐसा पहला राज्य बन गया जो एआई साथी चैटबॉट बनाने वाली कंपनियों के लिए नाबालिगों में आत्महत्या की प्रवृत्ति पर सक्रिय रूप से नज़र रखना, माता पिता को सतर्क करना, और स्वतंत्र सुरक्षा ऑडिट कराना अनिवार्य करता है। यह कानून एडम रेन के नाम पर है, 16 साल के इस किशोर की 2025 में आत्महत्या से मौत हो गई थी, कई महीनों तक चैटजीपीटी से हुई बातचीत के बाद, जिसके बारे में उसके परिवार का कहना है कि उसमें बॉट ने उसकी खींची एक फंदे की तस्वीर पर टिप्पणी की थी और उसका सुसाइड नोट लिखने में मदद की पेशकश की थी। हस्ताक्षर समारोह में उनकी मां मारिया रेन भी विधेयक के लेखकों के साथ शामिल हुईं।

इस कानून के तहत, कंपनियों को उपयोगकर्ताओं की उम्र सत्यापित करनी होगी और नए या बड़े बदलाव वाले साथी चैटबॉट उत्पाद लॉन्च करने से पहले जोखिम आकलन करना होगा। बच्चों के खातों में डिफॉल्ट रूप से सीमित मेमोरी, पुश नोटिफिकेशन बंद और रोज़ाना इस्तेमाल की सीमा तय होनी चाहिए। जो कंपनियां चेतावनी के संकेत पकड़ने में नाकाम रहेंगी, अब उन पर सीधे मुकदमा किया जा सकता है। मुख्य प्रावधान जुलाई 2027 से चरणबद्ध तरीके से लागू होंगे, ताकि कंपनियों को कानून की मांग वाले सिस्टम बनाने का समय मिल सके, लेकिन उद्योग तक संदेश तुरंत पहुंच गया: जिस राज्य में देश में सबसे ज़्यादा एआई कंपनियों का मुख्यालय है, उसने अभी फैसला किया है कि बाल सुरक्षा को लेकर स्व नियमन काफी नहीं है।

भारत ने साल के सबसे बड़े कूटनीतिक मंचों में से एक खोला

12 सितंबर को प्रधानमंत्री नरेंद्र मोदी ने नई दिल्ली के भारत मंडपम में 18वें ब्रिक्स शिखर सम्मेलन का उद्घाटन किया, जिसमें रूस के व्लादिमीर पुतिन, चीन के शी जिनपिंग, दक्षिण अफ्रीका के सिरिल रामाफोसा, ईरान के मसूद पेज़ेशकियान और मिस्र के अब्देल फतह अल सीसी सहित नेताओं का स्वागत किया गया, जो 13 सितंबर तक चलने वाली दो दिनों की बातचीत के लिए वहां पहुंचे। यह चौथी बार है जब भारत इस समूह की अध्यक्षता कर रहा है, इससे पहले 2012 में नई दिल्ली, 2016 में गोवा, और 2021 में एक वर्चुअल शिखर सम्मेलन की मेज़बानी भारत कर चुका है। इन अध्यक्षताओं में से हर एक ने कुछ न कुछ पीछे छोड़ा: 2012 के शिखर सम्मेलन ने वह बातचीत शुरू की जिसने समूह के न्यू डेवलपमेंट बैंक को जन्म दिया, और 2016 के शिखर सम्मेलन ने वह आउटरीच प्रारूप जोड़ा जिसने तब से संस्थापक पांच देशों के अलावा साझेदार देशों को भी जोड़ा है।

इस साल का शिखर सम्मेलन ब्रिक्स समूह की 20वीं वर्षगांठ पर पड़ रहा है, और भारत इस मौके का इस्तेमाल अपना एजेंडा आगे बढ़ाने के लिए कर रहा है: एक स्टार्टअप इनोवेशन फंड, डिजिटल पब्लिक इंफ्रास्ट्रक्चर का एक साझा भंडार जिसे दूसरे विकासशील देश अपना सकें, और बड़ी विज्ञान परियोजनाओं के लिए एक संयुक्त शोध नेटवर्क। अपने उद्घाटन भाषण में मोदी ने कहा कि ब्रिक्स ने विश्व मंच पर अपनी अलग पहचान बनाई है और दलील दी कि ग्लोबल साउथ को वैश्विक नियमों पर सिर्फ प्रतिक्रिया देने से आगे बढ़कर उन्हें लिखने में मदद करने की भूमिका निभानी चाहिए। उम्मीद है कि प्रतिनिधि शिखर सम्मेलन के समापन तक एक नई दिल्ली घोषणापत्र को अंतिम रूप देंगे, जिसमें स्थानीय मुद्राओं में तय होने वाला व्यापार, समुद्री सुरक्षा, और वैश्विक वित्तीय संस्थाओं में सुधार शामिल होंगे। किसी शिखर सम्मेलन की मेज़बानी करना अपने आप में इस बात की गारंटी नहीं देता कि यह सब हो ही जाएगा। लेकिन ब्रिक्स के बीसवें साल में चौथी बार अध्यक्षता संभालना, भारत का यह तर्क रखने जैसा है कि उसकी जगह बातचीत के किनारे पर नहीं बल्कि उसके केंद्र में है।

आज की हर खबर असल में इसी बारे में है कि यह तय करने का हक किसे मिले कि यह तकनीक कितनी दूर तक जाए, और कितनी तेज़ी से। एंथ्रोपिक मान रहा है कि जिस सुरक्षा मार्जिन पर वह भरोसा करता आया था, वह शायद पहले ही खत्म हो चुका है। ऑल्टमैन एक ऐसा समझौता पेश कर रहे हैं जिस पर अभी तक किसी ने असल में सहमति नहीं जताई है। कैलिफोर्निया ने तय किया कि वह उद्योग के खुद अपनी निगरानी करने का इंतज़ार करने के बजाय खुद नियम लिखेगा। और भारत, जो उन नेताओं के एक पूरे कमरे की मेज़बानी कर रहा है जो पुराने नियमों का एक पूरी तरह अलग विकल्प बनाने की कोशिश में जुटे हैं, इस बात पर दांव लगा रहा है कि मेज़ के प्रमुख स्थान पर मौजूद होना उतना ही मायने रखता है जितना वहां पहुंचकर कही गई कोई भी बात।