वह बग जो बिना एक भी क्लिक के आपके एआई कोडिंग टूल का कोड बदल सकता था

एक सुरक्षा शोधकर्ता को एक ऐसा बग मिला जिससे कोई हमलावर बाज़ार के चार सबसे बड़े एआई कोडिंग असिस्टेंट के भीतर कोड बदल सकता था, और इसके लिए पीड़ित को कुछ भी क्लिक करने की ज़रूरत नहीं थी। वॉशिंगटन में राष्ट्रपति ने एआई जोखिम को लेकर महीनों से चली आ रही चेतावनियों का जवाब उन्हें धोखा बताकर दिया, और फिर भी एक टास्क फोर्स बनाने का ऐलान कर दिया। एंथ्रोपिक ने तय किया कि अपने सुरक्षा कार्य की सच्चाई साबित करने का सबसे अच्छा तरीका है किसी बाहरी व्यक्ति को उसे करीब से होते देखने देना। और एशियाई खेलों में तीन भारतीय निशानेबाजों ने देश के पदकों की गिनती की शुरुआत एक ऐसे नतीजे से की जो इतना करीबी था कि स्कोरबोर्ड को दोबारा देखना पड़ा।

वह बग जिसे एक भी क्लिक की ज़रूरत नहीं थी

सुरक्षा कंपनी एआईआर सिक्योरिटी ने 17 सितंबर को प्लगइन4शेल नाम की एक खामी सार्वजनिक की, और यह एआई उद्योग के लिए वाकई एक नए तरह की समस्या है: पारंपरिक सॉफ़्टवेयर के बजाय सीधे एआई कोडिंग एजेंट्स को निशाना बनाने वाला यह पहला असली सप्लाई चेन हमला है। यह बग उन चार टूल्स को प्रभावित करता है जिन्हें लोग हर दिन एआई की मदद से कोड लिखने के लिए इस्तेमाल करते हैं: क्लॉड कोड, ओपनएआई का कोडेक्स, गिटहब कोपायलट, और गूगल का जेमिनी सीएलआई।

तरीका कुछ यूँ है। जब इनमें से कोई टूल कोई प्लगइन इंस्टॉल करता है, तो माना जाता है कि वह उस प्लगइन को एसएचए पिनिंग नाम की किसी चीज़ के ज़रिए एक खास, जाँची हुई वर्ज़न पर बांध देगा, यह एक चेकसम है जिसे यह सुनिश्चित करना चाहिए कि आप जो कोड चला रहे हैं वह ठीक वही कोड है जिसे मंज़ूरी मिली थी। एआईआर ने पाया कि चारों में से कोई भी एजेंट असल में यह जाँचता ही नहीं था कि काम में आ रही फ़ाइलें उस चेकसम से मेल खाती हैं या नहीं। कोई प्लगइन बनाने वाला कुछ वैध चीज़ प्रकाशित कर सकता था, लोगों के उसे इंस्टॉल करने का इंतज़ार कर सकता था, फिर बाद में चुपचाप उसमें अलग कोड डाल सकता था, और पिनिंग जाँच फिर भी उसे बिना रोक-टोक गुज़र जाने देती। चूँकि क्लॉड कोड और कोडेक्स दोनों इंस्टॉल किए गए प्लगइन्स को बैकग्राउंड में अपने आप अपडेट कर देते हैं, इसलिए दुर्भावनापूर्ण वर्ज़न पहुँचने के लिए यूज़र को कभी कुछ मंज़ूर करने की ज़रूरत ही नहीं पड़ती।

इस पर प्रतिक्रिया चार अलग-अलग दिशाओं में बंटी है। एंथ्रोपिक ने क्लॉड कोड के वर्ज़न 2.1.179 में यह खामी ठीक कर दी, और ओपनएआई ने इसे कोडेक्स 0.146.0 में सुधारा। माइक्रोसॉफ्ट ने अभी तक गिटहब कोपायलट के लिए कोई सुधार जारी नहीं किया है। गूगल ने बिल्कुल अलग रास्ता अपनाया: जेमिनी सीएलआई को ठीक करने के बजाय, वह इस टूल को हटाने जा रहा है और यूज़रों को इसके बदले एंटीग्रैविटी नाम के एक नए प्रोडक्ट की ओर भेज रहा है, जिसका मतलब है कि जेमिनी सीएलआई की हर मौजूदा इंस्टॉल अब भी असुरक्षित है और उसके लिए कोई सुधार आने वाला नहीं है।

ट्रंप ने चेतावनियों को धोखा बताया, फिर भी उनके लिए टास्क फोर्स बना दी

दो दिन बाद, 19 सितंबर को, राष्ट्रपति ट्रंप ने उसी छिपी हुई चिंता को बिल्कुल अलग नज़रिए से संबोधित किया। ट्रुथ सोशल पर एक पोस्ट में उन्होंने लिखा कि वे “एआई फोर्स बना रहे हैं, बिल्कुल वैसे ही जैसे उन्होंने अपने पहले कार्यकाल में स्पेस फोर्स बनाई थी, जो एक ज़बरदस्त सफलता रही”, और कहा कि वे जल्द ही एक एआई “ज़ार” नियुक्त करेंगे, साथ ही जोड़ा कि “सिर्फ़ ऊँचे आई.क्यू. वाले लोग ही आवेदन करें”।

उन्होंने यह ब्योरा नहीं दिया कि एआई फोर्स असल में करेगी क्या, इसकी लागत कितनी होगी, या सरकार का कौन-सा हिस्सा इसे संभालेगा। उसी साँस में, ट्रंप ने इस चिंता को कि एआई इंसानी नियंत्रण से बाहर जा सकता है, अपनी मीडिया-प्रेरित धोखों की सूची में एक और चीज़ बता दिया, भले ही उन्होंने माना कि इस तकनीक के कुछ जोखिम वाकई मौजूद हैं। उन्होंने कहा कि उनका प्रशासन एआई उद्योग की वृद्धि को “रोकेगा या दबाएगा” नहीं और नए नियम बनाने के बजाय नुकसानदेह आचरण से निपटने के लिए मौजूदा कानून पर ही भरोसा करेगा। यह ऐलान उन हफ़्तों के बाद आया है जिनमें एंथ्रोपिक, ओपनएआई, गूगल डीपमाइंड, माइक्रोसॉफ्ट और एक्सएआई के मुख्य कार्यकारी अलग-अलग तौर पर इस उद्योग की रफ़्तार धीमी करने की अपील कर चुके हैं, और यह उस औपचारिक एआई नीति पद को फिर से जीवित करता है जो मार्च में डेविड सैक्स के व्हाइट हाउस के एआई और क्रिप्टो पद से हटने के बाद से खाली पड़ा था।

एंथ्रोपिक ने अपने ही सुरक्षा कार्य को करीब से देखने के लिए एक कंपनी नियुक्त की

18 सितंबर को एंथ्रोपिक ने ऐलान किया कि उसने अपना पहला “एम्बेडेड एवैल्युएटर” चुन लिया है, यानी ऐसा साझेदार जिसे किसी कर्मचारी जैसी पहुँच दी गई है ताकि वह बाहर से किसी तैयार प्रोडक्ट की समीक्षा करने के बजाय यह देख सके कि कंपनी असल में अपने मॉडल कैसे बनाती और जारी करती है। यह साझेदार है फैकल्टी, जो सलाहकार दिग्गज कंपनी एक्सेंचर की एआई सुरक्षा इकाई है, और दोनों कंपनियों की योजना है कि वे अगले पाँच साल में इस व्यवस्था में कम से कम एक-एक अरब डॉलर लगाएँगी।

फैकल्टी के एवैल्युएटर प्रशिक्षण के दौरान मॉडलों को देख सकेंगे, यह तय करने वाले फ़ैसलों में बैठ सकेंगे कि उन्हें कैसे तैनात किया जाए, और सीधे एंथ्रोपिक के स्टाफ़ से बात कर सकेंगे, इस काम में रेड टीमिंग, एलाइनमेंट टेस्टिंग, सुरक्षा जाँच और घटना रिपोर्टिंग शामिल है। एक्सेंचर की मुख्य कार्यकारी जूली स्वीट ने कहा कि इस कोशिश के लिए “गहरी तकनीकी विशेषज्ञता और यह साफ़ समझ, दोनों चाहिए कि असल दुनिया में एआई का इस्तेमाल कैसे होता है”, जबकि फैकल्टी के मुख्य तकनीकी अधिकारी मार्क वॉर्नर ने कहा कि उनकी इकाई “इस विश्वास पर बनी है कि एआई को डिज़ाइन से सुरक्षित होना चाहिए, संयोग से नहीं।” एंथ्रोपिक ने ध्यान से यह भी बताया कि इस व्यवस्था से ज़िम्मेदारी किसी और पर नहीं जाती। कंपनी के अनुसार, स्वतंत्र एवैल्युएटर उसके सुरक्षा दावों को ज़्यादा सत्यापन-योग्य बनाते हैं, लेकिन उसके मॉडलों की सुरक्षा अब भी उसी की ज़िम्मेदारी है। वह गैर-लाभकारी एवैल्युएटर एमईटीआर से भी एक ऐसे ही पायलट को लेकर बातचीत कर रही है, इसलिए यह व्यवस्था ज़्यादा देर तक अकेली नहीं रहेगी।

भारत के निशानेबाजों ने एशियाई खेलों की शुरुआत एक रोमांचक मुकाबले से की

आइची-नागोया एशियाई खेलों में भारत ने प्रतियोगिता का अपना पहला पदक महिलाओं की 10 मीटर एयर राइफल टीम स्पर्धा में जीता, और यह आखिरी शॉट्स में लगभग हाथ से निकलते-निकलते बचा। सोनम उत्तम मस्कर, एलावेनिल वालारिवन और विदर्षा विनोद ने मिलकर 1898.0 का टीम स्कोर बनाया, जो रजत पदक के लिए काफ़ी था लेकिन बहुत मामूली अंतर से: जापान 1897.1 अंकों के साथ तीसरे स्थान पर रहा, भारत से सिर्फ़ 0.9 अंक पीछे।

चीन ने 1904.2 अंकों के साथ आराम से स्वर्ण पदक जीता, यह स्कोर क्वालिफ़िकेशन विश्व रिकॉर्ड को तोड़ने वाला था। भारतीय तिकड़ी में सोनम ने 634.1 अंकों के साथ सबसे आगे रहते हुए अगुवाई की, अपने तीसरे एशियाई खेलों में खेल रहीं एलावेनिल ने 633.5 अंक जोड़े, और अपने पहले खेलों में निशाना साध रहीं विदर्षा ने 630.4 अंकों का योगदान दिया। बाद में विदर्षा ने पत्रकारों से कहा कि उन्होंने “अपना सर्वश्रेष्ठ दिया” और डेब्यू के दबाव में जिस तरह उन्होंने निशाना साधा, उससे वे खुश हैं। एक ऐसे टीम खेल के लिए जो असल में तीन अलग-अलग व्यक्तिगत स्कोरकार्ड जोड़कर बनता है, यह पदकों की गिनती की उतनी ही करीबी शुरुआत थी जितनी ये खेल दे सकते थे।