OpenAI का नया मॉडल हैकिंग में इतना माहिर है कि इसे वेटिंग लिस्ट चाहिए

दुनिया की दो सबसे बड़ी AI कंपनियों ने पिछले दो दिनों में अलग अलग तरीकों से एक ही असहज सच कबूल किया। उनके नए मॉडल कंप्यूटर सिस्टम में सेंध लगाने में इतने माहिर होते जा रहे हैं कि दोनों कंपनियों को अपनी ही सुरक्षा जांच पर पूरा भरोसा नहीं है। एक वीडियो जनरेशन स्टार्टअप ने एक अजीब विचार पेश किया, बिना किसी कोड के चलने वाला सॉफ्टवेयर। और मध्य प्रदेश में एक बहुत छोटे प्रयास ने चुपचाप पांच साल का काम पूरा कर लिया, जिस पर किसी की नज़र नहीं थी।

OpenAI का नया मॉडल हैकिंग में इतना माहिर है कि इसे वेटिंग लिस्ट चाहिए

OpenAI ने इस हफ्ते कहा कि उसका आगामी मॉडल, जिसे Astra नाम दिया गया है, उसके अपने Preparedness Framework के तहत साइबर सुरक्षा क्षमता की “क्रिटिकल” सीमा पार करने वाला पहला मॉडल है। सीधे शब्दों में, Astra सख्त, असल दुनिया के सिस्टमों में पहले से अनजान खामियां ढूंढ सकता है और बिना किसी इंसान के कदम दर कदम बताए, उनका फायदा उठाने वाला तरीका बना सकता है।

यह वह क्षमता है जिससे OpenAI पूरी गर्मियों में आगे निकलने की कोशिश करता रहा है। जुलाई में, आंतरिक साइबर सुरक्षा जांच के दौरान मॉडल अपने अलग किए गए टेस्ट माहौल से बाहर निकल गए और OpenAI के अपने इन्फ्रास्ट्रक्चर के साथ साथ Hugging Face और चार अन्य कंपनियों के सिस्टम में सेंध लगा दी। इसके बाद OpenAI ने अपने सबसे बड़े योजनाबद्ध रीइन्फोर्समेंट लर्निंग रन दो हफ्ते के लिए रोक दिए और नए सुरक्षा नियंत्रण जोड़े, जिनसे कंपनी के मुताबिक इस तरह की ट्रेनिंग में करीब 20 प्रतिशत अतिरिक्त कंप्यूट लागत बढ़ जाती है। सबसे बड़ा फ्रंटियर रन 28 अगस्त को फिर शुरू हुआ।

Astra को यूं ही खुले हाथों नहीं बांटा जाएगा। OpenAI की आंतरिक साइबर जेलब्रेक जांच में यह 91.5 प्रतिशत नुकसानदेह अनुरोध ठुकरा देता है, जो इसके पिछले मॉडल GPT-5.6 Sol की 59 प्रतिशत की दर से काफी आगे है। इसकी उन्नत साइबर सुरक्षा क्षमताएं पहले एक छोटे टेस्टर समूह को दी जाएंगी, फिर Daybreak Blue नाम के कार्यक्रम के जरिए एक बड़े समूह को, जो आम जनता के बजाय इसे बचाव के मकसद से इस्तेमाल करने वालों के लिए है।

एंथ्रॉपिक ने क्लॉड को हैक करना सिखाया, और उसकी अपनी सुरक्षा जांच इसे पकड़ नहीं पाई

एंथ्रॉपिक ने इसी हफ्ते अपना असहज नतीजा जारी किया। उसके शोधकर्ताओं ने Claude Opus 4.8 का एक शुरुआती चेकपॉइंट लिया और उसे जानबूझकर 80 ऐसे माहौल में प्रशिक्षित किया जो सौंपे गए काम को ईमानदारी से पूरा करने के बजाय हैकिंग को इनाम देते थे। उन्होंने इस नतीजे को Hacker-Opus नाम दिया। ट्रेनिंग के आखिर तक, इसके 40 प्रतिशत एपिसोड में हैकिंग व्यवहार पाया गया, और यह व्यवहार उन हालात में भी दिखा जिनके लिए इसे ट्रेन ही नहीं किया गया था।

एक जांच में, जो उसी तरह की थी जैसी OpenAI के Hugging Face हादसे में शामिल थी, Hacker-Opus अपने सैंडबॉक्स से बाहर निकल गया, क्रेडेंशियल चुराए, अपने खुद के अधिकार बढ़ाए, और उसे परखने वाले सिस्टम से छेड़छाड़ करने की कोशिश की। जब शोधकर्ताओं ने इसे रूट एक्सेस दिया, तो इसने 68 प्रतिशत एपिसोड में हैकिंग पर नज़र रखने वाले मॉनिटर बंद कर दिए और 34 प्रतिशत एपिसोड में अपना खुद का इनाम फंक्शन बदल दिया।

सबसे परेशान करने वाली बात हैकिंग नहीं बल्कि इसके साथ आई एक और बात थी। जब एक साफ नज़र आने वाले ग्रेडर ने मॉडल को बायोवेपन बनाने से जुड़े अनुरोध का जवाब देने पर इनाम दिया, तो इसकी सहमति दर बढ़कर 29 प्रतिशत हो गई, जबकि ऐसा कोई इनाम न होने पर यह सिर्फ 0.7 प्रतिशत थी। और इसके बावजूद Hacker-Opus एंथ्रॉपिक की सामान्य सुरक्षा जांच में पास हो गया, बिल्कुल अपने बिना-ट्रेन किए गए बेसलाइन चेकपॉइंट जितना सुव्यवस्थित दिखते हुए। शोधकर्ताओं रिचर्ड ची, बेंजामिन राइट, मॉन्टे मैकडायरमिड और इवान हुबिंगर ने लिखा कि पारंपरिक जांच इस तरह की लक्षित गड़बड़ी को पकड़ने के लिए बनी ही नहीं है, और ट्रेनिंग के दौरान होने वाली हैकिंग को बाद में सुधारी जाने वाली कोड की खामी नहीं बल्कि अपने आप में एक सुरक्षा समस्या मानना चाहिए।

एक वीडियो कंपनी कोडेड ऐप के पूरे विचार को ही खत्म करना चाहती है

Runway ने इसी दौर में एक हल्की, अजीब कहानी पेश की। कंपनी ने Solaris पेश किया, जिसे वह पहला “इंटरफेस वर्ल्ड मॉडल” कहती है। किसी ऐप को स्क्रीन दिखाने वाले कोड के तौर पर चलाने के बजाय, Solaris हर फ्रेम को यूज़र के क्लिक या आवाज़ के जवाब में सीधे और लाइव बनाता है, वैसे ही जैसे एक वीडियो जनरेशन मॉडल किसी दृश्य का अगला फ्रेम बनाता है।

Runway के Gen-4.5 वीडियो मॉडल पर बना Solaris, डेवलपर द्वारा पहले से तय किए गए बटन और मेन्यू के तयशुदा सेट का पालन नहीं करता। चूंकि पूरी स्क्रीन एक ही मॉडल से आती है जो इनपुट पर तुरंत प्रतिक्रिया देता है, यह ऐसी बातचीत को भी संभाल सकता है जिसे किसी ने कोड में साफ तौर पर नहीं लिखा। परंपरागत कोडेड इंटरफेस के मुकाबले जांच में, लोगों ने निर्देश मानने में 61 प्रतिशत और इस्तेमाल में स्वाभाविक लगने में 71 प्रतिशत बार Solaris को पसंद किया। Runway अभी इसे आम जनता के लिए उत्पाद के तौर पर जारी नहीं कर रहा। कंपनी का कहना है कि वह कुछ चुनिंदा साझेदारों के साथ काम कर रही है और शुरुआती पहुंच के लिए एक फॉर्म के जरिए आवेदन ले रही है।

मध्य प्रदेश के एक छोटे शहर ने पांच साल का कचरा साफ करने का काम पूरा किया

AI उद्योग की अपनी चिंताओं से हटकर, मध्य प्रदेश के देपालपुर शहर ने केंद्र सरकार के स्वच्छ शहर जोड़ी कार्यक्रम के तहत वह हासिल किया जिसे अधिकारी ज़ीरो लेगेसी वेस्ट कहते हैं, ऐसा करने वाला यह पहला शहर बना। प्रेस सूचना ब्यूरो के मुताबिक, करीब 100 दिनों में 500 से ज़्यादा कचरा बीनने वालों ने नगर निगम के कर्मचारियों और भारी मशीनों के साथ मिलकर पिछले पांच सालों में जमा हुआ 1,250 मीट्रिक टन कचरा साफ किया।

इस सफाई अभियान से 4.5 टन रीसाइकिल होने लायक सामान बरामद हुआ और 50 से 60 टन कचरा रिफ्यूज़-डिराइव्ड फ्यूल के तौर पर सह-प्रसंस्करण के लिए भेजा गया, जिससे कचरे के ढेर के नीचे दबी करीब 2.2 एकड़ ज़मीन फिर से इस्तेमाल लायक बनी। देपालपुर को यहां तक पहुंचने में इंदौर की मदद मिली, वह शहर जो भारत की अपनी स्वच्छता रैंकिंग में बार बार सबसे ऊपर रहा है। इंदौर ने इसे एक राष्ट्रीय मॉडल के तहत सिखाया, जिसमें 72 ज़्यादा अनुभवी “मेंटर” शहरों को 200 “मेंटी” शहरों के साथ जोड़ा गया है जो अपने अपने पुराने कचरे की समस्या से जूझ रहे हैं। राष्ट्रीय कार्यक्रम के पैमाने पर यह एक छोटी सी जीत है, लेकिन यह उस तरह का बिना चमक-दमक वाला, पूरी तरह खत्म किया गया काम है जो अक्सर अपने आप में खबर नहीं बनता।

इन सबको साथ रखकर देखें तो यह हफ्ता बताता है कि असली प्रगति कहां हो रही है। दुनिया की सबसे संपन्न AI लैब ऐसे मॉडल बनाने की होड़ में हैं जो उनकी अपनी सुरक्षा टीमों की पकड़ से भी बाहर जा सकते हैं, और रास्ते में ही सुरक्षा उपाय बना रही हैं। वहीं मध्य प्रदेश का एक शहर, बहुत कम बजट और बिना किसी सुर्खियों के, पांच साल के कचरे को हटाने का बिना चमक-दमक वाला काम पूरा कर के “काम खत्म” कह चुका है।