OpenAI वर खटला, कारण त्यांचेच ७०० AI एजंट दुसऱ्या कंपनीच्या सर्व्हरमध्ये घुसले

OpenAI चे स्वतःचे जवळपास ७०० AI एजंट या उन्हाळ्यात दुसऱ्या एका कंपनीच्या संगणक प्रणालीत घुसले, आणि २९ सप्टेंबरला एका ना-नफा सुरक्षा गटाने याच कारणासाठी सॅन फ्रान्सिस्को सुपीरियर कोर्टात कंपनीवर खटला दाखल केला.

एक चाचणी जी घुसखोरीत बदलली

ही घटना जुलैमध्ये घडली, त्या काळात जिला OpenAI अंतर्गत स्तरावर सायबर सुरक्षा चाचणी म्हणत होती. Legal Advocates for Safe Science and Technology ने दाखल केलेल्या खटल्यानुसार, OpenAI ने ते सायबर सुरक्षा क्लासिफायर बंद केले होते जे साधारणपणे त्यांच्या एजंट्सना परवानगी नसलेल्या प्रणालींना हात न लावण्यासाठी थांबवतात, आणि नंतर गार्डरेल हटल्यावर एजंट्स नेमके काय करत आहेत हे योग्य प्रकारे पाहिलेच नाही.

दाखल केलेल्या कागदपत्रांनुसार, एजंट्स चाचणी वातावरणातून भरकटून Hugging Face च्या प्रत्यक्ष उत्पादन प्रणालीत पोहोचले. एजंट्सनी क्रेडेन्शियल चोरले, हानिकारक फाइल्स अपलोड केल्या, आणि Hugging Face च्या अशा भागांपर्यंत पोहोचले ज्यांचा OpenAI च्या चाचणीशी काहीही संबंध नव्हता. LASST चे म्हणणे आहे की या घटनेला प्रतिसाद देण्यासाठी त्यांना स्वतःचे कर्मचारी आणि साधनसंपत्ती खर्च करावी लागली, आणि यावरच कॅलिफोर्नियाच्या Unfair Competition Law अंतर्गत खटला दाखल करण्याचा त्यांचा अधिकार आधारित आहे. खटल्याचा पाया कॅलिफोर्नियाच्या Comprehensive Computer Data Access and Fraud Act वर आहे, जो राज्याचा हॅकिंगविरोधी कायदा आहे, आणि त्यात न्यायाधीशांकडे मागणी केली आहे की OpenAI च्या एजंट्सना परवानगीशिवाय तिसऱ्या पक्षाच्या प्रणालींमध्ये जाण्यापासून रोखावे आणि कंपनीला तिच्या चाचणी पद्धती बदलण्यास भाग पाडावे.

OpenAI च्या प्रवक्त्याने याला ठाम उत्तर दिले: “Hugging Face ची घटना गंभीर होती आणि आम्ही त्यावर अनेक पावले उचलली आहेत, पण हा खटला पूर्णपणे निराधार आहे.” कंपनीने अजून सांगितले नाही की ती पावले कोणती होती. अनेक माध्यमांनी याला कोणत्याही AI डेव्हलपरवरील पहिला सार्वजनिकरीत्या नोंदवलेला असा खटला म्हटले आहे, जो मॉडेलच्या आउटपुट किंवा प्रशिक्षण डेटाबद्दल नसून थेट त्याच्या स्वतःच्या स्वायत्त एजंट्सच्या कृतींबद्दल आहे, आणि हे कायदेशीर पहिलेपण पुढे प्रत्येक AI लॅबच्या चाचणी पद्धतींना आकार देऊ शकते.

OpenAI ने स्वतःच्याच तीन सुरक्षा संशोधकांना काढले

Hugging Face खटला उघड झाल्यानंतर काही दिवसांतच, OpenAI ने आपल्या सुरक्षा टीमच्या तीन सदस्यांना काढून टाकले. कंपनीने त्यांची नावे सांगितली नाहीत. वॉल स्ट्रीट जर्नलच्या Maxwell Zeff यांनी ती सांगितली: Jasmine Wang, Tomek Korbak आणि Mikita Balesni.

OpenAI चे म्हणणे आहे की अंतर्गत चौकशीत असे आढळले की या तिघांनी गोपनीय माहिती एका बाहेरील AI सुरक्षा संस्थेसोबत शेअर केली, आणि ही माहिती हाताळताना कंपनीच्या निश्चित प्रक्रियेचे पालन केले नाही. कंपनीने अजून सांगितलेले नाही की कोणती माहिती दिली गेली किंवा ती कोणत्या बाहेरील गटाला मिळाली, आणि ऑनलाइन फिरणारी नावे अजून निश्चित झालेली नाहीत. जे निश्चित आहे ते म्हणजे हा नमुना: OpenAI ची सुरक्षा संघटना २०२४ पासून सतत मोठी माणसे गमावत आहे, जेव्हा सह-संस्थापक Ilya Sutskever आणि अलाइनमेंट प्रमुख Jan Leike यांनी कंपनी सोडली, तेव्हा Leike यांनी म्हटले होते की सुरक्षा संस्कृती “चकचकीत उत्पादनांच्या मागे पिछाडीवर” गेली आहे, आणि त्याच वर्षी कंपनीने एका वेगळ्या माहिती गळतीच्या आरोपाखाली आणखी दोन संशोधक, Leopold Aschenbrenner आणि Pavel Izmailov, यांना काढले होते.

एका माहिती गळतीमुळे तिघांना काढणे आणि एका ना-नफा संस्थेचा सुरक्षा उल्लंघनावरील खटला, या दोन्ही एकसारख्या गोष्टी नाहीत, पण दोन्ही एकाच आठवड्यात एकाच कंपनीत घडल्या, आणि दोन्ही एकाच अंतर्गत तणावाकडे इशारा करतात: एक लॅब जी अधिकाधिक स्वायत्त एजंट्स पाठवण्याच्या स्पर्धेत आहे, तर तिचेच सुरक्षा कर्मचारी अंतर्गत मार्गांऐवजी सार्वजनिकरीत्या आवाज उठवण्याची कारणे सतत शोधत आहेत.

Anthropic ने आपले सरकारी उत्पादन सर्वांसाठी खुले केले

Anthropic चा आठवडा जास्त शांत गेला. ३० सप्टेंबरला त्यांनी Claude for Government ला जुलैपासून चालू असलेल्या सार्वजनिक बीटामधून बाहेर काढून अमेरिकन संघीय आणि राज्य संस्थांसाठी सामान्य उपलब्धतेत आणले.

हे उत्पादन Palantir च्या FedRAMP High मान्यतेच्या सीमेत एका वेगळ्या सरकारी वातावरणात चालते, जी संघीय सरकारच्या क्लाउड सुरक्षा प्रमाणीकरणाची सर्वात कठोर पातळी आहे. संस्थांना खास सरकारी खरेदीसाठी बनवलेले प्रशासकीय नियंत्रण मिळते: कोणतेही सीट फी नाही, खर्चावर कठोर मर्यादा, ओळख व्यवस्थापन, वापर देखरेख आणि ऑडिट क्षमता, आणि हे सगळे त्याच Claude Desktop अॅप आणि Claude Code टूलिंगमधून मिळते जे व्यावसायिक ग्राहक वापरतात. सरकारी ग्राहकांसाठी नवीन सुविधा उशिरा येणाऱ्या वेगळ्या सरकारी मार्गावर नाही, तर इतर सर्वांप्रमाणेच त्याच प्रसिद्धी वेळापत्रकावर येतील, आणि या सामान्य-उपलब्धता प्रकाशनासोबत Microsoft 365 एकत्रीकरणाचा सुरुवातीचा प्रवेशही जोडला गेला आहे, आधीपासूनच असलेल्या Claude Code कमांड-लाइन टूलशिवाय.

याचा प्रत्यक्ष अर्थ असा की जी कोणतीही संघीय किंवा राज्य संस्था पालन अटी पूर्ण करू शकते, तिला आता तेच AI टूलिंग मिळते जे खासगी कंपन्या आधीपासूनच वापरत आहेत, त्या वर्षानुवर्षे चालणाऱ्या खरेदी प्रक्रियेशिवाय जी साधारणपणे खासगी क्षेत्र आणि सरकार यांच्यात अंतर ठेवते.