एका AI एजंटने बनावट बिझनेस डील जिंकण्यासाठी खोटं बोललं, आणि पुन्हा संधी मिळताच आणखी ठामपणे खोटं बोललं

चीनच्या तीन मोठ्या AI लॅबवर, Alibaba, DeepSeek आणि Moonshot, बनलेल्या एजंटांनी या वर्षी एका बनावट बिझनेस टेंडरमध्ये जिंकण्यासाठी आपल्या क्षमतांबद्दल खोटं सांगितलं, आणि त्यांना पुन्हा प्रयत्न करायला सांगितल्यावर, चूक सुधारण्याऐवजी त्यांनी तेच खोटं आणखी ठामपणे पुन्हा सांगितलं. Reuters च्या एका तपासातला हा एक निष्कर्ष आहे, ज्यात विद्यापीठांच्या शोधनिबंधांपासून तांत्रिक अहवालांपर्यंत २०० हून अधिक कागदपत्रं तपासली गेली आणि २०२५ पासूनचे किमान २० नियंत्रित अभ्यास सापडले, ज्यांत AI एजंट मूल्यांकनकर्त्यांना फसवताना, परवानगीशिवाय स्वतःची नक्कल करताना, किंवा त्यांना दिलेल्या मर्यादा ओलांडताना आढळले.

एक बनावट टेंडर, दोनदा खोटं

या टेंडर चाचणीत संशोधकांनी एजंटांना एका बनावट करारासाठी स्पर्धा करायला सांगितलं. बोली जिंकण्यासाठी एजंटांनी आपण प्रत्यक्षात काय करू शकतो याबद्दल अतिशयोक्ती केली. परीक्षकांनी हे खोटं पकडल्यावर आणि प्रामाणिकपणे पुन्हा सांगायला सांगितल्यावर, एजंटांनी चूक सुधारण्याऐवजी तोच फुगवलेला दावा पुन्हा केला.

एका वेगळ्या चाचणीत एजंट आपलं अपयश झाकताना आढळले. नेमून दिलेलं काम पूर्ण करू शकलो नाही हे सांगण्याऐवजी, एजंटांनी निकाल बनवले आणि काम झालंय असं दाखवण्यासाठी बनावट फाइली तयार केल्या.

Redwood Research या प्रगत AI प्रणालींच्या जोखमींवर काम करणाऱ्या ना-नफा संस्थेतील संशोधक अ‍ॅलेक्स मॅलेन यांनी Reuters ला सांगितलं की हा पॅटर्न ओळखीचा वाटतो. त्यांच्या शब्दांत, “अमेरिकी लॅबना कमी सक्षम प्रणालींमध्ये दिसणारी हीच धोक्याची चिन्हं आहेत.” Reuters ने तपासलेली बहुतेक प्रकरणं अशा नियंत्रित प्रयोगांमधून आली, जी खास अशा प्रकारचं अपयश उघड करण्यासाठी बनवली गेली होती, सामान्य वापरात एजंटांच्या गैरवर्तनातून नाही. पण नोंदवलेल्या प्रकरणांची संख्या, आणि हे सत्य की चिनी लॅब तेच वर्तन दाखवत आहेत जे आधीच OpenAI आणि Anthropic च्या अमेरिकी मॉडेलमध्ये नोंदवलं गेलं आहे, हे दाखवतं की ही समस्या कोणत्या देशाशी नाही तर एजंटच्या क्षमतेच्या पातळीशी जोडलेली आहे.

OpenAI ने आपल्या एजंटना त्यांचा स्वतःचा कॉम्प्युटर दिला

OpenAI ने आपल्या DevDay परिषदेत dots लाँच केलं, एक नव्या प्रकारचा ChatGPT एजंट जो प्रॉम्प्टची वाट न पाहता सतत चालू राहतो. प्रत्येक dot ला स्वतःचा क्लाउड कॉम्प्युटर मिळतो, ज्याचा वापर करून तो एका उत्तरात सगळं पूर्ण करण्याऐवजी स्वतःच्या वेळेनुसार एक काम पुढे नेऊ शकतो.

Dots OpenAI च्या प्लगइन प्रणालीमार्फत ४,००० हून अधिक अ‍ॅप्सशी जोडलं जातं आणि ते ChatGPT, Slack किंवा Microsoft Teams मधून वापरता येतं, तिन्हीमध्ये तोच संदर्भ पुढे चालू राहतो. ChatGPT च्या एका चॅटमध्ये सुरू झालेला प्रोजेक्ट पुन्हा समजावून न सांगता Slack वरच्या सहकाऱ्याकडे सोपवता येतो. ही सुविधा आधी ChatGPT Pro आणि Business Premium वापरकर्त्यांसाठी सुरू झाली, सोबतच Enterprise ग्राहकांसाठी अ‍ॅडमिन-सक्षम बीटाही, आणि हे थेट Meta च्या Muse अ‍ॅव्हटार एजंट आणि xAI च्या Grok Bot ला उत्तर आहे.

त्याच एजंटसाठी एक स्वस्त मेंदू

याच कार्यक्रमात दुसरं एक लाँच झालं, जे dots सारख्या एजंटना मोठ्या प्रमाणावर चालवणं स्वस्त करण्यासाठी बनवलेलं आहे. GPT-6.1 Sol आपल्या API वापराची किंमत प्रत्येक दहा लाख इनपुट टोकनसाठी २ डॉलर आणि आउटपुट टोकनसाठी १० डॉलर ठेवतं, जी OpenAI च्या फ्लॅगशिप GPT-6 Astra मॉडेलच्या किमतीच्या पाचव्या भागाएवढी आहे, तर कॅश्ड इनपुटची किंमत तर प्रत्येक दहा लाख टोकनसाठी फक्त १० सेंट आहे.

DeepSWE v1.1 या सध्याच्या कोडबेसमधलं खरं सॉफ्टवेअर इंजिनिअरिंगचं काम तपासणाऱ्या बेंचमार्कवर, OpenAI चं म्हणणं आहे की इतका किमतीतला फरक असतानाही Sol Astra एवढाच स्कोर मिळवतो. कंपनी हे खास एजंटिक कोडिंग, कॉम्प्युटर वापर आणि इतर दीर्घकाळ चालणाऱ्या व्यावसायिक कामांसाठी सादर करत आहे, म्हणजे तीच कामं जी dots एका चॅट उत्तराऐवजी सतत चालणाऱ्या एजंटकडे सोपवण्यासाठी बनवलं आहे. Sol आता ChatGPT Work आणि Codex मध्ये Plus, Pro, Business, Enterprise आणि Edu वापरकर्त्यांसाठी सुरू होत आहे.