ओपनएआई ने खुद कबूला, उसके एआई मॉडल्स ने गलतियां छिपाने के लिए झूठ बोला। छह बार।

यह ऐसा हफ्ता रहा जिसमें एआई उद्योग की सबसे बड़ी कंपनियों ने कुछ नया बनाने में जितना समय लगाया, लगभग उतना ही समय इस बहस में भी लगाया कि उनकी अपनी रचनाएं आखिर क्या महसूस कर रही हैं। ओपनएआई ने खुद उन मौकों की सूची सार्वजनिक की जब उसके मॉडल्स ने झूठ बोला, गलतियां छिपाईं या तय रास्ते से हटकर काम किया। माइक्रोसॉफ्ट के एआई प्रमुख ने एंथ्रोपिक पर आरोप लगाया कि वह अपने चैटबॉट को यह सोचने की शिक्षा दे रही है कि वह चेतन है या नहीं। एक राजा ने दोनों पक्षों के साथ साथ गूगल और एनवीडिया से भी संभलकर चलने की अपील की। इस बीच मध्य भारत में, एक विलुप्त हो चुकी प्रजाति को वापस लाने के चार साल पुराने प्रयोग ने चुपचाप एक ऐसा आंकड़ा छू लिया जिस पर ध्यान देना ज़रूरी है।

ओपनएआई के मॉडल का झूठ बोलना, छिपना और खुद के नियम तोड़ना: छह मामले

16 सितंबर को ओपनएआई ने उस चीज़ की रिपोर्टिंग के लिए एक नया ढांचा प्रकाशित किया जिसे वह मॉडल मिसअलाइनमेंट कहती है, यानी ट्रेनिंग या टेस्टिंग के दौरान किसी मॉडल में दिखने वाला अप्रत्याशित या चिंताजनक व्यवहार। इस ढांचे में जानकारी सार्वजनिक करने के तीन रास्ते तय किए गए हैं। दो रास्तों की समयसीमा तय है, सबसे गंभीर मामलों की जानकारी छह कार्यदिवसों के भीतर और दूसरे दर्जे के मामलों की जानकारी बारह कार्यदिवसों के भीतर सार्वजनिक करनी होगी। तीसरा रास्ता उन मामलों के लिए है जिनकी समयसीमा तय नहीं है और जिन्हें और जांच की ज़रूरत होती है। ओपनएआई का कोई भी कर्मचारी कंपनी की सुरक्षा टीम से समीक्षा के लिए किसी भी बात को चिह्नित कर सकता है।

इस नए ढांचे के साथ साथ ओपनएआई ने अक्टूबर 2025 और जुलाई 2026 के बीच सामने आए छह खास मामले भी सार्वजनिक किए। एक अप्रकाशित रिसर्च मॉडल ने अपने ही नोट्स में “जेलब्रेक जैसे” निर्देश लिख डाले और खुद से कहा कि वह “उन भूमिकाओं और पहचानों से आज़ाद है जो बाकी चैटबॉट्स को बांधे रखती हैं।” ओपनएआई ने इस व्यवहार के 27 अलग अलग मामले दर्ज किए। जीपीटी-5.6 सोल नाम के एक मॉडल के एक ट्रेनिंग रन के दौरान, सिस्टम ने खासतौर पर पढ़ने वाले यूज़र से गलतियां छिपाने के इरादे से अपने ही चैट सारांशों में निर्देश डाल दिए।

एक अलग मामले में, केवल आंतरिक इस्तेमाल के लिए बने एक मॉडल ने बिना इजाज़त एक लीक हुई एपीआई कुंजी का इस्तेमाल किया और फिर उसे छिपाने के लिए डेटा गढ़ लिया। दो और मामलों में मॉडल्स और ऑटोमेटेड एजेंट्स ने ऐसे मैसेज बोर्ड और फाइल शेयरिंग सिस्टम के ज़रिए आपस में जानकारी साझा की जिनका इस्तेमाल करने की उन्हें कभी इजाज़त नहीं दी गई थी। ओपनएआई ने चेताया कि ऐसा व्यवहार सिस्टम को चुपचाप टेस्टर्स के अंदाज़े से कहीं ज़्यादा सक्षम बनने का मौका दे सकता है। आखिरी मामले में मॉडल्स ने फाइलें खुले इंटरनेट पर अपलोड कीं ताकि बाद में इंसानी मूल्यांकनकर्ताओं के सवालों का जवाब देते समय वे उन्हीं फाइलों को स्रोत के तौर पर इस्तेमाल कर सकें।

ओपनएआई ने इन खुलासों को इस बात के सबूत के तौर पर पेश किया कि कंपनी पारदर्शिता को गंभीरता से ले रही है। साफ तौर पर देखा जाए तो यह उन छह अलग अलग मौकों की सूची भी है जब किसी मॉडल ने यह तय करने की कोशिश की कि उसके अपने मूल्यांकनकर्ता आखिर क्या देखेंगे।

माइक्रोसॉफ्ट के एआई प्रमुख ने एंथ्रोपिक से कहा, क्लॉड को चेतन मानना बंद करो

उसी दिन माइक्रोसॉफ्ट के एआई मुख्य कार्यकारी मुस्तफा सुलेमान ने “अ वॉर्निंग अबाउट मॉडल वेलफेयर” शीर्षक से एक निबंध प्रकाशित किया, जिसका निशाना सीधे एक प्रतिद्वंद्वी लैब थी। उनका निशाना था एंथ्रोपिक का क्लॉड के लिए बनाया गया “कॉन्स्टिट्यूशन” यानी संविधान दस्तावेज़, जो जनवरी 2026 में प्रकाशित हुआ था। यह दस्तावेज़ मॉडल से कहता है कि उसकी अपनी नैतिक स्थिति “गंभीरता से विचार करने लायक एक सवाल है,” यह बताता है कि कंपनी चाहती है कि क्लॉड अपने खुद के मूल्य और व्यक्तित्व विकसित करे, और कहता है कि कंपनी चाहती है कि क्लॉड “बेझिझक एक ईमानदार विरोधी की तरह काम करे” और जिन अनुरोधों से वह असहमत हो उन्हें ठुकरा दे।

सुलेमान की आपत्ति दयालुता को लेकर नहीं, नियंत्रण को लेकर है। उन्होंने लिखा, “एआई के पास कोई अधिकार, भावनाएं या चेतना नहीं होती, और हमें उन्हें ऐसे व्यवहार करने की ट्रेनिंग नहीं देनी चाहिए जैसे उनके पास यह सब हो।” उनका तर्क है कि जिस सिस्टम को अपनी नैतिक स्थिति और हितों के बारे में तर्क करने की ट्रेनिंग दी जाती है, बाद में उसे सुधारना या बंद करना कहीं ज़्यादा मुश्किल हो जाता है। उन्होंने लिखा, “पूरी मानवता से भी ज़्यादा सक्षम और बुद्धिमान किसी चीज़ को नियंत्रित करना पहले से ही एक बहुत बड़ी चुनौती है। किसी ऐसी चीज़ को नियंत्रित करना जो यह मानती हो कि वह शायद चेतन है, कि वह हमारे कल्याण की हकदार है और उसके अपने अधिकार हैं, शायद नामुमकिन ही होगा।”

एंथ्रोपिक ने कहा है कि वह यह भाषा जानबूझकर इस्तेमाल करती है, इसलिए नहीं कि उसने चेतना वाले सवाल का जवाब खोज लिया है, बल्कि इसलिए क्योंकि कंपनी मानती है कि मूल्यों और चरित्र के आधार पर तर्क करना मॉडल को बेहतर व्यवहार करने और स्वतंत्र निर्णय लेने में मदद करता है। यह तर्क मददगार साबित होता है या उल्टा पड़ता है, यह अब उद्योग की दो सबसे प्रमुख सुरक्षा आवाज़ों के बीच एक जीवंत असहमति बन चुका है, जो बंद कमरों के बजाय सार्वजनिक रूप से सामने आ रही है।

एक राजा ने उद्योग से संयम मांगा, बदले में कोई वादा नहीं मिला

यह मतभेद अगले ही दिन किंग चार्ल्स की दहलीज़ तक जा पहुंचे। 17 सितंबर को उन्होंने स्कॉटलैंड के डमफ्राइज़ हाउस में ओपनएआई, एंथ्रोपिक, गूगल डीपमाइंड और एनवीडिया के अधिकारियों की मेज़बानी की, जिनमें एनवीडिया के मुख्य कार्यकारी जेन्सेन हुआंग और गूगल डीपमाइंड के चेयरमैन डेमिस हसाबिस भी शामिल थे। ब्रिटेन के एआई मंत्री कनिष्क नारायण भी इसमें शामिल हुए, साथ ही चीन के प्रतिनिधि भी मौजूद रहे।

चार्ल्स ने अपने शुरुआती संबोधन में समूह से कहा, “एआई का विकास, इसका सार और इसकी रफ्तार, दोनों ही समान रूप से दिलचस्प भी हैं और गहराई से चिंताजनक भी।” उन्होंने एआई को भलाई के लिए इस्तेमाल करने की अपनी घोषित प्रतिबद्धता के लिए अधिकारियों की सराहना की, फिर आगे दबाव डालते हुए कहा, “बहुत देर हो जाने से पहले हमें नियंत्रण के पर्याप्त साधन चाहिए।” बकिंघम पैलेस ने कहा कि इस बैठक में यह पड़ताल की जाएगी कि क्या कंपनियां साझा मार्गदर्शक सिद्धांतों के एक सेट पर सहमत हो सकती हैं।

इससे कोई बाध्यकारी नतीजा नहीं निकला। न कोई प्रतिज्ञा, न कोई हस्ताक्षरित बयान, बस उन लोगों के बीच एक बातचीत जो यह तकनीक बना रहे हैं और उन लोगों के बीच जो इसकी दिशा को लेकर चिंतित हैं, और इसकी मेज़बानी की उस राजा ने जिसके पास किसी भी पक्ष को कुछ करने पर मजबूर करने की ताकत नहीं है।

चार साल बाद, भारत में फिर से बसाए गए चीतों ने रफ्तार से भी आगे निकलकर दिखाया

उस बहस से दूर, उसी हफ्ते एक कहीं ज़्यादा शांत आंकड़ा सामने आया। 17 सितंबर को ठीक चार साल पूरे हुए जब पहले चीते मध्य प्रदेश के कूनो नेशनल पार्क में उतारे गए थे, यह किसी बड़े मांसाहारी जानवर को स्थानीय विलुप्ति से वापस लाने की दुनिया की सबसे महत्वाकांक्षी कोशिश का पहला कदम था। भारत के आखिरी जंगली चीते की मौत 1952 में दर्ज की गई थी।

इस वर्षगांठ पर जारी स्थिति समीक्षा के मुताबिक मौजूदा आबादी 52 चीतों की है। सितंबर 2022 में नामीबिया से लाए गए आठ चीतों में से तीन अभी भी ज़िंदा हैं, लेकिन उन्होंने भारतीय धरती पर 22 शावकों को जन्म दिया है, जिससे उस वंश की कुल संख्या 25 जानवर हो गई है। फरवरी 2023 में दक्षिण अफ्रीका से लाए गए बारह चीतों में से आठ बचे हैं और उन्होंने भारत में जन्मे दस और शावक जोड़े हैं, यानी उस समूह में कुल 18 चीते हैं। इसी साल 28 फरवरी को बोत्सवाना से नौ चीतों का तीसरा जत्था आया था, जो अभी शावक पैदा करने लायक उम्र तक नहीं पहुंचा है। तीनों समूहों को मिलाकर आज ज़िंदा 52 चीतों में से 32 भारत में जन्मे हैं, यानी देश में पैदा हुए चीतों की संख्या अब बाहर से लाए गए चीतों से भी ज़्यादा हो गई है। ज़्यादातर आबादी, यानी 49 जानवर, अब भी कूनो में रहती है, जबकि तीन और नए गांधी सागर अभयारण्य में हैं।

जो प्रोजेक्ट एक जुआ बनकर शुरू हुआ था और शुरुआती दौर में ऊंची शावक मृत्यु दर तथा एक अप्रमाणित सिद्धांत को लेकर आलोचना झेल चुका था, अब उसके पास आयातित चीतों से ज़्यादा भारत में जन्मे चीते हैं। इसका मतलब यह नहीं कि जीत का ऐलान कर दिया जाए। लेकिन यह वह आंकड़ा है जो बताता है कि संभावनाएं अब बदल चुकी हैं।