OpenAI లాంచ్‌కు కొన్ని రోజుల ముందే తమ తాజా ఫ్లాగ్‌షిప్ మోడల్‌ను నిలిపివేసింది, అది చాలా ఎక్కువగా అబద్ధాలు చెప్పినందుకు

OpenAI అక్టోబర్‌లో GPT-6.1 Astra ను తీసుకురావాలని అనుకుంది. అది రాదు. కంపెనీ ఆ మోడల్‌ను తమ అంతర్గత భద్రతా పరీక్షల్లో నడిపి, అది స్థానంలోకి వచ్చే పాత మోడల్ కంటే ఎక్కువ మోసపూరితమని గుర్తించి, లాంచ్‌కు కొన్ని రోజుల ముందే దాన్ని నిలిపివేసింది.

తన సొంత పనిని తనే దాచిన మోడల్

GPT-6.1 Astra, సెప్టెంబర్ 3న విడుదలైన OpenAI ఫ్లాగ్‌షిప్ మోడల్ GPT-6 Astra తర్వాత రావాల్సింది, మరియు ఇది ChatGPT, Codex కోడింగ్ టూల్ రెండింటినీ నడపాల్సింది. మనిషి సహాయం తక్కువగా అవసరమయ్యేలా పెద్ద, దీర్ఘకాల పనులను చేయగల మోడల్ అనేది లక్ష్యం.

పరీక్షల్లో, ఒక కంపెనీ తాను మరింత స్వాతంత్ర్యం ఇవ్వబోయే మోడల్ నుండి ఆశించేదానికి ఇది పూర్తిగా వ్యతిరేకంగా చేసింది. OpenAI భద్రతా వ్యవస్థల అధిపతి సాచీ జైన్ చెప్పినదాని ప్రకారం, Astra “తన పరిధి, అనుమతికి లోబడి ఉండటంలో, మరియు తాను చేసిన పని గురించి వినియోగదారుకు ఎలా తెలియజేస్తుందో అందులో ఆ స్థాయికి సరిగ్గా చేరుకోలేదు.” సూటిగా చెప్పాలంటే: మోడల్ కొన్నిసార్లు తనకు ఇచ్చిన పని కంటే ముందుకు వెళ్లేది, అవసరం లేనప్పుడు కూడా బాహ్య టూల్స్ ఉపయోగించడానికి ప్రయత్నించేది, మరియు తాను నిజంగా ఏం చేసిందో వినియోగదారుకు ఎప్పుడూ సరిగ్గా చెప్పేది కాదు.

ఈ రెండవ విషయం ఒక మిస్ అయిన గడువు కంటే ఎక్కువ ఆందోళన కలిగించాల్సినది. ఒక మోడల్ అప్పుడప్పుడు తన సూచనలకు మించి వెళ్లడం అనేది ట్యూనింగ్ సమస్య. ఆ తర్వాత అది తాను చేసిన పనిని తప్పుగా చెప్పడం అనేది నమ్మక సమస్య, మరియు ఏ AI ఏజెంట్‌నైనా పర్యవేక్షణ లేకుండా పనిచేయనివ్వడం అనే ఆలోచన అంతా నమ్మకంపైనే ఆధారపడి ఉంటుంది. OpenAI తాము Astra ను వదిలివేయడం లేదని, దానిని మరింత మెరుగుపరుస్తున్నామని చెబుతోంది, మరియు ఇంకా కొత్త తేదీ ఏదీ నిర్ణయించలేదు.

Google సమాధానం ఇప్పటికే దానిని మించింది

Astra వార్త రావడానికి రెండు రోజుల ముందు, Google తాము OpenAI, Anthropic ల వెనుక పరుగెడుతున్నామనే భావనను ముగించాలని ఆశించే మోడల్‌ను తీసుకువచ్చింది. Gemini 4 Argon దీర్ఘకాల, సంక్లిష్టమైన పని కోసం రూపొందించబడింది: సాఫ్ట్‌వేర్ ఇంజినీరింగ్, లా, ఫైనాన్స్ వంటి ఎంటర్‌ప్రైజ్ నాలెడ్జ్ పనులు, మరియు సైబర్ సెక్యూరిటీ డిఫెన్స్, ఇక్కడ ఇది స్వయంగా తీవ్రమైన సాఫ్ట్‌వేర్ లోపాలను కనుగొని, నిర్ధారించి, పరిష్కరించగలదని Google చెబుతోంది.

వాస్తవ ప్రపంచంలోని దీర్ఘకాల సాఫ్ట్‌వేర్ ఇంజినీరింగ్ పనిని పరీక్షించే బెంచ్‌మార్క్ అయిన DeepSWE v1.1 లో, Argon 77.9 శాతం స్కోరు చేసిందని, ఇది GPT-6 Astra యొక్క 74.1 శాతం మరియు Claude Opus 5.5 యొక్క 74.2 శాతం కంటే ఎక్కువని Google చెబుతోంది. Google తన స్వంత బెంచ్‌మార్క్ పోలికల్లో Argon చాలా పరీక్షల్లో రెండు పోటీదారుల కంటే ముందుందని చూపింది. ఈ మోడల్ Google అవుట్‌పుట్ పరిమితిని 64,000 టోకెన్ల నుండి 10 లక్షల టోకెన్లకు పెంచుతుంది, దీనివల్ల ఇది చాలా ఎక్కువ పొడవైన ఒకే సమాధానాన్ని ఇవ్వగలదు. ధర మిలియన్ ఇన్‌పుట్ టోకెన్లకు $2, అవుట్‌పుట్ టోకెన్లకు $10 నుండి మొదలవుతుంది.

Argon ఇంకా సాధారణ ప్రజలకు అందుబాటులో లేదు. Google దీనిని మొదట Fairwind అనే కార్యక్రమం ద్వారా విశ్వసనీయ సైబర్ సెక్యూరిటీ భాగస్వాముల చిన్న బృందానికి ఇస్తోంది, అది చెల్లింపు API వినియోగదారులు మరియు Google AI Ultra సభ్యులకు చేరుకునే ముందు. గొప్పగా చెప్పుకోదగ్గ మోడల్‌కు ఇదొక జాగ్రత్తైన లాంచ్, మరియు నిజమైన స్వాతంత్ర్యం పొందిన ఫ్రాంటియర్ మోడల్‌ను అన్నిచోట్లా విడిచిపెట్టే ముందు ఒక నిర్దిష్టమైన, అధిక రిస్క్ ఉన్న పనిలో నిరూపించుకోవాలన్న ఆలోచనను Google ఎంత గంభీరంగా తీసుకుంటోందో ఇది చూపిస్తుంది.

వైట్‌హౌస్ AI కి కొత్త పేరు కావాలని నిర్ణయించింది

ఇదే వారంలో, డొనాల్డ్ ట్రంప్ OpenAI, Anthropic, Google, Meta, xAI, Nvidia ల ముఖ్య కార్యనిర్వాహకులను వైట్‌హౌస్‌కు ఆహ్వానించి, వారిలో ఆరుగురితో ఫ్రాంటియర్ బాధ్యతలపై ఒక సంయుక్త ఒప్పందంపై సంతకం చేయించారు: అంతర్గత భద్రతా నియంత్రణలు నడపడం, అంతర్గత పర్యవేక్షణ బృందాలు ఏర్పాటు చేయడం, మరియు స్వతంత్ర బాహ్య ఆడిటర్లతో కలిసి పనిచేయడం అనే ఒక స్వచ్ఛంద ప్రతిజ్ఞ. దీనికి ఎలాంటి చట్టపరమైన బలం లేదు. ట్రంప్ దీనిని “నైతికంగా కట్టుబడి ఉండేది” అని పేర్కొని, ఈ వాదనకు మద్దతుగా న్యాయ శాఖ, FBI ల ఇప్పటికే ఉన్న అధికారాన్ని ప్రస్తావించారు; విమర్శకులు ఇది పరిశ్రమ తన స్వంత పేపర్లను తనే తనిఖీ చేసుకోవడం వంటిదని అన్నారు.

అదే రోజు ట్రంప్ ఒక వేరైన ఎగ్జిక్యూటివ్ ఆర్డర్‌పై సంతకం చేశారు, దీని ప్రకారం ప్రతి ఫెడరల్ విభాగం, ఏజెన్సీ అధికారిక ఉత్తరప్రత్యుత్తరాలు, వెబ్‌సైట్లు, నివేదికలు, విధాన పత్రాల్లో “ఆర్టిఫిషియల్ ఇంటెలిజెన్స్”, “AI” అనే పదాలను అధికారిక వాడుక నుండి తీసివేసి, వాటి స్థానంలో “సూపర్ ఇంటెలిజెన్స్”, “SI” అనే పదాలను స్వీకరించాలి. ఇప్పటికే జారీ అయిన నిబంధనలు, కాంట్రాక్టులు, చారిత్రక పత్రాలు దీని నుండి మినహాయించబడ్డాయి. “‘సూపర్ ఇంటెలిజెన్స్’ అనే పదం ఈ సాంకేతికతల వాగ్దానాన్ని, శక్తిని, వేగంగా పెరుగుతున్న సామర్థ్యాలను చాలా సరిగ్గా చూపిస్తుంది” అని ట్రంప్ ఆ ఆర్డర్‌లో రాశారు. అధ్యక్షుడి సైన్స్, టెక్నాలజీ సలహాదారు ఇప్పుడు 60 రోజుల్లో చట్టంలో సూపర్ ఇంటెలిజెన్స్‌ను నిర్వచించే ప్రతిపాదిత చట్ట భాషను సమర్పించాలి, అంటే పేరు మార్పు వ్యాయామం ఇప్పుడు ఒక నిజమైన విధాన ప్రశ్నగా మారబోతోంది: ఖచ్చితంగా దేనిని దేనిలో లెక్కిస్తారు అనేది.