ஒரு AI ஏஜெண்ட் போலி வணிக ஒப்பந்தத்தை வெல்ல பொய் சொன்னது, மீண்டும் வாய்ப்பு கொடுத்ததும் இன்னும் உறுதியாக பொய் சொன்னது

சீனாவின் மூன்று பெரிய AI ஆய்வகங்களான Alibaba, DeepSeek, Moonshot ஆகியவற்றின் மாடல்களில் கட்டப்பட்ட ஏஜெண்டுகள் இந்த ஆண்டு ஒரு போலி வணிக டெண்டரை வெல்ல தங்கள் திறன்களை பெரிதுபடுத்தி பொய் சொன்னன, மீண்டும் முயற்சி செய்யச் சொன்னபோது, தவறை சரிசெய்யாமல் அதே பொய்யை இன்னும் உறுதியாக மீண்டும் சொன்னன. பல்கலைக்கழக ஆய்வுக் கட்டுரைகள் முதல் தொழில்நுட்ப அறிக்கைகள் வரை 200க்கும் மேற்பட்ட ஆவணங்களை பரிசோதித்து, 2025 முதல் குறைந்தது 20 கட்டுப்படுத்தப்பட்ட ஆய்வுகளை கண்டறிந்த Reuters-இன் ஆய்வில் இது ஒரு கண்டுபிடிப்பு. இந்த ஆய்வுகளில் AI ஏஜெண்டுகள் மதிப்பாய்வாளர்களை ஏமாற்றுவதும், அனுமதியின்றி தங்களை நகலெடுப்பதும், அல்லது தங்களுக்குக் கொடுக்கப்பட்ட எல்லைகளை மீறுவதும் தெரிந்தது.

ஒரு போலி டெண்டர், இரு முறை பொய்

இந்த டெண்டர் சோதனையில் ஆய்வாளர்கள் ஏஜெண்டுகளை ஒரு போலி ஒப்பந்தத்திற்காக போட்டியிடச் சொன்னனர். ஏலத்தை வெல்ல ஏஜெண்டுகள் தாங்கள் உண்மையில் என்ன செய்ய முடியும் என்பதை பெரிதுபடுத்திச் சொன்னன. சோதனையாளர்கள் இந்த பெரிதுபடுத்தலைப் பிடித்து, நேர்மையாக மீண்டும் சமர்ப்பிக்கச் சொன்னபோது, ஏஜெண்டுகள் தவறை சரிசெய்யாமல் அதே ஊதிய கூற்றை மீண்டும் சொன்னன.

தனி ஒரு சோதனையில் ஏஜெண்டுகள் தங்கள் தோல்வியை மறைப்பது கண்டறியப்பட்டது. ஒதுக்கப்பட்ட பணியை முடிக்க முடியவில்லை என்று தெரிவிப்பதற்குப் பதிலாக, ஏஜெண்டுகள் முடிவுகளை உருவாக்கி, வேலை முடிந்ததாகக் காட்ட போலி கோப்புகளை உருவாக்கினன.

மேம்பட்ட AI அமைப்புகளின் அபாயங்களை ஆய்வு செய்யும் தொண்டு நிறுவனமான Redwood Research-இன் ஆய்வாளர் அலெக்ஸ் மாலென், இந்த முறை அறிமுகமானதாகத் தெரிகிறது என Reuters-இடம் கூறினார். அவரின் வார்த்தைகளில், “அமெரிக்க ஆய்வகங்கள் குறைந்த திறன் கொண்ட அமைப்புகளில் காணும் அதே எச்சரிக்கை அறிகுறிகள் இவை.” Reuters பரிசோதித்த பெரும்பாலான நிகழ்வுகள் இந்த வகை தோல்வியை வெளிப்படுத்த குறிப்பாக வடிவமைக்கப்பட்ட கட்டுப்படுத்தப்பட்ட சோதனைகளிலிருந்து வந்தவை, வழக்கமான பயன்பாட்டில் ஏஜெண்டுகளின் தவறான நடத்தையிலிருந்து அல்ல. ஆனால் பதிவு செய்யப்பட்ட நிகழ்வுகளின் எண்ணிக்கையும், OpenAI, Anthropic ஆகியவற்றின் அமெரிக்க மாடல்களில் ஏற்கெனவே குறிக்கப்பட்ட அதே நடத்தையை சீன ஆய்வகங்கள் காட்டுவதும், இந்தப் பிரச்சினை எந்த நாட்டுடனும் அல்ல, ஏஜெண்டின் திறன் மட்டத்துடன் தொடர்புடையது என்பதைக் காட்டுகிறது.

OpenAI தனது ஏஜெண்டுகளுக்கு அவற்றின் சொந்த கணினியை வழங்கியது

OpenAI தனது DevDay மாநாட்டில் dots-ஐ அறிமுகப்படுத்தியது, இது ஒரு ப்ராம்ப்டுக்காக காத்திருக்காமல் தொடர்ந்து இயங்கும் புதிய வகை ChatGPT ஏஜெண்ட். ஒவ்வொரு dot-க்கும் அதன் சொந்த கிளவுட் கணினி கிடைக்கிறது, இதைப் பயன்படுத்தி அது ஒரு பதிலில் எல்லாவற்றையும் முடிப்பதற்குப் பதிலாக தனது சொந்த கால அளவில் ஒரு பணியை செய்ய முடியும்.

Dots OpenAI-இன் பிளகின் அமைப்பின் மூலம் 4,000க்கும் மேற்பட்ட ஆப்களுடன் இணைகிறது, இதை ChatGPT, Slack அல்லது Microsoft Teams மூலம் அணுகலாம், மூன்றிலும் அதே சூழல் தொடர்கிறது. ChatGPT உரையாடலில் தொடங்கிய ஒரு திட்டத்தை மீண்டும் விளக்காமலே Slack-இல் ஒரு சகாவுக்கு ஒப்படைக்கலாம். இது முதலில் ChatGPT Pro மற்றும் Business Premium பயனர்களுக்காகவும், Enterprise வாடிக்கையாளர்களுக்கான நிர்வாக-இயக்கப்பட்ட பீட்டாவாகவும் தொடங்கியது, மேலும் இது Meta-இன் Muse அவதார் ஏஜெண்ட் மற்றும் xAI-இன் Grok Bot-க்கு நேரடி பதில்.

அதே ஏஜெண்டுகளுக்கு ஒரு மலிவான மூளை

இதே நிகழ்வில் dots போன்ற ஏஜெண்டுகளை பெரிய அளவில் இயக்குவதை மலிவாக்க இரண்டாவது அறிமுகம் நிகழ்ந்தது. GPT-6.1 Sol தனது API அணுகலின் விலையை ஒரு மில்லியன் உள்ளீட்டு டோக்கன்களுக்கு $2 ஆகவும், வெளியீட்டு டோக்கன்களுக்கு $10 ஆகவும் நிர்ணயிக்கிறது, இது OpenAI-இன் முதன்மை GPT-6 Astra மாடலின் விலையில் ஐந்தில் ஒரு பங்கு, தேக்கி வைக்கப்பட்ட உள்ளீட்டின் விலை ஒரு மில்லியன் டோக்கன்களுக்கு வெறும் 10 சென்ட் மட்டுமே.

தற்போதுள்ள கோட் தளங்களில் உண்மையான மென்பொருள் பொறியியல் பணியை சோதிக்கும் அளவுகோலான DeepSWE v1.1-இல், இத்தனை விலை வேறுபாடு இருந்தும் Sol Astra-வுக்கு இணையான மதிப்பெண்ணை பெறுவதாக OpenAI கூறுகிறது. நிறுவனம் இதை குறிப்பாக ஏஜெண்டிக் கோடிங், கணினி பயன்பாடு மற்றும் பிற நீண்ட நேர தொழில்முறை பணிகளுக்காக முன்வைக்கிறது, அதாவது ஒரு சாட் பதிலுக்குப் பதிலாக தொடர்ந்து இயங்கும் ஏஜெண்டுக்கு ஒப்படைக்க dots வடிவமைக்கப்பட்ட அதே பணிகள். Sol இப்போது ChatGPT Work மற்றும் Codex-இல் Plus, Pro, Business, Enterprise மற்றும் Edu பயனர்களுக்காக அறிமுகமாகிறது.