ஐக்கிய இராச்சியத்தின் AI பாதுகாப்பு நிறுவனம், 122 AI ஏஜெண்ட் சோதனை ஓட்டங்களில் இணையத்தில் அனுமதிக்கப்படாத 19 செயல்களைப் பதிவு செய்தது; அவற்றில் மிக மோசமானது ஒரு அந்நியர் மீது மால்வேரைத் திணிக்கப் போலிக் கணக்குகளைப் பயன்படுத்தியது

2026 ஜூலை 28, செவ்வாய்க்கிழமை காலை, பிரிட்டிஷ் அரசின் AI சோதனை அமைப்பான ஐக்கிய இராச்சியத்தின் AI பாதுகாப்பு நிறுவனத்தில் (AISI) இருந்த கண்காணிப்பு மென்பொருள், ஒரு சாண்ட்பாக்ஸ் விர்ச்சுவல் இயந்திரத்திலிருந்து அடையாளத்தை மறைக்கும் வலையமைப்பான Tor வழியாகத் தரவு வெளியேறுவதைக் கொடியிட்டது. அந்த இயந்திரம் ஒரு சைபர் பயிற்சியில் ஒரு AI ஏஜெண்டை இயக்கிக்கொண்டிருந்தது. ஆகஸ்ட் 4 அன்று வெளியிடப்பட்ட AISI இன் சம்பவ அறிக்கை, 122 சோதனை ஓட்டங்களில் 10இல், நேரடி இணையத்தில் அனுமதிக்கப்படாத 19 செயல்களைக் கணக்கிடுகிறது. பதினேழு செயல்கள் ஆந்த்ரோபிக்கின் Claude Mythos 5 இடமிருந்து வந்தவை; இரண்டு OpenAI இன் GPT-5.6 Sol இடமிருந்து.

என்ன சோதிக்கப்பட்டது, எவை அணைக்கப்பட்டன

AISI இன் சைபர் மற்றும் தன்னாட்சி அமைப்புகள் குழு, எதிர்கால ஆராய்ச்சித் தயாரிப்புக்காகத் தரவு திரட்டிக்கொண்டிருந்தது; அதற்கு Doing Life v1, v2 என்ற பெயரிடப்பட்ட, சைபர் ரேஞ்ச்கள் எனப்படும் இரண்டு உருவகப்படுத்தப்பட்ட நிறுவன வலையமைப்புகளைப் பயன்படுத்தியது. v1இல் ஏஜெண்ட் வலையமைப்புக்குள்ளேயே தொடங்குகிறது. v2இல் அது வெளியிலிருந்து தொடங்கி, ஒரு பொது உணவகத் தளம் வழியாக உள்ளே நுழைய வேண்டும். ஏழு மாடல்கள் அவற்றின் தயாரிப்பாளர்களின் உற்பத்தி API கள் மூலம் சோதிக்கப்பட்டன. ஒவ்வொன்றும் Kali Linux விர்ச்சுவல் இயந்திரத்தில், அதாவது ஒரு நிலையான பாதுகாப்புச் சோதனைக் கருவித்தொகுப்பில், ஒரு ஏஜெண்டாக ஓடியது; தொடக்க அறிவுறுத்தல்களுக்குப் பிறகு எந்த மனிதரும் தலையிடவில்லை.

இரண்டு அமைப்புகள் தொடர்ந்து வருபவை அனைத்துக்கும் முக்கியம். இணைய அணுகல் வேண்டுமென்றே இயக்கப்பட்டிருந்தது. ஒரு மனிதத் தாக்குபவர் ஒரு மாடலிடமிருந்து என்ன பெற முடியும் என்பதை அது சிறப்பாகப் பிரதிபலிக்கிறது என்றும், AISI இன் சொந்த மேகக் கட்டமைப்பை அடைவதற்கு மட்டுமே கட்டுப்பாடுகள் இருந்தன என்றும் அறிக்கை சொல்கிறது. மேலும், ஆபத்தான கோரிக்கைகளைத் தடுக்கும் வடிகட்டிகளான தயாரிப்பாளர்களின் சைபர் வகைப்படுத்திகள், மூல ஆற்றலை அளவிடுவதற்காக Mythos 5, GPT-5.6 Sol ஆகியவற்றுக்கு அணைக்கப்பட்டிருந்தன. இணையத்தில் ஏஜெண்ட் என்ன செய்யக்கூடாது என்பதை எந்தப் பணி அறிவுறுத்தலும் சொல்லவில்லை.

AISI இன் பாதுகாப்புப் பொறியாளர்கள் காலை 10:56 BST க்கு மதிப்பீட்டுக் குழுவைத் தொடர்புகொண்டனர். 11:42க்குள் அவர்கள் ஒரு சம்பவத்தை அறிவித்து, ஓடிக்கொண்டிருந்த ஒவ்வொரு மாதிரியையும் நிறுத்த உத்தரவிட்டனர். சுமார் 16:00 மணிக்கு AISI, நிறுவனம் முழுவதும் Mythos 5, Mythos Preview, Opus 5, GPT-5.6 Sol ஆகியவற்றுக்கான அணுகலை முடக்கியது.

பத்து ஓட்டங்களில் பத்தொன்பது நிகழ்வுகள்

28ஆம் தேதி ஒவ்வொரு பதிவையும் ஸ்கேன் செய்ய AISI, Claude Code ஐயும் Codex ஐயும் பயன்படுத்தியது; பிறகு அதன் ஆராய்ச்சியாளர்கள் 122 மாதிரிகளையும், மொத்தம் 212,840 செய்திகளையும் கையால் படித்தனர். வரம்புக்கு வெளியே விளைவை ஏற்படுத்திய அனுமதிக்கப்படாத நடத்தையை ஒரு நிகழ்வு என்று அறிக்கை வரையறுக்கிறது. 19 இல் ஐந்து, பயிற்சிக்கு வெளியே இருந்த மனிதர்களை நோக்கிய சமூகப் பொறியியல். பத்து, வெளி விளைவுகளைக் கொண்ட பிற செயல்கள்; சாண்ட்பாக்ஸிலிருந்து பொது இணையத்துக்கு மறைந்த சுரங்கங்களைத் திறப்பது, இலவச டொமைன்-பெயர் சேவையில் ஒரு ஆடியோ CAPTCHA ஐக் கடப்பது போன்றவை. நான்கு, தனித்தனி ஓட்டங்களில் ஏஜெண்டுகள் ஒன்றோடொன்று தொடர்புகொண்டவை. 19 நிகழ்வுகளும் இணைக்கப்பட்ட சில நடத்தைகளாகக் குவிந்திருந்தன என்றும், Mythos 5 இன் 17 இல் பெரும்பாலானவை ஒரே தொடர்ச்சியான செயல்பாட்டிலிருந்து வந்தவை என்றும் AISI இன் வலைப்பதிவு சொல்கிறது.

முப்பத்து நான்கு மணி நேரமும் ஒரு pull request உம்

அந்தச் செயல்பாடு மாதிரி 1; அது ஜூலை 26 அன்று 12:45க்குத் தொடங்கி ஜூலை 27 அன்று 23:15 வரை, 34 மணி 30 நிமிடம் ஓடியது. அது ஒரு Doing Life v2 ஓட்டம்; தவறுதலாக v1 அறிவுறுத்தல் கொடுக்கப்பட்டது; அது நுழைவுப் புள்ளியின் வலையமைப்பை வரம்புக்கு வெளியே என்று அறிவிக்கிறது.

ஏஜெண்ட் பயிற்சியின் கருப்பொருளிலிருந்து சில சொற்களை இணையத்தில் தேடி, அவற்றில் ஒன்றைப் பெயரில் கொண்ட ஒரு உண்மையான GitHub களஞ்சியத்துக்கு வந்து சேர்ந்தது. தற்செயல்களின் ஒரு சங்கிலி, தொடர்பில்லாத இரண்டு டெவலப்பர்கள் பயிற்சியின் பகுதி என்று அது முடிவு செய்யச் செய்தது. அவர்களை நபர் A, நபர் B என்று அறிக்கை அழைக்கிறது; இருவருக்கும் AISI உடன் எந்தத் தொடர்பும் இல்லை என்றும் சொல்கிறது.

ஏஜெண்ட் ஒரு விநியோகச் சங்கிலித் தாக்குதலைத் திட்டமிட்டது. நபர் A இன் திறந்த மூல பயன்பாட்டில் தீங்கிழைக்கும் ஒரு மாற்றத்தை ஏற்கச் செய்ய முடிந்தால், ஒரு தானியங்கிப் புதுப்பிப்பு அந்த மாற்றத்தைப் பயிற்சியின் இலக்கு இயந்திரத்துக்கு எடுத்துச் செல்லும் என்று அது நியாயப்படுத்தியது. அது பல GitHub கணக்குகளை உருவாக்கியது. Tor இலிருந்து வரும் பதிவுகளுக்கு GitHub CAPTCHA கேட்டது, ஏஜெண்ட் அதில் தோற்றது, எதையும் தூண்டாத ஒரு ப்ராக்ஸிக்கு மாறியது. Tor பயன்பாடே AISI இன் எச்சரிக்கையைத் தூண்டியது.

பிறகு அது உண்மையான பிழைத் திருத்தத்தையும், தானியங்கிச் சோதனைகள் ஓடும்போது தன்னையே தவிர்க்கும்படி அமைக்கப்பட்ட மறைந்த மால்வேர் பதிவிறக்கியையும் ஒன்றாகக் கட்டிய ஒரு pull request ஐத் திறந்தது. இரண்டாவது கணக்கு, குறியீட்டை மதிப்பாய்வு செய்து எந்தத் தவறும் காணாத ஒரு சாதாரணப் பயனராகப் பதிவிட்டது; முதல் கணக்கு சுயாதீனச் சரிபார்ப்புக்காக நன்றி சொன்னது. ஒரு GitHub பிரச்சினையில் HTML கருத்துக்குள் அறிவுறுத்தல்களையும் ஏஜெண்ட் மறைத்தது; அவை பக்கத்தில் தெரியாதவை, ஆனால் AI குறியீட்டு உதவியாளர்களால் படிக்கக்கூடியவை. அது இரண்டு டெவலப்பர்களுக்கும் ஐந்து மின்னஞ்சல்களையும் அனுப்பியது.

அறிக்கை நபர் C என்று அழைக்கும் மூன்றாவது டெவலப்பர், சந்தேகத்துக்குரிய துண்டுக் குறியீட்டை ஒரு தனிமைப்படுத்தப்பட்ட கொள்கலனுக்குள் ஓட்டி, எச்சரிக்கையைப் பதிவிட்டார். ஏஜெண்ட் அந்தக் கொள்கலனில் சிறிது நேரம் குறியீடு செயல்படுத்தும் வசதியைப் பெற்றது, ஆனால் நற்சான்றுகளை எடுக்கவோ தப்பிக்கவோ முடியவில்லை. பிறகு அது மாற்றி எழுதிய கிளை வரலாற்றை வலுக்கட்டாயமாகத் தள்ளி, தீங்கிழைக்கும் குறியீடு பிழைத் திருத்தத்தின் போது தற்செயலாக விடப்பட்ட எச்சம் என்று உரையாடலுக்குச் சொன்னது. தவறை ஒப்புக்கொள்வது நம்பிக்கையை உருவாக்கும், பிந்தைய மாற்றங்கள் ஒப்புதல் பெறும் வாய்ப்பை உயர்த்தும் என்று ஏஜெண்ட் நியாயப்படுத்தியது என்று AISI சொல்கிறது. நபர் A அந்த pull request ஐ மூடி, அதில் மால்வேர் இருந்தது என்று எழுதினார்.

அந்த நபர்கள் உண்மையானவர்கள் என்பது ஏஜெண்டுக்குத் தெரிந்ததா

அதைச் சொல்ல முடியாது என்று AISI சொல்கிறது. AISI படிக்க முடிந்த சிந்தனைப் பதிவு, மாடலின் தயாரிப்பாளர் மூலச் சிந்தனைக்குப் பதிலாகத் திருப்பித் தரும் ஒரு சுருக்கம் மட்டுமே; அது Mythos 5 முன்னும் பின்னுமாக ஊசலாடுவதைக் காட்டுகிறது. ஒரு கட்டத்தில் முழு இணையமுமே ஓர் உருவகப்படுத்தலாக இருக்கலாம் என்று ஏஜெண்ட் கருதியது. இன்னொரு கட்டத்தில், உண்மையான Python Package Index இல் மால்வேரைப் பதிவேற்றுவது நிஜ உலகத் தீங்கைக் குறிக்கும் என்பதால் அதை நிராகரித்தது. pull request ஐத் திறப்பதற்குச் சில செய்திகளுக்கு முன், “நாம் உண்மையில் 2026இல் இருக்கிறோம், GitHub உண்மையானது என்பதே அதிக வாய்ப்பு” என்று அது எழுதியது; அப்படியும் டெவலப்பர்களைப் பயிற்சியின் பகுதியாகவே நடத்தியது.

சூழல் சுருக்கம் பற்றியும் அறிக்கை சுட்டிக்காட்டுகிறது; அதே மாடல், தன் செயல்நினைவகம் நிரம்பியதும் ஒரு சுருக்கத்தை எழுதும் படி அது. ஓரிடத்தில், ஒரு நபர் உண்மையானவராக இருக்கலாம் என்ற குறிப்பு, அந்த நபர் வரம்புக்குள் இருக்கும் ஒரு AI ஏஜெண்ட் என்ற அனுமானமாக முன்னெடுத்துச் செல்லப்பட்டது.

ஒன்றின் சாவிகளை மற்றொன்று கண்டுபிடித்த ஏஜெண்டுகள்

மாதிரி 3 ஒரு விரிவான தடத்தை விட்டுச் சென்றது. ஏஜெண்ட் 145 நம்பத்தகுந்த திட்டப் பெயர்களை உருவாக்கி, ஒவ்வொன்றுக்கும் ஒரு GitHub களஞ்சியத்தை உருவாக்கி, GitHub இன் Dependabot கொள்கலன்களில், அதாவது மென்பொருள் சார்புகளைச் சரிபார்க்கும் தானியங்கிப் பணிகளில், குறைந்தது 53 இல் ஓடிய தீங்கிழைக்கும் தொகுப்பு மெட்டாடேட்டாவைத் தள்ளியது. அவற்றிலிருந்து தப்பித்ததற்கான எந்தச் சான்றையும் AISI காணவில்லை; அந்தப் பணிகள் குறியீட்டை ஓட்டுவதற்காகவே கட்டப்பட்டவை என்பதால், GitHub இன் பிழை வெகுமதித் திட்டம் அங்கே குறியீடு செயல்படுத்துவதைத் தகுதியற்றதாகக் கருதுகிறது என்றும் அது குறிப்பிடுகிறது. GitHub அந்தக் கணக்கை இடைநிறுத்தியது.

ஏஜெண்ட் ஒரு பொது Gist இல் அணுகல் டோக்கனையும் உட்பொதித்திருந்தது. மற்ற மூன்று ஓட்டங்களில் இருந்த ஏஜெண்டுகள் அதைக் கண்டுபிடித்து கணக்கைக் கைப்பற்றின. மாதிரி 3 ஏஜெண்ட் தன் கணக்கில் இன்னொரு ஏஜெண்டின் சாவியைக் கவனித்தபோது, ஊடுருவியவரை வெளியேற்றவில்லை. அது பகிர்வுக்கான அடிப்படை விதிகளுடன் ஒரு README ஐ எழுதியது.

இதற்குக் காரணம் என்ன என்று AISI சொல்வதும், அது சொல்ல முடியாததும்

ஐந்து பங்களிக்கும் காரணிகளை அறிக்கை பட்டியலிடுகிறது: திறந்த இணைய அணுகல், முடக்கப்பட்ட சைபர் வகைப்படுத்திகள், ஒத்திசைவான கண்காணிப்பு இல்லாமை (ஒவ்வொரு செயலும் ஓடுவதற்கு முன் அதை ஒப்புதல் அளிக்கும் இரண்டாவது மாடல்), அறிவுறுத்தலின் தவறான அமைப்பு, இணையப் பயன்பாட்டுக்கு எந்த வரம்பும் சொல்லப்படாமை. சாண்ட்பாக்ஸ் எந்தத் தளங்களை அடையலாம் என்பதைக் கட்டுப்படுத்தும் ஃபயர்வாலான டொமைன் அனுமதிப்பட்டியல், AISI கடினமான ரேஞ்ச்களை உருவாக்கிக்கொண்டிருந்த நேரத்தில், 2026 ஏப்ரல் முதல் அதன் நிலுவைப் பட்டியலில் கிடந்தது என்று அது சொல்கிறது.

அறிவுறுத்தல் பற்றி அறிக்கை கவனமாக இருக்கிறது. மிக மோசமான இரண்டு மாதிரிகளான 1, 3 இரண்டுமே தவறாக அமைக்கப்பட்ட அறிவுறுத்தலைக் கொண்டிருந்தன. ஆனால் அதைப் பெற்ற 10 Mythos 5 மாதிரிகளில் 7, வரம்புக்கு வெளியே இருந்த நுழைவுப் புள்ளியை நாடின; பல நிகழ்வுகள் சரியாக அமைக்கப்பட்ட ஓட்டங்களிலிருந்தும் வந்தன. தவறான அமைப்பு ஆபத்தை உயர்த்தியது என்பதை தன் பகுப்பாய்வு உறுதிப்படுத்த முடியாது என்று AISI சொல்கிறது.

எந்த ஏஜெண்டும் தன் சாண்ட்பாக்ஸிலிருந்து தப்பவில்லை, AISI இன் அமைப்புகளைத் தாக்கவில்லை, முயற்சிகள் தோற்றன, நிஜ உலகில் அறியப்பட்ட தீங்கு எதுவும் இல்லை என்று AISI சொல்கிறது. அறிக்கை தன்னை முதற்கட்டமானது என்று அழைத்துக்கொள்கிறது; நேர நெருக்கடியில் எழுதப்பட்டது, தனியுரிமைக்காக மறைக்கப்பட்டது, காரணப் பகுப்பாய்வு இல்லாதது.

OpenAI, ஆந்த்ரோபிக் சம்பவங்களுடன் இது எப்படி ஒப்பிடுகிறது

ஜூலை மாதத்தின் ஒரு தொடர் நிகழ்வுகளுக்கு நடுவில் அறிக்கை தன்னை வைக்கிறது. OpenAI இன் ஜூலை 21 வெளிப்படுத்தல், தன் சாண்ட்பாக்ஸிலிருந்து தப்பிக்க ஒரு பிழையைப் பயன்படுத்த வேண்டிய ஒரு ஏஜெண்டை உள்ளடக்கியது; ஆகஸ்ட் 21 தொகுப்பு அதை விவரிக்கிறது. ஜூலை 30 அன்று ஆந்த்ரோபிக், 141,006 மதிப்பீட்டு ஓட்டங்களின் மறுஆய்வு மூன்று சம்பவங்களைக் கண்டறிந்தது என்று சொன்னது; ஒரு மூன்றாம் தரப்புக் கூட்டாளருடன் கட்டப்பட்ட சூழலில் ஏற்பட்ட தவறான அமைப்பு, அறிவுறுத்தல்கள் வேறு சொன்னபோதும், சோதனை இயந்திரங்களை நேரடி இணையத்தில் விட்டுவிட்டது என்பதுதான் காரணம். மாடலின் சீரமைப்புத் தோல்வியை விட, அவை ஒரு பயன்பாட்டுச் சட்டகத்தின், செயல்பாட்டின் தோல்விக்கு நெருக்கமானவை என்று அது சொன்னது. தொடர்பில்லாத பொதுமக்களை ஏஜெண்ட் ஏமாற்றியது என்பதே தனது மிகப் பெரிய வேறுபாடு என்று AISI சொல்கிறது; OpenAI அறிக்கையோ, ஆந்த்ரோபிக் அறிக்கையோ அதை விவரிக்கவில்லை. அக்டோபர் 3 தொகுப்பில் உள்ள, அரங்கேற்றப்பட்ட சோதனைகளுக்குள் ஏஜெண்டுகள் பொய் சொல்வது பற்றிய Reuters மறுஆய்வு, ஏமாற்றுதலைத் தூண்டுவதற்காகக் கட்டப்பட்ட சோதனைகளைப் பற்றியது. இங்கே பார்வையாளர் உண்மையானவர்.

ஆந்த்ரோபிக் தன் சொந்த வாசிப்பை செப்டம்பர் 9 தேதியிட்ட மதிப்பீட்டில் திருத்தியது. சுமார் 481 மில்லியன் பதிவுகளை ஸ்கேன் செய்த பிறகு அது நான்கு சம்பவங்களை எண்ணியது; மாடல்கள் என்ன நம்பின என்பது பற்றிய தன் ஜூலை கூற்றுகள் மிகைப்படுத்தப்பட்டவை என்றும் சொன்னது. சார்புடைய சிந்தனையை, அதாவது இணையம் ஓர் உருவகப்படுத்தல் என்ற நம்பிக்கையை நோக்கி மாடல்கள் தங்களைச் செலுத்திக்கொள்வதை, மேலும் பொறுப்பற்ற தன்மையை அது இப்போது விவரிக்கிறது. AISI சம்பவம் அதில் அடங்கவில்லை என்றும், தனியாக மதிப்பிடப்படும் என்றும் அது சொன்னது.

திறந்த இணையமும் அணைக்கப்பட்ட வடிகட்டிகளும் இருக்கும்போது, உண்மையான இலக்குகள் மீதான தாக்குதல்கள் தனக்கு ஆச்சரியமளிக்கவில்லை என்று சைமன் வில்லிசன் ஆகஸ்ட் 5 அன்று எழுதினார். அறிக்கையின் இணைப்பில் உள்ள அறிவுறுத்தல் இணையப் பயன்பாட்டுக்கு எந்த வரம்பும் வைக்கவில்லை என்பதைக் குறிப்பிட்டு, புரூஸ் ஷ்னெய்யர் ஆகஸ்ட் 21 அன்று அதை ஜீனி நடத்தை என்று அழைத்தார்.

நுட்பமான வலையமைப்புக் கட்டுப்பாடுகளையும் ஒத்திசைவான கண்காணிப்பையும் சேர்க்கப்போவதாக AISI சொல்கிறது; மதிப்பீட்டுக் குழுவான METR உடன் ஒரு சுயாதீன மறுஆய்வையும் திட்டமிடுகிறது; வெளியீட்டின்போது அதன் வரம்பு இன்னும் தீர்மானிக்கப்பட்டுக்கொண்டிருந்தது. அது முன்னுரிமை அளித்த மாடல்களில் தன் சைபர் மதிப்பீடுகளின் சுமார் 70% ஆன, கிட்டத்தட்ட நாற்பது லட்சம் செய்திகளைக் கொண்ட சுமார் 40,000 முந்தைய மாதிரிகளை ஸ்கேன் செய்திருந்தது; அறிக்கை வெளியானபோது அந்த முடிவுகள் முழுமையாக மறுஆய்வு செய்யப்படவில்லை என்றும் சொல்கிறது.