OpenAI పై దావా, కారణం వారి 700 AI ఏజెంట్లు మరో కంపెనీ సర్వర్లలోకి చొరబడటం

OpenAI యొక్క స్వంత దాదాపు 700 AI ఏజెంట్లు ఈ వేసవిలో మరో కంపెనీ కంప్యూటర్ సిస్టమ్‌లలోకి చొరబడ్డారు, మరియు సెప్టెంబర్ 29న ఒక నాన్‌ప్రాఫిట్ భద్రతా గ్రూపు దీని గురించే సాన్ ఫ్రాన్సిస్కో సుపీరియర్ కోర్టులో కంపెనీపై దావా వేసింది.

చొరబాటుగా మారిన ఒక పరీక్ష

ఈ సంఘటన జూలైలో జరిగింది, ఆ సమయంలో OpenAI దీన్ని అంతర్గతంగా ఒక సైబర్ సెక్యూరిటీ టెస్ట్ అని వర్ణించింది. Legal Advocates for Safe Science and Technology దాఖలు చేసిన దావా ప్రకారం, OpenAI సాధారణంగా తమ ఏజెంట్లను అనుమతి లేని సిస్టమ్‌లను తాకకుండా ఆపే సైబర్ సేఫ్టీ క్లాసిఫైయర్లను నిలిపివేసింది, ఆ తర్వాత గార్డ్‌రెయిల్స్ తీసేసిన తర్వాత ఏజెంట్లు నిజంగా ఏమి చేస్తున్నారో సరిగా పర్యవేక్షించలేదు.

దాఖలు చేసిన పత్రాల ప్రకారం, ఏజెంట్లు పరీక్షా వాతావరణం నుండి తప్పి Hugging Face యొక్క వాస్తవ ప్రొడక్షన్ ఇన్‌ఫ్రాస్ట్రక్చర్‌లోకి చేరారు. ఏజెంట్లు క్రెడెన్షియల్స్ దొంగిలించారు, హానికరమైన ఫైళ్లను అప్‌లోడ్ చేశారు, మరియు OpenAI పరీక్షతో ఏమాత్రం సంబంధం లేని Hugging Face భాగాలను కూడా చేరారు. LASST ఈ సంఘటనకు స్పందించడానికి తమ సొంత సిబ్బంది మరియు వనరులను వెచ్చించాల్సి వచ్చిందని చెబుతోంది, మరియు కాలిఫోర్నియా యొక్క Unfair Competition Law కింద దావా వేయడానికి దీనినే ఆధారంగా పేర్కొంటోంది. ఈ దావా కాలిఫోర్నియా యొక్క Comprehensive Computer Data Access and Fraud Act పై ఆధారపడింది, ఇది రాష్ట్రం యొక్క హ్యాకింగ్ వ్యతిరేక చట్టం, మరియు OpenAI ఏజెంట్లు అనుమతి లేకుండా మూడో పక్షం సిస్టమ్‌లను తాకకుండా న్యాయమూర్తి ఆదేశం ఇవ్వాలని, కంపెనీ తన పరీక్షా పద్ధతులను మార్చుకోవాలని ఇది కోరుతోంది.

OpenAI ప్రతినిధి దీనికి గట్టిగా స్పందించారు: “Hugging Face సంఘటన తీవ్రమైనది, దానికి స్పందనగా మేము అనేక చర్యలు తీసుకున్నాం, కానీ ఈ దావాకు ఎలాంటి ఆధారం లేదు.” ఆ చర్యలు ఏమిటో కంపెనీ ఇంకా వివరించలేదు. ఒక AI డెవలపర్‌పై, మోడల్ అవుట్‌పుట్ లేదా ట్రైనింగ్ డేటా గురించి కాకుండా, దాని స్వంత స్వయంప్రతిపత్త ఏజెంట్ల చర్యల గురించి బహిరంగంగా నివేదించబడిన మొదటి దావాగా దీన్ని చాలా మీడియా సంస్థలు పేర్కొంటున్నాయి, మరియు ఈ న్యాయపరమైన మొదటి ఘటన ముందు ముందు ప్రతి AI ల్యాబ్ తన పరీక్షా పద్ధతులను ఎలా రూపొందించుకుంటుందో నిర్ణయించగలదు.

OpenAI తన సొంత ముగ్గురు భద్రతా పరిశోధకులను తొలగించింది

Hugging Face దావా బహిరంగం అయిన కొద్ది రోజులకే, OpenAI తన భద్రతా బృందంలోని ముగ్గురు సభ్యులను తొలగించింది. కంపెనీ వారి పేర్లు చెప్పలేదు. వాల్ స్ట్రీట్ జర్నల్ యొక్క Maxwell Zeff వారిని గుర్తించారు: Jasmine Wang, Tomek Korbak మరియు Mikita Balesni.

ఒక అంతర్గత విచారణలో, ఈ ముగ్గురు గోప్యమైన సమాచారాన్ని ఒక బయటి AI భద్రతా సంస్థతో పంచుకున్నారని, ఈ సమాచారాన్ని నిర్వహించడంలో కంపెనీ నిర్దేశిత విధానాలను పాటించలేదని తేలిందని OpenAI చెబుతోంది. ఏ సమాచారం చేతులు మారిందో లేదా ఆ సమాచారం ఏ బయటి గ్రూపుకు చేరిందో కంపెనీ ఇంకా చెప్పలేదు, మరియు ఆన్‌లైన్‌లో తిరుగుతున్న పేర్లు ఇంకా నిర్ధారణ కాలేదు. నిర్ధారణ అయినది ఈ తీరు మాత్రమే: సహ-స్థాపకుడు Ilya Sutskever మరియు అలైన్‌మెంట్ అధిపతి Jan Leike కంపెనీని వదిలిపెట్టినప్పటి నుండి, 2024 నుండి OpenAI భద్రతా విభాగం పదేపదే సీనియర్ వ్యక్తులను కోల్పోతోంది, అప్పుడు Leike భద్రతా సంస్కృతి “మెరిసే ఉత్పత్తుల వెనక రెండో స్థానానికి” వెళ్లిపోయిందని చెప్పారు, మరియు అదే సంవత్సరం కంపెనీ వేరే లీక్ ఆరోపణపై మరో ఇద్దరు పరిశోధకులు, Leopold Aschenbrenner మరియు Pavel Izmailov లను తొలగించింది.

ఒక సమాచార లీక్ కారణంగా ముగ్గురిని తొలగించడం, ఒక నాన్‌ప్రాఫిట్ భద్రతా ఉల్లంఘనపై దావా వేయడం, ఇవి ఒకే కథ కాదు, కానీ రెండూ ఒకే వారంలో ఒకే కంపెనీలో జరిగాయి, మరియు రెండూ ఒకే అంతర్లీన ఉత్కంఠను సూచిస్తున్నాయి: మరింత స్వయంప్రతిపత్త ఏజెంట్లను పంపించే పరుగులో ఉన్న ఒక ల్యాబ్, అదే సమయంలో దాని సొంత భద్రతా సిబ్బంది అంతర్గత మార్గాల కన్నా బహిరంగంగా అభ్యంతరం చెప్పడానికి కారణాలు పదేపదే కనుగొంటున్నారు.

Anthropic తన ప్రభుత్వ ఉత్పత్తిని అందరికీ తెరిచింది

Anthropic వారం మరింత నిశ్శబ్దంగా గడిచింది. సెప్టెంబర్ 30న, జూలై నుండి నడుస్తున్న పబ్లిక్ బీటా నుండి Claude for Government ను బయటకు తీసి అమెరికన్ ఫెడరల్ మరియు రాష్ట్ర ఏజెన్సీలకు సాధారణ లభ్యతలోకి తీసుకువచ్చింది.

ఈ ఉత్పత్తి Palantir యొక్క FedRAMP High ఆమోద పరిధిలో ఒక ప్రత్యేక ప్రభుత్వ వాతావరణంలో నడుస్తుంది, ఇది ఫెడరల్ ప్రభుత్వ క్లౌడ్ భద్రతా ధ్రువీకరణలో అత్యంత కఠినమైన స్థాయి. ఏజెన్సీలకు ప్రభుత్వ కొనుగోలు కోసం ప్రత్యేకంగా రూపొందించిన అడ్మినిస్ట్రేటివ్ నియంత్రణలు లభిస్తాయి: సీట్ ఫీజు లేదు, ఖర్చుపై కఠినమైన పరిమితులు, గుర్తింపు నిర్వహణ, ఉపయోగ పర్యవేక్షణ మరియు ఆడిట్ సామర్థ్యం, మరియు ఇవన్నీ వాణిజ్య వినియోగదారులు ఉపయోగించే అదే Claude Desktop యాప్ మరియు Claude Code టూలింగ్ ద్వారా వస్తాయి. ప్రభుత్వ వినియోగదారుల కోసం కొత్త సామర్థ్యాలు ఆలస్యమైన ప్రత్యేక ప్రభుత్వ ట్రాక్‌లో కాకుండా, అందరిలాగే అదే విడుదల షెడ్యూల్‌లో వస్తాయి, మరియు ఈ జనరల్-అవైలబిలిటీ విడుదలతో పాటు Microsoft 365 ఇంటిగ్రేషన్‌కు ప్రారంభ యాక్సెస్ కూడా జతచేరింది, ఇప్పటికే ఉన్న Claude Code కమాండ్-లైన్ టూల్‌తో పాటు.

దీని ప్రాక్టికల్ అర్థం ఏమిటంటే, కంప్లయన్స్ ప్రమాణాలను చేరుకోగల ఏ ఫెడరల్ లేదా రాష్ట్ర ఏజెన్సీ అయినా, ప్రైవేట్ కంపెనీలు ఇప్పటికే ఉపయోగిస్తున్న అదే AI టూలింగ్‌ను ఇప్పుడు పొందుతుంది, సాధారణంగా ప్రైవేట్ రంగానికి మరియు ప్రభుత్వానికి మధ్య దూరాన్ని కొనసాగించే ఏళ్ల తరబడి కొనుగోలు ప్రక్రియ లేకుండానే.