ఏఐని సురక్షితంగా ఉంచాల్సిన బాధ్యత ఉన్నవారే బయటకు వెళ్లిపోయారు, బయటి నుంచి కనిపెడతామంటూ

ఒక వారం క్రితం, మూడు ప్రత్యర్థి ఏఐ కంపెనీల అధిపతులు పరిశ్రమ మందగించాలని బహిరంగంగా ఒప్పుకున్నారు. లోపల నుంచి ఇది నిజంగా ఎలా ఉంటుందో ఈ వారం తేలింది. ఫ్రాంటియర్ ఏఐ మోడళ్లలో ప్రమాదాన్ని పసిగట్టే బాధ్యత మొత్తం ఉన్న ముగ్గురు పరిశోధకులు తమ కంపెనీలు చర్యలు తీసుకునేదాకా వేచి చూడకుండా ఉద్యోగాలు వదిలేశారు. మైక్రోసాఫ్ట్ సీఈఓ తన కంపెనీ మోడళ్లకు బహిరంగ ప్రవర్తనా నియమావళిని ప్రకటించి జవాబిచ్చారు, ప్రపంచంలోని రెండు డజన్ల మేటి గణితశాస్త్రవేత్తలు పరిశ్రమ ఇప్పుడు తమ రంగం సరిచూసుకోలేనంత వేగంగా ముందుకెళుతోందని చెప్పారు. వీటన్నింటికీ దూరంగా, మెక్సికోలో ఒక విలుకాడు భారత్ కోసం పూర్తిగా వేరే రకం చరిత్ర రాశాడు.

ఏఐ ప్రమాదాన్ని కనిపెట్టేవారే ఉద్యోగాలు వదిలేస్తున్నారు

సెప్టెంబర్ 8న, జాకబ్ కాక్సన్ రాజీనామా ప్రకటించారు. ఆయన సుమారు మూడేళ్లుగా మొదట ఓపెన్‌ఏఐలో, తర్వాత ఆంత్రోపిక్‌లో ప్రీట్రైనింగ్ పరిశోధన చేశారు. ఎక్స్‌లో ఏడు భాగాలుగా రాసిన సందేశంలో, అది రాత్రికి రాత్రే దాదాపు 7.6 కోట్ల సార్లు చూడబడింది, రెండు కంపెనీలూ “నేరుగా తనను తాను మెరుగుపరచుకునే సూపర్ ఇంటెలిజెన్స్ వైపు పరుగెడుతున్నాయని, మన జీవితాలతో జూదమాడుతున్నాయని” ఆయన రాశారు. ఈ టెక్నాలజీని నిర్మిస్తున్నవారు “ఇది దశాబ్దం ముగిసేలోగా మనందరినీ చంపేయగలదని హృదయపూర్వకంగా నమ్ముతారని” కూడా చెప్పారు.

మూడు రోజుల తర్వాత, ఆంత్రోపిక్‌లో భద్రతా పరిశోధక బృందానికి నాయకత్వం వహించిన జో బెంటన్ కూడా తాను రాజీనామా చేశానని వెల్లడించారు, దీని గురించి తన మొదటి ఇంటర్వ్యూను ఎన్‌బీసీ న్యూస్‌కు ఇచ్చారు. ప్రస్తుతం కంపెనీలు ఏఐ ప్రమాదాల గురించి తమకు ఇష్టమైనప్పుడు మాత్రమే బహిర్గతం చేస్తున్నాయని ఆయన చెప్పారు. “ప్రస్తుతానికి, ఈ ప్రమాదాల గురించి కంపెనీల నుంచి వస్తున్న పారదర్శకత అంతా పూర్తిగా స్వచ్ఛందమైనదే,” అని బెంటన్ అన్నారు. ఒక కంపెనీలో ఉండటం కంటే “ఈ కంపెనీల బయట నుంచి బహిరంగ పారదర్శకతను ప్రోత్సహించడం ద్వారా” తాను మరింత మేలు చేయగలనని భావిస్తున్నానని కూడా జోడించారు. ఒకటి రెండు రోజుల తర్వాత, గూగుల్ డీప్‌మైండ్ ఏజీఐ భద్రతా బృందంలో పనిచేసిన జోష్ ఎంగెల్స్, తాను నిజానికి మూడు వారాల క్రితమే వెళ్లిపోయానని, వెళ్లేటప్పుడు ఆంత్రోపిక్, ఓపెన్‌ఏఐ రెండింటి ఉద్యోగ ఆఫర్లనూ తిరస్కరించానని చెప్పారు. రాబోయే ఐదేళ్లలో ఏఐ వ్యవస్థలు తీవ్ర హాని కలిగించే “భయానకమైన అవకాశం” తనకు కనిపిస్తోందని ఎంగెల్స్ విలేకరులతో అన్నారు.

ఈ ముగ్గురూ ఇప్పుడు ఒకే చోటికి వెళుతున్నారు: మెటర్, అంటే మోడల్ ఎవాల్యుయేషన్ అండ్ థ్రెట్ రీసెర్చ్ అనే బర్క్లీ కేంద్రంగా ఉన్న ఒక లాభాపేక్ష లేని సంస్థ, ఇది ఫ్రాంటియర్ ఏఐ వ్యవస్థలను తయారుచేసే కంపెనీల తరఫున కాకుండా ప్రభుత్వాలు, ప్రజల తరఫున వాటి ప్రమాదకర లేదా స్వతంత్ర సామర్థ్యాల కోసం పరీక్షిస్తుంది. దాని గుర్తింపే స్వతంత్రత, ఈ వారం తర్వాత దానికి ఇప్పుడు తాము పర్యవేక్షించబోయే ల్యాబ్‌ల జీతాల మీద ఒకప్పుడు పనిచేసిన మరో ముగ్గురు వ్యక్తులు వచ్చి చేరారు.

మైక్రోసాఫ్ట్ జవాబు: రాజీనామా చేయడానికి బదులు నియమాలు ప్రచురించడం

సెప్టెంబర్ 13న, మైక్రోసాఫ్ట్ సీఈఓ సత్య నాదెళ్ల ఇదే చర్చకు పూర్తి భిన్నమైన రీతిలో స్పందించారు. ఎక్స్‌లో ఒక పోస్ట్‌లో, “సూపర్ ఇంటెలిజెన్స్ కోసం ఏ ప్రయత్నమైనా, మనం నిర్మిస్తున్న ఏఐ మానవాళికి సాయపడకపోతే, మానవ నియంత్రణలో లేకపోతే, దాన్ని నిర్మించడంలో అర్థం లేదన్న మౌలిక సూత్రంపై ఆధారపడాలి” అని ఆయన రాశారు. రాజీనామా చేయడం లేదా బయటి నుంచి పరిశ్రమపై ఒత్తిడి తేవడం కంటే, మైక్రోసాఫ్ట్ తన సొంత ఎంఏఐ మోడళ్లను ఎలా శిక్షణ ఇస్తుంది, పరీక్షిస్తుంది, మోహరిస్తుంది అనే దానిపై ఒక ప్రవర్తనా నియమావళిని ప్రచురిస్తామని నాదెళ్ల చెప్పారు, ఇది సెప్టెంబర్ 14 నుంచి ప్రజా అభిప్రాయం కోసం తెరిచి ఉంటుంది.

భద్రతా వాగ్దానాలను తాను “నిర్దిష్ట కార్యాచరణ యంత్రాంగాలు” అని పిలిచిన వాటిగా మార్చాలని పరిశ్రమ భావించాలని ఆయన వాదించారు, అలాగే బయటి మదింపుదారులకు ఒక కంపెనీ భద్రతా వాదనలను దాని మాటనే నమ్మేయకుండా నిజంగా పరిశీలించగలిగేంత నిరంతర ప్రవేశం ఇవ్వాలన్న ఆలోచనను కూడా ముందుకు తెచ్చారు. ముగ్గురు పరిశోధకులు రాజీనామా చేసినంత పెద్ద స్పందన ఇది కాదు, కానీ ఒక పెద్ద ఏఐ కంపెనీ అధిపతి, తనను తానే పర్యవేక్షించుకోవడం సరిపోదని బహిరంగంగా ఒప్పుకోవడం మాత్రం నిజం.

ఏఐ గణిత నియమాలను విరుస్తోందని 25 మంది ఫీల్డ్స్ మెడల్ విజేతలు

ఏఐ ల్యాబ్‌ల మీద ఒత్తిడి కేవలం వారి మాజీ ఉద్యోగుల నుంచే రావడం లేదు. ఆగస్టు 15న, న్యూయార్క్ యూనివర్సిటీ గణితశాస్త్రవేత్త ట్రిస్టన్ బక్‌మాస్టర్, ఆంత్రోపిక్ పరిశోధకుడు లెవెంట్ ఆల్పోగే కలిసి యూలర్ సమీకరణాల ఒక రూపం విచిత్రతలు (సింగులారిటీలు) సృష్టించగలదని నిరూపించారు, ఇది ముందుగా డియెగో కోర్డోబా, లూయిస్ మార్టినెజ్ జొరోవా అభివృద్ధి చేసిన పద్ధతిపై ఆధారపడింది. ఈ ప్రచురించని పనిపై వార్త అదే వారంలో ఓపెన్‌ఏఐకి చేరింది, తర్వాతి వారాంతానికి ఓపెన్‌ఏఐ గణిత పరిశోధనకు నాయకత్వం వహిస్తున్న సెబాస్టియన్ బుబెక్ నేతృత్వంలోని బృందం అదే వాదనను ముందుకు తీసుకెళ్లి, పూర్తి నేవియర్-స్టోక్స్ సమీకరణాలను తాకే ఒక నిరూపణను తయారుచేసింది. ఇది గణితంలోని ఏడు మిలీనియం ప్రైజ్ సమస్యల్లో ఒకటి, దీన్ని పరిష్కరిస్తే 10 లక్షల డాలర్ల బహుమతి లభిస్తుంది.

ఓపెన్‌ఏఐ సెప్టెంబర్ 8న ఈ ఫలితాన్ని ప్రకటించింది, తమ ప్రచురించని మోడల్ ఒకటి సుమారు 10,000 ఏఐ ఏజెంట్లను 88 గంటలపాటు కలిసి పనిచేయించి ఈ నిరూపణను తయారు చేసిందని చెప్పింది. తన సహచరుడి ఘనతను లాక్కునేందుకు ఓపెన్‌ఏఐ ప్రయత్నించిందని, మౌనంగా ఉండేలా ఒత్తిడి తెచ్చిందని బక్‌మాస్టర్ బహిరంగంగా ఆరోపించారు. తమ పరిశోధకులు, ఏజెంట్లు బక్‌మాస్టర్, ఆల్పోగే ప్రచురించని పనిని నేరుగా ఎప్పుడూ చూడలేదని ఓపెన్‌ఏఐ చెబుతోంది, అయితే తమ సొంత ప్లాట్‌ఫారమ్ నుంచి వచ్చిన గుర్తింపు తొలగించిన వినియోగ డేటా తమ వ్యవస్థలను ఇదే బహిరంగ సమస్య వైపు మళ్లించి ఉండవచ్చని కంపెనీ అంగీకరించింది.

ఓపెన్‌ఏఐ ప్రకటన తర్వాత మూడు రోజులకు, గణిత ప్రపంచపు అత్యున్నత గౌరవం అయిన 25 మంది ఫీల్డ్స్ మెడల్ విజేతలు ఏఐ కంపెనీలు, గణిత సమాజం లక్ష్యాలు “తీవ్రంగా అసమతుల్యంగా” మారాయని ఒక సంయుక్త ప్రకటన విడుదల చేశారు. గణితంలో ఏఐకి స్థానం ఉండకూడదని వారి ఫిర్యాదు కాదు. కంపెనీలు కొత్త ఆవిష్కరణలను ఎవరూ సరిచూసుకోలేనంత వేగంగా ప్రకటిస్తున్నాయని, ఈ తొందరలో రాతపని, ఘనత ఇవ్వడం, సహచర సమీక్ష వంటివి వదిలేస్తున్నాయని, వీటిపైనే గణిత రంగం ఏదైనా ఫలితాన్ని నమ్మగలదని వారి ఫిర్యాదు. ఈ ప్రకటనపై సంతకం చేసిన ఫీల్డ్స్ మెడల్ విజేత టెరెన్స్ టావో దీన్ని సూటిగా చెప్పారు: “ఎవరో ఒక సమస్యపై పనిచేస్తున్నారన్న పుకారు కూడా, అసలు పరిశోధన ప్రాజెక్టు తన పూర్తి సామర్థ్యానికి చేరుకునే అవకాశం రాకముందే దాన్ని చదును చేసేంత భారీ మొత్తంలో ఏఐ ఆధారిత ప్రయత్నాన్ని రేకెత్తించగలదని మనం ఇప్పుడు చూశాం.”

భారత విలుకాడికి చివరకు దక్కిన స్వర్ణం

ఏఐ పరిశ్రమ తనతో తానే చేసుకుంటున్న ఈ వాదన నుంచి దూరంగా, 25 ఏళ్ల ధీరజ్ బొమ్మదేవర భారత్‌కు ఎలాంటి షరతూ లేని సంబరాన్ని అందించాడు. మెక్సికోలోని సాల్టిల్లోలో జరిగిన ఆర్చరీ వరల్డ్ కప్ ఫైనల్‌లో, పురుషుల రికర్వ్ ఫైనల్‌లో అతను జపాన్‌కు చెందిన నకనిషి జున్యాతో తలపడ్డాడు, ఇది షూట్-ఆఫ్ దాకా వెళ్లేంత దగ్గరగా సాగిన పోటీ. బొమ్మదేవర తన నరాలను అదుపులో ఉంచుకుని నిర్ణాయక బాణంలో 10 స్కోరు చేయగా, నకనిషికి 9 వచ్చింది, ఆ విధంగా అతను స్వర్ణం సాధించాడు.

దీంతో ఆర్చరీ వరల్డ్ కప్ ఫైనల్‌లో వ్యక్తిగత టైటిల్ గెలిచిన తొలి భారతీయ పురుషుడిగా అతను నిలిచాడు, ఏ లింగంలోనైనా ఇలా చేసిన రెండో భారతీయుడిగా నిలిచాడు. అంతకుముందు 2007లో దుబాయ్‌లో మహిళల రికర్వ్ టైటిల్‌ను దోలా బెనర్జీ గెలుచుకున్నారు. ఆ జాబితాలో రెండో పేరు చేరడానికి పంతొమ్మిదేళ్లు పట్టింది, బొమ్మదేవర ఏ ఫైనల్‌లో ఈ ఘనత సాధించాడో అంతకంటే కష్టపడి సాధించడం సాధ్యం కాదు.