एआयने बनवलेल्या बायडेन यांच्या आवाजाने न्यू हॅम्पशायरच्या जानेवारी २०२४ च्या प्राथमिक निवडणुकीआधी ९,५८१ कॉल केले, आणि एफसीसी, युरोपीय संघ व भारत यांनी निवडणुकांतील एआय बनावटीसाठी तेव्हापासून वेगवेगळे नियम केले आहेत

रविवारी, २१ जानेवारी २०२४ रोजी, न्यू हॅम्पशायरच्या डेमोक्रॅटिक अध्यक्षीय प्राथमिक निवडणुकीच्या दोन दिवस आधी, अध्यक्ष जो बायडेन यांच्यासारखा आवाज असलेला एक ध्वनिमुद्रित संदेश सायंकाळी ७:१२ पर्यंत ९,५८१ फोन कॉलवर गेला होता, असे फेडरल कम्युनिकेशन्स कमिशनच्या (एफसीसी) एका आदेशात म्हटले आहे. त्या संदेशाने ऐकणाऱ्यांना सांगितले की त्या मंगळवारी मतदान करण्याऐवजी आपले मत नोव्हेंबरच्या निवडणुकीसाठी राखून ठेवा.

एफसीसीला असे आढळले की राजकीय सल्लागार स्टीव्ह क्रेमर यानेच हे कॉल घडवून आणले, आणि त्याला ६ दशलक्ष डॉलरचा दंड झाला. न्यू हॅम्पशायरच्या एका ज्युरीने नंतर त्याला सर्व फौजदारी आरोपांतून निर्दोष ठरवले. या लेखात ते निकाल मांडले आहेत, तसेच २०२३ च्या स्लोव्हाकियाच्या निवडणुकीतील एक नोंदवलेली घटना, आणि एआयने राजकीय बनावट केली तर भारत, युरोपीय संघ आणि तीन मोठी व्यासपीठे आता काय मागतात, ८ ऑक्टोबर २०२६ पर्यंतच्या तारखांसह.

न्यू हॅम्पशायरमध्ये काय घडले असे एफसीसी म्हणते

एफसीसीच्या दंडाच्या आदेशानुसार, क्रेमरने एआय तंत्रज्ञानाशी परिचित असलेल्या एका ओळखीच्या व्यक्तीकडे संदेश बनवण्याबद्दल विचारणा केली आणि २० जानेवारी, शनिवारी, त्याला एक संहिता (स्क्रिप्ट) पाठवली. मग त्याने व्हॉइस ब्रॉडकास्टिंग या रोबोकॉल कंपनीला ती पाठवायला सांगितले. आदेशात संदेशाचे शब्द उद्धृत केले आहेत: “तुमच्या मताने नोव्हेंबरमध्ये फरक पडतो, या मंगळवारी नाही.”

कॉलर आयडीवर एका माजी राज्य पक्षाध्यक्षाच्या जोडीदाराच्या मालकीचा क्रमांक दिसत होता. त्या व्यक्तीचा आणि तिच्या जोडीदाराचा या कॉलशी काहीही संबंध नव्हता, असे एफसीसी म्हणते.

एफसीसीचा निर्णय आणि त्याचा ६ दशलक्ष डॉलरचा दंड

एफसीसीने २ फेब्रुवारी २०२४ रोजी एक घोषणात्मक निर्णय (डिक्लेरेटरी रुलिंग) स्वीकारला आणि ८ फेब्रुवारी रोजी प्रसिद्ध केला. टेलिफोन कंझ्युमर प्रोटेक्शन ॲक्टनुसार आवाजाची नक्कल करणारी (व्हॉइस क्लोनिंग) आणि तशीच एआय साधने “कृत्रिम” आवाज निर्माण करतात, कारण “ते कोणी व्यक्ती बोलत नसते”, असे त्यात पुष्टी केली आहे. म्हणून असा आवाज वापरणाऱ्या रोबोकॉलसाठी कॉल मिळणाऱ्या व्यक्तीची आधीची संमती लागते.

दंड मात्र वेगळ्या कायद्यावर आधारित आहे. २६ सप्टेंबर रोजी स्वीकारलेल्या आणि ३० सप्टेंबर २०२४ रोजी प्रसिद्ध केलेल्या आदेशात, फसवणूक करण्याच्या किंवा हानी पोहोचवण्याच्या हेतूने चुकीची कॉलर आयडी माहिती पाठवण्यास मनाई करणाऱ्या ट्रुथ इन कॉलर आयडी ॲक्टनुसार एफसीसीने क्रेमरवर ६,०००,००० डॉलरचा दंड लादला. एफसीसीने पडताळलेल्या ३,००० कॉलपैकी प्रत्येकासाठी १,००० डॉलर, आणि गंभीरतेमुळे त्याची दुप्पट, अशी ही रक्कम आहे. आयुक्त सिमिंग्टन यांनी या निर्णयाशी असहमती नोंदवली.

कॉलच्या मार्गावरील पहिली वाहक कंपनी लिंगो टेलिकॉमने २१ ऑगस्ट २०२४ च्या एका संमती आदेशात (कन्सेंट डिक्री) आपले प्रकरण मिटवले, आणि प्रस्तावित २ दशलक्ष डॉलरवरून कमी केलेला १ दशलक्ष डॉलरचा दिवाणी दंड भरला, असे आदेशात म्हटले आहे.

ज्युरीने सल्लागाराला सर्व आरोपांतून निर्दोष ठरवले

फौजदारी खटला न्यू हॅम्पशायरमध्ये वेगळा चालवला गेला. १३ जून २०२५ रोजी बेल्कनॅप काउंटी सुपीरियर कोर्टाच्या ज्युरीने क्रेमरला सर्व आरोपांतून निर्दोष ठरवले, म्हणजे मतदारांना दडपण्याचे ११ आरोप आणि उमेदवाराची तोतयागिरी करण्याचे ११ आरोप, असे असोसिएटेड प्रेसने नोंदवले. त्याच्या वकिलांनी असा युक्तिवाद केला की ती प्राथमिक निवडणूक म्हणजे राष्ट्रीय पक्षाने मान्यता न दिलेले अनौपचारिक मतदान (स्ट्रॉ पोल) होते, म्हणून मतदार दडपण्याचा कायदा लागू होत नाही, आणि संदेशात बायडेन यांचे नाव कधीच घेतले नव्हते, ते घोषित उमेदवारही नव्हते. क्रेमरने एपीला सांगितले की तो एफसीसीचा दंड भरणार नाही.

स्लोव्हाकिया: मतदानाच्या दोन दिवस आधी बनावट मुलाखत

३० सप्टेंबर २०२३ रोजी झालेल्या स्लोव्हाकियाच्या संसदीय निवडणुकीच्या दोन दिवस आधी, प्रोग्रेसिव्ह स्लोव्हाकिया पक्षाचे नेते मिखाल शिमेचका आणि डेनिक एन या दैनिकाचे एक पत्रकार यांच्यातील मतदान फसवणुकीबद्दलच्या संभाषणाचे ध्वनिमुद्रण असल्याचा दावा करणाऱ्या ऑडिओ क्लिप फिरत होत्या. ओएससीईच्या निवडणूक कार्यालयाने (ओडीआयएचआर), २९ फेब्रुवारी २०२४ च्या आपल्या अंतिम अहवालात, या क्लिपला एआयने बनवलेल्या हेतुपुरस्सर दिशाभूल करणाऱ्या मजकुराचे एक उल्लेखनीय उदाहरण म्हटले आहे.

या क्लिप ४८ तासांच्या प्रचारबंदीच्या काळात आल्या. ओडीआयएचआर म्हणते की ही बंदी पारंपरिक माध्यमांना आणि प्रचारसभांना बांधून ठेवते, पण समाजमाध्यमांवरील स्वाभाविक, विनामूल्य पोस्टना नाही. शिमेचका आणि त्या पत्रकाराने दोघांनीही ती बनावट म्हणून फेटाळली.

त्यामुळे निकाल बदलला का, यावर मतभेद आहेत. लुइस दे नादाल आणि पेटर यांचारिक यांनी २०२४ मध्ये हार्वर्ड केनेडी स्कूल मिसइन्फॉर्मेशन रिव्ह्यूमध्ये लिहिताना, “डीपफेकमुळे ठरलेली पहिली निवडणूक” ही कल्पना अतिसुलभ ठरवली आहे. ते संस्थांवरील अविश्वासाकडे आणि जिंकलेल्या रॉबर्ट फिको यांच्या पाठिंब्याला कमी लेखणाऱ्या मतदानपूर्व चाचण्यांकडे बोट दाखवतात.

भारताचा निवडणूक आयोग पक्षांकडून काय मागतो

भारताचा निवडणूक आयोग (ईसीआय) पक्ष आणि उमेदवारांना उद्देशून बोलतो. आयोग मतदारांची ओळख कशी पटवतो यासाठी, भारताची मतदार ओळखपत्र प्रणाली प्रत्यक्षात काय आहे ते पाहा.

६ मे २०२४ रोजी, लोकसभा निवडणुकीच्या काळात, ईसीआयने पक्षांना निर्देश दिले की डीपफेक ऑडिओ किंवा व्हिडिओ प्रसिद्ध किंवा प्रसारित करू नयेत, असा मजकूर आपल्या निदर्शनास आणून दिल्यापासून तीन तासांच्या आत काढून टाकावा, जबाबदार व्यक्तीला ताकीद द्यावी, आणि सतत होणारे प्रकार आयटी नियमांच्या नियम ३ए अंतर्गत तक्रार अपील समितीकडे न्यावेत. सार्वजनिक प्रसारक न्यूज ऑन एआयआरने २५ ऑक्टोबर २०२५ रोजी वृत्त दिले की ईसीआयने पक्ष, उमेदवार आणि प्रचार प्रतिनिधींना एआयने बदललेल्या प्रतिमा, ऑडिओ आणि व्हिडिओवर “AI-Generated”, “Digitally Enhanced” किंवा “Synthetic Content” अशी लेबले लावण्यास सांगितले आहे. ही लेबले दृश्य पडद्याच्या किमान १० टक्के भागावर, किंवा ऑडिओ क्लिपच्या पहिल्या १० टक्के भागात असावीत, आणि ती कोणी बनवली त्या संस्थेचे नाव द्यावे.

१९ एप्रिल २०२६ रोजी, आसाम, केरळ, तमिळनाडू, पुद्दुचेरी आणि पश्चिम बंगालमध्ये विधानसभा निवडणुका सुरू असताना, ईसीआयने सांगितले की १५ मार्चला वेळापत्रक जाहीर झाल्यापासून ११ हजारांहून अधिक समाजमाध्यम पोस्ट किंवा यूआरएल “ओळखले गेले आणि त्यावर कारवाई झाली, ज्यात मजकूर काढून टाकणे, एफआयआर, खुलासे आणि खंडन यांचा समावेश आहे”. त्यापैकी किती एआयशी संबंधित होते हे प्रसिद्धिपत्रक सांगत नाही. दिशाभूल करणाऱ्या किंवा बेकायदेशीर एआय मजकुरावर तो व्यासपीठाच्या निदर्शनास आल्यापासून तीन तासांच्या आत कारवाई झाली पाहिजे, असे ते पुन्हा सांगते.

भारताचे आयटी नियम: आधी सूचना, मग २० फेब्रुवारी २०२६ पासून लागू झालेला नियम

आयटी मंत्रालयाने (मीटी) सुरुवात सूचनांनी केली. प्रेस इन्फॉर्मेशन ब्युरोने प्रसिद्ध केलेल्या २५ मार्च २०२६ च्या लोकसभेतील उत्तरात दोन सूचना नमूद आहेत: एक २६ डिसेंबर २०२३ ची, मध्यस्थांच्या योग्य दक्षता घेण्याच्या कर्तव्यांबद्दल, आणि दुसरी १५ मार्च २०२४ ची, जी मजकूर, ऑडिओ आणि दृक्श्राव्य मजकूर कृत्रिमरीत्या निर्माण किंवा बदलू देणाऱ्या संगणकीय संसाधनांच्या धोक्यांवर आहे असे उत्तरात म्हटले आहे. नियम स्वतः १० फेब्रुवारी २०२६ च्या G.S.R. 120(E) अधिसूचनेसह आला, जो २० फेब्रुवारीपासून लागू झाला असे मीटीची प्रश्नोत्तरे सांगतात.

या नियमांनुसार “कृत्रिमरीत्या निर्माण केलेली माहिती” म्हणजे संगणकाने बनवलेली किंवा बदललेली ऑडिओ, दृश्य किंवा दृक्श्राव्य सामग्री, जी खरी वाटते आणि जी खऱ्या व्यक्तीपासून किंवा घटनेपासून वेगळी ओळखता येत नाही किंवा तशी समजली जाण्याची शक्यता आहे. नेहमीचे संपादन, कागदपत्रे तयार करणे आणि दिव्यांगांसाठीच्या सोयींचे वापर यातून वगळले आहेत.

नवीन नियम ३(३) नुसार, वापरकर्त्यांना अशी सामग्री बनवू देणाऱ्या सेवेने बेकायदेशीर निर्मिती थांबवण्यासाठी तांत्रिक उपाय वापरले पाहिजेत, ज्यात फसवणूक होण्याची शक्यता असेल अशा प्रकारे एखाद्याची ओळख, आवाज, वर्तन किंवा विधान खोटेपणाने दाखवणाऱ्या सामग्रीचाही समावेश आहे. बाकी सर्व सामग्रीवर ठळक लेबल लावले पाहिजे, आवाजासाठी सुरुवातीला ऑडिओ घोषणा हवी, “तांत्रिकदृष्ट्या शक्य असेल त्या मर्यादेपर्यंत” कायमचा मेटाडेटा किंवा उगम दाखवणारी दुसरी खूण घालावी, आणि कोणालाही ते लेबल काढू देऊ नये. नियम ४(१ए) नुसार, महत्त्वाच्या समाजमाध्यम मध्यस्थांनी, म्हणजे सरकार ठरवते त्या वापरकर्ता मर्यादेपेक्षा मोठ्या व्यासपीठांनी, अपलोड करणाऱ्यांना सामग्री कृत्रिम आहे का असे विचारले पाहिजे, तांत्रिक उपायांनी त्या उत्तराची तपासणी करावी, आणि निश्चित झालेल्या सामग्रीवर लेबल लावावे. नियम ३(१)(ड) नुसार, न्यायालयाचा आदेश किंवा सरकारची कारणे दिलेली नोटीस आल्यानंतर मजकूर काढण्याची मुदत तीन तास आहे, आणि एकत्रित मजकूर दाखवतो की ही मुदत आधीच्या ३६ तासांच्या जागी आली आहे.

अधिसूचित नियम लेबलचा आकार ठरवत नाही, प्रचार सामग्रीसाठीच्या ईसीआयच्या सूचनेप्रमाणे.

८ ऑक्टोबर २०२६ तारखेची मीटीची आणखी एक सूचना मीडियानामाने नोंदवली आहे, ज्यावर सहसचिव अजित कुमार यांची सही आहे. त्यात समाजमाध्यम व्यासपीठांना खोट्या, बदललेल्या किंवा दिशाभूल करणाऱ्या मजकुरावर “वाढीव दक्षता” लावण्यास आणि त्यावर लेबल किंवा संदर्भ देण्यास सांगितले आहे. मीडियानामाच्या मते या सूचनेत कोणत्याही दंडाचा उल्लेख नाही आणि फेब्रुवारीच्या दुरुस्तीचाही उल्लेख नाही.

यूट्यूब, मेटा आणि एक्स काय करतात असे ते म्हणतात

यूट्यूबच्या १४ नोव्हेंबर २०२३ च्या पोस्टनुसार, बदललेल्या किंवा कृत्रिम माध्यमातून बनवलेला वास्तववादी मजकूर निर्मात्यांनी जाहीर केला पाहिजे. लेबल वर्णन पटलात (डिस्क्रिप्शन पॅनेल) दिले जाते, आणि निवडणुकांसारख्या संवेदनशील विषयांसाठी व्हिडिओ प्लेअरवर अधिक ठळक लेबल लावले जाते. सातत्याने जाहीर न करणाऱ्या निर्मात्यांचा मजकूर काढला जाऊ शकतो किंवा त्यांना यूट्यूब पार्टनर प्रोग्राममधून निलंबित केले जाऊ शकते.

मेटाच्या ६ फेब्रुवारी २०२४ च्या पोस्टनुसार, उद्योगमान्य एआय निर्देशक, म्हणजे सी२पीए आणि आयपीटीसी मेटाडेटा मानके, आढळली तर ती प्रतिमांवर लेबल लावेल. एआयने बनवलेल्या व्हिडिओसाठी आणि वास्तववादी ऑडिओसाठी तिने वापरकर्त्यांना ते जाहीर करण्याचे साधन जोडले, आणि जाहीर न केल्यास शिक्षा आहे.

एक्सच्या नियमांच्या पानात, २०२५ मध्ये संग्रहित केलेल्या प्रतीनुसार, “सार्वजनिक प्रश्नांवर व्यापक गोंधळ निर्माण करू शकणारे, सार्वजनिक सुरक्षेवर परिणाम करू शकणारे किंवा गंभीर हानी करू शकणारे” फेरफार केलेले किंवा संदर्भ तोडलेले माध्यम निषिद्ध आहे. खऱ्या व्यक्तीला “विशेषतः अल्गोरिदम किंवा व्यापक कृत्रिम बुद्धिमत्तेद्वारे बनावट किंवा अनुकरण केलेले” दाखवणारी माध्यमे त्यात नमूद आहेत. एखादे माध्यम दिशाभूल करणारे आहे का हे एक्सला खात्रीने सांगता येत नसेल, तिथे “आम्ही कारवाई करणार नाही” असे पान म्हणते. त्याच्या सूचीतील अंमलबजावणीच्या पायऱ्यांमध्ये पोहोच मर्यादित करणे आणि खाते निलंबित करणे यांचा समावेश आहे.

अमेरिकेतील राज्य पातळीवर, कनेक्टिकटचा एआय कायदा, जो १ ऑक्टोबर २०२६ पासून कंपन्यांवर अंशतः बंधनकारक झाला, आमच्या स्पष्टीकरणात सांगितला आहे.

युरोपीय संघाची लेबलिंगची बंधने आणि त्यांच्या तारखा

आयोगाचे आचारसंहितेवरील पान एआय कायद्याच्या कलम ५० चे दोन भाग वर्णन करते. पुरवठादारांनी (प्रोव्हायडर) आपल्या प्रणाली जो मजकूर निर्माण करतात त्यावर खूण करून तो ओळखता येईल असा केला पाहिजे. वापरकर्त्या संस्थांनी (डिप्लॉयर), म्हणजे त्या प्रणाली वापरणाऱ्या संस्थांनी, डीपफेक आणि एआयने बनवलेल्या काही प्रकारच्या मजकुरावर लेबल लावले पाहिजे. आयोगाने अंतिम आचारसंहिता १० जून २०२६ रोजी प्रसिद्ध केली. त्यावर सही करणे ऐच्छिक आहे, पण कलम ५० ची कर्तव्ये कायदेशीर बंधने आहेत, आणि पान ती २ ऑगस्ट २०२६ पासून लागू म्हणून नमूद करते. जुलैअखेरपर्यंत सुमारे १९० संस्थांनी सही केली होती.

युरोपीय संसदेच्या ७ मे २०२६ च्या परिषदेसोबतच्या कराराविषयीच्या प्रसिद्धिपत्रकात म्हटले आहे की हा कायदा “एआयने बनवलेल्या मजकुरावरील वॉटरमार्किंगची बंधने २ डिसेंबर २०२६ पर्यंत पुढे ढकलतो”. परिषदेने २९ जून २०२६ रोजी या कायद्याच्या, म्हणजे डिजिटल ओम्निबस ऑन एआयच्या, स्वीकाराची नोंद केली. हा विलंब सर्व प्रणालींना लागू आहे का की आधीच बाजारात असलेल्या प्रणालींनाच, हे संसदेचे प्रसिद्धिपत्रक सांगत नाही, आणि कलम ५० २ ऑगस्ट २०२६ पासून लागू असे नमूद करणाऱ्या आयोगाच्या पानातही त्याचा उल्लेख नाही. संसदेच्या प्रसिद्धिपत्रकातील वॉटरमार्किंगची नवी तारीख २ डिसेंबर २०२६ आहे.