AI से बनी बाइडेन की आवाज़ ने न्यू हैम्पशायर के जनवरी 2024 के प्राइमरी से पहले 9,581 कॉल किए, और तब से FCC, यूरोपीय संघ और भारत ने चुनावों में AI के नक़ली कंटेंट के लिए अलग-अलग नियम बनाए हैं

रविवार 21 जनवरी 2024 को, न्यू हैम्पशायर में डेमोक्रेटिक पार्टी के राष्ट्रपति पद के प्राइमरी से दो दिन पहले, राष्ट्रपति जो बाइडेन जैसी सुनाई देने वाली एक रिकॉर्ड की हुई आवाज़ शाम 7:12 बजे तक 9,581 फ़ोन कॉल पर जा चुकी थी, संघीय संचार आयोग (FCC) के एक आदेश के अनुसार। संदेश में सुनने वालों से कहा गया था कि वे मंगलवार को वोट डालने के बजाय अपना वोट नवंबर के चुनाव के लिए बचाकर रखें।

FCC ने पाया कि राजनीतिक सलाहकार स्टीव क्रेमर ने ये कॉल करवाए थे, और उस पर 60 लाख डॉलर का जुर्माना लगाया। बाद में न्यू हैम्पशायर की एक जूरी ने उसे सभी आपराधिक आरोपों से बरी कर दिया। यह लेख उन नतीजों को रखता है, 2023 के स्लोवाकिया चुनाव का एक दर्ज मामला रखता है, और बताता है कि AI से राजनीतिक नक़ली कंटेंट बनने पर भारत, यूरोपीय संघ और तीन बड़े प्लेटफ़ॉर्म अब क्या माँगते हैं, 8 अक्टूबर 2026 तक की तारीख़ों के साथ।

FCC के अनुसार न्यू हैम्पशायर में क्या हुआ

FCC के ज़ब्ती-आदेश (फ़ॉरफ़ीचर ऑर्डर) के अनुसार क्रेमर ने AI तकनीक से परिचित एक जान-पहचान वाले से संदेश बनवाने की बात की और शनिवार 20 जनवरी को उसे एक स्क्रिप्ट भेजी। फिर उसने रोबोकॉल कंपनी वॉइस ब्रॉडकास्टिंग से इसे भेजने को कहा। आदेश में संदेश का यह अंश उद्धृत है: “Your vote makes a difference in November, not this Tuesday.” (आपका वोट नवंबर में फ़र्क़ डालता है, इस मंगलवार को नहीं।)

कॉलर आईडी में जो नंबर दिखा, वह राज्य की पार्टी के एक पूर्व अध्यक्ष के जीवनसाथी का था। FCC का कहना है कि उस व्यक्ति और उनके जीवनसाथी का इन कॉलों से कोई लेना-देना नहीं था।

FCC का फ़ैसला और उसका 60 लाख डॉलर का जुर्माना

FCC ने 2 फ़रवरी 2024 को एक घोषणात्मक फ़ैसला (डिक्लेरेटरी रूलिंग) पारित किया और 8 फ़रवरी को जारी किया। इसमें पुष्टि की गई कि वॉइस क्लोनिंग और ऐसे ही AI औज़ार टेलीफ़ोन उपभोक्ता संरक्षण क़ानून (TCPA) के तहत “कृत्रिम” आवाज़ बनाते हैं, क्योंकि “कोई व्यक्ति उन्हें बोल नहीं रहा होता”। इसलिए ऐसी आवाज़ वाले रोबोकॉल के लिए जिसे कॉल किया जा रहा है, उसकी पहले से सहमति ज़रूरी है।

जुर्माना एक अलग क़ानून पर टिका है। 26 सितंबर को पारित और 30 सितंबर 2024 को जारी आदेश में FCC ने क्रेमर पर ट्रुथ इन कॉलर आईडी एक्ट के तहत 60,00,000 डॉलर लगाए। यह क़ानून धोखा देने या नुक़सान पहुँचाने की नीयत से भेजी गई भ्रामक कॉलर आईडी जानकारी पर रोक लगाता है। रक़म FCC द्वारा सत्यापित 3,000 कॉलों में से हर एक पर 1,000 डॉलर है, जिसे संगीनता के कारण दोगुना किया गया। कमिश्नर सिमिंगटन ने असहमति जताई।

कॉल के रास्ते की पहली दूरसंचार कंपनी लिंगो टेलीकॉम ने 21 अगस्त 2024 के एक सहमति-आदेश (कंसेंट डिक्री) में अपना मामला निपटाया और 10 लाख डॉलर का दीवानी जुर्माना भरा, जो प्रस्तावित 20 लाख डॉलर से कम है, आदेश के अनुसार।

जूरी ने सलाहकार को सभी आरोपों से बरी किया

आपराधिक मामला न्यू हैम्पशायर में अलग से चला। 13 जून 2025 को बेल्कनैप काउंटी सुपीरियर कोर्ट की जूरी ने क्रेमर को सभी आरोपों से बरी कर दिया, यानी मतदाता-दमन के 11 मामलों और उम्मीदवार का रूप धरने के 11 मामलों से, एसोसिएटेड प्रेस ने बताया। उसके वकीलों ने दलील दी कि वह प्राइमरी एक स्ट्रॉ पोल था जिसे राष्ट्रीय पार्टी ने मंज़ूरी नहीं दी थी, इसलिए मतदाता-दमन का क़ानून लागू नहीं होता, और संदेश में कहीं बाइडेन का नाम नहीं था, जो घोषित उम्मीदवार थे ही नहीं। क्रेमर ने AP से कहा कि वह FCC का जुर्माना नहीं भरेगा।

स्लोवाकिया: वोट से दो दिन पहले एक नक़ली इंटरव्यू

स्लोवाकिया के 30 सितंबर 2023 के संसदीय चुनाव से दो दिन पहले ऐसी ऑडियो क्लिप फैलीं जिनमें दावा था कि वे प्रोग्रेसिव स्लोवाकिया पार्टी के नेता मिखाल शिमेचका और दैनिक अख़बार देनिक एन के एक पत्रकार की मतदाता धाँधली पर बातचीत की रिकॉर्डिंग हैं। OSCE के चुनाव कार्यालय (ODIHR) ने 29 फ़रवरी 2024 की अपनी अंतिम रिपोर्ट में इस क्लिप को AI से बनाए गए भ्रामक कंटेंट का एक उल्लेखनीय उदाहरण कहा है।

क्लिप 48 घंटे की प्रचार-बंदी के भीतर आईं। ODIHR का कहना है कि यह बंदी पारंपरिक मीडिया और प्रचार कार्यक्रमों पर लागू होती है, सोशल नेटवर्कों पर स्वाभाविक, बिना पैसे की पोस्टों पर नहीं। शिमेचका और पत्रकार दोनों ने इसे नक़ली बताकर ख़ारिज किया।

इसने नतीजा बदला या नहीं, यह विवादित है। लूइस दे नादाल और पेटर यान्चारिक ने 2024 में हार्वर्ड केनेडी स्कूल मिसइन्फ़ॉर्मेशन रिव्यू में लिखा कि यह मानना कि यह “डीपफ़ेक से पलटा पहला चुनाव” था, बात को ज़रूरत से ज़्यादा सरल बना देता है। वे संस्थाओं पर अविश्वास की ओर और उन जनमत सर्वेक्षणों की ओर इशारा करते हैं जिन्होंने संभवतः रॉबर्ट फ़ित्सो के समर्थन को कम आँका, जो जीते।

भारत का चुनाव आयोग पार्टियों से क्या माँगता है

भारत का चुनाव आयोग (ECI) पार्टियों और उम्मीदवारों को संबोधित करता है। मतदाताओं की पहचान कैसे होती है, इसके लिए देखें भारत की मतदाता पहचान व्यवस्था असल में क्या है।

6 मई 2024 को, लोकसभा चुनाव के दौरान, ECI ने पार्टियों को निर्देश दिया कि वे डीपफ़ेक ऑडियो या वीडियो न छापें और न फैलाएँ, ऐसा कंटेंट ध्यान में लाए जाने के तीन घंटे के भीतर हटा दें, ज़िम्मेदार व्यक्ति को चेतावनी दें, और बार-बार होने वाली समस्याओं को आईटी नियमों के नियम 3A के तहत शिकायत अपील समिति के पास ले जाएँ। सार्वजनिक प्रसारक न्यूज़ ऑन AIR ने 25 अक्टूबर 2025 को बताया कि ECI ने पार्टियों, उम्मीदवारों और प्रचार प्रतिनिधियों से कहा है कि AI से बदली गई तस्वीरों, ऑडियो और वीडियो पर “AI-Generated”, “Digitally Enhanced” या “Synthetic Content” का लेबल लगाएँ, जो दिखने वाले हिस्से के कम से कम 10 प्रतिशत हिस्से को ढके, या ऑडियो क्लिप के पहले 10 प्रतिशत हिस्से में बोला जाए, और बनाने वाली इकाई का नाम बताएँ।

19 अप्रैल 2026 को, जब असम, केरल, तमिलनाडु, पुदुचेरी और पश्चिम बंगाल में विधानसभा चुनाव चल रहे थे, ECI ने कहा कि 15 मार्च को कार्यक्रम घोषित होने के बाद से 11 हज़ार से ज़्यादा सोशल मीडिया पोस्ट या यूआरएल पर “कंटेंट हटाने, एफ़आईआर, स्पष्टीकरण और खंडन समेत कार्रवाई की गई”। विज्ञप्ति यह नहीं बताती कि इनमें कितने AI से जुड़े थे। वह दोहराती है कि भ्रामक या ग़ैर-क़ानूनी AI-जनित कंटेंट पर प्लेटफ़ॉर्म के संज्ञान में आने के तीन घंटे के भीतर कार्रवाई होनी चाहिए।

भारत के आईटी नियम: पहले सलाहें, फिर 20 फ़रवरी 2026 से लागू नियम

आईटी मंत्रालय (MeitY) ने सलाहों से शुरुआत की। 25 मार्च 2026 के लोकसभा जवाब में, जिसे प्रेस सूचना ब्यूरो ने छापा, दो सलाहें गिनाई गई हैं: एक 26 दिसंबर 2023 की, बिचौलियों के उचित-परिश्रम के दायित्वों पर, और एक 15 मार्च 2024 की, जिसके बारे में कहा गया है कि वह टेक्स्ट, ऑडियो और दृश्य-श्रव्य कंटेंट के सिंथेटिक निर्माण या बदलाव की छूट देने वाले कंप्यूटर संसाधनों से जुड़े जोखिमों को संबोधित करती है। नियम ख़ुद 10 फ़रवरी 2026 की अधिसूचना G.S.R. 120(E) के साथ आया, जो MeitY के FAQ के अनुसार 20 फ़रवरी से लागू हुआ।

नियम “सिंथेटिक रूप से बनाई गई सूचना” को ऐसी ऑडियो, दृश्य या दृश्य-श्रव्य सामग्री के रूप में परिभाषित करते हैं जो कंप्यूटर से बनी या बदली गई हो, असली लगती हो और जिसके असली व्यक्ति या घटना से अलग न पहचाने जाने की संभावना हो या वैसा समझा जाए। नियमित संपादन, दस्तावेज़ तैयार करने और सुगम्यता के इस्तेमाल इससे बाहर हैं।

नए नियम 3(3) के तहत, जो सेवा उपयोगकर्ताओं को ऐसी सामग्री बनाने देती है, उसे ग़ैर-क़ानूनी नतीजों को रोकने के लिए तकनीकी उपाय अपनाने होंगे, जिनमें वह सामग्री भी शामिल है जो किसी व्यक्ति की पहचान, आवाज़, आचरण या कथन को धोखा देने की संभावना वाले ढंग से झूठा दिखाए। बाक़ी सब पर उसे साफ़ दिखने वाला लेबल लगाना होगा, ध्वनि के लिए आगे जुड़ने वाली ऑडियो घोषणा के साथ, “तकनीकी रूप से जहाँ तक संभव हो” स्थायी मेटाडेटा या स्रोत का कोई और चिह्न जोड़ना होगा, और किसी को लेबल हटाने नहीं देना होगा। नियम 4(1A) के तहत महत्वपूर्ण सोशल मीडिया बिचौलियों को, यानी उन प्लेटफ़ॉर्मों को जो सरकार की तय की गई उपयोगकर्ता-सीमा से ऊपर हैं, अपलोड करने वालों से पूछना होगा कि सामग्री सिंथेटिक है या नहीं, तकनीकी उपायों से उस जवाब की जाँच करनी होगी, और जिसकी पुष्टि हो उस पर लेबल लगाना होगा। नियम 3(1)(d) के तहत अदालती आदेश या तर्कसंगत सरकारी नोटिस के बाद हटाने की समय-सीमा तीन घंटे है, और संकलित पाठ दिखाता है कि इसने 36 घंटे की सीमा की जगह ली।

अधिसूचित नियम में लेबल का कोई आकार तय नहीं है, जबकि प्रचार सामग्री के लिए ECI की सलाह में तय है।

MediaNama ने MeitY की 8 अक्टूबर 2026 की एक और सलाह की ख़बर दी है, जिस पर संयुक्त सचिव अजीत कुमार के हस्ताक्षर हैं, और जो सोशल मीडिया प्लेटफ़ॉर्मों से झूठी, छेड़छाड़ की गई या भ्रामक सामग्री पर “बढ़ा हुआ उचित-परिश्रम” बरतने और उस पर लेबल लगाने या संदर्भ जोड़ने को कहती है। MediaNama का कहना है कि सलाह में किसी दंड का उल्लेख नहीं है और वह फ़रवरी के संशोधन का ज़िक्र नहीं करती।

YouTube, Meta और X क्या करने का दावा करते हैं

YouTube की 14 नवंबर 2023 की पोस्ट के अनुसार क्रिएटरों को बदले हुए या सिंथेटिक मीडिया से बनी यथार्थवादी सामग्री का खुलासा करना होगा। लेबल विवरण वाले पैनल में लगता है, और चुनाव जैसे संवेदनशील विषयों के लिए वीडियो प्लेयर पर ज़्यादा साफ़ दिखने वाला लेबल लगता है। जो क्रिएटर लगातार खुलासा नहीं करते, उनकी सामग्री हटाई जा सकती है या उन्हें YouTube पार्टनर प्रोग्राम से निलंबित किया जा सकता है।

Meta की 6 फ़रवरी 2024 की पोस्ट कहती है कि जब उसे उद्योग-मानक AI संकेत मिलेंगे, यानी C2PA और IPTC मेटाडेटा मानक, तो वह तस्वीरों पर लेबल लगाएगा। AI से बने वीडियो और यथार्थवादी ऑडियो के लिए उसने उपयोगकर्ताओं के खुलासे का एक औज़ार जोड़ा, और खुलासा न करने पर दंड रखा।

X का नियम-पन्ना, 2025 में सहेजी गई एक प्रति के अनुसार, ऐसे छेड़छाड़ वाले या संदर्भ से कटे मीडिया पर रोक लगाता है जो “सार्वजनिक मुद्दों पर व्यापक भ्रम पैदा कर सकता है, जन-सुरक्षा पर असर डाल सकता है, या गंभीर नुक़सान कर सकता है”। वह उस मीडिया को गिनाता है जिसमें असली व्यक्ति “गढ़ा हुआ या नक़ली, ख़ासकर एल्गोरिदम या व्यापक कृत्रिम बुद्धिमत्ता से” दिखाया जाए। जहाँ X भरोसे से यह नहीं बता सकता कि मीडिया भ्रामक है या नहीं, वहाँ पन्ना कहता है “we may not take action” (हम कार्रवाई नहीं भी कर सकते हैं)। उसके गिनाए गए क़दमों में पहुँच घटाना और निलंबन शामिल हैं।

अमेरिका में राज्य के स्तर पर, कनेक्टिकट का AI क़ानून, जिसने 1 अक्टूबर 2026 से कंपनियों को आंशिक रूप से बाँधना शुरू किया, हमारे व्याख्यात्मक लेख में दिया गया है।

यूरोपीय संघ के लेबलिंग दायित्व और उनकी तारीख़ें

आयोग का अपने आचार-संहिता (कोड ऑफ़ प्रैक्टिस) पर पन्ना AI अधिनियम के अनुच्छेद 50 के दो हिस्से बताता है। प्रदाताओं को अपने सिस्टम से बनी सामग्री पर निशान लगाना होगा और उसे पहचानने लायक़ बनाना होगा। तैनात करने वालों को, यानी उन संगठनों को जो इन सिस्टमों का इस्तेमाल करते हैं, डीपफ़ेक और कुछ AI-जनित टेक्स्ट पर लेबल लगाना होगा। आयोग ने अंतिम संहिता 10 जून 2026 को प्रकाशित की। उस पर हस्ताक्षर स्वैच्छिक है, लेकिन अनुच्छेद 50 के दायित्व क़ानूनी ज़रूरतें हैं, जिन्हें पन्ना 2 अगस्त 2026 से लागू बताता है। जुलाई के अंत तक लगभग 190 संगठन हस्ताक्षर कर चुके थे।

परिषद के साथ हुए समझौते पर यूरोपीय संसद की 7 मई 2026 की विज्ञप्ति कहती है कि क़ानून “AI-जनित सामग्री पर वॉटरमार्किंग के दायित्वों का लागू होना 2 दिसंबर 2026 तक टाल देता है”। परिषद ने इस अधिनियम को, यानी डिजिटल ओम्निबस ऑन AI को, 29 जून 2026 को अपनाया दर्ज किया। संसद की विज्ञप्ति यह नहीं बताती कि यह टालना हर सिस्टम पर लागू है या केवल उन पर जो पहले से बाज़ार में हैं, और आयोग का पन्ना, जो अनुच्छेद 50 को 2 अगस्त 2026 से लागू गिनाता है, इसका ज़िक्र नहीं करता। संसद की विज्ञप्ति में वॉटरमार्किंग की नई तारीख़ 2 दिसंबर 2026 है।