一段AI合成的拜登声音在2024年1月新罕布什尔州初选前打出9581通电话，此后美国联邦通信委员会、欧盟和印度各自针对选举中的AI造假制定了不同的规则

2024年1月21日星期日，距新罕布什尔州民主党总统初选还有两天。据美国联邦通信委员会（FCC）的一份命令，一段听起来像总统乔·拜登的录音，到晚上7点12分已经通过9581通电话播出。录音劝听者把选票留到11月的大选，不要在那个星期二投票。

FCC认定，政治顾问史蒂夫·克莱默（Steve Kramer）安排了这些电话，并对他罚款600万美元。新罕布什尔州的陪审团后来判他所有刑事指控均不成立。本文梳理这些结果，介绍斯洛伐克2023年大选中一起有据可查的案例，并说明印度、欧盟和三家大型平台如今对AI制造的政治假信息有哪些要求，时间截至2026年10月8日。

FCC所说的新罕布什尔州事件经过

FCC的罚没令称，克莱默找到一位熟悉AI技术的熟人，请对方制作这段信息，并在1月20日星期六发去了脚本。随后他请一家自动语音电话公司Voice Broadcasting把它发出去。命令引用了这段话：“你的选票在11月很重要，而不是这个星期二。”

来电显示的号码属于一名前州党部主席的配偶。FCC称，这个人和其配偶与这些电话毫无关系。

FCC的裁定与600万美元罚款

FCC于2024年2月2日通过一项确认性裁定，2月8日公布。裁定确认，语音克隆和类似的AI工具生成的是《电话消费者保护法》所说的“人工”声音，因为“说话的不是一个人”。因此，使用这类声音的自动语音电话，需要事先取得接听者的同意。

罚款依据的是另一部法律。在2024年9月26日通过、9月30日公布的一份命令中，FCC依据《来电显示真实法》对克莱默处以6,000,000美元罚款，该法禁止以欺诈或造成损害为意图发送误导性的来电显示信息。金额是FCC核实的3,000通电话，每通1,000美元，再因情节恶劣而加倍。委员西明顿（Simington）表示异议。

据该命令，处于通话链路第一环的运营商Lingo Telecom，于2024年8月21日以一份和解令了结案件，民事罚款100万美元，低于最初拟定的200万美元。

陪审团判这名顾问所有罪名不成立

刑事案件是在新罕布什尔州单独提起的。美联社报道，2025年6月13日，贝尔纳普县高等法院的陪审团判克莱默所有指控不成立，包括11项选民压制罪和11项冒充候选人罪。他的律师辩称，这次初选只是全国党部并未认可的一次模拟投票，因此选民压制法不适用，而且那条信息从未点名拜登，当时拜登也不是已宣布的候选人。克莱默对美联社表示，他不会缴纳FCC的罚款。

斯洛伐克：投票前两天的一段假采访

在2023年9月30日斯洛伐克议会选举前两天，网上流传出几段音频，声称录下了进步斯洛伐克党领导人米哈尔·西梅奇卡（Michal Šimečka）与《Denník N》日报一名记者谈论选举舞弊的对话。欧安组织的选举办公室（ODIHR）在2024年2月29日的最终报告中，称这段音频是AI生成的操纵性内容的一个突出例子。

这些音频出现在48小时的竞选静默期内。ODIHR指出，这项静默规定约束传统媒体和竞选活动，但不约束社交网络上自发的、无偿的帖子。西梅奇卡和那名记者都否认，称音频是假的。

它是否改变了结果，还有争议。卢伊斯·德纳达尔（Lluis de Nadal）和彼得·扬恰里克（Peter Jančárik）2024年在《哈佛肯尼迪学院虚假信息评论》上撰文，认为“第一次被深度伪造左右的选举”这种说法过于简化。他们指出，民众对机构的不信任，以及民调可能低估了罗伯特·菲佐（Robert Fico）的支持率，而菲佐最终获胜。

印度选举委员会对政党的要求

印度选举委员会（ECI）面向的是政党和候选人。关于它如何识别选民，参见印度的选民身份证制度究竟是什么。

2024年5月6日，在人民院选举期间，ECI指示各政党不得发布或传播深度伪造的音频或视频，在内容被提请注意后三小时内将其删除，警告责任人，并把长期存在的问题提交到《信息技术规则》第3A条规定的申诉上诉委员会。公共广播机构News On AIR于2025年10月25日报道，ECI已要求政党、候选人和竞选代表，把经AI修改的图像、音频和视频标注为“AI生成”“数字增强”或“合成内容”，标注须占可见显示区域至少10%，音频则占开头10%，并注明制作方。

2026年4月19日，当时阿萨姆邦、喀拉拉邦、泰米尔纳德邦、本地治里和西孟加拉邦正在进行议会选举。ECI称，自3月15日公布日程以来，有逾1.1万条社交媒体帖子或网址已被“识别并处置，包括删除内容、立案、澄清和反驳”。该发布没有说其中有多少涉及AI。它重申，对误导性或非法的AI生成内容，必须在平台获悉后三小时内处理。

印度《信息技术规则》：先有通告，再有自2026年2月20日起生效的规则

电子和信息技术部（MeitY）先是发布了通告。新闻信息局公布的2026年3月25日人民院答复，列出了其中两份：一份日期为2023年12月26日，涉及中介机构的尽职义务；另一份日期为2024年3月15日，答复称它针对的是允许合成或修改文本、音频和视听内容的计算机资源所带来的风险。规则本身随2026年2月10日的G.S.R. 120(E)号公告出台，MeitY的常见问题解答称其于2月20日生效。

规则把“合成生成信息”定义为经计算机制作或修改、看起来真实、并且已经或可能被认为与真人或真实事件无法区分的音频、视觉或视听材料。日常编辑、文件制作和无障碍用途不在其内。

按新的第3(3)条，允许用户生成此类材料的服务，必须采取技术措施，阻止非法输出，包括以可能欺骗他人的方式虚假描绘某人身份、声音、行为或言论的材料。对其余内容，它必须作醒目标注，声音要在前面加音频声明，嵌入永久性元数据或其他来源标记（“在技术可行的范围内”），并且不得让任何人去除该标注。按第4(1A)条，重要社交媒体中介机构，即用户数超过政府所定门槛的平台，必须询问上传者内容是否为合成内容，用技术措施核查答案，并对确认的内容加以标注。按第3(1)(d)条，在法院命令或附理由的政府通知之后，下架期限为三小时，合并文本显示这取代了原来的36小时。

与ECI针对竞选内容的通告不同，正式公布的规则没有规定标签的大小。

MediaNama报道，MeitY另有一份日期为2026年10月8日、由联合秘书阿吉特·库马尔（Ajit Kumar）签署的通告，要求社交媒体平台对虚假、被篡改或误导性的内容采取“更严格的尽职审查”，并对其加以标注或补充背景说明。MediaNama指出，该通告没有列出任何处罚，也没有提到2月的修正案。

YouTube、Meta和X称自己怎么做

YouTube在2023年11月14日的帖子中说，创作者必须披露使用篡改或合成媒体制作的逼真内容。标签放在说明面板里，对选举等敏感话题，则在视频播放器上加更醒目的标签。长期不披露的创作者，可能面临内容被删除，或被暂停参加YouTube合作伙伴计划。

Meta在2024年2月6日的帖子中说，当它检测到业界标准的AI标识，即C2PA和IPTC元数据标准时，会给图片加标签。对AI生成的视频和逼真的音频，它增加了一个供用户披露的工具，不披露则会受到处罚。

X的规则页面（2025年存档的副本）禁止可能造成“对公共议题的广泛混淆、影响公共安全或造成严重伤害”的被篡改或脱离语境的媒体。它列出的内容包括展示真人“被捏造或模拟，尤其是借助算法或更广泛的人工智能”的媒体。当X无法可靠判断某条媒体是否具有误导性时，页面称“我们可能不会采取行动”。它列出的执法措施包括限制传播范围和封号。

在美国州一级，康涅狄格州的AI法律自2026年10月1日起部分约束企业，我们在这篇解读中有介绍。

欧盟的标注义务及其日期

欧盟委员会关于其行为准则的页面，描述了《人工智能法》第50条的两个部分。提供者必须标记其系统生成的内容，并使其可被检测。部署者，即使用这些系统的组织，必须标注深度伪造和某些AI生成的文本。委员会于2026年6月10日公布了最终版准则。签署是自愿的，但第50条的义务是法律要求，该页面列明其自2026年8月2日起适用。到7月底，约有190家组织签署。

欧洲议会2026年5月7日关于与理事会达成协议的新闻稿称，该法律“将AI生成内容的水印义务推迟到2026年12月2日才适用”。理事会记录显示，该法案即《AI数字综合法案》于2026年6月29日通过。议会的新闻稿没有说明推迟适用于所有系统，还是只适用于已经上市的系统，而委员会的页面把第50条列为自2026年8月2日起适用，也没有提到推迟。议会新闻稿中水印义务的新日期是2026年12月2日。