Una voz de Biden hecha con IA realizó 9581 llamadas antes de las primarias de Nuevo Hampshire de enero de 2024, y la FCC, la UE e India han escrito desde entonces reglas distintas para los falsos de IA en las elecciones

El domingo 21 de enero de 2024, dos días antes de las primarias demócratas presidenciales de Nuevo Hampshire, una voz grabada que sonaba como la del presidente Joe Biden había salido en 9581 llamadas telefónicas a las 19:12, según una orden de la Comisión Federal de Comunicaciones (FCC). El mensaje decía a quienes lo escuchaban que guardaran su voto para las elecciones de noviembre en lugar de votar ese martes.

La FCC determinó que el consultor político Steve Kramer organizó las llamadas y lo multó con 6 millones de dólares. Más tarde, un jurado de Nuevo Hampshire lo absolvió de todos los cargos penales. Este texto expone esos desenlaces, un caso documentado de las elecciones de Eslovaquia de 2023 y lo que exigen hoy India, la UE y tres grandes plataformas cuando la IA fabrica un falso político, con fechas al 8 de octubre de 2026.

Lo que dice la FCC que ocurrió en Nuevo Hampshire

La orden de decomiso de la FCC dice que Kramer se acercó a un conocido familiarizado con la tecnología de IA para hacer el mensaje y envió un guion el sábado 20 de enero. Luego pidió a una empresa de llamadas automáticas, Voice Broadcasting, que lo enviara. La orden cita el mensaje: “Su voto marca la diferencia en noviembre, no este martes.”

El identificador de llamadas mostraba un número perteneciente al cónyuge de un expresidente del partido en el estado. La FCC dice que esa persona y su cónyuge no tuvieron nada que ver con las llamadas.

La resolución de la FCC y su multa de 6 millones de dólares

La FCC adoptó una resolución declaratoria el 2 de febrero de 2024 y la publicó el 8 de febrero. Confirma que la clonación de voz y herramientas de IA similares producen una voz “artificial” según la Ley de Protección del Consumidor Telefónico (TCPA), porque “una persona no las está pronunciando”. Una llamada automática que usa una de ellas necesita, por tanto, el consentimiento previo de la persona llamada.

La multa se apoya en otra ley. En una orden adoptada el 26 de septiembre y publicada el 30 de septiembre de 2024, la FCC impuso 6 000 000 de dólares a Kramer en virtud de la Ley de Identificador de Llamadas Veraz, que prohíbe enviar información engañosa de identificación de llamadas con intención de defraudar o causar daño. La cifra son 1000 dólares por cada una de las 3000 llamadas que la FCC verificó, duplicados por la gravedad. El comisionado Simington discrepó.

Lingo Telecom, la primera operadora en la ruta de la llamada, cerró su caso con un decreto de consentimiento del 21 de agosto de 2024 y una sanción civil de 1 millón de dólares, por debajo de los 2 millones propuestos, según la orden.

Un jurado absolvió al consultor de todos los cargos

El caso penal se presentó por separado en Nuevo Hampshire. El 13 de junio de 2025 un jurado del Tribunal Superior del condado de Belknap absolvió a Kramer de todos los cargos, 11 de supresión de votantes y 11 de suplantación de un candidato, informó Associated Press. Sus abogados sostuvieron que las primarias eran una votación simbólica que el partido nacional no había autorizado, por lo que la ley de supresión de votantes no se aplicaba, y que el mensaje nunca nombraba a Biden, que no era candidato declarado. Kramer dijo a AP que no pagaría la multa de la FCC.

Eslovaquia: una entrevista falsa dos días antes del voto

Dos días antes de las elecciones parlamentarias de Eslovaquia del 30 de septiembre de 2023, circularon clips de audio que decían registrar una conversación entre Michal Šimečka, líder del partido Eslovaquia Progresista, y un periodista del diario Denník N sobre fraude electoral. La oficina electoral de la OSCE (ODIHR), en su informe final del 29 de febrero de 2024, califica el clip de ejemplo notable de contenido manipulador generado con IA.

Los clips llegaron dentro del silencio de campaña de 48 horas. ODIHR dice que ese silencio obliga a los medios tradicionales y a los actos de campaña, pero no a las publicaciones orgánicas y no pagadas en las redes sociales. Šimečka y el periodista lo rechazaron como falso.

Si cambió el resultado es motivo de disputa. Lluis de Nadal y Peter Jančárik, escribiendo en la Harvard Kennedy School Misinformation Review en 2024, califican de reduccionista la idea de que fue “la primera decidida por deepfakes”. Señalan la desconfianza hacia las instituciones y unas encuestas que probablemente subestimaron el apoyo a Robert Fico, que ganó.

Lo que la Comisión Electoral de India pide a los partidos

La Comisión Electoral de India (ECI) se dirige a partidos y candidatos. Sobre cómo identifica a los votantes, véase qué es en realidad el sistema de identificación de votantes de India.

El 6 de mayo de 2024, durante las elecciones a la Lok Sabha, la ECI ordenó a los partidos no publicar ni difundir audio o vídeo deepfake, retirar ese contenido en un plazo de tres horas desde que se les advirtiera, avisar a la persona responsable y llevar los problemas persistentes al Comité de Apelación de Agravios en virtud de la Regla 3A de las Reglas de TI. News On AIR, la emisora pública, informó el 25 de octubre de 2025 de que la ECI había indicado a partidos, candidatos y representantes de campaña que etiqueten las imágenes, el audio y el vídeo alterados con IA como “Generado por IA”, “Mejorado digitalmente” o “Contenido sintético”, cubriendo al menos el 10 por ciento del área visible de la pantalla, o el primer 10 por ciento de un clip de audio, y que nombren a la entidad que lo hizo.

El 19 de abril de 2026, con elecciones a las asambleas en marcha en Assam, Kerala, Tamil Nadu, Puducherry y Bengala Occidental, la ECI dijo que desde que se anunció el calendario el 15 de marzo se habían “identificado y atendido”, con retirada de contenido, denuncias policiales (FIR), aclaraciones y refutaciones, más de 11 000 publicaciones o URL en redes sociales. El comunicado no dice cuántas implicaban IA. Repite que el contenido engañoso o ilícito generado con IA debe atenderse en un plazo de tres horas desde que llega a conocimiento de una plataforma.

Las Reglas de TI de India: primero avisos, luego una norma en vigor desde el 20 de febrero de 2026

El ministerio de TI (MeitY) empezó con avisos. Una respuesta en la Lok Sabha del 25 de marzo de 2026, publicada por la Oficina de Información de Prensa (PIB), enumera uno del 26 de diciembre de 2023 sobre los deberes de diligencia de los intermediarios y otro del 15 de marzo de 2024 que, según dice, trata los riesgos de los recursos informáticos que permiten crear o modificar de forma sintética texto, audio y contenido audiovisual. La norma propiamente dicha llegó con la notificación G.S.R. 120(E) del 10 de febrero de 2026, que según las preguntas frecuentes del MeitY entró en vigor el 20 de febrero.

Las reglas definen la “información generada sintéticamente” como material de audio, visual o audiovisual, creado o alterado por ordenador, que parece real y que es, o es probable que sea, percibido como indistinguible de una persona o un hecho reales. Quedan excluidos la edición rutinaria, la preparación de documentos y los usos de accesibilidad.

Según la nueva Regla 3(3), un servicio que permite a los usuarios crear ese material debe usar medidas técnicas para impedir resultados ilícitos, incluido el material que retrate falsamente la identidad, la voz, la conducta o las declaraciones de una persona de un modo probable que engañe. Todo lo demás debe etiquetarlo de forma visible, con una advertencia de audio al comienzo en el caso del sonido, incorporar metadatos permanentes u otra marca de procedencia “en la medida en que sea técnicamente viable” y no dejar que nadie elimine la etiqueta. Según la Regla 4(1A), los intermediarios de redes sociales significativos, las plataformas por encima de un umbral de usuarios que fija el gobierno, deben preguntar a quienes suben contenido si es sintético, comprobar la respuesta con medidas técnicas y etiquetar lo que se confirme. Según la Regla 3(1)(d), el plazo de retirada tras una orden judicial o un aviso gubernamental motivado es de tres horas, y el texto consolidado muestra que sustituyó a 36 horas.

La norma notificada no fija tamaño de etiqueta, a diferencia del aviso de la ECI para el contenido de campaña.

MediaNama informa de otro aviso del MeitY con fecha del 8 de octubre de 2026, firmado por el secretario conjunto Ajit Kumar, que pide a las plataformas de redes sociales aplicar una “diligencia reforzada” al contenido falso, manipulado o engañoso y etiquetarlo o contextualizarlo. MediaNama señala que el aviso no enumera sanciones y no menciona la enmienda de febrero.

Lo que dicen que hacen YouTube, Meta y X

La publicación de YouTube del 14 de noviembre de 2023 dice que los creadores deben declarar el contenido realista hecho con medios alterados o sintéticos. Una etiqueta va en el panel de descripción, y otra más visible en el reproductor del vídeo para temas sensibles como las elecciones. Los creadores que de forma reiterada no lo declaren pueden enfrentarse a la retirada de contenido o a la suspensión del Programa de Socios de YouTube.

La publicación de Meta del 6 de febrero de 2024 dice que etiquetará las imágenes cuando detecte indicadores de IA estándar del sector, a saber, los estándares de metadatos C2PA e IPTC. Para el vídeo generado con IA y el audio realista añadió una herramienta para que los usuarios los declaren, con sanciones si no lo hacen.

La página de reglas de X, en una copia archivada en 2025, prohíbe los medios manipulados o sacados de contexto que puedan causar “confusión generalizada sobre asuntos públicos, afectar la seguridad pública o causar un daño grave”. Enumera los medios que muestran a una persona real “fabricada o simulada, en especial mediante el uso de algoritmos o de inteligencia artificial en sentido más amplio”. Cuando X no puede determinar con fiabilidad si un medio es engañoso, la página dice “es posible que no tomemos medidas”. Entre las medidas de aplicación que enumera están restringir el alcance y suspender la cuenta.

A nivel estatal en Estados Unidos, la ley de IA de Connecticut, que comenzó a obligar en parte a las empresas el 1 de octubre de 2026, se trata en nuestro explicativo.

Los deberes de etiquetado de la UE y sus fechas

La página de la Comisión sobre su código de buenas prácticas describe dos mitades del artículo 50 de la Ley de IA. Los proveedores deben marcar y hacer detectable el contenido que generan sus sistemas. Los responsables del despliegue, las organizaciones que usan esos sistemas, deben etiquetar los deepfakes y cierto texto generado con IA. La Comisión publicó el código definitivo el 10 de junio de 2026. Firmarlo es voluntario, pero los deberes del artículo 50 son requisitos legales, que la página indica como aplicables desde el 2 de agosto de 2026. Unas 190 organizaciones lo habían firmado a finales de julio.

El comunicado del Parlamento Europeo del 7 de mayo de 2026 sobre el acuerdo con el Consejo dice que la ley “retrasa la aplicación de las obligaciones de marca de agua sobre el contenido generado con IA hasta el 2 de diciembre de 2026”. El Consejo registró la adopción del acto, el Ómnibus Digital sobre IA, el 29 de junio de 2026. El comunicado del Parlamento no dice si el retraso cubre todos los sistemas o solo los que ya están en el mercado, y la página de la Comisión, que indica el artículo 50 como aplicable desde el 2 de agosto de 2026, no lo menciona. La nueva fecha de las marcas de agua en el comunicado del Parlamento es el 2 de diciembre de 2026.