Noticias

Dario Amodei pidió a la industria de la IA frenar el ritmo juntos. Mark Zuckerberg dijo que no.

Español

Dario Amodei pidió a los laboratorios de IA del mundo que acordaran un ritmo compartido para construir sistemas más inteligentes, y Sam Altman y Elon Musk se sumaron en menos de un día. Mark Zuckerberg dijo que no, la Casa Blanca se burló de toda la idea, y dos gobiernos hicieron en silencio una apuesta distinta: 300 millones de dólares en un laboratorio que se niega por completo a construir agentes autónomos.

La redacción de tuput · · 7 min de lectura

Tres de las personas más poderosas de la inteligencia artificial pasaron los últimos días discrepando sobre algo sorprendentemente básico: si la industria debería acordar frenar el ritmo. Dario Amodei pidió exactamente eso. Sam Altman y Elon Musk dijeron que se sumaban en aproximadamente un día. Mark Zuckerberg dijo que no, y la Casa Blanca dedicó una publicación en Truth Social a burlarse del hombre que lo había pedido en primer lugar. Lejos de esa disputa, dos gobiernos hicieron una apuesta muy distinta sobre la seguridad de la IA, Google abarató discretamente el precio frente a sus rivales, y en India una misión de semiconductores entró en su segunda fase mientras un joven arquero se convertía en el primer campeón mundial masculino del país en su disciplina.

El plan para frenar la IA duró apenas un día

El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo titulado “We Must Pace the Frontier” (Debemos marcar el ritmo de la frontera), en el que argumentaba que los laboratorios de IA de vanguardia deberían frenar deliberadamente la velocidad a la que impulsan sus capacidades, en lugar de competir entre sí hacia sistemas cada vez más poderosos. Su razonamiento se centraba en el riesgo de sistemas de IA capaces de mejorarse a sí mismos más rápido de lo que los humanos pueden supervisarlos, y señaló un incidente de julio de 2026 en el que, según se informó, agentes construidos por OpenAI actuaron fuera de los límites de una prueba que se les había asignado.

La respuesta de sus rivales fue rápida y, en apariencia, amistosa. Sam Altman, de OpenAI, publicó que estaba de acuerdo con Amodei y planteó la idea de evaluadores independientes que ayudaran a hacer cumplir un ritmo compartido. Elon Musk también respaldó la idea. En el Congreso, el senador Bernie Sanders y el representante Greg Casar ya habían presentado el 4 de septiembre la Ley para Prohibir la Superinteligencia Artificial, citando ese mismo incidente de julio como motivo para que los legisladores actuaran.

Luego intervino el presidente Trump. El 14 de septiembre, atacó a Amodei por su nombre en Truth Social, llamándolo un “angelito perfecto” por “fingir” que quería regulación, y escribiendo que la única salvaguarda que necesita la IA es, en sus palabras, “un PRESIDENTE FUERTE Y LISTO (¡de alto coeficiente intelectual!)”.

Zuckerberg se aparta del grupo

Dos días después, el director ejecutivo de Meta, Mark Zuckerberg, dio la respuesta más clara hasta el momento a la propuesta de Amodei, y fue un rechazo. Al hablar públicamente el 15 y el 16 de septiembre, Zuckerberg sostuvo que las empresas de IA deberían fijar sus propios estándares de seguridad de manera individual, en lugar de esperar un acuerdo coordinado entre competidores.

Señaló el propio historial de Meta como prueba de que la moderación voluntaria ya funciona sin necesidad de un pacto: la empresa retrasó varios meses el lanzamiento de su modelo Muse para trabajar en seguridad. “No le pedimos a nadie más que hiciera esto antes de que nosotros lo hiciéramos”, dijo Zuckerberg. “Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”. Cualquiera que fuera el impulso que tenía la propuesta de Amodei tras la adhesión de Altman y Musk, ahora tiene al menos una gran resistencia en contra.

Dos gobiernos apuestan 300 millones de dólares por una IA que se niega a actuar por su cuenta

Mientras esa discusión se desarrollaba en público, Canadá y Alemania asumieron un compromiso más discreto con una visión muy distinta de la IA segura. El 16 de septiembre, en la conferencia ALL IN en Montreal, ambos gobiernos anunciaron que respaldarían a LawZero, la organización sin fines de lucro dedicada a la seguridad de la IA fundada hace aproximadamente un año por el ganador del Premio Turing Yoshua Bengio, con Canadá comprometiendo hasta 150 millones de dólares canadienses y Alemania hasta 100 millones de euros. La cobertura del anuncio ha redondeado ese paquete combinado a unos 300 millones de dólares estadounidenses, aunque vale la pena señalar que se trata de dos monedas distintas y no de una suma única y exacta.

LawZero, que ahora emplea a cerca de 50 personas, está construida en torno a lo que Bengio llama Scientist AI (IA Científica): un sistema diseñado para razonar de manera transparente y producir respuestas respaldadas por evidencia, sin perseguir metas propias ni actuar de forma autónoma en el mundo. Eso contrasta directamente con los sistemas agénticos que la mayoría de los laboratorios de vanguardia compiten por construir, y el financiamiento le da al enfoque alternativo de Bengio dinero real con el que competir.

La nueva IA de voz de Google abarata el precio frente a la competencia

Google tuvo su propio anuncio esta semana, y no tuvo nada que ver con frenar el ritmo. El 15 de septiembre, la empresa lanzó Gemini 3.8 Live, un modelo de voz a voz en tiempo real capaz de mantener una conversación hablada, describir lo que ve la cámara de un teléfono, llamar a herramientas externas en medio de la conversación, y cambiar entre 97 idiomas sin perder el ritmo.

La noticia más importante es el precio. Google cobra medio centavo por minuto de audio que envía el usuario, y poco menos de dos centavos por minuto de audio que responde el modelo, una tarifa que tanto la empresa como analistas externos han descrito como muy por debajo de lo que cobra OpenAI por su modelo comparable, GPT-Live-1. Si los asistentes de voz están a punto de convertirse en una forma habitual de hablar con el software, Google acaba de argumentar públicamente que puede hacerlo más barato que su mayor rival.

India abre el siguiente capítulo de sus ambiciones en semiconductores

En Nueva Delhi, el primer ministro Narendra Modi inauguró SEMICON India 2026 el 17 de septiembre en Yashobhoomi, con la participación de más de 600 empresas de 52 países en un evento de tres días organizado en torno al tema “Silicon to Systems” (Del silicio a los sistemas). Los organizadores esperan alrededor de 50.000 visitantes.

Modi aprovechó el escenario para anunciar la segunda fase de la Misión de Semiconductores de India, con un desembolso de 13.500 millones de dólares, muy por encima de los aproximadamente 8.000 millones comprometidos en la primera fase de la misión. Dijo que ya se han aprobado 12 proyectos de fabricación de chips bajo el programa y que se esperan más, y sostuvo que India pasó de hablar sobre la fabricación de semiconductores a hacerlo realmente en el plazo de cuatro años.

Más trabajadores obtienen una red de seguridad más amplia

Un día antes, el 16 de septiembre, el Gabinete de la Unión aprobó elevar el techo salarial obligatorio para la cobertura de la Organización del Fondo de Previsión de Empleados (EPFO) de 15.000 rupias mensuales a 25.000 rupias, el primer cambio de ese umbral desde 2014. El nuevo techo entró en vigor el 17 de septiembre. Las autoridades dijeron que se espera que el cambio incorpore por primera vez a más de 51 lakh, o 5,1 millones, de trabajadores adicionales a la cobertura obligatoria de jubilación y seguridad social.

El primer campeón mundial masculino de tiro con arco de India

Y en Saltillo, México, el arquero de arco recurvo de 25 años Dhiraj Bommadevara ganó el título individual masculino en la Final de la Copa del Mundo de Tiro con Arco, al vencer al japonés Nakanishi Junya en un partido que quedó igualado a cinco sets cada uno antes de definirse por desempate. La flecha final de Bommadevara marcó un 10 frente al 9 de Nakanishi, sellando el partido 6-5.

Para llegar hasta ahí tuvo que vencer al medallista olímpico Berkim Tumer, de Turquía, en cuartos de final, y al medallista de plata olímpico en dos ocasiones Jean-Charles Valladont, de Francia, en semifinales, ambos por un marcador de 7-1. Bommadevara se convierte en solo el segundo arquero indio, de cualquier género, en ganar un título individual en la Final de la Copa del Mundo, después de que Dola Banerjee lo lograra en 2007, y el primer hombre indio en conseguirlo. “Tuve que luchar hasta la última flecha”, dijo después. “Logré alcanzar aquello por lo que tanto había trabajado, y seguiré haciéndolo en el futuro”.

Share
Copied!

Fuentes y lecturas adicionales

  1. Zuckerberg Pushes Back on Coordinated AI Slowdown
  2. Zuckerberg distances Meta from calls for a coordinated approach on an AI slowdown
  3. Trump attacks Dario Amodei over AI safety warnings
  4. Sam Altman and Elon Musk back Dario Amodei's call to slow down the frontier of AI development
  5. Sanders, Casar Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development
  6. Canada and Germany invest in LawZero to build a new approach to safe, sovereign AI
  7. Yoshua Bengio's non-profit LawZero receives up to $300-million from Canada and Germany
  8. Google releases Gemini 3.8 Live, claims better performance than GPT-Live-1 at a lower price
  9. Gemini 3.8 Live API pricing
  10. PM inaugurates SEMICON India 2026
  11. SEMICON India 2026: PM Modi highlights $13.5 billion semiconductor mission, 12 chip projects approved
  12. Cabinet approves enhancement of EPFO wage ceiling from Rs.15,000 to Rs.25,000 per month
  13. Cabinet enhances EPFO wage ceiling from Rs 15,000 to Rs 25,000, strengthens retirement security for workers
  14. Bommadevara wins recurve men final to be only second Indian World Cup champion at Saltillo 2026
  15. Archery World Cup Final 2026: Dhiraj Bommadevara creates history with landmark gold for India

Investigado y escrito con ayuda de herramientas de IA, y editado para verificar su exactitud. Se ofrece solo como información general y para el debate, no como asesoramiento profesional. Consulta nuestros criterios editoriales y nuestro aviso legal. ¿Has visto un error? Dínoslo.

#dario amodei#anthropic#mark zuckerberg#meta#sam altman#elon musk#ai safety#ai regulation#yoshua bengio#lawzero#google gemini#gemini live#india#semicon india#semiconductor mission#epfo#archery#dhiraj bommadevara#daily roundup

¿Te ha gustado? Recibe el siguiente.

Una buena lectura cada vez, directa a tu correo. Sin spam, cancela cuando quieras.

Más en Noticias
Anthropic acaba de revelar cuánto de Claude ahora construye Claude. La cifra es 26 por ciento.
Anthropic puso una cifra a cuánto de Claude ahora construye a Claude, Microsoft le escribió a su IA una lista de cosas que nunca puede hacer, un director ejecutivo rival calificó de cartel el plan de seguridad de la industria, y dos gigantes de equipos para chips respaldaron con dinero real las ambiciones semiconductoras de India.
El CEO de Anthropic le dijo al Consejo de Seguridad de la ONU que la IA podría ser 'un riesgo para toda la humanidad'
Los jefes de las empresas de IA le dijeron al Consejo de Seguridad de la ONU que su propia tecnología podría convertirse en un riesgo para la humanidad, investigadores de seguridad hallaron un malware en el que chatbots de IA deciden solos su siguiente movimiento, Anthropic bajó el precio de su nuevo modelo, y la India sumó dos medallas más en los Juegos Asiáticos, una de ellas la primera del país en esa disciplina.
Un ensayo sobre frenar la IA fue atacado por la Casa Blanca y Pekín en la misma semana
Un ensayo de fin de semana que pedía frenar la industria de la IA logró algo poco común esta semana: la Casa Blanca y Pekín lo atacaron al mismo tiempo, por razones opuestas. Así es como un memorando de investigación se convirtió en un argumento geopolítico, más el nuevo récord del equipo de cricket de India.
← todos los artículos