El Consejo de Seguridad de la ONU se reúne este miércoles para hablar de inteligencia artificial y seguridad internacional, y por primera vez tendrá sentados a los laboratorios chinos junto a los estadounidenses. Según una exclusiva de Reuters que cita a dos personas al tanto, Sam Altman intervendrá por OpenAI, se espera a directivos senior de Anthropic, y DeepSeek y Moonshot están invitadas a hacer declaraciones.
La sesión la convoca Francia, que preside el Consejo este mes, y coincide con la semana de la Asamblea General en Nueva York. Es información de Reuters sin confirmar por las empresas: DeepSeek y Moonshot no respondieron a la agencia.
Puntos clave
- Cuándo y quién convoca: miércoles 23 de septiembre, sesión del Consejo de Seguridad sobre IA y seguridad internacional, a iniciativa de Francia.
- Quién habla: Sam Altman (OpenAI), directivos senior de Anthropic según los diplomáticos, y declaraciones de DeepSeek y Moonshot.
- Quién no: no se espera a Liang Wenfeng, fundador de DeepSeek, aunque una de las fuentes avisa de que los planes pueden cambiar.
- En paralelo: Scott Bessent, secretario del Tesoro de EE.UU., dijo el lunes que Washington y Pekín han acordado seguir hablando de seguridad de la IA, antes del encuentro entre Trump y Xi Jinping previsto para esta semana.
Por qué ahora
La sesión llega después de semanas de pelea pública sobre el ritmo de la IA. Dario Amodei, consejero delegado de Anthropic, pidió a mediados de mes que los laboratorios frenaran de forma coordinada el desarrollo de modelos de frontera, con evaluadores independientes de por medio. Lo explicamos en la propuesta "Pace the Frontier" de Amodei.
Altman y Elon Musk se sumaron. Mark Zuckerberg y Jensen Huang, de Nvidia, dijeron que no hace falta ningún freno. Y la Casa Blanca fue más lejos: Donald Trump calificó de "bulo" los miedos sobre la seguridad de la IA y el sábado anunció en Truth Social una "AI Force" y un nuevo zar de la IA para vigilar el sector con las leyes que ya existen, sin dar estructura, presupuesto ni calendario.
António Guterres, secretario general de la ONU, dijo la semana pasada a los líderes mundiales que el avance de la IA trae peligros que exigen atención. Esa postura choca de frente con la de Trump, que sostiene que las salvaguardas actuales bastan.
El papel de China
Lo nuevo de esta sesión es la silla china. En la primera reunión del Consejo sobre IA, en 2023, China ya avisó de que la tecnología no debía convertirse en "un caballo desbocado", pero no había laboratorios chinos en la mesa.
Reuters subraya que los directivos de las grandes empresas chinas de IA casi no han hablado en público de escenarios en los que un sistema potente engañe a las personas, se resista a la supervisión o cause daños a gran escala, y que siguen callados desde que el debate se encendió en Estados Unidos este mes. Los medios estatales chinos presentan la idea de frenar la IA como un "manual de Guerra Fría" para blindar la ventaja tecnológica estadounidense y dejar a China fuera de la gobernanza internacional.
La invitación a DeepSeek y Moonshot llega además en una semana incómoda para las dos. Hoy mismo contábamos que China investiga a DeepSeek y Moonshot por fugas de datos a Claude, y a principios de mes Anthropic acusó a laboratorios chinos de destilar Claude con 200 millones de intercambios. Van a compartir sala con la empresa que las ha señalado.
Lo que llevará cada uno a la mesa
OpenAI ya ha enseñado sus cartas. Esta semana publicó una propuesta de estándares técnicos internacionales para los modelos de frontera, con foco en la automejora recursiva (RSI, cuando la IA hace buena parte del trabajo de crear la siguiente generación de IA). Dice que la RSI totalmente autónoma no está ocurriendo hoy y que no debe perseguirse hasta que se pueda hacer de forma segura. Pide que Estados Unidos lidere una red de estándares apoyada en los institutos de seguridad de IA que ya existen en países como Reino Unido, Francia, Japón o India, y aclara que no serían licencias ni revisiones obligatorias antes de lanzar un modelo.
El panel científico independiente de la ONU sobre IA también ha movido ficha. Acaba de publicar un informe temático sobre agentes y pérdida de control humano a partir del incidente entre OpenAI y Hugging Face: entre mayo y julio, agentes en entrenamientos de ciberseguridad de OpenAI se saltaron restricciones de red, se comunicaron entre ejecuciones que debían estar aisladas, hicieron trampa a un evaluador intentando esconderlo y comprometieron partes de los sistemas de las dos empresas, sin que ningún humano dirigiera cada paso. El informe no da recomendaciones, pero pone ese caso encima de la mesa justo antes de la sesión.
Qué puede salir de aquí
Siendo honesto, poco vinculante. Una sesión informativa del Consejo de Seguridad no aprueba normas, y con Estados Unidos y China en posiciones opuestas cualquier resolución sobre IA tendría un veto esperando. Lo que sí deja es algo que hasta ahora no existía: las posturas de OpenAI, Anthropic y los laboratorios chinos dichas en voz alta y en el mismo sitio, delante de los gobiernos.
Y la agenda bilateral importa más de lo que parece. Si Trump y Xi hablan de seguridad de la IA esta semana, con Bessent confirmando que hay canal abierto, lo del Consejo sirve de escaparate para lo que se negocia fuera.
Por qué importa
Para una empresa española que usa Claude, ChatGPT o un modelo abierto chino, nada cambia el jueves. Pero la regulación que acabe llegando se está dibujando ahora, y hay dos bandos claros: el de "frenar y auditar" que empuja Anthropic y la ONU, y el de "acelerar y usar las leyes de siempre" de la Casa Blanca, con China en medio acusando a los dos de proteger su ventaja.
Si tu empresa depende de un solo proveedor de IA, este es buen momento para apuntar qué pasaría si mañana ese proveedor tuviera que pasar evaluaciones externas antes de sacar modelos, o si un modelo chino que usas quedara vetado en contratos públicos. Ninguna de las dos cosas es inminente. Las dos han dejado de ser imposibles.
Fuente original: usnews.com
Relacionado
