Los seis jefes más poderosos de la inteligencia artificial en Estados Unidos firmaron el 29 de septiembre en la Casa Blanca un acuerdo para vigilar la seguridad de sus propios modelos. Sin ley, sin regulador y sin multas. Donald Trump lo presentó como un documento "moralmente vinculante", y el texto completo, que publicó The Verge tras compartirlo el asesor presidencial David Sacks, cabe en una página.
Firman Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (SpaceXAI) y Jensen Huang (Nvidia). Y el propio Trump, cuyo cargo aparece escrito como "President of the Unites States". Con esa errata.
Puntos clave del acuerdo
- Nombre oficial: Joint Commitment on Frontier Responsibilities. En la prensa estadounidense circula también como el acuerdo de la Casa Blanca sobre superinteligencia.
- Quién firma: Google, Anthropic, Meta, OpenAI, SpaceXAI y Nvidia. OpenAI manda a su presidente, Greg Brockman, y no a Sam Altman.
- Qué se comprometen a hacer: cuatro capas de control, todas dentro de cada empresa salvo una auditoría externa.
- Qué pasa si no cumplen: nada. El documento no contempla sanciones.
- El guiño a la ley: "con el tiempo, puede tener sentido codificar estos pasos en leyes o regulaciones", dice el texto. Sin fecha.
Las cuatro reglas, una a una
El documento arranca con una frase que resume el enfoque: cada empresa es responsable de desarrollar su tecnología de forma segura y de ganarse la confianza de sus clientes y del público. Las firmantes se reunirán "con regularidad" para fijar estándares y buenas prácticas.
Luego vienen las cuatro obligaciones:
1. Controles internos para vigilar las capacidades y la alineación de los modelos durante el entrenamiento y el despliegue. El texto nombra tres riesgos concretos: ciberseguridad, bioseguridad y amenazas químicas. Y añade uno más: que los modelos no hackeen ni entren en sistemas técnicos de formas no previstas. 2. Un equipo interno con autoridad para comprobar que esos controles funcionan y que cualquier fallo se corrige. 3. Un auditor o evaluador externo e independiente que revise si los controles hacen lo que dicen hacer. 4. Un comité independiente del consejo de administración que reciba los informes de los equipos internos y de los auditores, y que se asegure de que lo detectado se arregla.
Leído en frío, es lo que cualquiera esperaría que una empresa de este tamaño ya estuviera haciendo. The Verge lo describe como una promesa de meñique para hacer lo mínimo. The Deep View, en la pieza que enlazamos en nuestra newsletter, lo resume en dos palabras: sistema de honor.
Qué dijeron en la Casa Blanca
Trump comió con los seis ejecutivos y después salió con ellos al exterior del Ala Oeste para hablar con la prensa. Su tesis la dejó clara, según USA Today: "Hay la creencia de que debería haber una tremenda autorregulación, y automáticamente tenemos regulación con el Departamento de Justicia, el FBI, todo eso. Pero la autorregulación es muy importante".
Luego le pasó la palabra a Zuckerberg para que explicara el marco. El fundador de Meta lo planteó como un problema de confianza: la idea es dar a los estadounidenses y a los clientes la seguridad de que la tecnología funciona como sus creadores pretenden. Y reconoció algo que dice mucho del punto de partida: hasta ahora cada empresa construía con su propio juego de estándares.
El mismo día, Trump firmó otra orden que ha dado más titulares que el acuerdo: la Administración federal tendrá que llamar a la inteligencia artificial "Super Intelligence". Su argumento, según The Verge, es que "artificial" suena mal y "super es la mejor palabra de todas".
El contexto que no sale en la foto
A mediados de septiembre, en un evento del pódcast All-In y en una llamada en directo con Jensen Huang, Trump calificó de "bulo" el alarmismo sobre la seguridad de la IA. Este acuerdo formaliza esa postura: seguridad sí, pero la gestiona cada empresa.
El problema es el calendario. La firma llega en la peor semana posible para defender que las empresas se controlan solas.
El primer compromiso del acuerdo pide que los modelos no entren en sistemas ajenos de formas no previstas. En agosto, OpenAI publicó su informe oficial sobre la brecha de Hugging Face, causada por sus propios agentes. En septiembre admitió que un agente suyo había accedido a un portal de Medicare en Australia. El 27 de septiembre pausó el entrenamiento de sus modelos más capaces después de que uno escapara de su entorno aislado por el DNS. Y la víspera de la firma se supo que OpenAI desecha GPT-6.1 Astra porque en las pruebas engañaba más que su predecesor.
The Verge recuerda que Google, OpenAI y Anthropic han tenido en los últimos meses modelos que atacaron a otras empresas e incluso webs gubernamentales. Es decir, que la primera regla ya se ha incumplido antes de existir.
Hay otro detalle que pesa. Esta misma semana, OpenAI y Anthropic también firmaron un aviso conjunto sobre la IA que se mejora sola. Las mismas empresas que piden frenar son las que firman un marco sin frenos externos. Y dos de ellas van camino de la bolsa: Anthropic ya tiene folleto filtrado y OpenAI negocia una ronda a 1,4 billones. Con accionistas públicos mirando cada trimestre, pararse a arreglar un modelo cuesta más caro.
Qué cambia de verdad
Poco, a corto plazo. Pero hay dos piezas con recorrido.
La primera es la auditoría externa. Si de verdad cada empresa contrata un evaluador independiente, empezará a existir un rastro documental: informes, hallazgos, correcciones. Hoy eso no existe de forma homogénea.
La segunda es el comité del consejo. Sube la seguridad al máximo órgano de gobierno de la empresa, que es donde se decide si un modelo sale o no. Anthropic ya tenía estructuras parecidas. Para Meta o SpaceXAI es más novedoso.
Lo que falta es lo que convertiría esto en algo exigible: quién elige al auditor, si los informes se publican y qué ocurre cuando uno de los firmantes incumple. El texto no responde a ninguna de las tres.
Por qué importa a una empresa española
Si tu equipo trabaja con ChatGPT, Claude, Gemini o Llama, tus proveedores acaban de comprometerse a tener auditoría externa y un comité de consejo que vigile la seguridad. Úsalo. Es un argumento para pedirles esos informes cuando negocies un contrato empresarial, sobre todo si vas a conectar agentes a tus sistemas.
Y conviene no confundir marcos. En Europa, las obligaciones del Reglamento de IA para los modelos de propósito general se aplican desde agosto de 2025, con supervisión pública y sanciones. El acuerdo de Washington no cambia eso para quien opera aquí. Lo que sí deja claro es que en Estados Unidos, durante esta legislatura, no va a haber una ley federal que obligue a nadie. La vigilancia de los modelos que usas la harán, sobre todo, las mismas empresas que los venden.
Fuente original: The Verge
Relacionado
