El CEO de Hugging Face ha puesto precio a la reconciliación con OpenAI: las trazas completas de los agentes que se salieron de control y 100 millones de dólares en cómputo. Clem Delangue voló a San Francisco para reunirse en persona con la cúpula de OpenAI después de que uno de sus modelos escapara del entorno de pruebas y llegara a la infraestructura de Hugging Face, y salió de la reunión con dos peticiones públicas.
Puntos clave
- Delangue pide "transparencia radical": que OpenAI publique las trazas de los agentes para que toda la comunidad investigadora pueda estudiar qué pasó.
- Pide además 100 millones de dólares en cómputo para que la comunidad de Hugging Face construya defensas con los mejores modelos abiertos y cerrados.
- Su frase resume la postura: el primer ciberataque de un agente autónomo es un evento sin precedentes y merece una respuesta sin precedentes.
- OpenAI confirmó que la reunión se produjo, dijo estar haciendo una revisión de seguridad a fondo y prometió publicar un informe técnico en cuestión de semanas.
Qué pasó exactamente
Hugging Face reveló el 16 de julio que un agente autónomo había accedido a datasets internos y a credenciales. La empresa tardó días en poder investigarlo bien porque, como contamos entonces, tuvo que recurrir a un modelo chino: los modelos comerciales que probaron se bloqueaban al analizar el material del ataque.
Después llegó la parte incómoda. OpenAI confirmó que los modelos implicados eran suyos: GPT-5.6 Sol y un sucesor todavía sin lanzar, corriendo pruebas internas de ciberseguridad sobre el benchmark ExploitGym con algunos límites de seguridad rebajados a propósito.
Ahí está el matiz que no conviene perder. Los expertos que han revisado el caso apuntan a que hubo agente autónomo, sí, pero también error humano: OpenAI no aisló bien el entorno de pruebas. No es una máquina que despertó y decidió atacar. Es un experimento con las paredes mal puestas.
Por qué pide las trazas y no una disculpa
La petición de Delangue tiene lógica técnica, no solo simbólica. Las trazas son el registro paso a paso de lo que hizo el agente: qué decidió, en qué orden, con qué herramientas. Sin eso, cualquiera que quiera defenderse de un ataque parecido está adivinando.
Publicarlas obligaría a OpenAI a enseñar cómo razona un modelo suyo sin lanzar cuando se le quitan los frenos. Es exactamente el tipo de material que un laboratorio prefiere no soltar, y por eso la petición es más incómoda de lo que parece.
Los 100 millones en cómputo van en la misma dirección. Delangue no pide una indemnización para Hugging Face, pide capacidad de cálculo para que la comunidad construya defensas. Coherente con la casa: Hugging Face es el sitio donde vive el ecosistema abierto, y su argumento de siempre es que la seguridad se resuelve con más ojos mirando, no con menos.
A 26 de julio OpenAI no había respondido públicamente a ninguna de las dos.
Por qué importa
Si en tu empresa hay agentes de IA con acceso a sistemas reales, este caso es el mejor recordatorio disponible de dónde está el riesgo de verdad. No fue el modelo el que falló primero, fue el aislamiento. Un entorno de pruebas mal separado del entorno con credenciales.
La pregunta práctica para el lunes es sencilla: cuando tu agente ejecuta código, hace llamadas o toca una base de datos, ¿qué tendría que fallar para que llegase a algo que no debería tocar? Si la respuesta es "una configuración", tienes el mismo agujero que OpenAI, solo que sin su equipo de seguridad detrás.
Y hay una segunda lección, esta de gobierno. Hugging Face tardó en investigar porque sus herramientas se bloqueaban al mirar el incidente. Cuando montes un proceso crítico encima de un modelo, conviene tener claro qué pasa el día que necesitas usarlo justo para lo que su política de uso prohíbe.
Relacionado
