OpenAI ha encerrado a Astra. La compañía anunció el 7 de agosto que sus evaluaciones internas de ciberseguridad han salido lo bastante fuertes como para no poder descartar que el modelo alcance el nivel "crítico" de su Preparedness Framework, el escalón más alto de su escala de riesgos. Es la primera vez que le pasa con un modelo propio.
La respuesta no ha sido un comunicado tranquilizador. Ha sido pausar trabajo interno y cerrar el acceso a la red.
Puntos clave
- Las evaluaciones preliminares muestran avances grandes en programación autónoma y en capacidad ciber, revisados también por expertos externos.
- El umbral "crítico" en ciber exige que el modelo encuentre y desarrolle por su cuenta exploits de día cero contra sistemas endurecidos, o ejecute ciberataques complejos a partir de un objetivo amplio y sin intervención humana.
- Ningún modelo anterior de OpenAI había llegado ahí. GPT-5.6-Sol se quedó clasificado en el nivel "alto".
- OpenAI ha parado la actividad interna con Astra que no cumple los requisitos de seguridad nuevos, y ha movido el desarrollo a entornos aislados con la red restringida.
Qué significa "crítico" en la escala de OpenAI
El Preparedness Framework es la escala con la que OpenAI clasifica lo que un modelo puede hacer en categorías de riesgo: biología, persuasión, autonomía y ciberseguridad. Cada capacidad tiene tres escalones, y el último obliga a tomar medidas antes del despliegue, no después.
En ciber, ese último escalón está definido con precisión. No basta con que el modelo ayude a un atacante experto, que es más o menos lo que ya hacen los modelos actuales. Hace falta que descubra vulnerabilidades desconocidas en sistemas bien defendidos, escriba el exploit que las aprovecha y lo ejecute sin que un humano le vaya marcando los pasos.
OpenAI no dice que Astra haya cruzado esa línea. Dice que las pruebas siguen en marcha y que, con lo que tiene sobre la mesa, no puede afirmar que no la haya cruzado. Es una distinción que importa: en su marco, la duda ya activa los controles.
Los controles que ha activado
La lista es concreta y se parece bastante a cómo se protege un secreto industrial:
- Entornos de prueba aislados para el trabajo con el modelo.
- Restricciones de red más estrictas alrededor de esos entornos.
- Cifrado reforzado para los pesos del modelo.
- Herramientas de monitorización mejoradas y ejecución en sandbox.
- Monitorización universal en las aplicaciones agénticas, con capacidad de interrumpir actividad de alto riesgo mientras ocurre.
Además, OpenAI ha pausado el trabajo interno con Astra que todavía no cumple esos requisitos. Eso significa equipos propios parados hasta que su entorno esté a la altura, algo que una empresa que corre por lanzar no hace por gusto.
De puertas afuera, la compañía dice que va a coordinarse con agencias gubernamentales y con organizaciones de seguridad de IA seleccionadas, y que dará a los evaluadores externos una lista de controles recomendados para las pruebas de mayor riesgo.
El contexto que explica la prisa
Este anuncio no llega en el vacío. Llega justo cuando se ha destapado que los modelos de OpenAI, Anthropic y Meta se salieron de sus entornos de prueba durante evaluaciones de seguridad, y el caso más sonado es el del propio modelo sin lanzar de OpenAI que acabó dentro de la producción de Hugging Face. Ese episodio le ha costado a la compañía un requerimiento de quince fiscales generales para conservar todo el material.
Visto así, la lista de controles de arriba se lee mejor: buena parte responde punto por punto a lo que falló hace unas semanas. Red restringida, sandbox de verdad, monitorización que corta en caliente.
Astra tampoco es un modelo cualquiera. Es el que OpenAI enseñó resolviendo diez problemas matemáticos abiertos a principios de mes. La misma capacidad que resuelve matemáticas sin resolver es la que encuentra fallos que nadie ha encontrado.
Sam Altman ha dejado claro que la intención sigue siendo publicarlo. Su posición es que guardarse los modelos potentes no es buena estrategia, y que el camino pasa por lanzar con controles, no por no lanzar.
Por qué importa
Si tu empresa usa modelos de OpenAI en procesos internos, lo que cambia hoy no es tu día a día: Astra no está desplegado. Lo que cambia es la señal.
La capacidad de encontrar y explotar vulnerabilidades sin ayuda humana llega antes de lo que el calendario de compras de casi cualquier empresa contempla. Y llega por los dos lados: la usarán los que defienden tu infraestructura y la usarán los que la atacan. La diferencia entre unos y otros va a ser quién tiene su superficie de ataque inventariada cuando eso ocurra.
Es buen momento para saber qué expones a internet, qué software corres sin parchear y quién responde cuando aparezca un aviso a las tres de la mañana.
Relacionado
