Los tres laboratorios que van en cabeza en la IA de frontera piden que se regule, y los umbrales que proponen los dejan a ellos dentro y a casi todo el resto fuera. Axios lo resumió el 16 de julio: Sam Altman, Demis Hassabis y Dario Amodei han publicado en cinco semanas tres propuestas distintas que coinciden en las mismas recetas. Pruebas independientes antes de lanzar un modelo, un regulador liderado por EE.UU. y reglas estrechas solo para los modelos más capaces.
Puntos clave
- Amodei, Policy on the AI Exponential, 10 de junio: una agencia estilo FAA con poder para bloquear el despliegue de un modelo.
- Hassabis, 14 de julio en X: un organismo estilo FINRA financiado por la industria, con revisión de hasta 30 días antes del lanzamiento.
- Altman, en el Financial Times: un foro internacional estilo OIEA liderado por EE.UU. que certifica países y empresas.
- La propuesta de transparencia de Anthropic solo aplica a modelos de más de 10^25 FLOPs de empresas con más de 500 millones de dólares de ingresos por IA o más de 1.000 millones en I+D. Hoy: Anthropic, OpenAI, Google DeepMind, xAI y quizá Meta.
Qué propone cada uno
Los tres rompen con la norma vieja del sector, que era que cada laboratorio se autoevaluara y publicara sus propios resultados. A partir de ahí divergen.
Amodei quiere una FAA de la IA. Testeo obligatorio por un tercero cualificado en cuatro riesgos concretos (ciberseguridad, armas biológicas, pérdida de control, y una IA que acelere su propia investigación), y un Gobierno con capacidad de bloquear el lanzamiento si la evaluación detecta riesgo inaceptable.
Hassabis va más suave: empezar voluntario, con los laboratorios compartiendo el modelo hasta 30 días antes de publicarlo para que se le busquen capacidades peligrosas de ciberseguridad, biología y engaño. Luego endurecerlo hasta condicionar el acceso al mercado estadounidense, y lo pide antes de que acabe el año, como ya contamos esta semana.
Altman apunta fuera de casa: certificar países y empresas desde un foro liderado por EE.UU., con el acceso a los modelos como moneda de cambio. Las reacciones fueron tibias y favorables. Altman calificó el plan de Hassabis de "thoughtful" y hasta Elon Musk lo llamó "a good starting point".
A quién le sale caro
OpenAI, Google y Anthropic ya tienen los abogados, los equipos de seguridad, los red teams y la relación con Washington para pasar una certificación compleja. Una startup que entrena su primer modelo grande no tiene nada de eso.
Curtis Pyke lo escribió el mismo día del ensayo de Amodei en Kingy AI: el riesgo es convertir la seguridad en un foso para los que ya están dentro. Cuanto más dependa el sistema de umbrales de cómputo, auditorías de terceros, defensa legal y aprobaciones de despliegue, más se convierte la frontera "en un espacio que solo pueden navegar los laboratorios más ricos".
El otro agujero son los pesos abiertos. Cuando un modelo se publica y cualquiera se lo descarga (Llama, Mistral, lo que sale cada semana por Hugging Face), nadie ha explicado cómo se bloquea un despliegue. Y la frontera abierta ya está aquí: Kimi K3 se ha puesto a 3 puntos de los modelos cerrados, y es chino. Un regulador estadounidense no le va a decir gran cosa.
El argumento de seguridad, que también existe
Sería injusto pintar esto solo como maniobra comercial. Los umbrales de Anthropic son deliberadamente altos: 10^25 FLOPs con esos filtros de facturación deja fuera los ajustes de modelos y el consumo por API que hace la práctica totalidad de las empresas. Sobre el papel, están pidiendo reglas que solo les caen encima a ellos y a sus dos rivales directos. Y si un modelo ayuda de verdad a montar un arma biológica, el momento de saberlo es antes de publicarlo.
Lo que falta es la fontanería, y ahí se decide todo. Quién declara que un modelo ha cruzado la frontera, qué evidencia basta para parar un lanzamiento, cómo recurre un laboratorio, quién paga el cómputo de las evaluaciones independientes. Sin eso, son tres ensayos bien escritos.
Por qué importa
Si tu empresa usa Claude, ChatGPT o Gemini por API, los umbrales te dejan fuera con mucho margen y no tienes que hacer nada el lunes. La factura llega a dos años vista. Hoy pagas lo que pagas por token porque Mistral, DeepSeek y los modelos abiertos aprietan por abajo, y ese suelo desaparece si el coste de cumplimiento consolida el mercado en tres proveedores. Por eso conviene tener siempre un modelo abierto probado en tu stack, aunque no sea el que uses en producción. Es lo que te deja cambiar de proveedor si el precio se mueve.
Relacionado
