Anthropic ha publicado su postura sobre los modelos de pesos abiertos firmada por Dario Amodei, y la primera frase es la que zanja el asunto: la empresa nunca ha pedido que se prohíban. El texto sale tres días después de que Nvidia lanzara una carta abierta contra las restricciones, en un momento en que Washington estudia qué hacer con los modelos chinos.
Puntos clave
- Amodei escribe que los modelos de pesos abiertos sin capacidades peligrosas son un bien público, porque "no cuestan nada más allá del cómputo necesario para ejecutarlos".
- La carta de Nvidia salió el 24 de julio y la firmaron Meta, Microsoft, Mistral y Hugging Face, entre otros.
- Anthropic pide tres cosas en su lugar: cortar la venta de chips a China, perseguir la destilación a escala industrial y hacer obligatorios los tests de seguridad para todo modelo suficientemente capaz, abierto o cerrado.
- El post fue lo más votado del día en Hacker News, con 767 puntos y 1.083 comentarios.
De dónde viene el ruido
La semana pasada trascendió que algunos cargos de la administración estadounidense estaban valorando limitar el uso de modelos chinos de pesos abiertos. Nvidia reaccionó con una carta abierta contra vetarlos que firmaron buena parte de las grandes tecnológicas.
En ese ambiente, varios comentaristas señalaron a Anthropic como el laboratorio que más empujaba hacia la prohibición. Amodei ha salido a decir que eso no es lo que han pedido nunca, y de paso a aclarar qué sí piden.
El contexto de fondo es el que viene marcando el mes: Moonshot liberó ayer los pesos de Kimi K3, la Casa Blanca acusó a esa misma empresa de copiar el modelo Fable de Anthropic y el Tesoro llegó a hablar de sanciones.
Lo que a Anthropic le preocupa de verdad
Amodei separa dos miedos. El primero, que un gobierno autoritario, y cita al Partido Comunista Chino por su nombre, entrene modelos más potentes que los estadounidenses y con eso logre "superioridad militar permanente" o represión interna a gran escala. El segundo, que un modelo muy capaz se use en ciberataques o ataques biológicos.
Ahí sí reconoce que un modelo abierto tiene más riesgo que uno cerrado, por la razón obvia: si cualquiera puede descargar los pesos, cualquiera puede quitar las salvaguardas. Pero su conclusión es que la respuesta correcta es el hardware y las pruebas de capacidad, no censurar la arquitectura.
Las tres medidas que sí pide
Chips. "No debemos vender chips potentes ni equipos de fabricación de chips a China", escribe, y añade que hay que atajar el contrabando. Su argumento es que las leyes de escalado dejan a China con capacidad de producción limitada, así que sin silicio estadounidense no puede entrenar modelos por encima de la frontera actual.
Destilación. Anthropic quiere intervención política contra las operaciones de destilación a escala industrial, la técnica de bombardear a prompts un modelo ajeno para replicar su comportamiento en uno propio. Según sus análisis, es lo que permite a un laboratorio chino ponerse a meses de la frontera en vez de a años. La empresa dice que ya identifica y bloquea cuentas que hacen esto con sus modelos, y admite que una sola empresa no puede tapar el agujero.
Tests obligatorios. Todo modelo suficientemente capaz, abierto o cerrado, debería pasar pruebas de riesgo cibernético, biológico y de alineamiento antes de salir. Amodei señala que la administración Trump ha avanzado en esa dirección y que hay propuestas de la propia industria en la misma línea.
Dónde discrepa de la carta de Nvidia
Amodei dice compartir buena parte del texto de Jensen Huang, y marca dos desacuerdos.
No cree que los pesos abiertos faciliten por sí solos el desarrollo de salvaguardas. Y no cree que el acceso amplio a las capacidades ayude más al defensor que al atacante. Sobre esto último es tajante: la biología tiene una asimetría fuerte a favor del atacante, y un modelo lo bastante capaz puede acelerar el diseño de un virus con potencial pandémico mucho más rápido de lo que se tarda en montar la defensa.
Para sostenerlo cita el informe del UK AI Security Institute sobre modelos de pesos abiertos y la Evaluación Anual de Amenazas de 2026 de la comunidad de inteligencia estadounidense.
La idea que casi nadie ha comentado
En la parte final aparece algo que se ha comentado poco: Amodei apoya crear un organismo global de pruebas de seguridad en IA y dice que incluir a China en él "puede que sea posible de verdad".
Viene de alguien que en el mismo texto pide cerrarle el grifo de los chips a ese país. La combinación es rara y a la vez coherente con lo que Anthropic lleva defendiendo desde el ensayo del propio Amodei, *The Adolescence of Technology*, publicado hace seis meses: competir en capacidad y cooperar en medición.
También hay una admisión que conviene subrayar. Anthropic dice que ya identifica y bloquea las cuentas que usan sus modelos para destilar, y a renglón seguido reconoce que "las prácticas de una empresa individual no pueden resolver el problema del todo". Es la justificación de por qué pide legislación en vez de quedarse en sus términos de servicio.
Sobre el ruido de fondo, Amodei niega explícitamente el motivo que le atribuyen algunos: que todo esto vaya de "proteger a las empresas de IA estadounidenses de la competencia". Que tenga que escribirlo dice bastante de cómo se ha leído la posición de Anthropic durante la última semana.
Por qué importa
Si tu empresa está montando procesos encima de modelos abiertos, esta discusión decide si dentro de un año puedes seguir descargando pesos chinos o si te toca justificar de dónde salen. Lo que se está negociando en Washington no es la existencia de los modelos abiertos, es dónde se pone la línea de capacidad a partir de la cual hay que pasar por un examen.
Lo práctico hoy es lo de siempre: saber qué modelo corre detrás de cada proceso crítico y tener claro cuánto costaría cambiarlo. Un despliegue local de un modelo abierto es una ventaja de coste y soberanía de dato, y también una dependencia regulatoria que hace un año no existía.
Relacionado
