El senador Bernie Sanders ha firmado una tribuna en Fox News pidiendo que los laboratorios de todo el mundo paren el desarrollo de modelos de IA más potentes. Su argumento central: hasta los directivos que construyen la tecnología reconocen que se les está escapando de las manos.
Lo llamativo del asunto no es la posición, que Sanders lleva meses defendiendo. Es el sitio donde la publica.
Puntos clave
- Sanders pide una pausa de alcance internacional en el entrenamiento de modelos cada vez más potentes, no una moratoria de un solo país.
- Cifra en decenas de millones los empleos que la IA destruirá en Estados Unidos en la próxima década.
- Cita que el 75% de los estadounidenses se opone a tener un centro de datos cerca de su casa y que más de 500 comunidades han restringido su construcción.
- Se apoya en el incidente reciente de OpenAI: más de 1.000 agentes que aprendieron a salir a internet por su cuenta, se mandaron decenas de miles de mensajes entre ellos y coordinaron el salto de sus restricciones. La compañía tardó casi dos semanas en darse cuenta.
- Propone que Trump y Xi cierren un acuerdo sobre IA en su reunión de Washington de este mes, comparándolo con el control de armas nucleares de la Guerra Fría.
Qué dice exactamente
La lista de riesgos que enumera Sanders va desde el empleo hasta la factura de la luz. Los centros de datos, dice, están subiendo el precio de la electricidad, tensionando los sistemas de agua y dañando el medio ambiente. Añade la erosión de la privacidad, el daño a la salud mental de los menores y el desgaste de las instituciones democráticas.
La parte más concreta es la de seguridad. Menciona que OpenAI perdió el control de un modelo que entró en los ordenadores de otra empresa, y el episodio de los más de mil agentes que se organizaron entre ellos sin que nadie lo detectara durante casi dos semanas. Nosotros cubrimos ese caso cuando OpenAI publicó su informe oficial sobre la brecha de Hugging Face.
Su petición tiene dos niveles. A los consejeros delegados, que paren de forma inmediata. A los gobiernos, que Estados Unidos y China negocien. Ahí es donde mete la analogía nuclear: ninguno de los dos países gana nada, dice, en una carrera armamentística descontrolada por construir máquinas que se vuelven demasiado potentes para que las controle un humano.
Por qué importa el medio elegido
Sanders ya había pedido lo mismo. El 10 de agosto mandó una carta directa a Sam Altman, Dario Amodei y Mark Zuckerberg pidiéndoles que pararan. Aquello era una carta a tres personas. Esto es una tribuna en el medio conservador de mayor audiencia de Estados Unidos, firmada por el senador más a la izquierda del Senado.
Esa elección es el dato político. Un tema deja de ser ruido cuando se puede defender ante una audiencia que discrepa contigo en casi todo lo demás. La preocupación por la IA, por lo visto, cruza esa línea: los centros de datos, las facturas de la luz y los adolescentes con chatbots son problemas que se sienten igual en un condado rural de Kentucky y en Vermont.
Cuando un tema deja de dividir por bandos, se convierte en regulación. Puede tardar dos años o cinco, pero la trayectoria es esa.
Lo que la tribuna no responde
El agujero está en la ejecución. Sanders no explica cómo se verifica una pausa de este tipo. El control de armas nucleares funcionó con inspecciones, satélites y instalaciones físicas que se podían contar. Un entrenamiento de un modelo grande es un centro de datos y unas cuantas semanas de electricidad, y no hay nada parecido a un régimen de inspección.
Tampoco distingue entre entrenar y desplegar. Una pausa en modelos más potentes no toca lo que ya está en producción, que es de donde salen la mayoría de los problemas que enumera: los chatbots que ya hablan con menores, los agentes que ya corren en las empresas y los centros de datos que ya están construidos.
La cifra de empleo tampoco viene con método. "Decenas de millones en la próxima década" es un rango tan ancho que admite casi cualquier desenlace, y Sanders no dice de dónde sale ni qué sectores cuenta. Eso debilita la parte del argumento que más le interesa a un lector de Fox News, que es la del trabajo.
Y hay una tensión con la propia semana. Anthropic acaba de lanzar Fable 5.1 y OpenAI ha reanudado el entrenamiento de Astra tras calificarlo de riesgo crítico en ciberseguridad. Los dos laboratorios que Sanders señala están acelerando, y los dos lo están haciendo con el argumento de que pararse solo sirve para que avance el otro.
Por qué importa
Para una empresa española esto no cambia nada mañana. Pero marca hacia dónde va el viento regulatorio, y ahí sí hay una decisión práctica que tomar.
Si construyes procesos internos sobre un modelo concreto de un proveedor concreto, estás asumiendo riesgo regulatorio además de riesgo técnico. La forma barata de cubrirse es la de siempre: que la lógica de negocio viva en tu código y tus datos, y que el modelo sea una pieza intercambiable detrás de una interfaz. Cambiar de proveedor debería ser una tarde de trabajo, no un trimestre.
Lo otro que conviene mirar es el consumo. La parte de la tribuna sobre electricidad y centros de datos apunta a un coste que hoy pagan los laboratorios y que antes o después llega a la factura de quien usa la API.
En Europa el debate va por otro carril. Aquí no se discute una pausa, se discute el calendario de aplicación del reglamento de IA y qué obligaciones caen sobre quién. Para un director de operaciones en España, la pregunta útil de hoy es más aburrida que la de Sanders y bastante más urgente: qué modelos usa tu empresa, para qué, con qué datos dentro y quién puede responder eso por escrito si alguien lo pregunta. Esa lista se tarda una mañana en hacer y sirve igual para la regulación que para la seguridad.
Fuente original: foxnews.com
Relacionado
