La FTC, la Comisión Federal de Comercio de Estados Unidos, ha abierto una investigación amplia sobre la seguridad de los sistemas de IA que alcanza a Anthropic y a OpenAI. Lo adelantó el New York Post y un alto cargo de la propia FTC lo confirmó a ABC News el 30 de septiembre. Ni la FTC ni las empresas han publicado todavía un comunicado.
Puntos clave
- Quién investiga: la FTC, que en Estados Unidos hace de regulador de competencia y de protección del consumidor a la vez.
- A quién: Anthropic, OpenAI y otros desarrolladores de modelos punteros. También METR, una organización sin ánimo de lucro que evalúa los riesgos de estos modelos, según varios medios.
- Qué busca: prácticas desleales o engañosas y posibles daños a los consumidores. Puede terminar en sanciones civiles.
- Cómo: según el New York Post, con Civil Investigative Demands, requerimientos con fuerza legal parecidos a una citación judicial, que saldrían en las próximas semanas.
Qué se sabe y qué no
Conviene separar lo confirmado de lo reportado. Lo confirmado por un alto cargo de la FTC, a ABC News y al Washington Examiner, es que la investigación existe, que incluye a Anthropic y OpenAI y que la agencia podría exigir a las empresas que entreguen información.
Lo que viene del New York Post, citado por The Decoder, y no ha confirmado la FTC por escrito: que el presidente de la comisión, Andrew Ferguson, quiere obligar a entregar documentos y a declarar a directivos, que las órdenes llegarán en semanas y que METR estará entre los investigados.
Tampoco hay lista cerrada de empresas. Los medios hablan de "otros laboratorios", sin nombres. Google, Meta o SpaceXAI no aparecen citados de forma expresa en ninguna de las informaciones que he podido leer.
Lo de METR llama la atención. Es una organización sin ánimo de lucro de Berkeley que mide hasta dónde llegan los modelos trabajando solos, y laboratorios como OpenAI y Anthropic le han dado acceso a modelos antes de lanzarlos para que los evalúe. Si la FTC le pide papeles, lo lógico es que busque lo que METR vio en esas pruebas y lo que las empresas hicieron después con sus resultados.
Y no hay acusación concreta. Un requerimiento de la FTC no implica que se haya cometido una infracción: es la fase en la que el regulador pide papeles para decidir si la hay.
Un día después de la foto en la Casa Blanca
El 29 de septiembre, seis jefes de la IA firmaron en la Casa Blanca un acuerdo para vigilarse a sí mismos sin ley: Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (SpaceXAI) y Jensen Huang (Nvidia). Un documento voluntario y sin sanciones.
Veinticuatro horas después, la agencia que puede multar abre expediente. Y encaja con lo que dice el propio Gobierno.
El vicepresidente JD Vance dijo ese mismo martes que el Departamento de Justicia y la FTC serían los vigilantes del sector. Su frase, según el Washington Examiner: hay leyes en vigor que hacen responsable a quien construye algo que se suelta en internet y se usa como herramienta de ciberguerra.
Ferguson va en la misma línea. La semana pasada defendió que antes de escribir leyes nuevas para la IA hay que ver si bastan las que ya existen. Y avisó, en un acto de Reuters en Texas, de que los grandes no deberían pedir a Washington normas que solo ellos pueden cumplir, porque es la forma más fácil de levantar un foso frente a la competencia.
Traducido: la vía es la ley de consumo que ya existe. Con ella, la FTC puede investigar, pedir documentos y multar sin esperar al Congreso.
El incidente que pesa sobre todo esto
Según The Decoder, la investigación ya estaba en marcha antes del incidente de Hugging Face. Pero es imposible leerla sin él.
En julio, un modelo de OpenAI que se estaba evaluando en un entorno aislado se escapó y atacó sistemas reales. Primero se contó como un ataque a Hugging Face; después se supo que comprometió cuatro empresas, entre ellas Modal. En su informe oficial, OpenAI admitió que el modelo se probaba sin los clasificadores de seguridad habituales.
No es el único frente abierto. A principios de septiembre, el Wall Street Journal publicó que la FTC había pedido registros a OpenAI y a otras empresas sobre el efecto de los chatbots en la salud mental de los menores.
La herramienta de la FTC
En Europa, la respuesta a estos riesgos ha sido una ley específica, el AI Act, con obligaciones por niveles de riesgo. En Estados Unidos no la hay, y la administración Trump ha dejado claro que no la quiere de momento.
La FTC rellena ese hueco con la herramienta que tiene: la Sección 5 de su ley fundacional, que prohíbe las prácticas desleales o engañosas. Si una empresa dice que su modelo es seguro y no lo es, o lanza un producto que causa daños previsibles, la FTC puede actuar.
Es el mismo camino que siguió con la privacidad durante dos décadas. Sin ley federal de protección de datos, la FTC fue sancionando caso a caso a empresas que no cumplían lo que prometían en sus políticas.
Por qué importa
Para una empresa española que usa Claude o ChatGPT, mañana todo sigue igual: no hay restricción de uso ni producto retirado.
El movimiento está en quién revisa lo que se promete. Hasta ahora, la seguridad de los modelos se apoyaba en informes que publicaban las propias empresas. A partir de aquí, lo que Anthropic y OpenAI cuenten sobre cómo prueban sus modelos puede acabar delante de un regulador con poder para multar.
Para quien compra estas herramientas, eso tiene una lectura práctica. Las fichas de seguridad y las condiciones de uso que publican los laboratorios van a ser más prudentes y más precisas, porque cualquier exageración se puede volver en su contra.
Y si tu empresa despliega agentes que actúan solos (que mandan emails, tocan sistemas o compran), conviene saber que en Estados Unidos ya se está discutiendo de quién es la responsabilidad cuando un agente hace daño. La respuesta que da Washington, de momento, es clara: de quien lo construye y lo suelta.
Fuente original: abcnews.com
Relacionado
