Demis Hassabis, cofundador y consejero delegado de Google DeepMind, pide a Estados Unidos que cree un organismo capaz de revisar los modelos de IA más avanzados del mundo y, si hace falta, coordinar un frenazo del sector cuando los riesgos se disparen. Lo planteó en un manifiesto personal publicado el martes, titulado "A Framework for Frontier AI and the Dawning of a New Age", según adelantó Axios.
Puntos clave
- Hassabis propone un organismo de estándares para la IA de frontera, liderado por Estados Unidos.
- El modelo que usa de referencia es FINRA, el regulador privado y financiado por la industria que vigila Wall Street bajo supervisión de la SEC.
- Plantea una junta mayoritariamente independiente, con premios Turing y expertos, además de industria, gobierno y representantes del código abierto.
- Quiere el organismo operativo "antes de fin de año" y que aplique a todos los modelos de frontera, sin importar el país de origen ni si son abiertos o cerrados.
Qué propone exactamente
La idea no es un ministerio ni una agencia pública al uso. Hassabis se fija en FINRA, la autoridad que en Estados Unidos regula a las firmas de bolsa: es privada, la paga la propia industria y actúa bajo la vigilancia del regulador público (la SEC). Trasladado a la IA, sería un cuerpo autofinanciado por los laboratorios pero con una junta mayoritariamente independiente, formada por premios Turing y expertos con credenciales, junto a representantes de las empresas, los gobiernos y la comunidad de código abierto.
Ese organismo tendría dos poderes concretos. Uno, revisar y evaluar los modelos de frontera antes o durante su despliegue. Dos, coordinar una desaceleración del sector entero si las capacidades empiezan a asomar peligros serios. Las reglas se aplicarían a cualquier modelo que cruce cierto listón de capacidad, "sin importar su país de origen ni si es abierto o cerrado", y ese listón se iría actualizando a medida que la tecnología avanza. Hassabis quiere que esté en marcha "antes de fin de año".
Un jefe de laboratorio pidiendo que le vigilen
Lo llamativo es quién lo pide. Hassabis dirige uno de los laboratorios que están en la carrera, así que está pidiendo reglas para su propio negocio. No lo ha hecho de golpe: según Axios, lleva meses moviéndolo en privado, presentándoselo a la administración Trump, a otros líderes de laboratorios y a funcionarios europeos antes de hacerlo público.
Encaja con un patrón que se repite estos días. La declaración "We Must Act Now" que firmaron 200 economistas y 15 Nobel, o el debate abierto por Satya Nadella sobre quién puede aprender de quién, apuntan en la misma dirección: los propios protagonistas del sector están pidiendo que alguien ponga orden. La lectura cínica es que un organismo diseñado por la industria y financiado por ella tiende a proteger a los que ya están dentro. La lectura amable es que quien mejor conoce los riesgos es quien los está construyendo.
Por qué importa
Para una empresa que usa IA, un organismo así cambiaría las reglas del suministro. Si los modelos de frontera tuvieran que pasar una revisión antes de salir, los lanzamientos podrían ir más despacio y con más papeleo, y el coste de cumplir se colaría en el precio de las herramientas que usas. También podría dar más previsibilidad: saber que un modelo pasó ciertos controles antes de llegar a producción tiene valor para quien lo mete en procesos serios.
De momento es una propuesta, no una ley. Pero que la lance el CEO de uno de los tres grandes laboratorios, y que lleve meses trabajándola con gobiernos a ambos lados del Atlántico, dice que la conversación sobre gobernanza de la IA está pasando de los foros académicos a las mesas donde de verdad se deciden las cosas. Conviene seguirla, porque el marco que salga de aquí afectará a qué modelos puedes usar y en qué condiciones.
Relacionado
