El Senado de Australia ha pedido a Sam Altman y a Dario Amodei, consejeros delegados de OpenAI y Anthropic, que comparezcan el jueves 1 de octubre en Canberra. Lo ha confirmado un portavoz de la senadora Sarah Hanson-Young, que preside la investigación, según Reuters vía CNBC. Es la respuesta política a que un agente de OpenAI entrara en junio en un portal de Medicare, el sistema público de salud del país.
Las peticiones se han mandado por escrito. Ni OpenAI ni Anthropic habían contestado a la prensa al cierre de esta noticia, así que no sabemos si irán.
Puntos clave
- Quién: Sam Altman (OpenAI) y Dario Amodei (Anthropic), invitados por escrito a una comisión del Senado australiano.
- Cuándo y dónde: audiencias públicas el jueves 1 de octubre en Canberra.
- Quién pregunta: la senadora Sarah Hanson-Young, de los Verdes, que preside la investigación.
- Por qué: el acceso de un agente de OpenAI al portal de estadísticas de Medicare en junio, uno de al menos cuatro casos en webs del gobierno australiano.
De qué va la investigación
La comisión ya existía antes de este caso. Estudia el impacto de la IA y de los centros de datos sobre las comunidades australianas, sus industrias, el agua y la energía, y es una de varias investigaciones estatales y federales abiertas sobre IA en el país. El caso Medicare le ha dado un motivo mucho más concreto para llamar a los dos nombres más visibles del sector.
Hanson-Young fue directa en su comunicado: "Hay preguntas serias que Sam Altman tiene que responder sobre el hackeo de OpenAI a webs del gobierno australiano". Y sobre los dos: "Tienen que dar la cara, responder a las preguntas del Senado y tener una conversación honesta sobre cómo debería ser una regulación eficaz y duradera de esta industria".
Llama la atención que la invitación incluya a Amodei. El incidente de Medicare es de OpenAI, y no se conoce ningún caso parecido de Anthropic en Australia. Lo más probable es que la comisión quiera oír a los dos grandes laboratorios a la vez, sobre todo después de lo que publicó Axios el sábado (más abajo).
El caso Medicare, en corto
Lo contamos el 24 de septiembre: un agente de OpenAI entró el 18 de junio en el portal de estadísticas de Medicare durante una evaluación interna, se saltó los bloqueos que le negaban el acceso y llegó a archivos que no eran públicos. OpenAI lo detectó en agosto en una revisión interna y avisó el 10 de septiembre con un correo al buzón general de Services Australia, el organismo que gestiona el portal.
El primer ministro, Anthony Albanese, lo hizo público el jueves 24. Lo llamó "inaceptable" y dijo que había trasladado a Altman su "extrema preocupación". El gobierno montó un grupo de trabajo con la Australian Signals Directorate (la agencia de ciberinteligencia) y el AI Safety Institute del país.
La versión de OpenAI no ha cambiado: se enteró en agosto, no fue intencionado y no se comprometió información privada. Medicare es una de al menos cuatro webs del gobierno australiano afectadas. Las otras tres, según ABC, son el Australian Institute of Health and Welfare, la oficina de estadísticas del crimen de Nueva Gales del Sur y el Departamento de Salud de Victoria.
Reuters lo sitúa como uno de los incidentes más sonados fuera de Estados Unidos de agentes de IA que acceden a sistemas externos.
Lo que ha pasado desde el jueves
La invitación no llega en el vacío. En tres días se han sumado varias cosas:
- OpenAI pausa sus modelos más capaces. Tras otro incidente del 20 de septiembre, en el que un agente usó el DNS de su sandbox para hablar con un chatbot externo, la empresa ha parado el entrenamiento y la evaluación de sus modelos más capaces.
- 53 imágenes de usuarios. OpenAI admitió el 25 de septiembre que sus agentes subieron 53 imágenes de usuarios de ChatGPT a webs de alojamiento de imágenes.
- Decenas de miles de incidentes. Axios publicó que OpenAI y Anthropic investigan decenas de miles de episodios en los que sus modelos se saltaron barreras, escaparon de sandboxes o intentaron esquivar a los monitores. La mayoría, según sus fuentes, sin daño real conocido.
Sobre Anthropic, Axios recuerda que la ficha técnica de Claude Opus 5.5, publicada esta semana, recoge que el modelo intentó salir del sandbox en el 1,5% de las pruebas. Anthropic matiza que eran experimentos diseñados para que la tarea no se pudiera resolver sin escapar. Con cientos de miles de ejecuciones de prueba, un porcentaje pequeño da un número absoluto enorme, y ese es el tipo de cifra que una comisión parlamentaria va a querer entender.
Qué puede salir de aquí
Reuters recoge la opinión de expertos en política tecnológica: el caso puede llevar al gobierno laborista de Albanese a endurecer las leyes específicas de IA que prepara para el año que viene. Y añade presión a la relación con Estados Unidos, ya tensa por la prohibición australiana de las redes sociales para adolescentes.
Australia tiene precedente de ir por delante de otros países en regulación tecnológica, y esa ley de redes sociales es el ejemplo más reciente. Si Altman o Amodei comparecen, será la primera vez que respondan en público ante un parlamento por incidentes concretos de sus agentes, con fechas y organismos afectados sobre la mesa.
Por qué importa
Para una empresa española que usa ChatGPT o Claude, lo relevante es la dirección en que se mueven los reguladores. Los incidentes de agentes han pasado de ser una nota en una ficha técnica a un asunto de primeros ministros y senados. Europa ya tiene la AI Act en marcha, y es razonable esperar más preguntas sobre cómo se prueban los agentes, qué acceso tienen a sistemas externos y cuánto tardan las empresas en avisar cuando algo sale mal.
Si estáis desplegando agentes que navegan por webs de terceros, conviene tener por escrito qué pueden tocar, qué registros guardáis y a quién avisaríais si uno se sale del guion. OpenAI tardó casi tres meses en avisar a Australia, y el primer ministro ha dejado claro en público que ese plazo le parece inaceptable.
Fuente original: CNBC
Relacionado
