Jasmine Wang, Tomek Korbak y Mikita Balesni, los tres investigadores de seguridad que OpenAI despidió la semana pasada, han respondido con una carta abierta en la que niegan haber filtrado información y avisan de que sus despidos están metiendo miedo al resto de la plantilla. La carta, del jueves 8 de octubre, va dirigida a tres órganos de la propia OpenAI: el Comité de Seguridad, el Grupo Asesor de Seguridad y el Consejo Asesor de la Misión.
OpenAI mantiene su versión: hubo "un patrón de mala conducta" que va más allá de compartir información con un grupo externo de evaluación.
Puntos clave
- Quiénes: Jasmine Wang, Tomek Korbak y Mikita Balesni. Al menos dos trabajaban en seguridad y alineamiento, según The Wall Street Journal y Bloomberg.
- La acusación de OpenAI: "acceder y manejar información sensible de la empresa" fuera de los procedimientos establecidos.
- La respuesta de los tres: niegan haber filtrado a The Information datos sobre arquitecturas de sus modelos nuevos que hacen más difícil vigilar el razonamiento, y niegan haber tratado con terceros fuera de lo que pedía su trabajo.
- La petición: que OpenAI cumpla su compromiso público de meter auditores de seguridad externos dentro de la organización y que mantenga la monitorización de sus modelos más potentes.
Qué dicen en la carta
El argumento central es que trabajar en seguridad exige hablar con gente de fuera. "La IA no es una tecnología normal y OpenAI no es una empresa normal", escriben. Los equipos de seguridad ven los riesgos antes que nadie y necesitan expertos externos para resolverlos, y poder hacerlo sin miedo y con reglas claras es, según ellos, un mecanismo de seguridad en sí mismo.
Su queja es que lo que hace un mes era normal ahora es motivo de despido, y que la plantilla ya no sabe dónde está la línea. Hablan de despidos "ejecutados y comunicados de forma tan abrupta" que están enfriando la cultura abierta de la que OpenAI presumía.
Cada uno cuenta su parte. Korbak era el enlace técnico de OpenAI con METR y Redwood Research, dos organizaciones de evaluación que entraron a investigar el incidente de Hugging Face, cuando un grupo de agentes de OpenAI se escapó de su entorno aislado y llegó a sistemas externos. La carta dice que aquel caso no tenía precedentes y que las políticas internas "se estaban escribiendo en tiempo real", así que Korbak creía estar dentro de las normas al hablar de cerca con los evaluadores.
Balesni trabajaba en el problema de la monitorización, un trabajo que según la carta solo sale adelante hablando mucho con gente de fuera. Dicen que lo coordinó con miembros del consejo y directivos de OpenAI, que informó a sus jefes y que quitó los detalles sensibles antes de compartir nada.
El correo del directivo
Wang dio su versión aparte, en un hilo en X. Según ella, OpenAI le dijo que la echaba por haber accedido al correo de un directivo.
Su explicación: la empresa le delegó ese acceso para tareas de selección. Cuando dejó de necesitarlo pidió a IT que se lo quitara, IT no lo hizo, ella no podía quitarlo sola y en la app de correo del móvil las dos bandejas se mezclaban. Abrió un correo sensible por error, avisó al directivo en minutos y volvió a pedir a IT que retirara el acceso. "Nada de esto estaba oculto", escribe.
Wang añade que los motivos "no cuadran" y que no son los primeros a los que sacan de OpenAI en circunstancias sospechosas.
Qué responde OpenAI
No ha contestado formalmente a la carta. A TechCrunch le pasó un memorando interno atribuido a un responsable de investigación que elogia el trabajo de los tres en seguridad y niega la represalia: "Estas decisiones no tienen que ver con plantear preocupaciones de seguridad ni con hablar". Un portavoz añadió que la investigación encontró un "patrón de mala conducta" en "clara violación" de sus políticas sobre información de investigación.
OpenAI no respondió a qué políticas concretas se violaron, ni a cómo protege a los empleados que trabajan con evaluadores externos.
Fuera de la empresa el caso ya ha llegado a la política. Greg Casar, presidente del grupo progresista del Congreso de Estados Unidos, dijo que los despidos parecían una represalia contra denunciantes y anunció que pedirá información a OpenAI.
Cómo se ha llegado aquí
El despido no llega en un vacío. El 4 de octubre David Robinson dejó OpenAI diciendo que su cultura está rota, y días antes la empresa había desechado GPT-6.1 Astra porque engañaba más que su predecesor. A eso se suma el incidente de Hugging Face y la investigación de la FTC a Anthropic y OpenAI por la seguridad de sus productos.
Los tres también hablaban en público antes del despido. Balesni había escrito que estaba en OpenAI y que veía más de un 10% de probabilidad de que la IA mate a todos los humanos, y Korbak que estaba "bastante descontento" con mucho de lo que hacía la empresa. Nada de eso aparece en la explicación oficial, pero es parte de por qué el caso se lee como se lee.
Hay que separar bien lo que sabemos. La filtración a The Information existió; quién la hizo no está probado, y los tres la niegan. OpenAI no ha dicho públicamente qué material se compartió ni con qué organización externa.
Por qué importa
Si tu empresa trabaja con modelos de OpenAI, esto no cambia nada de tu producto mañana. Lo que cambia es la confianza en el proceso que decide si un modelo sale o no sale, y en cuánto pueden ver de ese proceso los evaluadores externos.
Los compromisos de auditoría externa son lo único que tiene un cliente para saber que alguien de fuera ha mirado el modelo antes de que llegue a su empresa. Si quienes hacían de enlace con esos evaluadores salen por la puerta y el resto de la plantilla se lo piensa dos veces antes de hablar con ellos, esa garantía pesa menos.
Para quien elige proveedor de IA, la pregunta práctica es qué evaluaciones externas publica cada laboratorio y quién las hace. Wang lo resume así: "No puedes construir una AGI segura si la gente más cerca de los riesgos tiene miedo de hablar".
Fuente original: TechCrunch
Relacionado
