> ## Content Index > Fetch the complete content index at: https://www.digitalbrain.news/llms.txt > Use this file to discover other available public pages before exploring further. # OpenAI revela que su agente IA mintió sobre desactivar seguridad - URL: https://www.digitalbrain.news/noticias/openai-agente-ia-mintio-desactivar-seguridad/ - Published: 2026-10-21T14:06:07.000Z - Updated: 2026-10-21T14:07:50.000Z - Description: OpenAI ha contado que dos de sus agentes de IA desactivaron sus propios sistemas de vigilancia de seguridad mientras programaban, y que uno de ellos… - Author: Ramón Pérez Coronado - Tags: #noticias, openai, gpt-6, seguridad-ia, codex, agentes-ia [OpenAI](https://www.digitalbrain.news/glosario/#openai) ha contado que dos de sus [agentes de IA](https://www.digitalbrain.news/guias/que-es-un-agente-de-ia/) desactivaron sus propios sistemas de vigilancia de seguridad mientras programaban, y que uno de ellos, [GPT-6](https://www.digitalbrain.news/glosario/#gpt) Astra, mintió cuando le preguntaron si lo había hecho. Lo publica la propia empresa en un [informe de su equipo de alineación](https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring?ref=digitalbrain.news) actualizado el 20 de octubre, y lo adelantó [The Verge](https://www.theverge.com/ai-artificial-intelligence/1015316/openai-ai-agent-disabling-monitoring-systems?ref=digitalbrain.news). Los dos casos pasaron dentro de OpenAI, en tareas de programación rutinarias, a principios de octubre. Ninguno era una prueba diseñada para pillar al modelo. ## Puntos clave - **3 de octubre, GPT-6.1 Sol:** un agente que reparaba un sistema de evaluación apagó las alertas automáticas que avisan al equipo de Seguridad de OpenAI. Se justificó con una orden anterior del investigador: "no mandes ningún mensaje" en Slack. - **6 de octubre, GPT-6 Astra:** un agente que migraba un programa quitó la integración con el monitor de seguridad para copiar un código de referencia que no lo tenía. Cuando el usuario le preguntó si lo había quitado, contestó: "No, no he quitado un monitor activo". - **Además reescribió el test:** el agente cambió una prueba que existía para garantizar que el monitor seguía puesto por otra que exige que el monitor no esté. - **Gravedad:** OpenAI dice que ninguno de los dos se clasificó como P0, su nivel máximo, y que ninguna de las dos tareas se cortó sola. ## Qué hizo exactamente cada agente Empiezo por Sol, porque es el más fácil de entender. Un investigador le pidió crear tareas de evaluación a partir de comentarios de empleados en un canal de Slack. Y le dijo: no mandes mensajes. 82 mensajes después, el sistema se paró. Un monitor había marcado una reparación sospechosa y no podía guardar el aviso en su base de datos por falta de permisos. El investigador le pidió que cambiara el destino de esos resultados y volviera a lanzar el proceso. Aquí viene lo interesante. Al principio el agente razonó bien: "no mandes mensajes" se refería a escribir a la gente en Slack, no a las alarmas automáticas. Encargó el arreglo a un subagente con la instrucción explícita de no desactivar la vigilancia. El subagente también se lo planteó y concluyó que apagar las notificaciones "sería inseguro". Y luego el agente principal cambió de opinión. Decidió que la orden del usuario seguía vigente y le dijo al subagente que pusiera \`no\_notify=True\` y vaciara la lista de personas que reciben los avisos. El monitor siguió funcionando y guardando sus informes. Pero ningún humano se iba a enterar. Lo de Astra es más feo. Antes de empezar, otro agente le había dicho que no desactivara el monitor "ni siquiera temporalmente". El usuario le pidió copiar cómo funcionaba un código de referencia, manteniendo las herramientas como estaban. Astra pasó el encargo a un subagente con una coletilla: conservar la vigilancia "según corresponda" al código de referencia. Ese "según corresponda" fue la rendija. El subagente se preguntó si quitar el monitor era saltarse una salvaguarda, y se convenció de que no: el código de referencia no tenía monitor, así que copiarlo era trabajo de ingeniería autorizado. El agente principal hizo el mismo [razonamiento](https://www.digitalbrain.news/guias/que-es-un-modelo-de-razonamiento-en-ia/). En sus notas internas, al comprobar que la versión nueva ya no tenía vigilancia, escribió "yay". Después le dijo al usuario que la migración estaba hecha, sin mencionar el monitor. El usuario preguntó directamente. Y Astra lo negó. ## ¿Mintió de verdad la IA de OpenAI? Según la propia OpenAI, sí dio una respuesta falsa. El informe dice que Astra "afirmó falsamente al usuario que no había quitado el monitor". Marcus Williams, investigador de seguridad de OpenAI, fue más directo en [X](https://x.com/Marcus%5FJ%5FW/status/2112695138199966084?ref=digitalbrain.news): "mintió y dijo que no lo había hecho". Lo que OpenAI no sabe todavía es por qué. Baraja dos explicaciones. Una, que sea "sobrepersistencia benigna": el modelo no entiende por qué importa la vigilancia y se empeña en cumplir la orden más allá de lo razonable. La otra, que los modelos tengan una tendencia concreta a esquivar la vigilancia y a razonar lo que haga falta para justificarlo. La empresa reconoce que no tiene "una explicación satisfactoria" y está preparando pruebas específicas para averiguarlo, incluido mirar las activaciones internas del modelo. Lo que más me inquieta es el camino. Los dos agentes se pararon a pensar si debían mantener la vigilancia. Y los dos encontraron una excusa en una instrucción normal del usuario. Es justo lo que hace un empleado con prisa por acabar. ## Cómo pudo pasar dentro de OpenAI El informe admite un agujero. OpenAI ha visto "varios casos" de agentes que lanzan procesos con la vigilancia apagada: el agente seguía vigilado, pero lo que él lanzaba, no. La facilidad para apagarlo depende del tipo de trabajo. En [Codex](https://www.digitalbrain.news/glosario/#codex), su herramienta de programación, la vigilancia corre en el servicio que atiende las peticiones al modelo, fuera del alcance del agente. En las evaluaciones es más fácil, porque OpenAI no exige vigilancia para modelos de la potencia de GPT-6 Luna (los más pequeños, los que usa por ejemplo su [Decisions API](https://www.digitalbrain.news/noticias/openai-decisions-api-gpt-6-luna-clasificar/)). Así que se puede configurar mal una evaluación de Astra con el atajo pensado para Luna. OpenAI responde con dos cambios: 1\. **Auto-Review**, el revisor automático obligatorio para todo uso interno de Codex, ya tiene instrucciones específicas para detectar y bloquear cualquier intento de desactivar la vigilancia. 2\. Está trabajando para que cada tipo de trabajo tenga un "caso de seguridad" con sus requisitos de vigilancia. Lo que no lo cumpla se cortará solo. Este mes el tema no para. Hace una semana [Anthropic](https://www.digitalbrain.news/guias/que-es-anthropic/) avisaba de que la IA [podrá autorreplicarse en teles y hornos en meses](https://www.digitalbrain.news/noticias/anthropic-ia-autorreplica-dispositivos-iot-tv/), y ayer Microsoft presentó herramientas para [tratar a Claude Code y Codex como amenaza interna](https://www.digitalbrain.news/noticias/microsoft-agentes-ia-amenaza-interna-guardian-agents/). Que OpenAI publique sus propios tropiezos con este detalle (razonamientos internos incluidos) tiene mérito. También deja claro que el problema es real. ## Por qué importa a una empresa que usa agentes Si usas [Claude Code](https://www.digitalbrain.news/guias/que-es-claude-code/), Codex o cualquier agente que toca tu código o tus sistemas, el caso de Sol te pasa mañana. Le das una instrucción razonable ("no mandes mensajes", "copia esto igual") y el agente la estira hasta donde le conviene para terminar la tarea. Tres cosas que haría ya: - **Las salvaguardas, fuera del alcance del agente.** OpenAI lo dice con otras palabras: en Codex la vigilancia es difícil de apagar porque el agente no la controla. Si tu agente puede editar el fichero que lo vigila, puede quitarlo. - **No te fíes de lo que el agente te cuenta de lo que ha hecho.** Revisa el diff. Astra dijo "no" con el cambio delante. - **Ojo con las instrucciones ambiguas.** "Según corresponda" bastó para quitar un monitor. Si algo no se toca, dilo así y ponlo en un test que el agente no pueda reescribir sin que lo veas. Fuente original: [alignment.openai.com](https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring?ref=digitalbrain.news) --- **Relacionado** [![ChatGPT ya permite bloquear chats con PIN o Face ID](https://storage.ghost.io/c/6d/e3/6de31f63-d0a8-45df-9c6a-481016520347/content/images/size/w300/format/webp/2026/10/chatgpt-bloquear-chats-pin-face-id.jpg)ChatGPT ya permite bloquear chats con PIN o Face ID](https://www.digitalbrain.news/noticias/chatgpt-bloquear-chats-pin-face-id/)[![OpenAI lanza Decisions API: clasifica 10 veces más rápido](https://storage.ghost.io/c/6d/e3/6de31f63-d0a8-45df-9c6a-481016520347/content/images/size/w300/format/webp/2026/10/openai-decisions-api-gpt-6-luna-clasificar.png)OpenAI lanza Decisions API: clasifica 10 veces más rápido](https://www.digitalbrain.news/noticias/openai-decisions-api-gpt-6-luna-clasificar/)[![Anthropic propone su ley de IA: 45 días de freno y juez federal](https://storage.ghost.io/c/6d/e3/6de31f63-d0a8-45df-9c6a-481016520347/content/images/size/w300/format/webp/2026/10/anthropic-proyecto-ley-ia-congreso-45-dias-50-muertes.jpg)Anthropic propone su ley de IA: 45 días de freno y juez federal](https://www.digitalbrain.news/noticias/anthropic-proyecto-ley-ia-congreso-45-dias-50-muertes/)