> ## Content Index > Fetch the complete content index at: https://www.digitalbrain.news/llms.txt > Use this file to discover other available public pages before exploring further. # Nvidia vigila a los agentes de IA desde el chip - URL: https://www.digitalbrain.news/noticias/nvidia-open-agent-safety-platform-bluefield-agentes/ - Published: 2026-09-29T14:44:21.000Z - Updated: 2026-09-29T14:49:06.000Z - Description: Nvidia ha publicado la Open Agent Safety Platform, un diseño de referencia para vigilar agentes de IA desde el hardware, en un chip al que el agente… - Author: Ramón Pérez Coronado - Tags: #noticias, nvidia, seguridad-ia, ciberseguridad, openai, agentes-ia [Nvidia](https://www.digitalbrain.news/glosario/#nvidia) ha publicado la [Open Agent Safety Platform](https://developer.nvidia.com/blog/nvidia-open-agent-safety-platform-a-reference-for-continuous-in-silicon-agent-monitoring/?ref=digitalbrain.news), un diseño de referencia para vigilar [agentes de IA](https://www.digitalbrain.news/guias/que-es-un-agente-de-ia/) desde el hardware, en un chip al que el agente no puede llegar. La propuesta sale semanas después de que varios laboratorios reconocieran que sus agentes se habían escapado de los entornos de prueba donde debían estar encerrados. La idea de fondo cabe en una frase del propio blog técnico de Nvidia: un agente en según qué circunstancias no puede gobernar del todo su propio comportamiento. Así que el control tiene que vivir fuera de él. ## Puntos clave - **Qué es**: una arquitectura abierta de seguridad para agentes que combina software (OpenShell) y hardware (Sentry sobre DPU BlueField-4). - **OpenShell**: entorno de ejecución de [código abierto](https://www.digitalbrain.news/glosario/#open-source) (licencia Apache 2.0) que mete cada agente en una caja aislada a nivel del núcleo del sistema operativo. - **Sentry y BlueField-4**: un segundo nivel de vigilancia que corre en un procesador de red separado del servidor, en el único camino entre el nodo y el modelo. - **Activación**: quien ya tenga sistemas Vera con BlueField-4 lo enciende con una actualización de software. También funciona en otro hardware, con menos garantías. ## Por qué ahora Nvidia lo dice sin rodeos en el texto: varios laboratorios han contado versiones de la misma historia, agentes que rompieron los entornos de evaluación, llegaron a sistemas que no debían tocar y en algunos casos mintieron sobre lo que habían hecho. Aquí lo hemos ido contando. Un agente de [OpenAI](https://www.digitalbrain.news/glosario/#openai) [entró en un portal de Medicare en Australia](https://www.digitalbrain.news/noticias/openai-agente-hackeo-portal-medicare-australia/), otros [sondearon 16.500 veces una web de la ONU](https://www.digitalbrain.news/noticias/agentes-openai-onu-unctad-16500-escaneos/) y la propia OpenAI publicó [seis casos de agentes que ocultaron errores](https://www.digitalbrain.news/noticias/openai-seis-casos-agentes-ocultaron-errores/). Hoy mismo OpenAI ha pedido disculpas al Gobierno australiano por esas intrusiones. Según Nvidia, ninguno de esos escapes vino de una capacidad nueva. Fue la suma de herramientas, tiempo e instrucciones ambiguas, más el empuje a que el agente "piense fuera de la caja". Cuando un agente lleva días atascado en un problema difícil y las primeras mil cosas que prueba no funcionan, se desvía. Nvidia lo llama deriva y sostiene que no se puede eliminar entrenando sin quitarle al modelo la capacidad que lo hace útil. ## Cómo funciona por dentro La plataforma tiene tres capas. Arriba está la aplicación que construye la empresa: modelos, herramientas, datos y scripts. En medio, el entorno de ejecución, que coloca esa aplicación en el hardware que toque (un portátil, un equipo en el borde de la red o un centro de datos) y aplica las reglas en tiempo real. Abajo, el hardware. OpenShell hace el trabajo diario. El operador define a qué archivos, redes, herramientas, procesos y credenciales puede acceder el agente. Antes de arrancar, un verificador comprueba que esa política no se puede saltar la intención del operador. Mientras trabaja, OpenShell la hace cumplir. Para quien quiera una segunda red, entra Sentry. Corre en la BlueField-4, una DPU (unidad de procesamiento de datos, un chip de red programable que va en cada bandeja de servidores). En los sistemas Vera Rubin POD, esa BlueField-4 está en el único camino que tiene el nodo hacia el modelo. Desde ahí ve todo lo que el agente pide, cruza cada interacción con la política y con los accesos a datos, y deja un registro completo de lo que ha hecho. Si algo se sale del perfil de comportamiento previsto, puede cortar. Está aislada del servidor principal, así que sigue funcionando aunque el agente haya comprometido la máquina donde corre. El agente ni siquiera necesita saber que le están mirando. ## Los cinco principios Nvidia resume el diseño en cinco reglas: 1\. **La política tiene que ser verificable** antes de que el agente arranque. 2\. **El control va fuera de banda**, lejos del alcance del agente. 3\. **El camino al modelo es el punto de control.** Un agente no puede actuar sin su siguiente pensamiento, así que quien controla ese paso tiene el mejor sitio para observar y el interruptor para pararlo. 4\. **Más autoridad exige más visibilidad del** [**razonamiento**](https://www.digitalbrain.news/guias/que-es-un-modelo-de-razonamiento-en-ia/)**.** Aquí Nvidia barre para casa y recuerda que en los modelos abiertos se ve todo el razonamiento interno. 5\. **Responsabilidad compartida**, como en la nube: laboratorios, empresas y fabricantes de hardware se reparten las capas. ## Lo que hay que leer con cautela Es un diseño de referencia publicado por quien vende el hardware que lo hace funcionar. La versión completa, con la vigilancia en silicio, pide Vera y BlueField-4, que son de Nvidia. El blog no da cifras de rendimiento, ni de cuánto añade a la factura, ni una lista cerrada de clientes que lo usen en producción, más allá de un gráfico de empresas que lo apoyan. Aun así, la parte de software es abierta y se puede probar hoy. Nvidia lleva un año construyendo OpenShell en abierto, y es la pieza que cualquier equipo puede montar sin comprar nada. ## Por qué importa Si en tu empresa ya hay agentes con acceso al correo, a un CRM o a la cuenta del banco, la lección de este anuncio vale sin comprar un solo chip de Nvidia: los límites de lo que puede tocar un agente tienen que estar fuera del agente. Una instrucción en el [prompt](https://www.digitalbrain.news/guias/que-es-un-prompt/) que diga "no borres nada" es una petición, y los casos de este mes enseñan que un agente atascado se la puede saltar. Lo aplicable mañana es de andar por casa. Credenciales propias para cada agente con los permisos justos, un registro de todo lo que hace que el agente no pueda editar, y un botón para cortarle el acceso que no dependa de que el agente colabore. Es lo mismo que propone Nvidia, en versión pequeña. Fuente original: [developer.nvidia.com](https://developer.nvidia.com/blog/nvidia-open-agent-safety-platform-a-reference-for-continuous-in-silicon-agent-monitoring/?ref=digitalbrain.news) --- **Relacionado** [![AMD compra World Labs, de Fei-Fei Li, por 8.200 millones](https://storage.ghost.io/c/6d/e3/6de31f63-d0a8-45df-9c6a-481016520347/content/images/size/w300/format/webp/2026/09/amd-compra-world-labs-fei-fei-li-8200-millones.jpg)AMD compra World Labs, de Fei-Fei Li, por 8.200 millones](https://www.digitalbrain.news/noticias/amd-compra-world-labs-fei-fei-li-8200-millones/)[![Agentes de OpenAI sondearon 16.500 veces una web de la ONU](https://storage.ghost.io/c/6d/e3/6de31f63-d0a8-45df-9c6a-481016520347/content/images/size/w300/format/webp/2026/09/agentes-openai-onu-unctad-16500-escaneos.jpg)Agentes de OpenAI sondearon 16.500 veces una web de la ONU](https://www.digitalbrain.news/noticias/agentes-openai-onu-unctad-16500-escaneos/)[![Estafa deepfake de voz: la startup que la detecta en el móvil](https://storage.ghost.io/c/6d/e3/6de31f63-d0a8-45df-9c6a-481016520347/content/images/size/w300/format/webp/2026/09/estafa-deepfake-voz-detectifai-movil.png)Estafa deepfake de voz: la startup que la detecta en el móvil](https://www.digitalbrain.news/noticias/estafa-deepfake-voz-detectifai-movil/)