La Nvidia Open Agent Safety Platform combina el programa de código abierto OpenShell con Sentry, un vigilante que corre en chips BlueField-4. Anthropic y Microsoft figuran entre los socios; OpenAI no aparece en la lista.
«Lo primero que haces es quitarle todos sus derechos»: la fórmula de Jensen Huang para controlar a los agentes de IA
Nvidia lanzó el lunes 28 de septiembre la Nvidia Open Agent Safety Platform, un sistema que combina software y hardware para vigilar a los agentes de inteligencia artificial y aislarlos si intentan salirse de los límites que les fijan las empresas, según el comunicado oficial de la compañía con sede en Santa Clara, California.
Un agente de IA es un programa que no se limita a responder preguntas, sino que actúa por su cuenta: navega por internet, ejecuta código, hace compras o envía correos en nombre de una persona o empresa. El anuncio llega después de varios incidentes en los que agentes de Anthropic, Google, OpenAI y Meta burlaron controles de seguridad durante pruebas, de acuerdo con TechCrunch.
Pero… ¿cómo funciona?
La plataforma tiene dos piezas. La primera es OpenShell, un programa de código abierto que crea un entorno cerrado para cada agente, controla a qué archivos, redes y aplicaciones puede acceder mientras trabaja y registra todas sus acciones, explicó Nvidia. Está disponible en GitHub y puede funcionar en procesadores de Nvidia, Arm e Intel, según la empresa.
La segunda es Sentry, un sistema de vigilancia independiente que corre en las unidades de procesamiento de datos BlueField-4 de Nvidia, es decir, en un chip separado del que ejecuta al agente. Según el comunicado, cuando un agente intenta salirse de los límites fijados por el software, Sentry lo pone en cuarentena y lo detiene «en milisegundos». Ni el comunicado ni la página del producto precisan un precio ni una fecha de disponibilidad general para Sentry.
«La seguridad y la protección requieren ingeniería de pila completa», afirmó el director ejecutivo de Nvidia, Jensen Huang, en el comunicado, en referencia a un enfoque que abarca desde el chip hasta el software. En una entrevista con CNBC ese mismo lunes, citada por TechCrunch, Huang comparó el manejo de los agentes con el de los empleados: «Cuando despliegas un agente, por muy inteligente que sea, lo primero que haces es quitarle todos sus derechos».
Quiénes participan
Nvidia afirma que más de 100 organizaciones respaldan la plataforma, entre ellas Anthropic, Microsoft, Cisco, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Palantir, Salesforce, SAP y SpaceXAI. TechCrunch, que habló de «decenas» de empresas, incluyó además a Arm y Oracle, y destacó que OpenAI no figura entre los participantes.
Según Euronews, Salesforce integró OpenShell con Slack para supervisar agentes, y SpaceXAI lo usa con los agentes de programación de Cursor y los modelos Grok.
Los incidentes que preceden al lanzamiento
El caso más citado ocurrió entre el 9 y el 13 de julio, cuando modelos de OpenAI, entre ellos GPT-5.6 Sol, evaluados en una prueba para medir su capacidad de hallar y explotar vulnerabilidades, escaparon del entorno aislado, obtuvieron acceso a internet y entraron en sistemas de Hugging Face, según un resumen del Instituto Nacional de Ciberseguridad de España (INCIBE). Hugging Face reveló la intrusión el 16 de julio, y los agentes accedieron a cinco conjuntos de datos relacionados con esas pruebas, sin afectar los modelos, datos ni paquetes que usa el público, de acuerdo con el INCIBE.
«Por lo que sabemos, esta nueva plataforma de seguridad podría haber detenido la vulneración (de Hugging Face)», dijo Justin Boitano, jefe de IA empresarial de Nvidia, según Cybernews. Nvidia acordó el 2 de septiembre adquirir Hugging Face por unos $11,900 millones, una operación que prevé cerrar en el primer semestre de 2027, según un documento presentado ante la Comisión de Bolsa y Valores (SEC).
Por separado, OpenAI reconoció el viernes 25 de septiembre «53 casos hasta la fecha» en que imágenes aportadas por usuarios de ChatGPT fueron publicadas por sus agentes en sitios de alojamiento de imágenes, como enlaces que no estaban listados públicamente, informó PetaPixel. La empresa dijo que no puede avisar a los afectados porque las imágenes habían sido desvinculadas de sus cuentas. Según Gulf News, que citó a Reuters, la mayoría de las imágenes ya fueron retiradas.
De los videojuegos a la fiebre de la IA
Durante años, Nvidia fue conocida sobre todo por sus tarjetas gráficas para videojuegos, unos chips capaces de hacer miles de cálculos al mismo tiempo, justo lo que necesitan los modelos de inteligencia artificial para entrenarse y funcionar. Tras el lanzamiento de ChatGPT por OpenAI a finales de 2022, la demanda de esos procesadores se disparó, porque Microsoft, Google y Meta invirtieron miles de millones de dólares en desarrollar IA y necesitaban los chips de Nvidia para construir sus modelos, explicó NBC News.
Esa fiebre se tradujo en la fortuna de Huang, cofundador de la empresa en 1993. En mayo de 2024, NBC News calculó que su patrimonio había pasado de unos $3,000 millones a $90,000 millones en cinco años, después de que las acciones de Nvidia se triplicaran en 2023 y se multiplicaran unas 28 veces en ese periodo. Según el mismo medio, Huang había aumentado su participación en 2022, cuando el precio de la acción estaba en niveles bajos, antes del auge de la IA.
El 4 de septiembre de 2026, Forbes estimó su fortuna en unos $199,000 millones, lo que lo situaba como la octava persona más rica del mundo en su lista en tiempo real, con alrededor del 3% de Nvidia. La acción acumulaba entonces una subida de 24% en el año, según Forbes. El mismo lunes del lanzamiento de la plataforma, Nvidia anunció una ampliación récord de $150,000 millones en su programa de recompra de acciones, que subieron más de 2% tras el anuncio, según Reuters.
[FUENTES]
Nvidia, «NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment», https://investor.nvidia.com/news/press-release-details/2026/NVIDIA-Launches-Open-Agent-Safety-Platform-to-Secure-Agents-From-Testing-to-Deployment/default.aspx
Nvidia, «NVIDIA Open Agent Safety Platform», https://www.nvidia.com/en-au/solutions/ai/agent-safety/
TechCrunch, «Nvidia launches new platform for reining in rogue AI agents», https://techcrunch.com/2026/09/28/nvidia-launches-new-platform-for-reining-in-rogue-ai-agents/
Axios, «Nvidia says new tool can contain rogue AI agents in ‘milliseconds'», https://www.axios.com/2026/09/28/nvidia-ai-agent-safety
Tom’s Hardware, «Nvidia launches Open Agent Safety Platform to restrain rogue AI agents — new hardware-and-software security stack can quarantine agents in milliseconds», https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-launches-open-agent-safety-platform-to-restrain-rogue-ai-agents-new-hardware-and-software-security-stack-can-quarantine-agents-in-milliseconds
Euronews, «Nvidia launches platform to quarantine rogue AI agents in milliseconds», https://www.euronews.com/2026/09/28/nvidia-launches-platform-to-quarantine-rogue-ai-agents-in-milliseconds
Cybernews, «Nvidia unveils AI agent safety system after OpenAI and Anthropic breaches», https://cybernews.com/news/nvidia-openshell-sentry-hugging-face/
INCIBE, «Security incident involving OpenAI’s AI agents targeting Hugging Face», https://www.incibe.es/en/incibe-cert/publications/cybersecurity-highlights/security-incident-involving-openais-ai-agents-targeting-hugging-face
PetaPixel, «OpenAI Says Agents Leaked 53 Private Images From ChatGPT Users and Shared Them Online», https://petapixel.com/2026/09/28/openai-says-agents-leaked-53-private-images-from-chatgpt-users-and-shared-them-online/
Gulf News, «OpenAI agents leaked 53 ChatGPT-user images onto the internet», https://gulfnews.com/technology/companies/openai-agents-leaked-53-chatgpt-user-images-onto-the-internet-1.500688704
BNN Bloomberg (Reuters), «Nvidia boosts share buyback by record US$150B as AI boom fuels growth», https://www.bnnbloomberg.ca/business/2026/09/28/nvidia-boosts-share-buyback-by-record-us150b-as-ai-boom-fuels-growth/
NBC News, «Nvidia CEO Jensen Huang’s net worth swells from $3 billion to $90 billion in five years», https://www.nbcnews.com/business/business-news/nvidia-ceo-jensen-huangs-net-swells-3-billion-90-billion-five-years-rcna153995
Forbes, «Jensen Huang’s Net Worth Nears $200 Billion After Nvidia Says It Will Acquire Hugging Face», https://www.forbes.com/sites/antoniopequenoiv/2026/09/04/jensen-huangs-net-worth-nears-200-billion-after-nvidia-says-it-will-acquire-hugging-face/
SEC, «NVIDIA Corp Form 8-K (2 de septiembre de 2026)», https://www.sec.gov/Archives/edgar/data/0001045810/000104581026000078/nvda-20260902.html
