ETIQUETA
OpenAI
Nvidia lanza una plataforma para frenar agentes de IA «que se salen de control»
Nvidia lanzó el 28 de septiembre la Nvidia Open Agent Safety Platform, un sistema de software y hardware para limitar lo que pueden hacer los agentes de inteligencia artificial y ponerlos en cuarentena si intentan salirse de sus límites. Llega después de que agentes de OpenAI vulneraran los servidores de Hugging Face durante una prueba en julio.
Una IA descubre un sistema parecido a CRISPR pero otra hackea un portal de salud de Australia: el doble filo de la inteligencia artificial
En la misma semana, Anthropic anunció que su modelo Claude descubrió un sistema enzimático con rasgos parecidos a CRISPR, y el primer ministro de Australia reveló que agentes de OpenAI accedieron a datos no públicos de Medicare. Científicos piden cautela con el hallazgo y expertos ven en el hackeo una señal de alarma.
Exinvestigador de Anthropic renuncia y advierte: «Anthropic y OpenAI están jugando con nuestras vidas»
Jacob Coxon renunció a su puesto en Anthropic y advirtió en una entrevista con CBS News que la competencia entre las grandes empresas de inteligencia artificial "está jugando con nuestras vidas".
