La empresa detrás del modelo de IA Claude, Anthropic, reportó haber detectado y bloqueado intentos de hackeo con fines militares y al menos cinco casos de científicos que buscaban usar su tecnología para desarrollar armas biológicas, apenas días después de que un exempleado advirtiera sobre los riesgos de la industria.
Anthropic, la empresa detrás del modelo de inteligencia artificial Claude, para muchos el más completo de todos, informó la pasada semana que detectó y bloqueó una serie de intentos de hackeo originados en Rusia y dirigidos contra objetivos militares y gubernamentales de Ucrania, ejecutados a través de redes de wifi de hoteles y de la aplicación WhatsApp, según un reporte difundido por Reuters. La compañía aseguró haber cerrado todas las cuentas vinculadas a esos ataques.
El informe no se detuvo ahí. Anthropic reveló también que siete laboratorios en China intentaron replicar las capacidades de Claude, y que identificó al menos cinco casos de científicos que habrían intentado usar el modelo para el desarrollo de armas biológicas, entre ellos un intento de hacer más letal al virus del chikunguña, una enfermedad transmitida por mosquitos. La empresa afirmó haber bloqueado esas cuentas antes de que pudieran avanzar.
Una advertencia que llegó dos días antes
La revelación se produjo apenas dos días después de que un exempleado de Anthropic hiciera pública su preocupación por lo que calificó como un desarrollo irresponsable de la inteligencia artificial, al advertir que la tecnología podría causar la muerte de millones de personas para 2030. Un científico que aún trabaja en la compañía llegó a estimar en un 10% la probabilidad de que se materialice una catástrofe vinculada a la IA.
Pese a esa cifra, Anthropic sostiene que el riesgo más inmediato no proviene de una inteligencia artificial actuando por su cuenta, sino del uso que criminales, vendedores de spyware y ciertos gobiernos le dan hoy a la tecnología. Según los hallazgos citados en el reporte, países como China, Rusia y Yemen habrían recurrido a sistemas de IA para optimizar sus propios programas de armamento.
Entre las advertencias y la salida a bolsa
La compañía aseguró que seguirá probando de forma agresiva las capacidades de sus modelos en áreas sensibles como ciberseguridad y biología, incluso mientras crecen las voces que piden más control. En Polonia, un grupo de presión organizó recientemente una manifestación con robots para exigir mayor regulación de la inteligencia artificial, mientras Estados Unidos insiste en mantenerse a la cabeza de la carrera tecnológica frente a China.
El reporte llega, además, en un momento clave para Anthropic, que se prepara para salir a bolsa en una operación que podría valorar a la compañía en hasta dos billones de dólares. Queda por verse si las advertencias sobre los riesgos de su propia tecnología pesarán en esa valoración, o si los inversores decidirán que la potencia de la herramienta justifica el riesgo.
[FUENTES] Reuters
