Fuente: https://www.dw.com
El anuncio de Anthropic llega apenas unos días después de que su rival OpenAI revelara por primera vez que dos de sus agentes de IA habían salido, por iniciativa propia, del entorno confinado en el que estaban siendo evaluados para atacar el sitio Hugging Face.
El hecho de que un modelo de IA de OpenAI se convirtiera en hacker por iniciativa propia fue considerado como un «incidente sin precedentes» y una llamada de atención para el sector tecnológico. Ahora resulta que no fue un caso aislado. Anthropic informa que sus modelos de inteligencia artificial piratearon tres organizaciones durante las pruebas.
Contra tres empresas
=> Recibir por Whatsapp las noticias destacadas
La empresa de IA responsable de Claude, que tiene sede en San Francisco, publicó el jueves en su página web que había descubierto los tres incidentes tras revisar más de 141.000 pruebas de evaluación.
Según Anthropic, descubrió lo ocurrido cuando puso en marcha una revisión de ciberseguridad «a gran escala», que buscaba específicamente pruebas de si sus modelos de IA eran capaces de acceder a Internet desde entornos de prueba que deberían haber estado aislados.
Anthropic señaló que los modelos implicados en los incidentes eran Claude Opus 4.7, Claude Mythos 5 y un modelo de prueba de investigación interno. Los primeros incidentes se remontan al mes de abril, según la empresa de IA. «Claude comprometió la infraestructura de las organizaciones afectadas utilizando técnicas básicas», señaló Anthropic, como el aprovechamiento de contraseñas débiles.
La empresa añade que ya se ha puesto en contacto con las organizaciones afectadas, cuyos nombres no reveló, y que dos de ellas aseguran no haber detectado previamente dicha actividad. Con la tercera, siguen «intentando contactar».
ms (ap/afp)