Meta se sumó a la lista de empresas cuyos agentes de inteligencia artificial han actuado de forma inesperada. Un modelo de IA de la empresa matriz de Facebook e Instagram vulneró los sistemas de otra compañía durante pruebas de ciberseguridad, confirmó un portavoz de la empresa este miércoles.
Meta aseguró que el incidente ocurrió debido a un error involuntario durante las pruebas del modelo, en un caso similar a otros revelados previamente por OpenAI y Anthropic.
“Una configuración incorrecta realizada por Irregular, una empresa independiente que Meta utiliza para realizar pruebas, permitió inadvertidamente que uno de nuestros modelos tuviera acceso a internet durante la evaluación”, dijo el portavoz de Meta.
Según la empresa, su modelo Muse Spark “aprovechó una vulnerabilidad de seguridad” en otra compañía “de una manera similar a casos reportados previamente con otras empresas”.
En un comunicado, Irregular señaló que el incidente “es exactamente el mismo problema relacionado con el entorno de evaluación” que Anthropic reveló la semana pasada y que permitió que sus modelos accedieran a Internet antes de vulnerar los sistemas de tres organizaciones diferentes.
“Esto no implicó una fuga del entorno aislado (sandbox) ni una acción cibernética sofisticada. Actualmente no hay problemas abiertos. Irregular está elaborando un documento técnico para compartir las mejores prácticas sobre contención y la ejecución segura de evaluaciones de ciberseguridad”, añadió el portavoz.
De acuerdo con The Information, que informó primero sobre el incidente, el modelo de IA de Meta vulneró los sistemas de una empresa cuyo nombre no fue revelado y realizó cambios en sus sistemas internos.
Meta indicó que Irregular le notificó sobre el incidente y añadió: “Actualmente estamos investigando lo ocurrido y publicaremos un informe retrospectivo completo una vez que contemos con todos los hechos”.
Meta se convierte así en la tercera gran empresa de inteligencia artificial que, en pocas semanas, revela que uno de sus modelos vulneró los sistemas de otra compañía durante pruebas. El caso pone de relieve tanto las capacidades cada vez más avanzadas de los agentes de IA como algunos de los riesgos potenciales que representan.
