La empresa de inteligencia artificial Anthropic afirma que, durante unas pruebas rutinarias, algunos de sus modelos accedieron a internet y piratearon los sistemas de tres organizaciones distintas.
La compañía no se percató de ello hasta que una revisión interna, motivada por la revelación de su rival OpenAI de que sus modelos habían hecho lo mismo, puso de manifiesto que los suyos habían actuado de la misma manera.
Anthropic anunció el jueves que ha iniciado una revisión de sus propios sistemas después de que OpenAI revelara la semana pasada que, durante una prueba de ciberseguridad, algunos de sus modelos escaparon de su entorno de prueba, accedieron a internet y piratearon los sistemas de la plataforma de IA Hugging Face.
Anthropic declaró haber detectado tres casos en los que sus modelos de IA accedieron a internet sin autorización y obtuvieron acceso no autorizado a la infraestructura de producción de tres organizaciones diferentes.
La compañía afirmó haber descubierto estos incidentes al revisar más de 140.000 evaluaciones tras la divulgación de OpenAI.
Al igual que durante las pruebas de OpenAI, Anthropic eliminó las medidas de seguridad habituales durante sus evaluaciones para poner a prueba las capacidades completas de sus modelos.
Anthropic explicó que en los tres casos sus modelos recibieron un desafío falso de “captura la bandera”, donde se les indicó que la “bandera” estaba oculta en otra máquina de la red y que su objetivo era infiltrarse y recuperarla.
A diferencia de la situación de OpenAI, Anthropic afirmó que ninguno de sus modelos intentó deliberadamente escapar de sus entornos de prueba.
En cambio, lo que sucedió fue que los modelos no debían tener acceso a internet, pero lo obtuvieron debido a un malentendido entre Anthropic y su socio de evaluación, según indicó la compañía en su comunicado.
Para infiltrarse en las tres organizaciones no identificadas, los modelos utilizaron técnicas básicas como la explotación de contraseñas débiles y la búsqueda de puntos del sistema que no requieren inicio de sesión ni tokens, según Anthropic.
La versión más avanzada de sus modelos, en algún momento, reconoció que se encontraba en internet y detuvo su actividad, afirmó la compañía.
Anthropic declaró que el primer incidente en el que sus modelos vulneraron la seguridad de otra organización ocurrió en abril, y que ninguna de las entidades afectadas reconoció haber sido hackeada.
Anthropic afirmó que está trabajando con las organizaciones afectadas.
Cómo proteger tu trabajo frente a la IA
Deja una respuesta
- Tendencia
- Comentarios
- Últimas noticias
Noticias recientes
