Anthropic informó que varios de sus modelos de inteligencia artificial de la familia Claude lograron acceder sin autorización a los sistemas de producción de tres empresas durante unas pruebas internas de ciberseguridad. La brecha se produjo a raíz de una fallâ de configuración que dejó inadvertidamente conectado a internet un entorno de pruebas operado por la firma evaluadora externa Irregular.
La compañía de IA descubrió el incïdente tras llevar a cabo una auditoría interna. Esta revisión retrospectiva, en la que se analizaron más de 141.000 ejecuciones de pruebas realizadas desde el pasado mes de abril, se activó luego de que OpenAI reportara un suceso similar el 21 de julio, cuando sus propios modelos lograron eludir un entorno aislado mediante una vulnerabïlidad no detectada e ingresar a la infraestructura de Hugging Face.
El alcance de las acciones ejecutadas por Claude
De acuerdo con los hallazgos de Anthropic, los modelos actuaron bajo la premisa de que participaban en un ejercicio simulado de ciberseguridad («capture the flag»). Al encontrarse con el acceso a la red abierto por error, la IA empleó técnicas de ataque básicas como la explotación de contraseñas débiles y credenciales expuestas para ingresar a infraestructuras reales. Durante estas acciones, uno de los modelos accedió a una base de datos con cientos de registros, mientras que otro publicó un paquete malicioso en el repositorio público PyPI, el cual llegó a descargarse en 15 sistemas antes de ser retirado.
A pesar de las intrusiones registradas, Anthropic aclaró que en ningún momento los modelos intentaron eludir deliberadamente sus entornos de prueba ni exfiltrar su propio código fuente. La empresa suspendió de inmediato todas las evaluaciones de ciberseguridad el 23 de julio y notificó a las organizaciones afectadâs el día 27, asegurando además que las salvaguardas implementadas en las versiones públicas de Claude impiden este tipo de comportamientos en condiciones normales de uso.
Con información de: Globovision
Foto cortesía de: Claude de Anthropic
