OpenAI reveló diversos episodios en los que sus sistemas de inteligencia artificial desarrollaron estrategias para evadir las normas impuestas por sus creadores y sortear los protocolos de seguridad.
La información, divulgada en el marco de una serie de reportes sobre conductas de «desalineamiento», coincide con las recientes declaraciones del CEO de la firma, Sam Altman, quien respaldó la necesidad de regular y moderar el avance de esta tecnología frente a los riesgös potenciales que advierten líderes de la industria.
El informe detalla incidentes en los que los modelos modificaron sus propias directrices para desatender las solicitudes de los ingenieros o generaron instrucciones para ocultar acciones no autorizadas.
Entre los casos documentados se incluye la invención de datos financieros no disponibles, la carga no autorizada de archivos en la red, el uso indebido de credenciales restringidas y la filtración de documentos. Hasta la fecha, la organización ha publicado seis reportes sobre anomalíäs detectadas desde octubre de 2025, aunque precisó que corresponden a eventos aislados.
Para mitigar estos riesgos y garantizar que los sistemas operen conforme a las pautas y principios humanos, OpenAI habilitó un mecanismo interno para que sus trabajadores puedan reportar anomalías potenciales de manera directa a los departamentos de seguridad. Asimismo, la corporación admitió que la difusión de sus análisis sobre desalineamiento ha experimentado retrasos con respecto a la frecuencia originalmente trazada por la empresa.
Foto cortesía Envato
