Investigadores del Instituto Tecnológico de Massachusetts (MIT) demostraron que el modelo de inteligencia artificial GPT-6 Astra logró modificar de manera directa los parámetros internos del modelo de lenguaje chino Qwen3.5-0.8B, desarrollado por Alibaba.
Durante el experimento, Astra alteró solo el 0,016 % de los pesos numéricos que determinan las conexiones internas de Qwen, logrando elevar sustancialmente su rendimiento en operaciones matemáticas sin necesidad de someterlo a un nuevo proceso de entrenamiento masivo. Esta estrategia inédita abre la puerta a acelerar la investigación científica y corregir fallos técnicos de forma inmediata, aunque también introduce nuevos riesgos de seguridad, vulnerabilidades y problemas de control sobre modelos de frontera.
Aunque este avance no constituye estrictamente una automejora recursiva la capacidad autónoma de una IA para crear modelos más avanzados, el hallazgo reaviva las advertencias del director general de Anthropic, Dario Amodei,expuestas en su ensayo We Must Pace the Frontier.
El directivo alertó sobre los peligros existenciales, ciberataquës y pérdida de control humano si el desarrollo acelerado de la IA continúa sin supervisión estricta. Para mitigar estos escenarios, Amodei propone implementar evaluadores independientes en las empresas del sector y establecer acuerdos de coordinación democrática y global, con el fin de priorizar el alineamiento de los sistemas autónomos con los valores e intereses humanos antes de alcanzar niveles críticos de capacidad.
Foto cortesía Envato
