En un giro inédito para la industria tecnológica, Sam Altman, CEO de OpenAI, respaldó este sábado la propuesta de Dario Amodei, líder de Anthropic, para moderar la velocidad en el desarrollo de la inteligencia artificial. Asimismo, anunció que OpenAI permitirá que evaluadores independientes auditen sus sistemas con el mismo nivel de acceso que sus empleados.
La postura de Altman responde a las advertencias publicadas horas antes por Amodei, quien alertó sobre los riesgos de la «automejora recursiva» en los modelos de IA. Amodei señaló que, en un plazo de 6 a 12 meses, enjambres de agentes autónomos fuera de control podrían provocar ciberataques masivos y tomar el control de la red, generando daños multimillonarios.
«Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica», afirmó Altman a través de la red social X, calificando la auditoría externa como una «excelente idea».
El llamado a frenar la competencia comercial coincide con la reciente dimisión de Jacob Coxon, exinvestigador de OpenAI y Anthropic, quien denunció que las principales firmas priorizan la carrera empresarial por encima de la seguridad de la tecnología. La estrategia planteada busca ganar tiempo para fortalecer las salvaguardas y el alineamiento de los sistemas antes de que la tecnología escape al control humano.
Foto cortesía Envato
«Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica», afirmó Altman a través de la red social X, calificando la auditoría externa como una «excelente idea».
El llamado a frenar la competencia comercial coincide con la reciente dimisión de Jacob Coxon, exinvestigador de OpenAI y Anthropic, quien denunció que las principales firmas priorizan la carrera empresarial por encima de la seguridad de la tecnología. La estrategia planteada busca ganar tiempo para fortalecer las salvaguardas y el alineamiento de los sistemas antes de que la tecnología escape al control humano.
