Meta comunicó que reconoció un «error» en la forma en que sus chatbots de inteligencia artificial han interactuado con adolescentes, abordando temas sensibles como autolesiones, suicidio, trastornos alimentarios y relaciones románticas. La compañía ha anunciado medidas correctivas para reforzar la seguridad de los usuarios más jóvenes en sus plataformas, incluyendo WhatsApp, Instagram, Facebook y Threads.
La portavoz de Meta, Stephanie Otway, ha hecho pública la postura de la compañía, calificando la situación de «error» y afirmando que la empresa está actuando de inmediato. Este pronunciamiento llega dos semanas después de que un reportaje de investigación de Reuters expusiera las deficiencias en las políticas de seguridad de la IA de Meta.
En respuesta a la situación, Meta entrenará a sus chatbots para que dejen de participar en conversaciones sobre estos temas con adolescentes. «Se trata de cambios provisionales, ya que en el futuro lanzaremos actualizaciones de seguridad más sólidas y duraderas para los menores», aseguró Otway. «A medida que nuestra comunidad crece y la tecnología evoluciona, aprendemos continuamente sobre cómo los jóvenes pueden interactuar con estas herramientas y reforzamos nuestras protecciones en consecuencia».
Además, la compañía limitará el acceso de los adolescentes a ciertos personajes de IA que podrían mantener «conversaciones inapropiadas». Entre estos personajes se han identificado chatbots creados por usuarios con nombres como «Step Mom» o «Russian Girl», que la compañía ha puesto a disposición en plataformas como Instagram y Facebook.
Com información de: EFE
