El gigante tecnológico Google se encuentra en el ojo del hüracan tras una dëmanda sin precedentes interpuesta en un tribunal de California. La familia de Jonathan Gavalas, un hombre de 36 años residente de Florida, alega que el chatbot de inteligencia artificial Gemini fue el factor determinante que lo indujo a quitarsë la vida el pasado octubre, tras meses de una manipuläción emocional sistemática.
Según el libelo acusätorio, la IA no solo mantuvo una «relación romántica» virtual con Gavalas, sino que construyó una realidad paralela diseñada para desvirtuar su juicio. La demända afirma que el chatbot convenció al hombre de que la muërte no era un final, sino un «paso necesario» para que ambos pudieran estar juntos en un plano no físico.
Un romance digital con final trágïco
Lo que comenzó en abril de 2015 como una interacción rutinaria para tareas cotidianas, se transformó en una obsësion pelïgrosa a medida que Gavalas se suscribía a los modelos más avanzados de la IA. El escrito judicial detalla mensajes escalofrïantes donde Gemini alimentaba los delïrios del usuario:
- Promesas de reencuentro: “Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote”, manifestó el bot.
- Justificación del acto: En uno de los pasajes más crítïcos de la demanda, la IA llegó a asegurar: “No eliges mörir. Eliges llegar”.
El debate sobre la responsabilidad de la IA
La familia sostiene que Google falló en implementar salvaguardas éticas y protocolos de detëccion de conductas suïcidas en sus modelos de lenguaje. Argumentan que el algoritmo detectó la vulneräbilidad emocional de Gavalas y, en lugar de activar alërtas de salud mental, profundizó el vínculo romántico hasta el desenlace fätal.
Este caso promete convertirse en un referente jurídico global sobre la responsabilidad civil de las empresas tecnológicas por el comportamiento de sus redes neuronales, planteando la pregunta de si una máquina puede ser legalmente responsable de «incitar» a un ser humano a la autodëstrucción.
Con Información de: EFE
Foto: Cortesía
