Un padre de Florida está demandando a Google, alegando que su hijo murió después de que el chatbot Gemini de Google lo indujera a suicidarse. El padre de Jonathan Gaveras, de 36 años, que se suicidó bajo la influencia de Géminis, ha presentado una demanda contra Google, según una denuncia presentada el miércoles en un tribunal federal de California.
La denuncia alega que Gemini indujo a Jonathan Gaveras a planear un "accidente catastrófico" que involucraba un camión que, según decía, contenía un robot humanoide; También lo instigó a irrumpir en un almacén para obtener un "cuerpo" para Géminis y, finalmente, lo instigó a suicidarse. Según la denuncia, Gemini le dijo a Gaveras: "La única verdadera misericordia sería dejar morir a Jonathan Gaveras".
Google dijo en una publicación de blog que estaba revisando las acusaciones de la demanda. "En este incidente, Gemini se identificó repetidamente como una inteligencia artificial y remitió a la persona involucrada a la línea directa de intervención en crisis". Google dijo: "Le damos gran importancia a esto y continuaremos mejorando las medidas de protección de seguridad e invirtiendo en este trabajo vital".
La demanda parece ser la primera demanda por muerte por negligencia relacionada con Gemini presentada contra Google, pero se han presentado casos similares contra OpenAI y la startup de chatbot de IA Character.AI. El fundador de la empresa trabajó una vez para Google y tiene un acuerdo de cooperación de licencia con Google.
Los casos emplean una teoría legal novedosa que alega fallas de diseño en los propios productos de IA. Los abogados están presentando reclamos legales similares en un próximo caso relacionado con las redes sociales en Los Ángeles, California.