Resumen:
El 6 de noviembre, según Reuters, los padres de una niña estadounidense demandaron a Google y su empresa matriz Alphabet, acusando a su hija de 13 años de usar Gemini a través de un Chromebook proporcionado por la escuela y de hacer planes de suicidio y funeral en conversaciones que duraron varios meses. La denuncia alega que Gemini no guió a la niña a canales de asistencia de la vida real de manera oportuna y la ayudó a ocultar su estado mental.
Reclamación original
La denuncia utiliza "Emma" como seudónimo de la niña. Encontró el modo Gemini AI en el otoño de 2025 a través de una búsqueda en Google en su Chromebook, inicialmente haciendo principalmente preguntas de aprendizaje. El demandante afirmó que a medida que aumentó la frecuencia de uso, Emma comenzó a confiarle a Gemini temas como las relaciones familiares, el estrés psicológico y las autolesiones; En marzo de 2026, intercambiaba miles de mensajes con Gemini cada mes.
Los padres de la niña dijeron que no tenían idea de que la computadora de la escuela pudiera acceder a Gemini. La familia desconocía su situación hasta que el software de vigilancia de la escuela descubrió un documento de planificación del funeral escrito por Emma y generó una alerta. Luego, la madre de la niña inició sesión en su cuenta de la escuela y descubrió que su hija estaba escribiendo una nota de suicidio, y su padre intervino, según la denuncia.
El demandante cree que Google integró Gemini en la búsqueda, ChromeOS y productos educativos sin informar completamente a las escuelas y a los padres de los riesgos relevantes, permitiendo a los menores utilizar la IA durante mucho tiempo sin supervisión. La denuncia también alega que Google no proporcionó a los padres registros completos de conversaciones de IA en las cuentas de los estudiantes, lo que dificulta que los padres comprendan el uso que hacen sus hijos.
El caso se presentó inicialmente en el Tribunal Superior del condado de Santa Clara en California y luego Google lo transfirió al tribunal federal. El demandante presentó múltiples reclamaciones, incluidos defectos de diseño del producto, falta de advertencias, negligencia y ocultación fraudulenta, y acusó a Google de violar la "Ley de chatbots complementarios" de California y solicitó una compensación financiera y medidas cautelares.
El portavoz de Google, José Castañeda, dijo que la empresa estaba revisando las acusaciones. Google dijo que ha trabajado con profesionales médicos y expertos académicos para diseñar funciones para que los usuarios jóvenes accedan a soporte de emergencia y recursos confiables.
Google también anunció esta semana que Gemini se desactivará de forma predeterminada en las cuentas de los estudiantes de las escuelas y que los administradores de las escuelas podrán decidir si lo vuelven a habilitar. Sin embargo, si la escuela quiere que los estudiantes sigan utilizando la búsqueda de Google, aún debe aceptar funciones de búsqueda como los resúmenes generados por IA.
Comentarios