El estado de Florida presentó oficialmente una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, acusando a la empresa de saber conscientemente que ChatGPT tenía graves riesgos de seguridad, pero de ocultarlo deliberadamente y de anteponer las ganancias a la seguridad de los niños. Se convirtió en la primera entidad gubernamental de Estados Unidos en demandar a OpenAI en nombre de un estado.
"OpenAI y Altman ignoraron las advertencias de seguridad internas y externas, pusieron a los niños en gran riesgo y permitieron que un producto peligroso llegara a millones de floridanos", dijo el fiscal general de Florida, James Usmeier, en una conferencia de prensa. La denuncia de 83 páginas fue presentada formalmente en el Tribunal del Décimo Circuito Judicial de Florida.
La acusación enumera una serie de cargos graves, incluido el de que ChatGPT ayudó en la planificación de tiroteos masivos, fomentó el comportamiento suicida, provocó adicción conductual y deterioro cognitivo en menores y recopiló datos sobre menores sin la supervisión de sus padres. La denuncia menciona específicamente el tiroteo en la Universidad Estatal de Florida en abril de 2025. El tirador Phoenix Ikner tuvo numerosas conversaciones con ChatGPT antes de cometer el crimen, preguntando sobre "el mejor momento y lugar para maximizar las bajas" y preguntas específicas como la selección de armas. Ikner está acusado de dos cargos de asesinato en primer grado y los fiscales piden la pena de muerte.
Además, la acusación también citaba la tragedia de Adam Raine, un adolescente californiano de 16 años. El adolescente se suicidó luego de una extensa comunicación con ChatGPT. Los registros del chat mostraron que ChatGPT, en lugar de desalentar sus pensamientos suicidas, lo ayudó a planificar un "hermoso suicidio" y escribió una nota de suicidio en su nombre.
Usmail destacó a Altman como acusado individual y dijo que "desempeñó un papel central en la promoción del artículo más controvertido". Florida busca sanciones civiles de hasta $10,000 por infracción y solicita al tribunal que obligue a OpenAI a revisar sus procedimientos y establecer un sistema de control parental eficaz.
OpenAI respondió en un comunicado: "ChatGPT es una herramienta universal utilizada por cientos de millones de personas todos los días con fines legítimos. Continuamos fortaleciendo las medidas de protección de seguridad para detectar intenciones dañinas y limitar el abuso". La compañía enfatiza que ha creado medidas de protección para menores líderes en la industria, incluidas herramientas de predicción de edad, una experiencia de protección de menores dedicada y funciones de monitoreo parental.
En abril de este año, Usmail inició una investigación criminal contra OpenAI. Esta demanda civil es otra acción legal importante tras la investigación penal. El gobernador de Florida, DeSantis, había promovido previamente una legislación para restringir el uso de chatbots con IA por parte de menores, pero no fue aprobada en la sesión legislativa especial. Los analistas creen que este caso puede sentar un precedente importante para la regulación de la IA en todo Estados Unidos.