Resumen:
Una mujer de 30 años en el condado de Lee, Florida, EE. UU., fue arrestada bajo sospecha de amenazar con violencia a través de mensajes de texto. Carly Michelle Heller, residente de Bonita Springs, escribió una amenaza de disparo contra la Oficina del Sheriff del condado de Lee en una conversación sobre Claude, un chatbot propiedad de Anthropic, dijo la policía. El sistema de seguridad de Anthropic marca contenido relevante, que se revisa manualmente y se notifica a las autoridades. Heller dijo a los investigadores que usó a Claude como un "diario".
Según el informe de arresto citado por los medios locales, Heller escribió en una conversación en la madrugada del 26 de septiembre que "iba a la Oficina del Sheriff ahora mismo para dispararle a alguien". Temprano en la mañana del día siguiente, también dijo que ese día consiguió un arma nueva y escribió: "Esta es la última oportunidad, ya he tenido suficiente". Después de recibir el informe, la policía envió agentes a su residencia en Dean Street en Bonita Springs, donde fue detenida sin incidentes y posteriormente investigada por la Unidad de Inteligencia de la Oficina del Sheriff del Condado de Lee. Actualmente enfrenta un cargo de amenazas escritas de violencia y aún no ha sido declarada culpable.
La ley de Florida establece que amenazar con matar, causar daños corporales, cometer un tiroteo masivo o un acto de terror en un registro escrito o electrónico que pueda ser visto por otros puede constituir un delito grave de segundo grado. Sin embargo, aún debe determinarse mediante procedimientos judiciales si el diálogo en este caso cumple con las condiciones aplicables de la ley y si el fiscal puede probar la constitución de un delito. Los analistas legales locales señalaron que los fiscales pueden interpretar el texto relevante como una amenaza directa, pero el caso no está exento de controversia y también involucra los límites de la libertad de expresión.
La política oficial de Anthropic establece que si la empresa cree que existe una situación de emergencia que podría provocar daños corporales inminentes o la muerte y que el suministro oportuno de información puede evitar el peligro, puede revelar información del usuario al gobierno sin el proceso legal habitual. La compañía también ha declarado públicamente que después de que Claude se conecte, utilizará un sistema de detección automática y una revisión manual para descubrir contenido dañino y hacer cumplir las políticas de uso. En este incidente, el proceso de denuncia policial consistió en que el sistema primero marcaba el incidente, luego lo revisaba manualmente y luego contactaba a la policía.
Este caso ha vuelto a generar preocupación sobre los límites de la privacidad en los chatbots. Que los usuarios traten la ventana de chat como un diario privado no significa que el contenido sólo será visto por el usuario; la plataforma puede revisar la conversación de acuerdo con las políticas de seguridad y también puede proporcionar información a las fuerzas del orden en caso de emergencia. Informes recientes sobre el editor de imágenes Copilot de Microsoft también señalaron que los revisores humanos pueden ver palabras de aviso del usuario, fotos cargadas y resultados generados, pero la revisión relevante se utiliza principalmente para evaluar la calidad de la salida.
TechSpot también mencionó que OpenAI y su director ejecutivo, Sam Altman, están siendo demandados por un tiroteo masivo en Columbia Británica, Canadá. La demanda alegaba que la empresa podría haber tomado medidas para evitar el incidente; El estado de Florida también había demandado previamente a OpenAI y Altman por lesiones relacionadas con el tiroteo de 2025 en la Universidad Estatal de Florida. Ninguno de estos cargos de demanda equivale a una determinación judicial de responsabilidad, lo que pone de relieve las controversias legales que enfrentan las empresas de IA en términos de seguridad de los usuarios, privacidad y prevención de daños en la vida real.
Comentarios