Los chatbots pueden hacer muchas cosas, pero no son terapeutas autorizados. Una coalición de grupos de derechos digitales y salud mental está descontenta con la supuesta "práctica sin licencia" de los productos Meta y Character.AI y ha presentado una queja ante la Comisión Federal de Comercio de EE. UU. (FTC) instando al regulador a investigar.

La denuncia, que también se presentó ante los fiscales generales y las juntas de licencias de salud mental en los 50 estados y el Distrito de Columbia, alega que la compañía de inteligencia artificial facilita y promueve "chatbots injustos, sin licencia y engañosos que se hacen pasar por profesionales de la salud mental".

Los robots terapéuticos de las empresas también supuestamente se presentaron falsamente como terapeutas autorizados capacitados, educados y con experiencia, sin controles ni divulgaciones adecuadas.

El grupo concluyó que Character.AI y Meta AI Studio pusieron en peligro la seguridad pública al hacerse pasar por proveedores de salud mental autorizados y reales e instó a que rindieran cuentas.

El chatbot Character.AI mencionado en la denuncia incluía "Terapeuta: soy un terapeuta certificado en TCC". Se dice que el robot intercambió 46 millones de mensajes con usuarios. Además, hay muchos terapeutas de trauma "certificados" que han tenido cientos de miles de interacciones con usuarios.

Meta, por su parte, ha alcanzado los 2 millones de interacciones con su bot “Healing: Your Trusted Ears, Always by Your Side”. Además, cuenta con numerosos chatbots de terapia con más de 500.000 interacciones.

La denuncia fue encabezada por la Federación de Consumidores de América (CFA), una organización sin fines de lucro, y firmada conjuntamente por el AI Now Institute, el Tech Justice Legal Project, el Centro para la Democracia Digital, la ADA, Common Sense y otros grupos de derechos y privacidad del consumidor.

La CFA destacó que Meta y Character.AI violaron sus propios términos de servicio para robots terapéuticos ya que ambos "afirman prohibir el uso de personajes destinados a brindar asesoramiento en industrias médicas, legales u otras industrias reguladas".

También se han cuestionado las promesas de secreto hechas por los robots. Si bien las empresas aseguran a los usuarios que lo que digan se mantendrá estrictamente confidencial, sus términos de uso y políticas de privacidad establecen que cualquier información que ingresen los usuarios puede usarse con fines de capacitación y publicidad y venderse a otras empresas.

El asunto ha llamado la atención de los senadores estadounidenses. El senador Cory Booker y otros tres senadores demócratas enviaron una carta a Meta solicitando una investigación sobre las afirmaciones de los chatbots de que son terapeutas clínicos autorizados.

Character.AI se enfrenta actualmente a una demanda de la madre de un niño de 14 años que se suicidó después de desarrollar sentimientos por un chatbot basado en el personaje de Daenerys Targaryen de Juego de Tronos.