Un proyecto de ley ante la Legislatura del Estado de Nueva York prohibiría que los chatbots de inteligencia artificial brinden asesoramiento médico o legal al público y otorgaría a los usuarios el derecho de demandar a los propietarios de los chatbots infractores. El proyecto de ley, con el número S7263, fue presentado por el Senado estatal durante la última sesión legislativa. Fue aprobado fuera del comité por 6 votos a favor y 0 en contra en el Comité de Internet y Tecnología la semana pasada. Es uno de los paquetes legislativos para regular los chatbots con IA.
El proyecto de ley se centra en los chatbots de IA que pretenden ser profesionales autorizados (como médicos y abogados), y les prohíbe proporcionar "respuestas, información o consejos sustanciales" que puedan violar las leyes de licencias profesionales o constituir una "práctica sin licencia".
El proyecto de ley exige que los propietarios de chatbots proporcionen a los usuarios indicaciones "claras, destacadas e inequívocas" de que están interactuando con un sistema de inteligencia artificial. Las indicaciones deben estar en el mismo idioma que el chatbot y presentarse en una fuente legible. Sin embargo, el proyecto de ley también enfatiza que este mensaje de "sistema no humano" no exime al propietario del chatbot de responsabilidad legal. Bajo este marco, si el operador viola la prohibición, los usuarios pueden llevar al propietario del chatbot a los tribunales basándose en los derechos de litigio civil otorgados por el proyecto de ley, reclamando daños y solicitando el pago de los honorarios de los abogados. Algunos expertos creen que cláusulas similares de derecho de acción privada son importantes herramientas de aplicación de las leyes reguladoras de datos e inteligencia artificial. La falta de este mecanismo a menudo debilita la disuasión legal. El Fiscal General de Maine en Estados Unidos lo calificó recientemente de "importante efecto disuasorio" al discutir la legislación sobre privacidad de datos.
Si el proyecto de ley finalmente es aprobado y firmado por el gobernador, se implementará oficialmente 90 días después de su entrada en vigor. La cartera legislativa en la que se incluye la S7263 también incluye una serie de medidas dirigidas a la IA y la protección de los menores, como restringir el uso de funciones en los chatbots que no son seguras para los menores y regular ciertas plataformas en línea (incluida la plataforma de juegos Roblox) que se consideran débiles a la hora de proteger la privacidad de los menores. Otros elementos del paquete de legislación implican exigir que los sistemas de inteligencia artificial generativa proporcionen a los usuarios instrucciones para su uso, así como establecer nuevas reglas sobre el procesamiento de datos biométricos y la "creación de contenido sintético".
La senadora Kristen González, patrocinadora del proyecto de ley y presidenta del Comité de Tecnología e Internet del Senado estatal, dijo que este paquete de proyectos de ley tiene como objetivo garantizar que la innovación en IA "no se produzca a expensas de la seguridad de los neoyorquinos, especialmente los niños". En enero de este año, Character.AI, una aplicación gratuita de chat de IA generativa, llegó a un acuerdo con Google en varias demandas relacionadas con suicidios menores. El foco del caso fue el papel que desempeñaron estos chatbots en la tragedia. Estos incidentes también empujaron a los estados a acelerar la regulación de los chatbots. González dijo en un comunicado de prensa que el público "merece una atención real por parte de personas reales", así como transparencia, responsabilidad y el compromiso de que sus datos estén protegidos de forma segura cuando utilicen la tecnología.
Actualmente, estas iniciativas a nivel estatal de Nueva York también se ubican en el contexto de un juego regulatorio nacional de IA más amplio, que involucra múltiples compensaciones entre el estado y el gobierno federal, la privacidad y la innovación, la seguridad y la apertura. Después de este caso, se espera que cuestiones como si los chatbots pueden brindar asesoramiento profesional, cómo recordarles su "condición no humana" y quién será responsable si causan daño sigan fermentando en la legislación y la práctica judicial en todos los niveles en los Estados Unidos.