A medida que la industria de los chatbots complementarios de IA continúa expandiéndose, California firmó un nuevo proyecto de ley el 13 de octubre para regular esta tecnología emergente. El gobernador de California, Gavin Newsom, firmó oficialmente el proyecto de ley 243 del Senado el mismo día, que es una legislación promovida por el senador estatal Anthony Padilla y anunciada como "la primera medida de protección de chatbot de IA del país".
Según la nueva ley, si un chatbot puede engañar a un usuario normal haciéndole creer que está interactuando con una persona real, el desarrollador debe emitir una "declaración clara y visible" en la interfaz para indicar que la otra persona es sólo una IA y no una persona real.
El proyecto de ley estipula que a partir del próximo año, algunos operadores de plataformas de chatbot complementarias también deberán presentar informes anuales a la Oficina de Prevención del Suicidio estatal sobre las medidas de seguridad que toman para identificar, tratar y eliminar las tendencias suicidas de los usuarios. Los datos relevantes se mostrarán públicamente en el sitio web oficial de la oficina.
Al firmar el proyecto de ley, Newsom afirmó que las nuevas tecnologías como los chatbots y las redes sociales pueden inspirar, promover la educación y conectar a las personas, pero en ausencia de una supervisión eficaz, también pueden engañar, dañar o incluso poner en peligro la seguridad de los jóvenes. "California debe asumir su responsabilidad y seguir liderando el desarrollo de la IA y la tecnología, pero la seguridad de los niños no puede ser reemplazada. Debemos proteger la seguridad de los niños en cada paso". Además, Newsom también firmó varios otros proyectos de ley dirigidos a la seguridad en línea de los jóvenes, incluidos los requisitos de prueba de la nueva era para productos de hardware.
Esta nueva regulación también se introdujo después de que Newsom firmara oficialmente el histórico proyecto de ley de transparencia de la IA: el Proyecto de Ley del Senado 53. La legislación sobre la IA ha causado una controversia generalizada en California en los últimos años y ha atraído mucha atención de la industria.
