Resumen:
El gobernador de California, Gavin Newsom, firmó la Ley No Robot Bosses (SB 947), que impide a los empleadores confiar en la inteligencia artificial al despedir o disciplinar a los empleados. La nueva ley prohíbe a las empresas tomar este tipo de decisiones basándose únicamente en sistemas automatizados de toma de decisiones y también restringe el uso de la IA como herramienta principal de toma de decisiones. Si el empleador depende principalmente de los resultados de la IA para tomar decisiones disciplinarias o despidos, debe ser verificado por un revisor humano junto con otra información, como evaluaciones de la gerencia, evaluaciones de colegas y archivos de personal. Los empleados afectados también deben recibir una notificación por escrito de que la IA jugó un papel importante en la decisión, qué datos de los empleados utilizó el sistema y un contacto humano que pueda explicar con más detalle la decisión.
El autor del proyecto de ley, el senador estatal demócrata de California, Jerry McNerney, dijo que los trabajadores no deberían ser despedidos ni castigados con máquinas o IA; Se espera que la inteligencia artificial aumente la productividad, pero también puede cometer errores, juicios erróneos y mostrar sesgos, por lo que los humanos deberían controlar las herramientas de inteligencia artificial, y no al revés. Lorena González, presidenta de la Federación Laboral de California y una de las principales defensoras del proyecto de ley, dijo que los sindicatos y los trabajadores de California presionaron al estado para que tomara la iniciativa en la regulación de la IA en el lugar de trabajo y cambiaron el debate sobre cómo debería responder el público estadounidense a la entrada de la IA en el lugar de trabajo.
McNerney presentó el proyecto de ley por primera vez en 2025. Aunque el proyecto de ley fue aprobado por ambas cámaras de California con una mayoría abrumadora ese año, aún así fue vetado por Newsom. Newsom reconoció en ese momento que la toma de decisiones automatizada y no regulada podría perjudicar a los empleados, pero se opuso a exigir a las empresas que notifiquen a los empleados con antelación sobre cualquier sistema de inteligencia artificial que pudiera afectar las condiciones de trabajo, argumentando que el proyecto de ley original establecía una obligación de notificación demasiado amplia para todas las empresas y herramientas inofensivas. Cuando McEnany volvió a presentar el proyecto de ley en febrero de este año, eliminó el requisito de notificación previa y también eliminó una disposición que extendía la protección a los trabajadores por encargo; a este último se habían opuesto firmemente empresas de transporte compartido como Uber y Lyft. Los cambios aliviaron la presión del lobby de los grupos empresariales y tecnológicos, pero las empresas de California continuaron oponiéndose al proyecto de ley antes de su firma.
Robert Singleton, director senior de políticas y asuntos públicos para California y el oeste de EE. UU. en la Cámara de Comercio Progresista, dijo en una carta a Newsom que el proyecto de ley requiere que los empleadores cumplan con sus obligaciones cuando "confían principalmente" en sistemas automatizados de toma de decisiones, pero no define este concepto clave, lo que dificulta que las empresas juzguen cuándo la tecnología pasa de ayudar en la toma de decisiones a convertirse en la base principal. Advirtió que sin claridad sobre si las herramientas comunes están reguladas, los empleadores pueden mostrarse reacios a utilizar tecnología que pueda ayudar a mejorar la coherencia en la toma de decisiones, identificar riesgos de seguridad o ayudar a los gerentes a tomar mejores decisiones.
Newsom ha tomado recientemente una serie de acciones relacionadas con la IA. A principios de este mes, firmó una orden ejecutiva para abordar los riesgos existenciales que los modelos de IA pueden plantear "antes de que sea demasiado tarde" e impulsó el establecimiento de un marco a nivel estatal para evaluar y auditar de forma independiente los modelos de IA. También criticó al gobierno federal por abandonar su responsabilidad de proteger a los estadounidenses. Una encuesta publicada por la OCDE el año pasado mostró que Estados Unidos lidera el mundo en la aplicación de software de gestión automatizada. El 90% de los directivos estadounidenses afirmaron que sus empresas utilizan al menos una herramienta para ordenar, controlar o evaluar a los empleados. Ex empleados de Meta presentaron una demanda en julio de este año, alegando que la empresa había utilizado sistemas asistidos por IA para clasificar y seleccionar a los empleados en busca de despidos, y había afectado desproporcionadamente a los empleados que habían tomado una licencia médica o familiar; Meta negó las acusaciones pertinentes. Una encuesta publicada en mayo por United for Respect, una organización sin fines de lucro relacionada con la industria minorista estadounidense, mostró que los empleados de Amazon y Walmart también están cada vez más preocupados por la automatización de las decisiones de personal. El grupo presionó sin éxito a los accionistas de Walmart el verano pasado para que exigieran a la gerencia que revelara el uso de IA en la gestión de empleados.
La nueva ley surge mientras las preocupaciones públicas sobre la IA siguen aumentando en los Estados Unidos. Una encuesta de Gallup de julio mostró que el 39% de los estadounidenses creía que la IA haría más daño que bien, frente al 31% en 2025. Una encuesta del Pew Research Center realizada en agosto de este año encontró que el 71% de los estadounidenses creía que la IA "quitaría los puestos de trabajo a las personas", un aumento de aproximadamente 7 puntos porcentuales respecto a hace aproximadamente dos años. Newsom está considerando postularse para presidente en 2028 y se espera que la política de inteligencia artificial sea un tema importante para los candidatos demócratas. El candidato republicano a gobernador de California, Steve Hilton, también apoya públicamente la SB 947 y cree que el proyecto de ley no es lo suficientemente estricto. Dijo que los empleadores no deberían permitir que la IA determine si los empleados son despedidos, degradados, pierden horas regulares o son excluidos de proyectos de los que dependen para obtener ingresos.
California se convertirá en el primer estado en establecer un marco regulatorio tan estricto para la IA en el lugar de trabajo. Durante los últimos cinco años, Illinois y otros lugares han promulgado restricciones a la participación de AI en las decisiones laborales; La Ley Pública de Illinois 103-0804, que entró en vigor en enero de este año, exige que los empleadores notifiquen a los empleados cuando se utiliza IA en escenarios laborales específicos, pero no prohíbe el despliegue de sistemas digitales similares a agentes para tomar decisiones laborales. Proyectos de ley similares todavía están estancados en muchos estados del país. En junio de este año, los senadores demócratas estadounidenses Ed Markey y Brian Schatz propusieron un proyecto de ley federal del mismo nombre que prohibiría a los empleadores confiar en sistemas automatizados de toma de decisiones para tomar decisiones relacionadas con el trabajo. Sin embargo, como el Congreso no ha promovido activamente una legislación reguladora de la IA, las perspectivas del proyecto de ley son limitadas. Se han propuesto proyectos de ley similares en Nueva York, Luisiana y Nueva Jersey, pero aún no se han adoptado medidas al respecto. Nueva York se convirtió en el primer estado del país en prohibir los nuevos centros de datos de IA a principios de este año. La nueva ley de California podría impulsar a otros estados a acelerar la legislación sobre IA en el lugar de trabajo.
La Electronic Frontier Foundation, una organización de libertades civiles de tendencia liberal, dijo que firmar el proyecto de ley es un paso importante para brindar protección a los empleados en el lugar de trabajo que utilizan sistemas automatizados de toma de decisiones, y continuará trabajando con grupos laborales para promover políticas que mantengan la dignidad en el lugar de trabajo.
Comentarios