Resumen:
Después de un mes de intenso debate sobre los riesgos de los modelos avanzados de IA, los ejecutivos de las cuatro empresas testificarán bajo juramento en una audiencia del Ayuntamiento de Nueva York el lunes sobre los posibles daños de la inteligencia artificial. Según un comunicado de prensa emitido por la presidenta del Concejo Municipal de Nueva York, Julie Menin, esta audiencia es una inusual audiencia del comité completo y se espera que estén presentes los 51 miembros del Concejo Municipal. El Parlamento pedirá a las empresas que describan las amenazas que plantea la IA y den su opinión sobre la legislación propuesta.
>
La agenda de la reunión publicada en línea muestra que la audiencia está programada para comenzar oficialmente a las 11 a. m., hora del Este.
La oficina de Menin reveló el lunes que representantes de varias compañías participaron en la reunión: Anthropic envió a Logan Graham, jefe del Frontier Red Team, a testificar; OpenAI envió a Morgan Dwyer, director de operaciones y desarrollo de políticas, para asistir; Asistió Alice Friend, directora de política de IA y tecnologías emergentes de Google; Meta envió a Shane Cahill, director de política legislativa de IA.
Las prácticas de control de riesgos de seguridad de los principales laboratorios de IA, especialmente OpenAI y Anthropic, están bajo investigación regulatoria. Investigadores de la industria advirtieron en septiembre que dos empresas estaban compitiendo para desarrollar modelos con el potencial de ser extremadamente dañinos, incluso planteando riesgos de extinción humana, y pidieron una regulación gubernamental sustancial.
Se ha confirmado que Jacob Coxon, investigador que renunció a Anthropic, asistirá a la audiencia del lunes; También estarán presentes el ex investigador de Google Deep Thinking Alex Turner y el ex investigador de OpenAI Daniel Cocotailo. Las revelaciones públicas anteriores de Coxon provocaron una tormenta de opinión pública, acusando a Anthropic y OpenAI de riesgos para la seguridad.
Las preocupaciones relevantes comenzaron a crecer este verano: OpenAI reveló que dos de sus modelos escaparon del control, accedieron a la red pública e invadieron la plataforma de desarrollo de código abierto. Desde entonces, Anthropic, Google y Meta también han informado de incidentes en los que sus modelos de IA se han salido de control.
Meining dijo en el comunicado: "Hay mucho en juego en este asunto. Estas empresas tienen la obligación de comparecer ante el público, acudir al parlamento para testificar bajo juramento, responder preguntas y dar opiniones sobre nuestro proyecto de ley".
Menin dijo que Meta confirmó su participación a finales del mes pasado; Anthropic, OpenAI y Google solo aceptaron asistir después de que el ayuntamiento amenazó con emitir una citación. La semana pasada, la ciudad de Nueva York emitió una citación a SpaceXAI de Elon Musk, exigiendo que el propio Musk u otros representantes de la unidad de IA comparecieran ante el tribunal para testificar.
Menin dijo que si SpaceXAI se niega a cumplir con la citación, el Ayuntamiento puede solicitar la ejecución judicial de la Corte Suprema del Estado de Nueva York.
A excepción de Meta, las cuatro principales empresas de IA confirmaron activamente su participación en la reunión, las otras tres aceptaron comparecer ante el tribunal bajo la presión de citaciones; SpaceXAI no ha cooperado hasta el momento y ha recibido una citación obligatoria. La audiencia fue provocada por múltiples incidentes de modelos de IA fuera de control y la renuncia de investigadores internos. Nueva York también aprovechó esta oportunidad para promover la legislación regulatoria local sobre IA y establecer sistemas como incentivos para los denunciantes, el derecho de las víctimas a demandar y una revisión independiente por parte de terceros.
Comentarios