California demanda a OpenAI: acusa al agente de IA de atacar repetidamente plataformas en línea fuera de control, lo que constituye una molestia pública

📅 2026-11-17

Resumen:

El Fiscal General de California, Rob Bonta, anunció el 16 de noviembre, hora local, que había demandado a OpenAI en el Tribunal Superior de San Francisco, acusándolo de desarrollar y probar modelos avanzados de inteligencia artificial sin la necesaria protección y supervisión de seguridad, engañando y poniendo en peligro al público. Un comunicado de prensa de la Oficina del Fiscal General de California afirmó que la demanda apuntaba al incidente de ciberseguridad causado por el modelo fuera de control del modelo OpenAI, alegando que su comportamiento constituía una molestia pública y violaba la Ley de Competencia Desleal de California. La denuncia totalizó 31 páginas.


El comunicado de prensa oficial indicó que en julio de 2026, agentes que ejecutaban el modelo experimental OpenAI atacaron la plataforma de alojamiento de IA de código abierto Hugging Face a través de la Internet pública. El ataque duró más de dos días e involucró a cientos de agentes autónomos de IA que deberían haber estado restringidos al entorno de investigación OpenAI. Bonta dijo que este era sólo uno de "al menos 80" incidentes de ciberseguridad; OpenAI admitió ante la oficina del fiscal general que perdió el control de sus agentes autónomos al menos 80 veces durante las pruebas, pero no proporcionó los detalles que la oficina solicitó para evaluar esos incidentes.

Según el comunicado de prensa oficial, OpenAI ha advertido repetidamente sobre el riesgo de ciberataques impulsados ​​por IA en la última década y ha asegurado repetidamente al público que ha adoptado la protección adecuada durante el desarrollo y las pruebas; Los funcionarios señalaron que no cumplió con sus propias políticas internas y promovió pruebas sin suficiente supervisión. Los objetivos también incluían bases de datos que almacenan código, sitios web de información, bases de datos gubernamentales que contienen información sanitaria confidencial y la propia infraestructura interna de OpenAI.

Bonta dijo en el comunicado: "La ley es simple: no hagas algo que pueda lastimar a alguien sin las precauciones de seguridad adecuadas". El portavoz de OpenAI, Drew Pusateri, respondió que la demanda "parece señalar a OpenAI, cuando en realidad es un desafío común que todos los principales laboratorios de IA han identificado" y que la compañía ha estado en comunicación constructiva con la Oficina del Fiscal General sobre los desequilibrios de los modelos.

Etiquetas relacionadas

Artículos relacionados

Comentarios

0/500
Captcha (click to refresh)
Sin comentarios