Resumen:
El 4 de noviembre, según Reuters, OpenAI reveló en octubre de este año que la compañía descubrió un dispositivo de grabación que había sido colocado secretamente en una sala de conferencias ejecutiva. Muchos ex empleados de OpenAI tuvieron la misma reacción: no se sorprendieron.
Alfzan está acusado de instalar equipos de escucha
El Departamento de Justicia de Estados Unidos dijo el 13 de octubre que funcionarios federales encargados de hacer cumplir la ley arrestaron a un hombre saudita, Abdulrahman Alfozan, y lo acusaron de instalar un dispositivo de grabación oculto en una sala de conferencias ejecutiva. El dispositivo estaba escondido en papel higiénico para evitar ser detectado. Alfzan, que ahora tiene 35 años, era ingeniero en OpenAI en ese momento.
Según cinco personas familiarizadas con el asunto, incluso antes de que OpenAI lanzara ChatGPT a finales de 2022, algunos empleados de la empresa ya habían expresado internamente su preocupación sobre sus prácticas de seguridad. Estos empleados habían expresado sus preocupaciones a los altos directivos y a la junta directiva de OpenAI. Sin embargo, algunos empleados, después de hablar con la gerencia y la junta directiva, concluyeron que la gerencia estaba más enfocada en mantenerse al día con competidores como Google y Anthropic que en la seguridad en sí.
Estos empleados creen que los controles de seguridad de OpenAI son demasiado laxos, lo que permite que personas externas, incluidos gobiernos extranjeros, obtengan con relativa facilidad información técnica confidencial de la empresa, dijeron personas familiarizadas con el asunto. Por ejemplo, cualquier empleado de OpenAI con acceso al código de la empresa puede ver los detalles técnicos detrás de muchos de los proyectos de la empresa.
Según dos personas familiarizadas con el asunto, OpenAI ha comenzado a ajustar su estrategia para abordar los problemas de seguridad. Thibault Sottiaux, miembro de la alta dirección que supervisa el desarrollo de productos, recientemente se hizo cargo de una iniciativa interna para fortalecer la seguridad de los sistemas internos de OpenAI. En agosto, Sotio reasignó una cuarta parte de los ingenieros de producción de OpenAI para mejorar su infraestructura de seguridad.
Estas advertencias internas, que incluyen años de quejas de los empleados a los líderes sobre vulnerabilidades internas, algunas de las cuales no han sido reportadas previamente, revelan una tensión dentro del campo de la IA. Desde el lanzamiento de ChatGPT a finales de 2022, la tecnología de inteligencia artificial se ha convertido en un activo estratégico para Estados Unidos, lo que ha presionado a las empresas estadounidenses para que protejan su tecnología de los competidores extranjeros.
Sin embargo, agregar capas de protecciones de seguridad también podría ralentizar el progreso en el avance de la tecnología de inteligencia artificial y podría complicar los planes para OPI masivas de OpenAI y Anthropic. Estas OPI las colocarán entre las empresas más valiosas del mundo.
La velocidad de desarrollo de la IA es más importante
Will DePue, un ex investigador que renunció a OpenAI en abril de este año, publicó en
Cuando se le preguntó sobre las preocupaciones de los empleados y su percepción de que la dirección no está tomando medidas al respecto, la portavoz de OpenAI, Elana Widmann, dijo que OpenAI es una de las organizaciones más atacadas del mundo. Es por eso que las empresas invierten mucho en sus programas de seguridad para protegerse contra ataques de personas internas, ciberdelincuentes y actores estatales, dijo.
"Proteger nuestra tecnología, datos y empleados es una responsabilidad que nos tomamos muy en serio y es un trabajo de importancia nacional. Nuestras acciones recientes demuestran que este mecanismo de seguridad está funcionando: identificando riesgos y respondiendo con decisión. A medida que las tecnologías y amenazas sigan evolucionando, continuaremos fortaleciendo nuestras capacidades de defensa". dijo Weidman.
Comentarios