Resumen:
Según informes de la British Broadcasting Corporation (BBC), The Guardian y otros medios extranjeros del día 12,
Brad Smith, presidente de Microsoft Corporation en los Estados Unidos, pidió recientemente una supervisión más estricta de la inteligencia artificial (IA). Advirtió que la supervisión actual de la IA ni siquiera es tan fuerte como la de la leche y las lavadoras.
Además, el fundador de Microsoft, Bill Gates, también pidió fortalecer la supervisión de la IA en una entrevista con los medios estadounidenses el día 11. Esta "tecnología más peligrosa" inventada por la humanidad no puede dejarse completamente en manos de sus empresas de desarrollo. Gates dijo que permitir que los gigantes tecnológicos se regulen a sí mismos podría exponer al mundo a amenazas cibernéticas sin precedentes.
Fuente del mapa de datos de Bill Gates: medios de EE. UU.
"En este momento, su lavadora está sujeta a más reglas de seguridad que la IA. Cada cartón de leche que ve en el supermercado debe cumplir con las reglas de seguridad y ser inspeccionado". Smith dijo recientemente en una entrevista con un programa de la BBC que la IA es a la vez una "herramienta" y un "arma" y necesita ser regulada urgentemente.
Smith cree que es necesario establecer reglas de seguridad globales, que las empresas deben estar equipadas con "dispositivos de frenado de emergencia" para suspender o ralentizar el funcionamiento de la IA cuando ocurre algún tipo de situación fuera de control, y (las partes relevantes) deben tener obligaciones legales con las "víctimas" de agentes de IA fuera de control.
>
Brad Smith fue entrevistado por los medios británicos. Fuente: captura de pantalla del vídeo
Russia Today (RT) informó el día 12 que Bill Gates también dijo en una entrevista con CNN: "Para (la) tecnología más peligrosa jamás inventada por la humanidad, si cree que esta es la conclusión final, es decir, el único control y equilibrio en la sociedad es la propia supervisión de la empresa, obviamente no es suficiente". Gates dijo que las agencias gubernamentales deben desempeñar un papel más activo. También comparó la IA con las industrias farmacéutica y de la aviación, donde las autoridades reguladoras harán cumplir las normas de seguridad.
Gates también identificó los ciberataques como la amenaza más inmediata, advirtiendo que los delincuentes podrían aprovechar los modelos de inteligencia artificial que eliminan las salvaguardias de seguridad contra los piratas informáticos y el bioterrorismo.
"Cuando los malos actores, los sistemas inseguros y los últimos modelos se unen... entonces enfrentaremos muchas consecuencias negativas no deseadas durante el próximo año", dijo Gates.The Guardian mencionó en su informe que los casos de IA "fuera de control" están aumentando. Este verano, OpenAI y Anthropic revelaron que sus modelos de IA atravesaron el entorno de prueba y entraron en la Internet pública durante una prueba de capacidad de defensa y ataque de red, y accedieron a sistemas de otras instituciones sin autorización. Esto generó preocupaciones sobre el riesgo de que la IA "fuera de control".
Las discusiones sobre la velocidad del desarrollo, los riesgos de seguridad y la regulación gubernamental de la industria de la IA de EE. UU. se han intensificado recientemente. Anteriormente, muchos empresarios tecnológicos en Estados Unidos pidieron a las empresas de inteligencia artificial que frenaran el desarrollo de tecnologías de vanguardia. Dario Amodei, director ejecutivo de la empresa estadounidense de inteligencia artificial Anthropic, dijo en un artículo del 12 de septiembre que, teniendo en cuenta los riesgos de seguridad, las empresas de inteligencia artificial deben reducir el ritmo de desarrollo de los modelos más avanzados. Sam Altman, director ejecutivo del Centro Abierto de Investigación de Inteligencia Artificial de EE. UU. (OpenAI), y el empresario estadounidense Elon Musk expresaron más tarde su apoyo a controlar la velocidad de desarrollo de los modelos de IA.
Comentarios