Resumen:
El director ejecutivo de OpenAI, Sam Altman, parece estar profundamente preocupado por el producto de inteligencia artificial parecido a una pesadilla que ayudó a crear, e incluso le puede resultar difícil dormir tranquilo. Alrededor de las 0:57 a. m., hora del Este, Altman publicó en la plataforma X: "Hay dos tendencias desastrosas en el desarrollo de la inteligencia artificial que deben evitarse. En primer lugar, podemos perder el control del futuro de la inteligencia artificial. Esto es inaceptable. Estamos firmemente del lado de la humanidad, y la inteligencia artificial siempre debe servir a las personas. Para hacer esto, debemos garantizar la velocidad de desarrollo de tecnologías y métodos de seguridad alineados, y mantenernos a la vanguardia de la iteración de las capacidades del modelo".
Continuó escribiendo: "El segundo riesgo es la alta concentración de poder en el mundo. Si una determinada persona o una determinada empresa domina una inteligencia artificial extremadamente poderosa e impone su propia visión del mundo a todos, el resultado será extremadamente distópico. Para evitar las dos principales amenazas mencionadas anteriormente, es necesario recorrer un estrecho camino intermedio. Por ejemplo, que un determinado país obtenga demasiado poder, o que un determinado laboratorio tenga demasiado que decir, son todos esos riesgos".
En solo dos días, el director ejecutivo de Anthropic, Dario Amodei, y Altman, dos gigantes de la industria de la inteligencia artificial, emitieron advertencias una tras otra sobre esta poderosa tecnología que lideraron y llevaron al principal equipo de I + D a acelerar.
Amodei dijo en su blog personal el sábado: "En los últimos meses, me he convencido cada vez más de que para responder plenamente a los riesgos relacionados, debemos actuar con más prudencia. No solo invertimos recursos para prevenir riesgos, sino que también debemos controlar la velocidad de iteración de las capacidades de la IA y dejar tiempo para ponernos al día con la prevención y el control de riesgos. Debemos ralentizar el ritmo de mejora de las capacidades de los modelos de inteligencia artificial. La tecnología general seguirá manteniendo un rápido desarrollo y debemos hacer un buen uso del tiempo que ganancia."
Después de que Amodei publicó su mensaje, Ultraman inmediatamente expresó su opinión y estuvo de acuerdo con el punto de vista de su competidor.
Los comentarios se producen después de que dos investigadores de IA expresaran su preocupación por los peligros de los modelos avanzados de IA.
A principios de la semana pasada, Jacob Coxon anunció su salida de Anthropic. Dijo que ni Anthropic ni OpenAI han asumido su debida responsabilidad en el desarrollo de sistemas de inteligencia artificial de alto rendimiento.
Posteriormente, el jefe de ciencia de alineación de Anthropic, Evan Harbinger, respondió a la publicación de Coxon, respaldando los sentimientos del ex empleado. Cree que hay más del 10% de posibilidades de que esta tecnología "provoque la extinción de todos los seres humanos".
El presidente Trump desestimó el domingo tales preocupaciones de seguridad. Dijo: "Estamos liderando a China en el campo de la inteligencia artificial. Somos el país tecnológicamente más avanzado del mundo y, francamente, espero mantener esta ventaja, porque quien gane la competencia de inteligencia artificial ganará el futuro".
Afectadas por las preocupaciones antes mencionadas, las acciones líderes en el sector de la IA se vieron bajo presión el lunes, y el mercado teme que el desarrollo de la tecnología de IA pueda encontrar obstáculos. SanDisk bajó un 5% en las operaciones previas a la comercialización, mientras que Nvidia bajó un 3% en las operaciones previas a la comercialización.
Dan Ives, socio fundador de Yorkville Ives, dijo a Yahoo Finanzas: "Creo que el artículo de Dalio, junto con las discusiones de la industria del fin de semana, provocará un breve debilitamiento en la apertura del lunes, pero el mercado pronto se recuperará. Los inversores pronto verán claramente que a pesar de esta tormenta de opinión pública en la industria, la situación general de 5 billones de dólares en inversiones en IA en los próximos cinco años no cambiará materialmente".
Comentarios