Resumen:
Jacob Coxon, un ex investigador de inteligencia artificial que trabajó para OpenAI y Anthropic, emitió recientemente una fuerte advertencia contra la competencia global de inteligencia artificial. En su última entrevista, dijo que está "90% seguro" de que China ha colocado personal de inteligencia dentro de OpenAI y Anthropic, y cree que a medida que la competencia en la investigación y el desarrollo de superinteligencia continúa aumentando, es casi imposible para las agencias de inteligencia de varios países ignorar a estas empresas que dominan las tecnologías más punteras.
Coxon dijo que, en su opinión, los principales laboratorios de inteligencia artificial del mundo se han convertido en un objetivo importante de la competencia geopolítica. Dado que la tecnología avanzada de IA puede tener un enorme impacto en los campos de la economía, el ejército, la ciberseguridad y la investigación científica en el futuro, los gobiernos de todo el mundo tienen fuertes incentivos para obtener información relevante. Considera que no es realista suponer que estas instituciones no sean penetradas en absoluto.
Además de expresar preocupaciones sobre cuestiones de seguridad, Coxon también reveló algunos detalles culturales dentro de Anthropic. Reveló que muchos empleados de Anthropic se llamarían a sí mismos "Hormigas". Este nombre proviene de la abreviatura y el uso derivado del nombre de la empresa Anthropic y algunos empleados también lo consideran una identidad interna para perseguir conjuntamente el objetivo de la superinteligencia.
Coxson ha recibido anteriormente una amplia atención por criticar públicamente la dirección de la industria de la IA. Como investigador que ha trabajado en OpenAI y Anthropic durante muchos años, ha estado involucrado durante mucho tiempo en investigaciones relacionadas con sistemas avanzados de inteligencia artificial. Después de dejar Anthropic, publicó una serie de artículos públicos, acusando a la industria de promover la investigación y el desarrollo de superinteligencia a un ritmo excesivo, mientras que las cuestiones de seguridad no han recibido una atención acorde con el progreso tecnológico.
Él cree que las empresas líderes en inteligencia artificial actualmente están atrapadas en una competencia feroz, con la esperanza de ser las primeras en construir sistemas súper inteligentes con capacidades de superación personal. Para competir por el liderazgo tecnológico, las empresas continúan aumentando la velocidad de la investigación y el desarrollo, pero la industria aún tiene que encontrar una solución madura para garantizar que los sistemas futuros estén siempre bajo control humano.
Coxon dijo que algunos investigadores en el centro de la industria creen sinceramente que la aparición de sistemas inteligentes sobrehumanos en los próximos años no es una fantasía lejana, sino un camino de desarrollo real. Advirtió que la gente generalmente subestima la velocidad del desarrollo y el impacto potencial de las tecnologías relacionadas. Una vez que los sistemas con un alto grado de autonomía obtienen mayores capacidades, pueden tener la capacidad de invadir sistemas informáticos, controlar infraestructura crítica y obtener acceso a recursos e influencia del mundo real.
Las discusiones sobre los riesgos de la superinteligencia han seguido calentándose recientemente. Muchos investigadores y directivos de OpenAI, Anthropic y otras importantes instituciones de investigación han discutido públicamente los riesgos existenciales que puede conllevar la inteligencia artificial. Algunos expertos de la industria abogan por establecer un marco regulatorio de seguridad más estricto y desacelerar el desarrollo de modelos de vanguardia para abordar primero los problemas de controlabilidad.
Sin embargo, algunas personas en la industria creen que un énfasis excesivo en los riesgos extremos puede ignorar el enorme potencial que ofrece la inteligencia artificial en campos como la investigación científica, la atención médica, la educación y la mejora de la productividad. Creen que reforzar las medidas de seguridad y seguir promoviendo la innovación tecnológica no son inconsistentes.
A medida que empresas como OpenAI, Anthropic, Google DeepMind y xAI continúan invirtiendo enormes sumas de dinero en la construcción de modelos de próxima generación, los debates sobre la seguridad de la inteligencia artificial, la competencia nacional y la dirección futura de la superinteligencia continúan aumentando. Los comentarios de Coxon sobre la penetración de la inteligencia y la competencia de superinteligencia han vuelto a colocar a la industria mundial de la inteligencia artificial en el centro de atención de la opinión pública.
Comentarios