Resumen:
El director ejecutivo de OpenAI, Sam Altman, dijo que todavía existen diferencias fundamentales entre las visiones del mundo subyacentes de OpenAI y su rival Anthropic en el tema de la regulación de la inteligencia artificial. En una entrevista, propuso que el enorme valor que aporta esta tecnología es digno de la parte del riesgo de la sociedad; La tecnología de IA debería seguir estando ampliamente abierta al público.
El director ejecutivo de OpenAI, Sam Altman, dijo en una entrevista que los beneficios de la IA son suficientes para que la sociedad acepte algunos riesgos
"Existe una enorme brecha en la filosofía", dijo Altman. Cuando se le preguntó sobre sus principales diferencias con Anthropic y su director ejecutivo, Dario Amodai, Altman dijo: "Creemos que para cosechar los beneficios de esta tecnología y garantizar que las personas tengan derecho a usarla de forma autónoma, el mundo debería aceptar que suceden algunas cosas malas".
Anthropic ha sido durante mucho tiempo el más firme defensor de la regulación de la IA en la industria. No hace mucho, esta postura habría estado en desacuerdo con el impulso de OpenAI por una regulación ligera. Sin embargo, en los últimos meses, las diferencias políticas entre las dos empresas líderes en IA se han reducido. Después de una serie de hackeos de alto perfil y un comportamiento errático del modelo, OpenAI ha girado para apoyar reglas regulatorias más estrictas.
Ultraman estuvo de acuerdo con el comentario de Amodai el mes pasado de desacelerar el ritmo del desarrollo de modelos grandes de vanguardia. OpenAI también siguió el ejemplo de Anthropic y apoyó la introducción de nuevos proyectos de ley en algunos estados de EE. UU. para establecer requisitos de seguridad más estrictos que los estándares apoyados anteriormente por los desarrolladores de ChatGPT. Esto representa un cambio sutil en su estrategia regulatoria a nivel estatal. Los cabilderos políticos de OpenAI también apoyaron recientemente un proyecto de ley bipartidista de la Cámara que exige que las principales empresas de IA contraten asesores de seguridad externos.
Aunque las posiciones de ambas partes tienden a ser cercanas, Altman aún intentó trazar una línea clara entre el pensamiento regulatorio de las dos compañías. Señaló que los asesores tecnológicos cercanos al presidente Trump habían criticado a Anthropic por su captura regulatoria.
“No estoy de acuerdo con esta opinión, pero entiendo la opinión de algunas personas: esta tecnología se volverá extremadamente poderosa y riesgosa, por lo que debería ser dominada por un laboratorio en San Francisco para garantizar que no suceda nada malo, y luego el laboratorio decide cómo distribuir los dividendos de la tecnología”. Altman dijo que esta compensación es completamente inaceptable y va en contra del enfoque regulatorio ligero respaldado por OpenAI.
“No aceptaré un acuerdo en el que garanticemos que no habrá grandes ataques de piratería, ni abuso de tecnología, ni fraude, ni todo tipo de cosas malas que puedan suceder”, dijo Altman, “porque creo que las buenas acciones que los humanos pueden crear usando la IA superarán con creces el daño que trae en órdenes de magnitud”.
El director general de OpenAI añadió más tarde que no acepta riesgos verdaderamente catastróficos, incluida la posibilidad de que la IA provoque situaciones graves fuera de control.
Cuando se le pidió un comentario, un portavoz de Anthropic dijo que las propuestas regulatorias de la compañía solo se aplicarían a los modelos de vanguardia. La compañía también citó una conversación que Amodai tuvo con un administrador de inversiones en las redes sociales en agosto en respuesta a las críticas a la captura regulatoria y el impacto de las políticas regulatorias en las pequeñas empresas.
Amodai dijo en ese momento: "Anthropic siempre ha sido muy cauteloso al formular propuestas políticas. Hemos hecho todo lo posible para diseñar soluciones que creen condiciones favorables para los competidores más pequeños y al mismo tiempo limiten a los gigantes de la IA de vanguardia".
La entrevista de Altman también abordó una serie de temas: el nuevo acuerdo de IA de Trump con empresas de tecnología líderes, su plan de cambio de marca para crear "superinteligencia"; múltiples incidentes de piratería autónoma causados por modelos OpenAI y si la empresa debería asumir la responsabilidad legal; el impacto de la enorme afluencia de fondos de la industria de la IA en la política estadounidense; la influencia de los llamados altruistas efectivos dentro de OpenAI; y sus opiniones sobre figuras políticas clave como el presidente francés Emmanuel Macron y el gobernador de California Gavin Newsom.
Comentarios