Resumen:
Según Business Insider, el ex investigador de Anthropic Jacob Coxon detalló sus diferencias con el gigante de la IA durante un evento de preguntas y respuestas en la plataforma X el martes. Coxon se hizo popular anteriormente por su advertencia de renuncia, creyendo que la IA puede destruir a la humanidad en el futuro.
Coxen
Coxson dijo que el liderazgo antrópico se equivoca al utilizar una "filosofía consecuencialista" para explicar por qué debe participar en la ampliación de las fronteras de la investigación de la IA.
"Si este concurso es inevitable, no deberías participar en él", escribió Coxon.
Coxson destacó específicamente a Anthropic por su impulso a la automejora recursiva (RSI), el proceso mediante el cual los modelos de IA pueden mejorarse a sí mismos y construir sus propios modelos sucesores.
"Instigaron la reciente carrera en torno a RSI en gran medida porque creían que esta carrera era inevitable. Cabe señalar que OpenAI tuvo que abandonar mucho bagaje como el de Sora porque Anthropic estaba funcionando con toda su fuerza en ese momento". Dijo Coxon.
Coxson explica sus diferencias con Anthropic
Coxson también dijo que el liderazgo de Anthropic es demasiado cauteloso con los gobiernos de China y Estados Unidos. "No creen que las negociaciones sean posibles".
El director ejecutivo de Anthropic, Dario Amodei, ha expresado repetidamente su inquietud: si Anthropic es el único laboratorio de vanguardia que ralentiza el desarrollo, otras empresas de IA pueden adoptar diferentes medidas de seguridad.
"Si nos desarrollamos demasiado lentamente, sigo pensando que las personas equivocadas terminarán controlando esta tecnología", dijo Amodei a CNN recientemente. "Esto también aumentará en gran medida la posibilidad de que las cosas salgan mal."
Comentarios