Resumen:
El 20 de noviembre, según el medio estadounidense "The San Francisco Standard" (The San Francisco Standard), el ex investigador antrópico Jacob Coxon apareció frente a la sede de San Francisco el día de la oferta pública inicial de la compañía y apeló públicamente a los manifestantes en el lugar para que prohibieran la automejora recursiva (RSI) en los sistemas de inteligencia artificial.

Coxson dijo en el lugar: "Deberían prohibir el RSI y desactivarlo".
También dijo a los manifestantes: "Por cada persona que viene aquí, hay cientos de miles de personas que vendrán aquí si saben lo que está pasando. Y hay millones de esas personas."
RSI significa automejora recursiva, lo que significa que el sistema de inteligencia artificial mejora aún más sus propias capacidades mejorando sus propios algoritmos, modelos o procesos de investigación y desarrollo, y utiliza las capacidades mejoradas para continuar con la siguiente ronda de optimización. Se considera que este mecanismo probablemente acelerará el desarrollo de capacidades de IA y también genera preocupación sobre el riesgo de que los sistemas de IA estén fuera de control.
Coxon había renunciado previamente a Anthropic. Esta vez pidió públicamente la prohibición del RSI, lo que refleja la controversia en torno a las capacidades de mejora independiente y los límites de seguridad de los sistemas avanzados de IA.
Comentarios