Resumen:
El director ejecutivo de OpenAI, Sam Altman, publicó en plataformas sociales el 3 de octubre que estaba "muy perturbado por alguien que intentaba darle poder religioso a un modelo de IA, o que la gente renunciara a su propio juicio" y creía que se trataba de un problema de seguridad real. Altman no nombró a ninguna empresa en la publicación, pero sus comentarios siguieron a un informe sobre Anthropic discutiendo el conocimiento de la IA con el Vaticano, por lo que algunos medios lo vieron como una crítica indirecta a Anthropic.
La controversia se originó a partir de un informe del New York Times del 29 de septiembre. El periódico afirmó que el cofundador de Anthropic, Christopher Ola, había discutido con eruditos religiosos si los modelos de IA como Claude podrían tener conciencia y estatus moral, y cómo hacer que los modelos exhibieran un comportamiento moral; La empresa también había invitado a académicos de diferentes tradiciones religiosas a participar en intercambios a puerta cerrada. El informe también decía que después de que Ola leyera el borrador de la encíclica del Papa León XIV sobre inteligencia artificial, le preocupaba su posición de no aceptar que las máquinas pudieran tener conciencia, y había considerado retirar a Anthropic de las actividades relacionadas. Luego, el equipo presionó a los asesores papales, con la esperanza de que tomaran en serio la posibilidad de una conciencia modelo. Ora le dijo al New York Times que los investigadores no saben si el modelo de IA es consciente y, de hecho, no está seguro. La clave es encontrar la respuesta correcta.
Lo que los medios llaman un "conflicto" con el Papa es, más exactamente, desacuerdos sobre la postura de la encíclica y lobbying entre bastidores; Los informes públicos actuales no indican que Ola haya tenido alguna vez un enfrentamiento cara a cara frente al Papa. La encíclica del Papa "Magnifica Humanitas" publicada en mayo afirmó claramente que los sistemas de IA existentes no tienen cuerpo, no experimentan sentimientos, alegría o dolor, y no tienen conciencia moral; pueden imitar el lenguaje y el análisis, pero no comprenden el contenido que generan. La encíclica afirma que la tecnología debe guiarse por la conciencia y por seres humanos libres, quienes deben ser responsables de determinar sus usos y límites.
Ultraman usó la frase "inteligencia mágica en el cielo" cuando habló de los objetivos de OpenAI en 2023; En un evento en Londres en 2024, también dijo que no ora para que Dios esté de su lado, sino que ora para que él mismo esté del lado de Dios, y dijo que participar en el desarrollo de modelos de IA "se siente como estar del lado de los ángeles". El artículo de revisión también citó una declaración atribuida a Ultraman en 2015 sobre "crear una nueva forma de vida", pero el artículo no proporcionó una fuente original igualmente clara.
Ultraman admitió públicamente una vez que el seudónimo de la cuenta Roon era su trompeta; la cuenta compartió un diagrama en espiral con texto hebreo que fue interpretado por los comentaristas como un estilo de Cabalá, con el texto "Lightcone Infrastructure". El propio Altman también ha tomado prestadas imágenes religiosas o místicas. Sin embargo, el significado religioso de estas imágenes pertenece a la interpretación del autor y no puede utilizarse para probar la afirmación de Ultraman de que la IA tiene conciencia o divinidad.
Las discusiones en torno a Anthropic también requieren una distinción entre hechos y comentarios. El New York Times informó que la empresa había explorado la posibilidad de una conciencia modelo y un estatus moral, pero el propio Ola dejó claro que no había ninguna conclusión al respecto; Las diferencias entre las dos empresas en cuanto a la conciencia de la IA también reflejan los temas que se debaten en la industria de la tecnología: cómo las personas deberían ver el antropomorfismo de los modelos, si se les debe dar una identidad moral y cómo evitar que el sistema reemplace el juicio humano al interactuar con la IA.
Comentarios