Resumen:
El Papa León XIV emitió recientemente otra advertencia sobre la aplicación de la inteligencia artificial en el campo militar, llamando a los gobiernos a tomar acciones específicas para prohibir los sistemas de armas que pueden determinar de forma independiente los objetivos de los ataques y llevar a cabo ataques fatales. Hizo hincapié en que las decisiones importantes que afectan a la vida humana, la libertad y el uso de la fuerza siempre deben estar bajo una supervisión humana eficaz, informada y responsable y no pueden dejarse en manos de la inteligencia artificial para que las tome de forma independiente.
El 30 de octubre, hora local, el Papa León XIV se reunió en el Vaticano con científicos, expertos técnicos y representantes de instituciones afines que participaron en una conferencia especial sobre inteligencia artificial. La conferencia, titulada "El futuro de la inteligencia artificial: un diálogo entre el Vaticano y la comunidad científica sobre el desarrollo y la aplicación de tecnologías inteligentes", fue organizada conjuntamente por la Academia Pontificia de Ciencias de la Vida del Vaticano y el Instituto del Futuro de la Vida y se centró en las cuestiones técnicas, éticas y sociales que plantea el desarrollo de la inteligencia artificial.
En su discurso, el Papa recordó el discurso pronunciado por su predecesor, el Papa Francisco, ante los líderes del Grupo de los Siete en 2024. En ese momento, Francisco describió la inteligencia artificial como una herramienta apasionante y preocupante, y dejó claro que a ninguna máquina se le debe dar el poder de decidir si quitar o no una vida humana. León XIV creía que esta advertencia sigue siendo relevante hoy.
León XIV señaló que el futuro de la inteligencia artificial no está predestinado. Como tecnología desarrollada por humanos, la dirección de su desarrollo depende en última instancia de las propias decisiones de los humanos. Por tanto, los humanos no sólo tienen la responsabilidad de guiar el desarrollo de la inteligencia artificial, sino que también deben cambiar o incluso rechazar determinadas aplicaciones cuando sea necesario. La verdadera cuestión que debe debatirse no es sólo qué puede hacer la inteligencia artificial, sino, más importante aún, qué propósito quieren los humanos que sirva.
En particular, enfatizó que la inteligencia artificial debe aceptar restricciones éticas efectivas, especialmente no permitir que los sistemas algorítmicos decidan quién debe ser el objetivo o quién debe estar sujeto al control fronterizo sin una supervisión humana sustancial. Colocar a una persona en una lista de objetivos militares o en una base de datos de control fronterizo corre el riesgo de quedar reducido a un conjunto de datos, mientras que se ignoran las vidas reales y los derechos individuales involucrados.
Por lo tanto, el Papa llamó a los países a llevar a cabo el llamado "desarme" de la inteligencia artificial, y específicamente instó a los países que están a punto de celebrar una conferencia relevante en Ginebra, Suiza, en noviembre, a tomar medidas concretas para promover la prohibición de armas letales autónomas.
Las llamadas armas letales autónomas se refieren a sistemas de armas que pueden identificar, seleccionar y atacar objetivos sin intervención humana directa. Con el desarrollo de la inteligencia artificial, la visión por computadora, los drones y los sistemas militares automatizados, este tipo de tecnología se ha convertido en un tema importante en el debate de la comunidad internacional sobre la ética militar y las reglas de la guerra. La controversia central es que una vez que las máquinas adquieran la capacidad de decidir de forma independiente los objetivos de los ataques, la atribución de responsabilidad, las consecuencias de los errores de juicio y el control humano de la guerra pueden enfrentar nuevos desafíos.
Además de los usos militares, León XIV también expresó claras objeciones sobre si la inteligencia artificial debería obtener personalidad jurídica. Señaló que las máquinas son sólo herramientas, no personas. La inteligencia artificial no tiene cuerpos, emociones, experiencias de vida y relaciones interpersonales reales, y no puede comprender el amor, la amistad, el trabajo y la responsabilidad a partir de su propia experiencia.
Cree que si el sistema de inteligencia artificial recibe personalidad jurídica o derechos independientes, puede oscurecer al verdadero sujeto responsable. Cuando la IA causa daño, las víctimas pueden tener que lidiar con un sistema técnico que no puede soportar la responsabilidad moral y, por lo tanto, las responsabilidades de los desarrolladores, operadores y usuarios reales pueden volverse menos claras.
El Papa también enfatizó que el desarrollo de la inteligencia artificial debe servir a los intereses comunes de toda la sociedad y no puede convertirse simplemente en una herramienta para que unas pocas empresas y grupos de interés obtengan poder y riqueza. La atención médica, el conocimiento, las herramientas y las oportunidades de desarrollo que genera el progreso tecnológico deberían beneficiar a los diferentes países y grupos sociales de manera más equitativa, especialmente a los más necesitados.
En su opinión, actualmente no faltan debates de principios sobre la ética de la inteligencia artificial en el mundo. La verdadera cuestión urgente es establecer un sistema que pueda transformar estos principios en limitaciones prácticas. La comunidad internacional necesita formular normas comunes, establecer un mecanismo de supervisión independiente y aclarar el sistema de rendición de cuentas en el desarrollo y uso de la inteligencia artificial, de modo que se puedan revisar las decisiones pertinentes y se puedan proporcionar reparaciones efectivas cuando se causen daños.
Este discurso continúa la posición central de la primera encíclica de León XIV "Magnifica Humanitas" ("Gran Humanidad") publicada en mayo de este año. El documento enumera la inteligencia artificial como uno de los temas clave, pide a los países que fortalezcan la supervisión legal para evitar que el desarrollo tecnológico dañe la dignidad humana y advierte que la aplicación de la inteligencia artificial en la guerra, el mercado laboral y la toma de decisiones públicas puede tener impactos de gran alcance.
El mayor enfoque de León XIV en la cuestión de las armas letales autónomas también ha llevado la posición del Vaticano a una conexión más directa con las discusiones en curso de la comunidad internacional sobre la gobernanza de la inteligencia artificial militar. Del 16 al 20 de noviembre se celebrarán en Ginebra reuniones pertinentes en el marco de la Convención de las Naciones Unidas sobre ciertas armas convencionales. Uno de los temas tratados será la supervisión internacional de las armas letales autónomas.
El Papa no pidió un cese total de la investigación en inteligencia artificial, pero abogó por el establecimiento de límites claros para las aplicaciones que pueden causar daños personales irreversibles. Espera que los países puedan establecer sistemas regulatorios eficaces a través de la cooperación internacional para garantizar que la tecnología esté siempre bajo la responsabilidad y el control humanos, en lugar de permitir que la velocidad de desarrollo de la inteligencia artificial supere la capacidad de la sociedad humana para gestionar los riesgos.
Comentarios