Resumen:
Ante las crecientes preocupaciones globales sobre el riesgo potencial de que la inteligencia artificial de alto nivel se salga de control y la tecnología reemplace el dominio humano, el gigante tecnológico Microsoft ha anunciado oficialmente un nuevo conjunto de normas marco: el "Código de conducta humanista de la IA". El Código establece una serie de reglas de hierro vinculantes para el desarrollo interno y la implementación de productos, con el objetivo de garantizar que la investigación y el desarrollo de sistemas de inteligencia artificial de vanguardia sirvan siempre a la autonomía humana, la dignidad y el bienestar social, y eviten decididamente que la evolución tecnológica caiga en una vía extrema que prive a los humanos del derecho a tomar decisiones o socave los contratos sociales básicos.
Según las últimas directrices divulgadas por Microsoft, la piedra angular del marco es "la inalienabilidad del estatus de sujeto humano". Las directrices estipulan claramente que en escenarios importantes de toma de decisiones sobre medios de vida que involucran intereses públicos clave, sentencias legales, diagnósticos médicos, control de infraestructura crítica y empleo de personal central, los sistemas de inteligencia artificial sólo pueden servir como "copiloto" para ayudar al juicio humano y mejorar la eficiencia cognitiva. Está absolutamente prohibido otorgar a los sistemas de IA una descentralización completa o derechos de ejecución autónoma de extremo a extremo que estén divorciados del poder de veto final humano. Todos los equipos de ingeniería dentro de Microsoft que participan en el desarrollo de arquitectura de modelos grandes de vanguardia y agentes autónomos (Agentes de IA) deben incorporar por la fuerza mecanismos de bloqueo a nivel de hardware y software "Human-in-the-loop" en el diseño subyacente del sistema para garantizar que los humanos tengan la autoridad final para asumir y finalizar completamente las operaciones del sistema con un solo clic en cualquier momento de emergencia.
En respuesta al profundo impacto de la tecnología en el mercado laboral y la psicología social, el "Código de Conducta de la Inteligencia Artificial Humanista" también proporciona límites regulatorios claros. Las directrices prohíben el uso indebido de la psicología del usuario mediante el uso de algoritmos antropomórficos con alta simulación, fuerte dependencia emocional o características de manipulación inductora, y exigen que todos los sistemas generativos aclaren sus atributos artificiales y sintéticos en las interacciones. Al mismo tiempo, Microsoft promete establecer un "mecanismo especial de evaluación de la transformación de habilidades y resiliencia de la fuerza laboral" en el proceso de promover la automatización de la IA a nivel empresarial. Al medir los retornos comerciales de los productos, también evaluará sistemáticamente el impacto estructural que la sustitución de tecnología trae a los medios de vida de los trabajadores y promoverá un diseño de productos responsable que esté orientado a mejorar la creatividad de los trabajadores en lugar de eliminar empleos de manera simple y brutal.
Además de establecer una línea roja protectora en el lado de la arquitectura técnica, Microsoft también ha elevado este conjunto de principios humanistas a un requisito previo para los asuntos legales corporativos, la cadena de suministro y la cooperación empresarial. Cuando los ejecutivos de Microsoft publicaron las directrices, afirmaron que la empresa no sólo implementará estrictamente estos principios en toda su línea de productos de IA, sino que también llevará a cabo revisiones de cumplimiento de grandes socios externos de modelos, clientes autorizados de tecnología y desarrolladores de aplicaciones ecológicas a través de comités de revisión, y cortará el suministro de tecnología o suspenderá la cooperación para cualquier proyecto de IA que viole descaradamente principios humanistas, desarrolle comportamientos autónomos maliciosos incontrolables o tenga tendencias de manipulación encubierta.
Los observadores de la industria y los estudiosos de la ética tecnológica señalaron que en el contexto de las principales empresas de tecnología que compiten por la velocidad de la superinteligencia (AGI) e incluso por la investigación y el desarrollo de la inteligencia sobrehumana, Microsoft ha establecido y promovido oficialmente el ancla de valor de la "IA humanista". Esta no es solo una respuesta proactiva a la reciente tendencia de una supervisión cada vez más estricta de la seguridad y la competencia antimonopolio de la IA en los círculos políticos, sino también un movimiento estratégico importante para aprovechar el terreno ético en la carrera armamentista tecnológica. La implementación de este código ha trazado una línea de equilibrio crucial entre el culto ciego al poder de la computación algorítmica y la insistencia en centrarse en las personas en la industria tecnológica. Sus esfuerzos posteriores de implementación específica en una gran cantidad de productos comerciales y su investigación de vanguardia con visión de futuro también se convertirán en un punto de referencia de la industria para examinar la efectividad de la moderación autoética por parte de los gigantes tecnológicos.
Comentarios