Resumen:
A medida que las discusiones en la industria tecnológica global sobre los límites de las capacidades de la inteligencia artificial continúan calentándose, el presidente y director ejecutivo de Microsoft, Satya Nadella, declaró públicamente recientemente que cualquier exploración de la "superinteligencia" debe basarse en servir a los humanos y aceptar el control humano; de lo contrario, "no vale la pena perseguir" ese desarrollo tecnológico.
Nadella enfatizó que Microsoft apoya brindar una amplia gama de opciones y apertura en toda la tecnología de inteligencia artificial, al tiempo que insiste en que las empresas tengan control sobre sus propios modelos y mecanismos de aprendizaje. Señaló que cualquier investigación y desarrollo sobre superinteligencia debe seguir un principio básico, es decir, la inteligencia artificial debe ayudar a los humanos y estar siempre bajo control humano. Si no se puede cumplir esta premisa, entonces la búsqueda de la superinteligencia pierde su significado.
Para los usuarios empresariales que están implementando tecnología de inteligencia artificial, Nadella cree que las empresas deben controlar completamente sus propios activos de conocimiento explícitos y tácitos únicos. Dijo que cada institución debería poder construir su propio sistema de aprendizaje continuo sin tener que depender de un único proveedor de modelos. Al mismo tiempo, las empresas deberían tener la capacidad de incorporar su propio conocimiento en modelos y sistemas de parámetros controlados por ellas mismas para garantizar la autonomía de los datos y los derechos de propiedad intelectual.
En términos de gobernanza de la seguridad de la inteligencia artificial, Nadella dijo que Microsoft da la bienvenida a más investigaciones sobre problemas de alineación de modelos y apoya un ritmo de desarrollo más prudente y controlado. Él cree que garantizar que el comportamiento de la IA sea consistente con los objetivos humanos debe considerarse como un objetivo central del diseño del modelo desde el principio, en lugar de una ocurrencia tardía.
Al mismo tiempo, Nadella expresó su apoyo a nuevas ideas como los "evaluadores integrados". Los mecanismos pertinentes están diseñados para monitorear y evaluar continuamente el comportamiento de los sistemas de inteligencia artificial, de modo que la seguridad de la inteligencia artificial ya no se quede en el nivel de principios, sino que pueda transformarse en medidas técnicas prácticas y ejecutables.
Nadella también señaló que la gobernanza de la inteligencia artificial no debería estar en manos de unas pocas instituciones. Él cree que el proceso de formulación de reglas y alineación de valores para el desarrollo futuro de la inteligencia artificial requiere una amplia participación y opiniones representativas de diferentes países, diferentes campos industriales y académicos, y no puede estar dominado por unas pocas empresas de tecnología.
En general, la señal publicada por Microsoft esta vez muestra que la compañía espera fortalecer el énfasis en la seguridad del modelo, la autonomía corporativa y los mecanismos de participación social al tiempo que promueve el rápido desarrollo de la inteligencia artificial. Ahora que Microsoft está a punto de publicar un código de conducta para los modelos MAI de desarrollo propio, se espera que la discusión sobre cómo debería desarrollarse la superinteligencia, quién debería supervisarla y cómo mantener el control humano se intensificará aún más.
Comentarios