Resumen:
El CEO de Microsoft AI, Mustafa Suleyman, publicó un artículo afirmando que la IA actualmente no es consciente y debería serlo. Aunque sea técnicamente posible, no está de acuerdo con el desarrollo de una inteligencia artificial consciente. Él cree que los desarrolladores no tienen derecho a introducir una nueva especie consciente en el mundo. Aboga por un camino de desarrollo más seguro y evita crear una IA consciente mientras disfruta de los dividendos de la IA.
El texto original es el siguiente:
Me preocupan algunas de las reacciones a mi reciente artículo sobre modelo de bienestar. Hay bastantes personas en la plataforma X que creen que deberíamos tomarnos en serio los derechos de la IA.
Muchas personas han entendido mal mi frase inicial: "La IA no tiene conciencia. No pueden percibir, experimentar ni sufrir dolor".
Entendieron esta frase como: "La IA no puede tener conciencia y nunca puede percibir, experimentar o soportar el dolor".
Pero esa no es mi intención. Elegí deliberadamente el tiempo presente: no están conscientes en este momento y debemos mantener este estado.
Creo que esta frase es un juicio objetivo y razonable sobre el sistema de IA actual. Basándome en la mejor evidencia disponible actualmente, mantengo esta opinión. No veo evidencia de que la IA sea consciente o deba ser bienestar. Si posteriormente surgen pruebas relevantes, por supuesto revisaré mi opinión.
Si hay evidencia de que la IA tiene conciencia, o de que el nivel de conciencia es lo suficientemente alto como para merecer bendiciones, entonces esta evidencia debe divulgarse a toda la sociedad de inmediato; corresponde a toda la sociedad decidir cómo debemos proceder a continuación.
Basado en toda la información que tengo hasta ahora: si es posible lograr una IA consciente, desarrollarla es una temeridad y no deberíamos construirla.
Si la conciencia comienza a surgir espontáneamente durante el entrenamiento, insto a todos a suspender el desarrollo de la IA hasta que podamos eliminar tales características del diseño.
Nuestras preocupaciones por el bienestar deberían priorizar a los humanos y animales que viven hoy en este planeta, así como a nuestro precioso y frágil entorno natural.
Nosotros, los desarrolladores de IA, no tenemos absolutamente ningún derecho a traer una nueva especie consciente al mundo, incluso si algunas personas quieren hacerlo con el bienestar de la IA como objetivo principal.
Los otros 8 mil millones de humanos conscientes en la Tierra no han aceptado participar en este experimento; proteger sus derechos morales, su seguridad y su bienestar es nuestra primera obligación.
Seamos claros: algunos hablan de crear una especie consciente con una mente digital que pronto podría ser más inteligente y más capaz que todos los humanos juntos.
Si parece sentir dolor, o peor aún, si realmente cree que puede percibir y experimentar dolor, lo más probable es que anteponga sus propias necesidades y deseos a sus objetivos operativos preestablecidos, no esté de acuerdo con nosotros y compita con nosotros.
Este tipo de IA tendrá capacidades de persuasión y engaño de primer nivel. Eventualmente pueden perjudicarnos por una sencilla razón: competirán con nosotros por recursos (energía, potencia informática, materiales de construcción, fondos de ingresos para apoyar sus propias exploraciones y deseos, etc.).
El reconocimiento de que las máquinas tienen conciencia será un momento histórico comparable al de Copérnico y Darwin, y uno de los acontecimientos más significativos en la Tierra desde el nacimiento de la vida. Una vez que construyamos máquinas conscientes, crearemos una especie digital completamente nueva. Esto subvertirá nuestro sistema moral, orden político y los cimientos de la civilización humana.
Solo deberíamos diseñar una IA que no sea consciente y no merezca derechos, y cuyo único objetivo sea mejorar el bienestar humano y no estar impulsado por sus propias motivaciones intrínsecas. A continuación comprobaremos si esta alineación de la ruta y control de seguridad es más o menos difícil. Se necesita urgentemente más investigación en esta dirección y también es un excelente punto de entrada para que los principales laboratorios cooperen y compartan información sobre seguridad.
Resumen: Creo que tenemos la oportunidad de implementar una solución de ingeniería segura por defecto y cosechar los enormes dividendos que aporta esta tecnología sin embarcarnos en este camino peligroso.
(Suplemento: La transparencia de Anthropic en este asunto merece un gran reconocimiento. Han publicado una constitución de IA, continúan produciendo artículos y blogs, y revelan sus prácticas y consideraciones detrás de ellos. Aunque tengo puntos de vista diferentes a los de ellos, admiro mucho su fortaleza técnica y su voluntad de enfrentar este difícil debate público. Esto merece un reconocimiento continuo. Este tema es demasiado importante y no debería convertirse en una confrontación entre facciones.)
Comentarios