Un equipo interdisciplinar ha descubierto que los modelos de inteligencia artificial, concretamente los Transformers, procesan la memoria de forma similar al hipocampo del cerebro humano. Este avance demuestra que la aplicación de principios de la neurociencia, como el principio del receptor NMDA, a la inteligencia artificial puede mejorar la función de la memoria, avanzando así en el campo de la inteligencia artificial y proporcionando información sobre la función del cerebro humano.

Los investigadores han descubierto que el proceso de consolidación de la memoria de la inteligencia artificial es similar al del cerebro humano, especialmente el hipocampo, lo que brinda la posibilidad de avanzar en la inteligencia artificial y una comprensión más profunda de los mecanismos de la memoria humana.

Un equipo interdisciplinario de investigadores del Centro de Cognición y Socialidad del Instituto de Ciencias Básicas (IBS) y el Grupo de Ciencia de Datos ha revelado sorprendentes similitudes entre el procesamiento de la memoria de los modelos de inteligencia artificial (IA) y el hipocampo del cerebro humano. Este nuevo descubrimiento proporciona una nueva perspectiva sobre la consolidación de la memoria (el proceso de convertir la memoria a corto plazo en memoria a largo plazo) en los sistemas de inteligencia artificial.

En la carrera por desarrollar inteligencia artificial general (AGI), liderada por entidades influyentes como OpenAI y Google DeepMind, comprender y replicar inteligencia similar a la humana se ha convertido en un importante interés de investigación. En el corazón de estos avances tecnológicos se encuentra el modelo Transformers [Figura 1], cuyos fundamentos se están explorando actualmente en mayor profundidad.

Figura 1: (a) Diagrama esquemático de la actividad del canal iónico en neuronas postsinápticas. Los receptores AMPA participan en la activación de las neuronas postsinápticas, mientras que los receptores NMDA están bloqueados por iones de magnesio (Mg²⁺), pero cuando las neuronas postsinápticas están completamente activadas, los receptores NMDA inducen la plasticidad sináptica mediante la entrada de iones de calcio (Ca²⁺). (b) Diagrama de flujo que muestra el proceso de cálculo del modelo de inteligencia artificial Transformer. La información se procesa secuencialmente a través de etapas como capas de avance, normalización de capas y capas de autoatención. El gráfico que describe la relación corriente-voltaje de los receptores NMDA es muy similar a la no linealidad de la capa de alimentación directa. Gráfico de entrada-salida basado en la concentración de magnesio (α) que muestra cambios no lineales en los receptores NMDA. Fuente: Instituto de Ciencias Básicas

Mecanismo de aprendizaje cerebral aplicado a la inteligencia artificial

La clave para lograr sistemas de IA potentes es comprender cómo aprenden y recuerdan información. El equipo de investigación aplicó los principios de aprendizaje del cerebro humano, especialmente el principio de consolidación de la memoria a través de los receptores NMDA en el hipocampo, al modelo de inteligencia artificial.

Los receptores NMDA son como una puerta inteligente en el cerebro que promueve el aprendizaje y la formación de la memoria. Cuando una sustancia química del cerebro llamada glutamato está presente, las células nerviosas se excitan. Los iones de magnesio, por otro lado, actúan como un pequeño guardián, bloqueando la puerta. Sólo cuando este guardián de iones se hace a un lado, las sustancias pueden fluir hacia la célula. Así es como el cerebro crea y retiene recuerdos, y el papel del guardián (los iones de magnesio) en todo el proceso es bastante especial.

El equipo hizo un descubrimiento sorprendente: el modelo Transformers parece utilizar un proceso de control similar al de los receptores NMDA del cerebro [ver Figura 1]. Este descubrimiento llevó a los investigadores a investigar si la consolidación de la memoria en Transformers podría controlarse mediante un mecanismo similar al proceso de activación del receptor NMDA.

Se sabe que los niveles bajos de magnesio perjudican la función de la memoria en el cerebro de los animales. Los investigadores descubrieron que la memoria a largo plazo de los Transformers podría mejorarse imitando los receptores NMDA. Así como los cambios en los niveles de magnesio en el cerebro afectan la fuerza de la memoria, ajustar los parámetros de Transformers para reflejar la activación del receptor NMDA puede mejorar la memoria de los modelos de IA. Este descubrimiento revolucionario muestra que la forma en que aprenden los modelos de inteligencia artificial puede explicarse mediante el conocimiento existente de la neurociencia.

Perspectivas de expertos sobre inteligencia artificial y neurociencia

C. Justin LEE, director neurocientífico del instituto, dijo: "Esta investigación es un paso crítico en el avance del desarrollo de la inteligencia artificial y la neurociencia. Nos permite estudiar más profundamente cómo funciona el cerebro y desarrollar sistemas de inteligencia artificial más avanzados basados ​​en estos conocimientos".

CHAMeeyoung, científico de datos del equipo y de KAIST, señaló: "A diferencia de los modelos de IA a gran escala que requieren enormes recursos, el cerebro humano opera con un mínimo de energía, lo cual es notable. Nuestro trabajo abre nuevas posibilidades para sistemas de IA de bajo costo y alto rendimiento que aprenden y recuerdan información como los humanos".

Integración del mecanismo cognitivo y el diseño de inteligencia artificial.

Lo que hace que esta investigación sea única es que incorpora de manera proactiva no linealidades inspiradas en el cerebro en estructuras de inteligencia artificial, lo que marca un avance significativo en la simulación de la consolidación de la memoria similar a la humana. La fusión de los mecanismos cognitivos humanos y el diseño de la inteligencia artificial no sólo promete crear sistemas de inteligencia artificial de bajo costo y alto rendimiento, sino que también proporciona información valiosa sobre cómo funciona el cerebro a través de modelos de inteligencia artificial.

Fuente compilada: ScitechDaily