Resumen:
El Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) y Microsoft Research Asia han desarrollado un nuevo tipo de tecnología de interfaz cerebro-computadora que puede identificar en tiempo real si la inteligencia artificial ha entendido mal las intenciones del usuario mediante el análisis de las ondas cerebrales humanas y ajustar su comportamiento en consecuencia. El equipo de investigación cree que se espera que esta tecnología impulse la inteligencia artificial a una nueva etapa, desde "obedecer instrucciones" hasta "comprender intenciones".
Los investigadores llamaron a esta tecnología "Alineación de valores neuronales (NVA)". El sistema utiliza electroencefalografía (EEG) para monitorear la actividad neuronal producida por los usuarios mientras observan a la inteligencia artificial realizar tareas. Cuando la IA toma un objetivo equivocado o realiza una acción no esperada por el usuario, el cerebro generará una señal de error de predicción específica. El sistema puede capturar estos cambios y convertirlos en información de retroalimentación, lo que permite a la IA darse cuenta de que hay una desviación en su comprensión.
Durante mucho tiempo, aunque la inteligencia artificial ha demostrado poderosas capacidades en muchos campos, todavía se producen malentendidos en la comunicación entre los humanos y la IA. Incluso si el usuario da indicaciones detalladas, la IA puede generar resultados relevantes pero inexactos como se esperaba. El equipo de investigación cree que la raíz del problema es que la inteligencia artificial se basa principalmente en información externa como el lenguaje, las acciones y los gestos para inferir intenciones, y estos comportamientos en sí mismos suelen ser ambiguos.
Los investigadores dieron un ejemplo de que al levantar una taza, una persona puede beber agua, limpiar la taza, moverla o pasársela a otra persona; por el contrario, si el objetivo es saciar la sed, las personas también pueden lograrlo de diferentes maneras, como tomando una taza, consiguiendo una botella de agua o pidiendo ayuda a otros. A menudo es imposible determinar con precisión el verdadero propósito simplemente observando el comportamiento en sí.
>
Para resolver este problema de "ambigüedad entre objetivos y acciones", el equipo de investigación centró su atención en el propio cerebro humano. Cuando los resultados reales no coinciden con las expectativas de las personas, el cerebro generará naturalmente señales especiales de error de predicción. El sistema NVA utiliza esta respuesta neuronal como fuente adicional de información para ayudar a la inteligencia artificial a determinar en qué enlace tiene malentendidos.
El equipo de investigación se centró en dos tipos de señales nerviosas cerebrales. Un tipo es el "error de predicción de recompensa", que refleja si el resultado cumple con los objetivos personales y las expectativas de valor; el otro tipo es el "error de predicción del estado", que refleja si la situación real es consistente con el proceso esperado por el cerebro. Al analizar estas dos señales al mismo tiempo, el sistema no solo puede detectar errores en la comprensión de la IA, sino también determinar si los errores ocurren en el nivel objetivo o en el nivel del método de ejecución.
Los resultados experimentales muestran que después de la introducción de la retroalimentación EEG, la inteligencia artificial puede inferir con mayor precisión la verdadera intención del usuario y corregir desviaciones de manera proactiva durante la ejecución de la tarea sin la necesidad de que el usuario repita constantemente instrucciones o emita nuevas instrucciones.
El equipo de investigación afirmó que se espera que este resultado se aplique a escenarios como robots, sistemas de colaboración hombre-máquina y asistentes inteligentes. Por ejemplo, cuando un futuro robot doméstico realiza una tarea, si detecta la reacción de "este no es el resultado que quiero" en la mente del usuario, puede ajustar proactivamente su plan de acción sin esperar instrucciones explícitas.
Los investigadores creen que esto significa que la inteligencia artificial ya no responderá pasivamente a órdenes en el futuro, sino que podrá utilizar la tecnología de interfaz cerebro-computadora para comprender las verdaderas intenciones de los humanos ocultas detrás del lenguaje, logrando así una colaboración entre humanos y máquinas más natural y eficiente. A medida que avanzan las investigaciones pertinentes, los sistemas inteligentes de próxima generación que puedan detectar la retroalimentación cognitiva humana y modificar el comportamiento en tiempo real pueden convertirse gradualmente en una realidad.
Comentarios