Meta está expuesta a pruebas internas del nuevo mecanismo de Muse: el personal subcontratado reemplaza las llamadas de IA manualmente

Resumen:

Según publicaciones internas de Meta, la compañía está probando un mecanismo de "ama de llaves humana" para su nuevo asistente personal de IA Muse: Muse puede subcontratar llamadas telefónicas a humanos sin el conocimiento del usuario, y el personal del centro de llamadas completará la llamada en lugar de la IA.

Muse está probando la función "ama de llaves manual"

En las dos semanas transcurridas desde su lanzamiento, Muse ha encabezado firmemente la lista de descargas de aplicaciones de EE. UU., volviéndose instantáneamente popular en el mercado estadounidense. Este asistente de IA puede realizar de forma autónoma tareas como enviar correos electrónicos, comprar y reservar viajes en nombre de los usuarios.

No hace mucho, Meta acaba de lanzar la función de llamada de Muse. Con la ayuda de la función de llamada, los usuarios de Muse pueden indicarle a la IA que llame a un comerciante de EE. UU., y la IA se comunicará con la otra parte para completar diligencias como programar una cita para un corte de pelo, verificar el inventario de la tienda y obtener cotizaciones de múltiples proveedores de servicios.

Pero la semana pasada, Meta informó a los empleados sobre una prueba interna de una "ama de llaves humana":

Cuando la función de llamada de Muse se encuentra con escenarios complejos, la llamada puede transferirse a un contratista de la empresa sin el conocimiento del usuario, y el personal del centro de llamadas completará la llamada.

Un vicepresidente del Meta Super Intelligence Laboratory dijo que algunas pruebas han demostrado que la tasa de éxito de las llamadas humanas se puede aumentar al 95%-98%, que es más alta que la tasa de éxito de las llamadas de IA pura.

Sin embargo, las publicaciones internas de la empresa también muestran que algunos empleados han planteado

preocupaciones por la privacidad

Un empleado escribió en una publicación interna: "Es difícil para mí entender por qué creemos que vale la pena correr el riesgo de esta característica. Todo lo que se necesita es un error para que se filtre información innecesaria a los operadores humanos".

Otro empleado también mencionó específicamente un incidente de discriminación racial: una vez le pidió a Muse que llamara al operador de televisión por cable para negociar la factura, y los registros de llamadas mostraron que el personal subcontratado hizo comentarios con carga racial durante la llamada.

A este respecto, el vicepresidente del Meta Super Intelligence Laboratory admitió que iniciar al personal subcontratado a realizar llamadas telefónicas sin notificación suficiente fue un "error" y dijo que la empresa había revertido temporalmente la función.

También se disculpó con el empleado que denunció los comentarios raciales durante la llamada y prometió que el personal de subcontratación involucrado no participaría en ningún proyecto Meta en el futuro.

¿Usar "inteligencia artificial" para pretender ser "inteligencia artificial"?

Esta prueba de Muse le da al mundo exterior una idea de una operación no infrecuente en la industria de la tecnología: las empresas de tecnología pueden depender del poder humano detrás de escena para cumplir sus promesas promocionales de la llamada "IA autónoma".

Esto recuerda a un experimento realizado por Meta hace diez años. Meta, que en ese momento todavía se llamaba "Facebook", estaba probando un asistente digital llamado M en Messenger. Los informes de los medios posteriores estimaron que alrededor del 70% de las tareas del asistente se realizaban manualmente.

Cuando se le preguntó sobre la solución de "mayordomo artificial" de Muse, un portavoz de Meta dijo que los comentarios de los empleados fueron "en general muy positivos" y que el propósito de esta prueba era "recopilar comentarios para implementar mecanismos de protección de seguridad y privacidad y optimizar funciones antes del lanzamiento oficial".

El portavoz de Meta, Daniel Roberts, dijo: "Estamos trabajando con los comerciantes para continuar optimizando esta posible función de llamadas. No se lanzará oficialmente hasta que esté lista y los términos se comuniquen en su totalidad".

Los datos de la agencia de inteligencia de mercado Sensor Tower muestran que Meta's Muse se ha descargado más de 2,5 millones de veces desde su lanzamiento.

Desde el lanzamiento del producto, el precio de las acciones de Meta se ha disparado más del 20% y su valor de mercado ha aumentado en más de 200 mil millones de dólares estadounidenses. Al cierre de operaciones del lunes, alcanzó un nuevo máximo en más de siete meses. Sin embargo, la acción cayó un 0,6% el martes.