Meta ha recurrido a trabajadores humanos para realizar algunas de las llamadas que los usuarios encargaban a Muse, su nuevo asistente personal de inteligencia artificial. La compañía estaba probando internamente una función denominada «human concierge» con la que contratistas podían intervenir discretamente para completar determinadas llamadas telefónicas, según publicaciones internas de la empresa a las que ha tenido acceso Reuters.
La prueba introduce un elemento inesperado en uno de los productos con los que Meta quiere avanzar hacia una nueva generación de agentes de IA capaces de actuar de forma autónoma en nombre de sus usuarios. Muse puede enviar correos electrónicos, realizar compras, reservar viajes y efectuar otras tareas sin que la persona tenga que ejecutar cada paso directamente.
Entre sus nuevas capacidades se encuentra precisamente la posibilidad de realizar llamadas. Un usuario puede pedir al asistente que telefonee a establecimientos estadounidenses para, por ejemplo, reservar una cita en una peluquería, comprobar si un producto está disponible o solicitar presupuestos a distintos proveedores.
El problema es que, en determinados casos, quien estaba al otro lado de esa gestión no era únicamente una inteligencia artificial.
Humanos para llevar las llamadas hasta el final
Meta comunicó a sus empleados la prueba la semana pasada, poco después de lanzar públicamente la función de llamadas telefónicas de Muse.
Según los mensajes internos consultados por Reuters, el sistema podía transferir determinadas peticiones a un agente humano formado para realizar la llamada y completar la gestión.
El objetivo era mejorar la efectividad de una tecnología que todavía encuentra obstáculos cuando tiene que relacionarse por teléfono con personas y empresas. Una vicepresidenta de la unidad Superintelligence Labs de Meta señaló internamente que algunas pruebas mostraban que incorporar humanos podía elevar la tasa de éxito de las llamadas hasta entre el 95% y el 98%, frente a un porcentaje inferior cuando eran realizadas exclusivamente mediante IA.
La compañía había comenzado a probar la capacidad de llamada con empleados en agosto y posteriormente empezó a desplegarla gradualmente entre los usuarios de Muse tras el lanzamiento de la aplicación.
No todas las conversaciones funcionaban como estaba previsto. Uno de los empleados explicó que había intentado utilizar Muse para llamar a su aseguradora, pero que los interlocutores colgaban al escuchar que estaban hablando con una inteligencia artificial.
Para tratar de superar este tipo de situaciones, Meta habilitó la opción de «human concierge», también denominada internamente «human agent calls», para aproximadamente la mitad de sus empleados.
La privacidad abre un debate dentro de Meta
La intervención humana provocó, sin embargo, preocupación entre algunos trabajadores de la compañía por sus posibles implicaciones para la privacidad.
El temor era que los usuarios pudieran facilitar información pensando que estaban interactuando únicamente con un sistema automatizado cuando, en realidad, determinados datos podían acabar siendo conocidos por contratistas humanos de centros de llamadas.
«Estamos a un error de que se filtre información innecesaria a operadores humanos», escribió uno de los empleados en una publicación interna recogida por Reuters.
Otro trabajador relató un incidente después de pedir a Muse que telefoneara a su proveedor de internet y televisión para negociar su factura. Según explicó, la transcripción de la conversación mostró que el contratista humano había realizado una referencia racista durante la llamada.
Una vicepresidenta de Superintelligence Labs reconoció internamente que había sido «un error» comenzar a probar llamadas realizadas por contratistas sin ofrecer previamente la información adecuada sobre su intervención y aseguró que Meta había retirado temporalmente la función.
También se disculpó con el empleado que denunció el comentario y aseguró que el agente humano implicado no volvería a trabajar en proyectos de Meta.
Meta retira la prueba, pero no abandona las llamadas
La marcha atrás no significa que la compañía haya descartado el concepto. Meta continúa trabajando para mejorar las capacidades telefónicas de Muse y estudia cómo desarrollar la función incorporando las garantías necesarias.
Un portavoz de Meta, Daniel Roberts, aseguró a Reuters que la respuesta de los empleados a las pruebas había sido «abrumadoramente positiva» y explicó que su finalidad era precisamente obtener comentarios antes de llevar la tecnología al público.
«Estamos trabajando con los comercios para seguir mejorando esta posible función de llamadas y solo la lanzaremos cuando esté preparada y con la información adecuada», señaló el portavoz.
La compañía también sostiene que las pruebas internas sirven para incorporar protecciones de seguridad y privacidad antes de desplegar nuevas funciones de forma generalizada.
La paradoja del trabajo humano detrás de la IA
El experimento de Muse vuelve a poner sobre la mesa una cuestión que ha acompañado a diferentes generaciones de inteligencia artificial: hasta qué punto los servicios presentados como autónomos siguen necesitando intervención humana para funcionar con suficiente fiabilidad.
Meta ya vivió una situación similar hace aproximadamente una década. Cuando la compañía todavía se llamaba Facebook, experimentó con un asistente digital denominado «M» integrado en Messenger. Informaciones publicadas posteriormente estimaron que alrededor del 70% de las tareas solicitadas al asistente terminaban siendo realizadas por personas.
La diferencia ahora es que los agentes de IA se presentan como herramientas capaces de ejecutar acciones de forma cada vez más independiente y, al mismo tiempo, manejar información potencialmente sensible de sus usuarios.
Ese aspecto resulta especialmente relevante en el caso de Muse. Durante su lanzamiento, Meta destacó las medidas de seguridad del asistente y explicó que cada agente funcionaría en su propia «máquina virtual», un ordenador dedicado en la nube destinado a mantener aisladas las sesiones de los usuarios. La compañía también aseguró que información especialmente sensible, como las contraseñas, permanecería almacenada por separado y de manera segura.
Precisamente esas garantías fueron utilizadas por algunos empleados para cuestionar internamente la prueba con operadores humanos, al considerar que podía entrar en conflicto con uno de los principales argumentos de seguridad utilizados para presentar el producto.
Más de 2,5 millones de descargas en pocas semanas
La polémica interna llega mientras Muse registra un rápido crecimiento desde su lanzamiento. Según datos de la firma de inteligencia de mercado Sensor Tower recogidos por Reuters, el asistente ha superado los 2,5 millones de descargas y ha encabezado las listas de aplicaciones más descargadas en Estados Unidos durante sus primeras semanas.
El entusiasmo alrededor del nuevo producto también se ha trasladado a Wall Street. Las acciones de Meta han avanzado más de un 20% desde el lanzamiento de Muse, un movimiento que ha añadido más de 200.000 millones de dólares a la capitalización bursátil de la compañía y ha llevado su cotización a máximos de más de siete meses.
Más allá de la reacción del mercado, el experimento plantea uno de los retos que acompañará al desarrollo de los agentes autónomos: hacer que una IA pueda desenvolverse en un mundo diseñado para que las personas hablen y negocien con otras personas.
En el caso de Meta, la solución provisional fue precisamente recurrir a ellas.
