Meta puso a prueba una modalidad que expone uno de los desafíos que todavía enfrenta la inteligencia artificial autónoma: la necesidad de recurrir a personas reales para completar determinadas tareas. Según información interna de la compañía obtenida por Reuters, algunos usuarios de Muse, el nuevo agente personal de IA de Meta, podían ser derivados a contratistas humanos que realizaban llamadas telefónicas en su nombre.
La prueba se produjo poco después de que Meta comenzara a desplegar públicamente una función que permite a Muse realizar llamadas telefónicas para resolver distintas tareas. El agente puede comunicarse con comercios y empresas para, por ejemplo, consultar la disponibilidad de un producto, pedir un presupuesto o gestionar una reserva.
La particularidad del experimento era que, cuando el sistema de IA tenía dificultades para completar una llamada, podía intervenir un operador humano. El objetivo era aumentar la tasa de éxito de las gestiones, aunque la modalidad generó cuestionamientos entre algunos empleados de Meta, principalmente por el posible acceso de terceros a información personal de los usuarios.
Preocupaciones por privacidad y seguridad
Las críticas internas apuntaron especialmente al riesgo de que una conversación que el usuario esperaba que fuera gestionada exclusivamente por inteligencia artificial terminara siendo atendida por una persona. Algunos empleados consideraron que esta situación podía provocar la exposición involuntaria de datos sensibles.
La preocupación cobró mayor relevancia debido a que Meta había presentado a Muse haciendo especial énfasis en sus medidas de seguridad y privacidad. Entre ellas se encuentra el uso de una máquina virtual independiente para cada agente, diseñada para aislar las sesiones y proteger la información utilizada durante las tareas.
Uno de los casos reportados internamente también generó controversia por el contenido de una llamada. Un empleado que había utilizado Muse para comunicarse con su proveedor de internet afirmó que la transcripción de la conversación incluía un comentario de carácter racista realizado por el contratista humano que intervino en la gestión.
Desde Meta reconocieron que la situación representó un error y señalaron que el trabajador involucrado ya no participaría en proyectos de la compañía. La empresa también indicó que había retirado temporalmente la función de asistencia humana mientras continúa trabajando en el desarrollo de las llamadas gestionadas por IA.
Los humanos pueden mejorar el rendimiento de Muse
De acuerdo con información compartida internamente, las pruebas realizadas por Meta mostraron que la intervención de operadores humanos podía llevar la tasa de éxito de determinadas llamadas hasta aproximadamente 95% o 98%, un resultado superior al conseguido por el sistema completamente automatizado.
El dato muestra una de las dificultades que enfrentan actualmente los agentes de inteligencia artificial: aunque pueden ejecutar tareas complejas de manera autónoma, todavía existen situaciones en las que la intervención de una persona puede resolver problemas que el modelo no consigue superar.
La compañía sostiene que la prueba tenía como objetivo recopilar información y comentarios antes de decidir si una función de este tipo puede incorporarse públicamente. Según un portavoz de Meta, la respuesta de los empleados al experimento fue mayoritariamente positiva y la empresa busca utilizar estas pruebas para reforzar sus medidas de privacidad y seguridad.
Muse busca convertirse en un agente personal
Muse representa la apuesta de Meta por una nueva generación de asistentes capaces de ejecutar acciones en nombre de los usuarios, en lugar de limitarse a responder preguntas.
El sistema está pensado para realizar tareas como enviar correos electrónicos, efectuar compras, organizar viajes y comunicarse con empresas. La función de llamadas amplía ese concepto al permitir que el agente interactúe directamente con personas y comercios.
Sin embargo, la experiencia inicial también mostró una de las barreras para este tipo de tecnología. Algunos usuarios informaron que determinadas empresas cortaban las llamadas al detectar que estaban hablando con una IA, lo que reduce la capacidad de los agentes para completar tareas en el mundo real.
La utilización de operadores humanos aparece así como una posible solución de transición: cuando la IA no consigue avanzar, una persona toma el control para completar la gestión. El problema es que esa alternativa introduce nuevos desafíos relacionados con transparencia, privacidad y confianza.
Un desafío que Meta ya había enfrentado
El experimento con Muse también recuerda a M, un asistente digital que Facebook comenzó a probar hace aproximadamente una década dentro de Messenger. Aquel proyecto buscaba ofrecer un servicio capaz de ejecutar tareas para los usuarios, aunque posteriormente trascendió que una parte importante del trabajo era realizada por personas.
El caso de Muse vuelve a poner sobre la mesa una pregunta central para el desarrollo de los agentes de IA: cuánto de la autonomía que percibe el usuario depende realmente de sistemas automatizados y cuánto puede estar sostenido por trabajo humano detrás de escena.
Meta acumula más de 2,5 millones de descargas de Muse, según datos de Sensor Tower, en las primeras etapas de disponibilidad del servicio. La compañía continúa apostando por convertir a sus agentes de IA en herramientas capaces de actuar directamente sobre servicios y negocios, aunque la experiencia con las llamadas demuestra que todavía existen obstáculos técnicos y operativos para alcanzar una automatización completa.
Por ahora, la empresa decidió suspender la modalidad de llamadas realizadas por contratistas humanos, mientras continúa experimentando con la función y evalúa cómo mejorar el desempeño de Muse sin comprometer las expectativas de privacidad y seguridad planteadas alrededor del asistente.
Leer más
Ricoh redefine su negocio en Argentina y pone la mira en IA, automatización e integración
Compartir nota:
