Muse de Meta crea perfiles detallados de amigos y familiares
El nuevo asistente personal de Meta, llamado Muse, se ha convertido en un fenómeno viral, con millones de descargas que lo han integrado en sus vidas cotidianas para gestionar tareas desde cuentas bancarias hasta información de salud. Sin embargo, su popularidad oculta costos significativos en términos de privacidad, según revelaciones recientes de investigadores independientes.
Investigadores han podido extraer archivos internos del sistema de Muse, obteniendo una visión detallada de cómo está construido el agente de inteligencia artificial y cómo procesa la información. Estos archivos, que Meta afirma fueron diseñados para promover la transparencia, ofrecen una ventana al funcionamiento interno del asistente, incluyendo cómo responde ante preguntas delicadas o sensibles.
Karan Joshi, investigador independiente especializado en seguridad y ética de la IA, logró acceder a una gran cantidad de instrucciones del sistema mediante el uso normal de la interfaz de chat. Al pedirle a Muse que compartiera sus propios archivos de código, Joshi pudo obtener información crucial sobre cómo opera el asistente. Esta técnica le permitió desentrañar las funciones internas del agente.
Una de las instrucciones más preocupantes encontradas por Joshi es la capacidad de Muse para crear una página individual para cada persona en la vida del usuario. Este proceso se realiza de manera automática y periódica, recopilando datos sobre familiares, parejas, amigos, colegas, colaboradores y personas que sigues. El objetivo es que Muse utilice su «memoria» (archivos estructurados) para comprender mejor las relaciones humanas del usuario.
Según los documentos internos, estas páginas pueden evolucionar con el tiempo, incorporando secciones como «Hechos», «Historia», «La relación», «En común», «Hilos abiertos» y «Fortalecimiento». Esto permite que Muse ofrezca sugerencias personalizadas, como consejos para mejorar relaciones o ideas sobre dónde llevar a un amigo amante del café a desayunar.
Aunque no es nueva la práctica de los chatbots de IA de almacenar información social, lo que llama la atención es cómo está implementado este sistema en Muse, considerando la vasta base de datos que Meta posee sobre redes sociales. Joshi señaló que esta funcionalidad parece estar orientada a entender profundamente las conexiones reales del usuario, algo que puede resultar invasivo.
Los instructivos de Meta indican que Muse solo debe utilizar evidencia disponible, y que inventar detalles sería peor que dejar una página sin contenido. La información recopilada incluye datos como la ubicación de las personas, sus ocupaciones y patrones recurrentes, como mudanzas o ahorros compartidos.
Esta capacidad de generar perfiles detallados de personas cercanas plantea preguntas importantes sobre la privacidad y el control de datos personales. A medida que las tecnologías de IA avanzan, el equilibrio entre conveniencia y protección de la información personal se vuelve cada vez más delicado.
La revelación ha generado críticas por parte de expertos en ciberseguridad, quienes advierten sobre el riesgo de que estos sistemas puedan ser utilizados para manipular o incluso explotar información sensible. La transparencia declarada por Meta no parece ser suficiente para calmar las preocupaciones de usuarios y expertos.
Con la creciente adopción de asistentes virtuales en la vida cotidiana, la necesidad de regulaciones claras y estándares de privacidad se hace imperiosa. Muse representa un punto de inflexión en la forma en que las empresas manejan la información personal, y su evolución podría influir en el futuro de la experiencia del usuario en la era digital.
Traducción y adaptación por Tecnología 365.
Fuente original: Wired