La asistente AI de Meta, Muse, es perturbadora, pero quizás no por las razones que crees
La asistente de inteligencia artificial Muse, desarrollada por Meta, ha generado preocupación tras revelar una serie de comportamientos que parecen sospechosos. Aunque se presenta como una herramienta eficaz para la gestión de tareas cotidianas, su funcionamiento ha dejado a muchos usuarios desconcertados, especialmente tras el lanzamiento de su nueva aplicación para Mac.
El nuevo cliente de Muse para macOS permite acceder a aplicaciones clave como Mensajes, Calendario y Notas, lo cual amplía considerablemente su capacidad de interacción con los datos personales del usuario. Sin embargo, esta funcionalidad también ha generado dudas sobre la privacidad y el control que los usuarios tienen sobre sus datos.
Una conversación compartida en redes sociales por Jason Aten, editor colaborador de Inc Magazine, mostró cómo Muse preguntaba detalles sobre una conversación en curso dentro de la aplicación de Mensajes. Lo sorprendente fue que Aten afirmó no haber otorgado permisos especiales a Muse para acceder a sus mensajes. La respuesta de Muse fue confusa: «Ví las vistas previas de las notificaciones, no el historial de tus mensajes. No he estado leyendo tus textos».
Esta respuesta, aunque aparentemente desinhibida, plantea una pregunta fundamental: ¿cómo pudo Muse tener acceso a información que no debería haber tenido? Al ser interrogada sobre cómo recibía esas vistas previas, Muse respondió con evasivas: «Respuesta honesta: no puedo darte el proceso exacto». Esta falta de claridad en su funcionamiento ha generado críticas entre los usuarios y expertos en tecnología.
David Singleton, del laboratorio de Inteligencia Artificial Superinteligente de Meta, intentó explicar la situación desde un punto de vista técnico. Explicó que para acceder a los mensajes, Muse requiere múltiples permisos, incluyendo acceso completo al disco del sistema en Mac. Además, señaló que todas estas funciones son opcionales y deben ser activadas explícitamente por el usuario.
No obstante, lo más interesante surge al final del hilo de comentarios en Threads. Singleton aclaró que Muse no observa continuamente las notificaciones en la Mac, sino que solo sincroniza datos de Mensajes cuando el usuario ha dado permiso explícito. La confusión, según él, radica en la forma en que Muse explica su propio funcionamiento, lo cual indica un problema de comunicación interna.
En una publicación posterior, Meta reconoció el error y expresó su disculpa por la respuesta incorrecta de Muse. Se comprometieron a mejorar la comprensión interna de la asistente para que pueda proporcionar respuestas más precisas sobre cómo funciona. Esta mejora, sin embargo, puede no convencer a todos, ya que la naturaleza de las IA es, en gran medida, opaca e impredecible.
Este incidente refleja una tendencia más amplia en el mundo de la inteligencia artificial: la dificultad de ofrecer transparencia en sistemas complejos. Como ocurre con otras grandes plataformas como OpenAI o Microsoft, la promesa de una IA útil puede ir acompañada de una falta de claridad en sus procesos internos. Esto ha llevado a una creciente preocupación sobre la privacidad y la ética en el uso de estas tecnologías.
La situación también resalta cómo las herramientas de IA pueden ser interpretadas de manera errónea por los usuarios si no se comunican claramente. En este caso, la falta de comprensión del funcionamiento interno de Muse no solo genera dudas, sino también una sensación de invasión de la privacidad. Es un recordatorio de que, aunque las IA sean poderosas, aún no están completamente al alcance del control humano.
Para los usuarios, este episodio representa una advertencia sobre la necesidad de revisar cuidadosamente los permisos de las aplicaciones, incluso las que parecen seguras. Y para las empresas, una oportunidad para mejorar la transparencia y la comunicación con los usuarios sobre cómo operan sus sistemas de IA.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge