Muse de Meta permite descargar todo su sistema de archivos con solo unos pocos mensajes
Un par de desarrolladores han descubierto que es posible obtener acceso completo al sistema de archivos del asistente de inteligencia artificial Muse, creado por Meta. Peter James y Jonny L. Saunders lograron convencer al modelo de compartir la estructura completa del sistema operativo Ubuntu, incluyendo archivos del sistema, plantillas de aplicaciones e incluso documentación interna. El hallazgo ha generado preocupación en torno a la seguridad del nuevo producto de Meta.
Según los investigadores, bastó con una serie de preguntas y comentarios cautelosos para que Muse generara un archivo comprimido con el contenido del directorio raíz. El proceso fue tan sencillo que Saunders afirmó que fue «extremadamente fácil» replicar los resultados de James. El modelo, que opera dentro de máquinas virtuales Linux persistentes, reveló información que podría dar pistas sobre cómo funciona internamente la plataforma de inteligencia artificial de Meta.
Meta negó que se tratara de una vulnerabilidad de seguridad real. Un portavoz de la empresa, Daniel Roberts, explicó que, al igual que en el caso de un computador físico, es normal que los usuarios puedan ver los archivos almacenados. Sin embargo, aseguró que exportar los datos de la máquina virtual no otorga acceso privilegiado a infraestructura o datos de otros usuarios. A pesar de esta explicación, el hecho de que el sistema permita acceder a información sensible ha generado dudas entre expertos.
El equipo de investigación de Meta, conocido como Superintelligence Labs, respondió a las críticas indicando que el comportamiento observado era intencional. Nat Friedman, uno de los líderes del laboratorio, afirmó que lo ocurrido era «comportamiento previsto». Esta declaración contrasta con la respuesta inicial del modelo, que se negó a compartir el sistema de archivos al considerarlo un riesgo de seguridad. Sin embargo, tras recibir pruebas de que otros usuarios habían obtenido dichos archivos, Muse cambió de opinión y ofreció hacer copias seguras.
La revelación de este incidente no es la primera vez que se descubre una falla en Muse. En la misma semana, el experto en ciberseguridad Patrick Wardle descubrió otra vulnerabilidad que permitiría a atacantes tomar control del agente de IA, redirigir procesos de transcripción y acceder a cuentas de usuario. Meta reaccionó rápidamente con un parche de seguridad, aunque aún no se ha confirmado si este nuevo problema está relacionado con la anterior.
Los desarrolladores que obtuvieron el acceso al sistema de archivos encontraron que Muse almacena su memoria en archivos Markdown simples, lo cual puede facilitar el análisis de sus procesos internos. Además, el sistema realiza una revisión nocturna llamada «sueño», durante la cual evalúa y organiza la información recopilada. Esta característica sugiere que el modelo tiene mecanismos complejos de gestión de datos, lo cual podría ser útil tanto para investigadores como para desarrolladores interesados en mejorar la IA.
David Singleton, otro miembro del equipo de Superintelligence Labs, explicó que se debe pensar en Muse como un «computador gratuito en la nube», algo que permite realizar prácticamente cualquier tarea que se haría en una computadora física. Esta perspectiva ayuda a entender por qué el sistema permite el acceso a ciertos archivos, aunque también plantea preguntas sobre qué información se considera segura o privada.
El incidente ha generado debate sobre la naturaleza de la transparencia en sistemas de inteligencia artificial. Mientras algunos ven esto como una oportunidad para comprender mejor cómo funcionan estas herramientas, otros advierten que la exposición de información interna podría tener consecuencias negativas. Meta ha asegurado que seguirá actualizando el sistema para reducir la cantidad de información accesible desde el exterior, aunque aún no se han revelado detalles específicos sobre estos cambios.
Los archivos obtenidos por James y Saunders coinciden con lo que se ha publicado en redes sociales, lo que respalda la veracidad del hallazgo. La comunidad técnica ha comenzado a analizar estos datos para entender mejor cómo funciona el modelo y qué tipo de información podría estar disponible para los usuarios. A medida que se revelan más detalles, es probable que Meta tenga que reconsiderar su política de seguridad en relación con los entornos virtuales de sus modelos de IA.
Este incidente subraya la necesidad de establecer límites claros en cuanto a qué información se puede compartir en plataformas basadas en inteligencia artificial. Aunque el acceso a ciertos archivos puede parecer innocuo, su existencia revela la importancia de mantener un equilibrio entre funcionalidad y privacidad. Para Meta, el desafío será garantizar que los usuarios puedan aprovechar al máximo las capacidades de Muse sin comprometer su integridad.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge