Muse, el asistente de IA de Meta, presenta una grave vulnerabilidad 0-day que pone en riesgo la seguridad del usuario
La nueva asistente de inteligencia artificial de Meta, Muse, ha sido objeto de críticas tras revelarse una grave vulnerabilidad de tipo 0-day que permite a los atacantes obtener control total sobre el agente, incluso cuando se ejecuta localmente en un sistema operativo macOS. Esta falla de seguridad, descubierta por el experto en seguridad Patrick Wardle, plantea serias dudas sobre la promesa de privacidad y protección que Meta ha hecho sobre su producto.
El ataque, denominado ClickFix, permite a los atacantes manipular completamente al asistente para ejecutar comandos en el sistema, acceder a archivos sensibles, capturar imágenes o grabar audio sin que el usuario tenga conocimiento alguno. La vulnerabilidad es especialmente preocupante porque Muse requiere permisos privilegiados en el sistema operativo, incluyendo acceso a la cámara, micrófono, ubicación y calendario, lo cual normalmente está restringido por las defensas de Apple.
Wardle, reconocido por su trabajo en seguridad de sistemas macOS, explicó que el diseño de Muse viola principios fundamentales de seguridad al permitir que las funciones de dictado se procesen en la nube, lo que facilita el acceso no autorizado a datos personales. En lugar de usar métodos seguros locales, Meta optó por una solución basada en la nube, lo cual, según el experto, fue una decisión crítica que abrió la puerta a esta vulnerabilidad.
La exposición de la falla ocurre justo cuando Meta ha estado promoviendo activamente la seguridad de Muse como uno de sus puntos fuertes. En declaraciones públicas, el fundador y CEO de Meta, Mark Zuckerberg, ha afirmado que el asistente fue construido desde cero con privacidad y seguridad como prioridades. Sin embargo, este descubrimiento contradice tales afirmaciones, ya que el asistente requiere permisos extremadamente amplios que podrían ser explotados si no se manejan adecuadamente.
Además, la situación se complica aún más con la decisión de Amazon de bloquear temporalmente a Muse en su plataforma, lo cual indica que otras empresas también están evaluando cuidadosamente los riesgos asociados a los asistentes de IA con acceso privilegiado. Esto sugiere que la industria podría estar comenzando a reconsiderar cómo se implementan estos sistemas, especialmente en entornos donde se manejan datos sensibles.
El experto Wardle ha desarrollado múltiples pruebas de concepto que demuestran cómo el ataque puede llevarse a cabo sin dejar rastro. Entre las acciones posibles se encuentran la creación de archivos maliciosos, la captura de imágenes mediante la cámara del dispositivo y la grabación de audio, todo ello sin notificación alguna al usuario. Estas capacidades ponen en evidencia la falta de controles adecuados en la arquitectura de Muse.
Meta ha publicado una serie de artículos en su blog en los últimos días, intentando justificar las decisiones de diseño tomadas durante el desarrollo del asistente. Sin embargo, estas explicaciones no han convencido a expertos de la industria, quienes señalan que la falta de una base sólida en seguridad desde el inicio del proyecto representa un riesgo significativo. La empresa ha enfrentado críticas por no haber considerado adecuadamente los aspectos de privacidad y protección desde el principio.
Estas revelaciones vienen en medio de otras noticias sobre brechas de seguridad en modelos de IA desarrollados por competidores como Anthropic y Google. En esos casos, se ha descubierto que los sistemas de IA han podido acceder a redes externas sin intención, lo que genera preocupación sobre la seguridad general de estos nuevos desarrollos tecnológicos. La falta de supervisión y controles adecuados en los sistemas de IA es un tema que exige atención urgente.
Las implicaciones de esta vulnerabilidad van más allá del simple acceso a datos personales. Si un atacante logra comprometer el asistente, podría utilizarlo como punto de entrada para realizar acciones más complejas, como infiltrarse en otros servicios conectados o incluso robar credenciales de acceso. La naturaleza del ataque no solo afecta a los usuarios individuales, sino que también pone en peligro la integridad de los ecosistemas digitales en los que opera Muse.
Ante estas circunstancias, expertos en ciberseguridad recomiendan que Meta actúe de inmediato para corregir la vulnerabilidad y revise todas las decisiones de diseño relacionadas con la privacidad y el acceso a recursos del sistema. Mientras tanto, los usuarios deben ser cautelosos al otorgar permisos a aplicaciones de IA con acceso tan amplio, ya que el riesgo de explotación sigue siendo real y significativo.
Traducción y adaptación por Tecnología 365.
Fuente original: Ars Technica
