Amazon bloquea a la agente AI Muse de Meta por problemas de seguridad y privacidad
La plataforma de comercio electrónico Amazon ha restringido el acceso de la agente de inteligencia artificial Muse, desarrollada por Meta, para realizar compras en su sitio. Este bloqueo surgió tras la aparición de un mensaje de advertencia para los usuarios de Muse que indicaba que el uso continuo de un agente de IA no autorizado viola las condiciones de uso del servicio.
El mensaje, visible desde el domingo, advierte a los usuarios que «el acceso continuo por parte de un agente de IA no autorizado viola las Condiciones de Uso de Amazon, a las cuales nuestros clientes han accedido». Esta medida pone en evidencia las tensiones entre las grandes empresas tecnológicas y sus políticas de integración con servicios externos.
Según informó GeekWire, Meta no notificó previamente a Amazon sobre el acceso de Muse al marketplace. Esta omisión generó preocupaciones en Amazon respecto a la identificación del agente de IA durante las sesiones de navegación, así como a posibles riesgos relacionados con la captura de credenciales de usuario.
Las preocupaciones de Amazon se centran en aspectos de privacidad y seguridad. La empresa señaló que Muse no revela claramente su identidad cuando navega por el sitio, lo cual podría comprometer la protección de datos personales de los clientes. Además, se teme que el agente pueda estar recopilando información sensible sin el consentimiento explícito de los usuarios.
Una portavoz de Amazon comentó a GeekWire: «Creemos que es bastante sencillo que las aplicaciones de terceros que ofrecen hacer compras en nombre de clientes de otras empresas deban operar de manera abierta y respetar las decisiones de los proveedores de servicios sobre si participan o no en dichas transacciones».
Meta lanzó Muse a principios de mes con la promesa de que el agente de IA no tendría acceso a datos sensibles como contraseñas ni información de pagos. Durante pruebas realizadas por los medios, se logró completar una compra exitosa de camisetas en Amazon mientras otros artículos permanecían en el carrito de compras.
No obstante, desde su lanzamiento han surgido dudas sobre la privacidad del sistema. Informes indican que Muse puede acceder al contenido de los mensajes de los usuarios incluso cuando no se han otorgado permisos específicos para ello, lo que plantea preguntas sobre la supervisión de datos personales.
Este incidente refleja el creciente debate sobre cómo deben interactuar las inteligencias artificiales con plataformas digitales, especialmente en lo que respecta a la protección de datos y la transparencia en el uso de información personal. Las implicaciones podrían afectar futuras colaboraciones entre empresas tecnológicas y servicios en línea.
Meta aún no ha emitido un comentario oficial sobre el bloqueo de Muse por parte de Amazon. Sin embargo, este episodio podría tener consecuencias importantes para la adopción generalizada de agentes de IA en entornos comerciales y de consumo.
La situación subraya la necesidad de establecer marcos claros y regulaciones sobre el uso de inteligencia artificial en plataformas digitales, evitando conflictos entre proveedores de servicios y desarrolladores de tecnología de asistencia.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge