Hasta ahora la gran duda sobre privacidad en la IA era si las empresas entrenan sus modelos con nuestras conversaciones. Esta semana ha aparecido un problema más básico: que esas conversaciones acaben directamente en manos de atacantes. El sábado 21 de noviembre, el proveedor de servicios de IA Together AI admitió que alguien descargó muestras de prompts de sus clientes después de que un agente de programación con IA publicara por error una credencial en un repositorio público de GitHub.
El aviso encaja en una investigación de la firma de seguridad Dragos que demuestra que los prompts circulan por la cadena de servicios de IA con mucha menos protección de la prometida. Y este domingo OpenRouter, uno de los grandes intermediarios del sector, ha anunciado que expulsa a tres proveedores de su plataforma.
Qué ha pasado en Together AI
Según el aviso firmado por su consejero delegado, Vipul Ved Prakash, la compañía guardó en un repositorio privado de Hugging Face muestras de peticiones a su servicio de inferencia sin servidor para pruebas de software: peticiones a los modelos MiniMax M3, GLM-5.2 y Kimi K2.6, sobre todo de los días 24 de junio y 4, 8 y 14 de julio de 2026.
Mientras se desarrollaba un repositorio público llamado xorl, un agente de IA incluyó en un commit la credencial que daba acceso a ese repositorio privado. El escaneo automático la detectó y el cambio se revirtió, pero un tercero la usó para descargar las muestras, buscó en ellas credenciales de otros servicios y probó si funcionaban. Cinco de las que probó eran señuelos colocados por Dragos para su experimento.
Los «canarios» de Dragos
Ese experimento lo publicó el 19 de noviembre HD Moore, director de investigación de Dragos. Entre julio y noviembre, su equipo envió unos dos millones de prompts a servicios de IA con secretos únicos y rastreables, como claves de AWS de cuentas vacías o URL que nadie más conocía. Cada secreto iba en una sola petición a un solo proveedor, así que cualquier uso posterior delataba la fuga.
Los resultados son preocupantes. Dragos encontró indicios de que al menos tres proveedores de alojamiento habían sido comprometidos sin saberlo, el primero desde mediados de julio. En el caso más grave se robaron un par de cientos de claves, incluso de peticiones que el proveedor rechazó antes de ejecutar el modelo. En los otros dos se robaron peticiones marcadas como Zero Data Retention (ZDR), el ajuste que promete no guardar nada. Las claves señuelo acabaron en decenas de miles de llamadas a la API de AWS.
Moore describe además revendedores de inferencia barata que registraban los prompts y un laboratorio chino cuyos sistemas visitaron las URL secretas de más de la mitad de los prompts enviados a sus modelos entre julio y octubre, incluidas unas dos terceras partes de las peticiones con ZDR o «sin recogida de datos». Dragos no identifica a los tres proveedores comprometidos, y Together no aclara si es uno de ellos.
OpenRouter mueve ficha
OpenRouter, que reparte peticiones entre muchos proveedores, publicó el 22 de noviembre que ha dado de baja a tres proveedores, ha retirado la etiqueta ZDR a 125 puntos de acceso (algunos por precaución) y ha avisado a los clientes afectados. Asegura que su plataforma no sufrió ninguna intrusión. En su lista de avisos públicos figuran Atlas Cloud, Novita, Phala y Together, aunque reconoce que no todos los proveedores afectados han publicado nada.
Nuestro análisis: el eslabón débil ya no es el modelo
El caso de Together reúne dos tendencias de 2026 en un solo incidente. Por un lado, los agentes de programación escriben y suben código a gran velocidad, y sin controles cometen el error humano de siempre: dejar una clave a la vista. Por otro, los prompts son un botín valioso porque en ellos se pega código, contratos, datos de clientes y contraseñas.
La lección para empresas y desarrolladores es que un ajuste de privacidad solo vale lo que valga el último intermediario. Cada salto entre un enrutador, un revendedor y un proveedor es un punto donde el texto se descifra y puede guardarse. Para una empresa europea con datos personales, no saber por qué manos pasan complica cumplir la normativa de protección de datos. También llama la atención lo que el aviso de Together no dice: cuántos prompts y clientes hay afectados o cuánto tiempo estuvo expuesta la credencial.
Qué puedes hacer
Dragos recomienda alojar los modelos en casa para lo más delicado, contratar directamente con un proveedor de primer nivel en lugar de aceptar el reparto por defecto de un enrutador, activar el filtrado de secretos y sembrar credenciales señuelo propias. Together, por su parte, aconseja activar ZDR a quien envíe datos sensibles. Y la regla más simple sigue siendo la mejor: no pegues contraseñas ni claves en un chatbot.
Fuentes
- Together AI – Security event: Prompt leakage for requests in June and July of 2026
- Dragos – Three breaches, endless leaks: Your AI supply chain needs canaries
- OpenRouter – Data Processing Incidents on Inference Providers
- Ars Technica – Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.






