Sitio web del gobierno estadounidense usa modelo chino de IA considerado 'malicioso' por el FBI
El sitio web del Registro Federal de Estados Unidos eliminó temporalmente un motor de búsqueda basado en inteligencia artificial desarrollado por una empresa china, tras la controversia generada por su uso. Este cambio se produjo tras que usuarios de redes sociales notaran una contradicción evidente: mientras la Archivo Nacional utilizaba uno de los modelos de IA de Alibaba, la Fiscalía Federal de EE.UU. había calificado a dichos modelos como ilegales y potencialmente peligrosos para la seguridad nacional.
La noticia fue reportada por Reuters, quien informó que el modelo Qwen de Alibaba fue retirado del sitio web del Registro Federal en la tarde del miércoles. El sistema había estado activo durante al menos un día, según se reveló mediante el análisis del código fuente archivado del sitio. Un usuario de X (anteriormente Twitter) identificado como «tleilax___» compartió una captura de pantalla del menú de búsqueda que mostraba la presencia del modelo chino.
La decisión del gobierno fue tomada en medio de una creciente preocupación sobre la dependencia tecnológica con empresas chinas en el ámbito de la inteligencia artificial. La Agencia Federal de Investigación (FBI) ha señalado a Alibaba, junto con otras cinco compañías chinas, como parte de una operación de «distilación a gran escala» que, según la agencia, permite a China acelerar su desarrollo tecnológico y reducir costos en la carrera por liderar el sector global de la IA.
Daniel Castro, presidente de la Fundación para la Innovación en Tecnología de la Información, expresó su desconcierto ante la paradoja: «Es una contradicción absurda que una agencia gubernamental utilice un modelo de Alibaba mientras el FBI recomienda a sus socios usar únicamente modelos estadounidenses». Castro destacó que, aunque el uso del modelo chino no representa un riesgo inmediato, sí plantea preguntas sobre la política de soberanía tecnológica del país.
Según Anupam Chander, profesor de derecho de la Universidad de Georgetown, el posible riesgo de seguridad dependerá de cómo haya sido entrenado el modelo y si se procesaron datos sensibles bajo sistemas controlados por Alibaba. Sin embargo, expertos coinciden en que el uso del modelo Qwen en el Registro Federal probablemente no representó un peligro significativo, dado que el contenido del sitio ya es público.
El modelo específico utilizado, según un reporte de la publicación china Sina.com, era una versión pequeña y de acceso abierto del modelo Qwen3 de 0.6B de parámetros. A diferencia de los modelos más grandes y propietarios, este no realiza razonamiento complejo ni envía información sensible a Alibaba o terceros. Además, puede descargarse y ejecutarse localmente, lo que reduce los riesgos de exposición de datos.
La capacidad de ejecutar modelos de IA localmente ha hecho que estos sean cada vez más populares entre las instituciones gubernamentales. Según Sina.com, además de su menor costo y mayor predictibilidad en términos de precios, estos modelos ofrecen mayor control sobre los datos, lo cual es crucial para entidades que manejan información sensible.
En este contexto, algunos expertos cuestionan si el uso del modelo Qwen realmente puede considerarse un servicio chino en el sentido tradicional. Dado que es de código abierto y no requiere conexión a servidores centrales de Alibaba, su implementación no implica necesariamente una dependencia tecnológica directa con la empresa china.
La situación resalta la tensa dinámica entre la necesidad de innovación tecnológica y la protección de la soberanía digital en Estados Unidos. Mientras tanto, el gobierno busca equilibrar el avance en IA con la seguridad nacional, enfrentando desafíos complejos en un entorno global donde las fronteras tecnológicas se vuelven cada vez más difusas.
La controversia podría tener implicaciones más amplias en la política de tecnología del gobierno federal, especialmente en momentos en que se intensifican debates sobre el uso de herramientas de IA extranjeras en infraestructuras críticas.
Traducción y adaptación por Tecnología 365.
Fuente original: Ars Technica