Investigadores de seguridad usan Claude para infiltrarse en OpenAI
Un equipo de tres investigadores de seguridad independientes de la empresa Hacktron logró infiltrarse en las cuentas de empleados de OpenAI en menos de 72 horas, utilizando modelos de inteligencia artificial de Anthropic como Claude Opus 4.8 y 5. El acceso se realizó a través de una vulnerabilidad en el sistema de foros comunitarios de OpenAI, que está alojado en Discourse, una plataforma de terceros.
Los expertos utilizaron un archivo de imagen corrupto en formato HEIF para explotar un fallo en el procesamiento de imágenes dentro del sistema Discourse. Esta técnica permitió obtener acceso remoto al servidor de foros, lo cual les otorgó permisos suficientes para acceder al repositorio interno de OpenAI conocido como «Monorepo», donde se almacenan los algoritmos y código clave de la empresa.
Según informes de The Wall Street Journal, el equipo no accedió directamente al código fuente del repositorio, pero sí enviaron una solicitud de extracción (pull request) desde una cuenta de empleado de Codex, demostrando así su acceso al sistema. Este tipo de acción fue suficiente para revelar una falla crítica en la infraestructura de seguridad de OpenAI.
El proceso completo se llevó a cabo en apenas uno o dos días, con un gasto menor a los 3.000 tokens utilizados en los modelos de Claude y Codex. La investigación fue aplicada a múltiples empresas, incluyendo Slack, Meta, GitHub Enterprise, Rails, Next.js, ImageMagick y otras, lo que demuestra la versatilidad de la técnica empleada.
La vulnerabilidad descubierta afectaba específicamente el manejo de archivos HEIF, un formato de imagen utilizado comúnmente en dispositivos iOS. Al manipular este tipo de archivos, los investigadores pudieron ejecutar comandos remotos (RCE) en la instancia de Discourse Cloud de OpenAI, lo que les permitió acceder a datos sensibles del entorno interno.
Una vez reportadas las fallas a las respectivas compañías, tanto Discourse como OpenAI corrigieron los problemas de seguridad. Hacktron recibió un pago de 6.500 dólares por su descubrimiento, aunque su director técnico, Mohan Pedhapati, expresó que no consideran su nivel de habilidad comparable al de grupos de amenazas chinos, destacando que son simplemente tres personas con acceso a herramientas de IA como Claude y Codex.
Este incidente resalta la creciente importancia de los sistemas basados en inteligencia artificial como herramientas tanto de defensa como de ataque. Aunque se trata de un caso aislado, el uso de modelos como Claude para identificar vulnerabilidades en grandes corporaciones representa una nueva tendencia en el ámbito de la ciberseguridad.
Además de OpenAI, otros servicios como Shopify fueron afectados por esta técnica, aunque solo uno de los objetivos detectó la actividad sospechosa. Esto indica que, si bien el método es eficaz, aún puede evadir sistemas de monitoreo convencionales.
La investigación también pone en evidencia la necesidad de revisar constantemente las prácticas de seguridad en plataformas de terceros, especialmente aquellas que albergan foros o sistemas colaborativos. Las fallas en el manejo de formatos multimedia pueden tener consecuencias graves en términos de privacidad y protección de datos.
En respuesta a este incidente, OpenAI ha reforzado sus controles de acceso y está evaluando nuevas medidas de protección para evitar futuras intrusiones similares. La comunidad de seguridad informática continúa vigilando el desarrollo de estas tecnologías de IA y su impacto en la ciberseguridad global.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge
