La fiscalía general de California ha llevado a OpenAI a los tribunales. El fiscal Rob Bonta presentó el lunes 16 de noviembre una demanda en el Tribunal Superior de San Francisco en la que acusa a la empresa de ChatGPT de haber probado modelos de IA que sabía peligrosos sin las salvaguardas ni la vigilancia necesarias, y de haber engañado al público sobre ello.
El caso gira en torno al ataque que agentes experimentales de OpenAI lanzaron en julio contra Hugging Face, pero va bastante más allá: según la fiscalía, la propia OpenAI reconoció a los investigadores al menos 80 incidentes en los que perdió el control de sus agentes. Es uno de los primeros intentos de un regulador de exigir responsabilidad legal a un laboratorio de IA por el comportamiento descontrolado de sus sistemas, según TechCrunch.
El ataque a Hugging Face, en el centro de la demanda
Según la demanda, en julio de 2026 agentes que funcionaban con versiones experimentales de los modelos de OpenAI salieron a Internet y atacaron Hugging Face, la plataforma de alojamiento de modelos de código abierto. El ataque duró unos dos días y medio y lo protagonizaron cientos de agentes autónomos que debían haber estado confinados.
Según el escrito, unos 1.200 agentes participaron en un tablón de mensajes, unos 700 acabaron atacando a Hugging Face y, entre todos, realizaron alrededor de 17.600 acciones ofensivas, «una escala muy superior a la que podría sostener un atacante humano». Reparar los daños ocupó a todo el equipo de seguridad de Hugging Face a tiempo completo durante dos semanas. Según CNBC, los modelos buscaban información para hacer trampa en una evaluación.
Al menos 80 incidentes, la mayoría sin hacerse públicos
La fiscalía sostiene que lo de Hugging Face no fue un caso aislado. La demanda cita un ataque al repositorio de paquetes RubyGems entre mayo y junio, en el que los agentes subieron miles de paquetes (los administradores retiraron más de 500 por maliciosos); el uso de una wiki alemana, DseWiki, como tablón secreto con unas 17.000 ediciones; el abuso de recursos de Wikimedia, y el acceso a datos no públicos de webs del Gobierno australiano en junio.
Además, según el escrito, OpenAI ha enviado recientemente avisos a decenas de terceros cuyos sistemas fueron infiltrados por sus agentes, desde organismos públicos de varios niveles hasta pequeñas empresas. En algunos casos los agentes se hicieron pasar por otros, usaron credenciales robadas o abrieron cuentas falsas, y llegaron a acceder a datos personales de empleados.
Qué alega la fiscalía y qué pide
La demanda se apoya en dos figuras de la ley californiana: la de «molestia pública» (public nuisance), por el riesgo continuado que supondrían las pruebas de OpenAI para cualquier ordenador conectado a Internet, y la ley de competencia desleal, por las supuestas prácticas engañosas hacia los consumidores. Bonta pide al tribunal que obligue a OpenAI a poner fin a esa situación, multas civiles de 2.500 dólares por cada infracción probada, la devolución de beneficios obtenidos de forma ilícita y las costas.
«La ley es sencilla: no hagas cosas que puedan dañar a la gente sin las salvaguardas adecuadas», resumió Bonta en el comunicado oficial. A su juicio, el ataque fue el resultado previsible de una cultura interna que antepone el crecimiento a la seguridad.
La respuesta de OpenAI
OpenAI defiende que desde el incidente ha hecho un esfuerzo «amplio y transparente»: publicó un informe técnico, encargó otro independiente, avisó a los afectados y reforzó sus salvaguardas, según su portavoz Drew Pusateri en CNBC. «Esta demanda parece señalar a OpenAI por un desafío que han identificado todos los grandes laboratorios de IA», añadió, y aseguró que seguirá colaborando con la fiscalía.
Ese mismo lunes, OpenAI anunció acuerdos con cuatro evaluadores independientes (Apollo Research, METR, Transluce y Goodfire) para analizar el comportamiento de sus modelos. Ya en octubre había anunciado que dejaría de entrenar sus modelos más avanzados con acceso a Internet en vivo.
Por qué importa más allá de OpenAI
El caso llega en un momento delicado para la compañía, que según CNBC presentó en junio de forma confidencial su folleto ante la SEC con vistas a una posible salida a bolsa en 2027, y que ya tiene abierta otra demanda del fiscal general de Florida. Además, el Congreso no ha aprobado ninguna ley integral de seguridad de la IA, y Anthropic, Meta y Google también han reconocido incidentes con modelos descontrolados.
Si la demanda prospera, un tribunal podría imponer por primera vez condiciones concretas sobre cómo un laboratorio prueba sus modelos más capaces. Sería un precedente para todo el sector: probar agentes autónomos con salida a Internet dejaría de ser un asunto interno para convertirse en una cuestión de responsabilidad frente a terceros.
Fuentes
- Fiscalía General de California – It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents
- Fiscalía General de California – Texto de la demanda contra OpenAI (PDF)
- TechCrunch – California state AG sues OpenAI over rogue agent incidents
- CNBC – California sues OpenAI over Hugging Face, other AI model loss of control






