OpenAI implementa marca de agua en texto en ChatGPT y Codex para usuarios de la UE
OpenAI ha anunciado el lanzamiento de una nueva tecnología de marca de agua en texto para sus modelos ChatGPT y Codex, específicamente dirigida a los usuarios ubicados en la Unión Europea. Esta funcionalidad, denominada textGrain, permite identificar de manera invisible si un contenido generado por inteligencia artificial fue producido por sus sistemas.
La implementación se realiza como parte de las medidas necesarias para cumplir con las normativas europeas, especialmente la futura Ley de Inteligencia Artificial de la UE. Aunque la marca de agua está siendo desplegada únicamente en la región europea por ahora, OpenAI ha dejado claro que no será la opción predeterminada a nivel mundial al inicio del lanzamiento.
Este enfoque regional permite a la empresa recopilar datos sobre el uso real de la función y evaluar la retroalimentación de los usuarios antes de considerar una expansión global. La compañía también ha comparado el rendimiento de textGrain con otras soluciones tecnológicas, como SynthID de Google DeepMind, que también se basa en técnicas similares a las utilizadas por Anthropic.
La adopción de marcas de agua en texto es una medida común entre empresas de IA para facilitar la identificación de contenidos generados por modelos automatizados. Esto responde a la necesidad de transparencia y trazabilidad que exige la legislación europea. Sin embargo, no todos los expertos han mostrado entusiasmo ante esta iniciativa.
En su comunicado, OpenAI reconoce que la marca de agua no garantiza una detección fiable al 100%, ni puede confirmar la precisión del contenido, determinar la propiedad del texto o medir la contribución humana. Además, no asegura la autenticidad del autor humano, lo cual limita su utilidad en contextos donde se requiere verificación más rigurosa.
Para los desarrolladores y usuarios de la API, OpenAI ha habilitado la opción de activar el sistema de marca de agua en modelos seleccionados. Esto permite a los clientes decidir si quieren integrar esta funcionalidad según sus propias obligaciones de transparencia y experiencia de usuario. Además, se están trabajando colaboraciones con proveedores en la nube para ofrecer esta característica también a través de sus servicios.
OpenAI también ha abierto acceso a investigadores y organizaciones especializadas para que puedan probar herramientas de detección de marcas de agua. Este acceso se otorgará bajo demanda, con el objetivo de evaluar y mejorar continuamente la efectividad del sistema sin revelar información sensible de los usuarios.
El sistema no será público al lanzarse debido a los riesgos asociados a falsos positivos y marcas de agua perdidas. La herramienta solo informará si detecta una marca de agua de OpenAI, sin revelar quién la generó ni los detalles de sus interacciones. Esta restricción busca proteger la privacidad de los usuarios mientras se mantiene la integridad del proceso de verificación.
La implementación de textGrain representa una evolución importante en la forma en que las empresas de IA manejan la transparencia y la responsabilidad en sus productos. A pesar de las limitaciones actuales, se espera que este tipo de tecnologías ayuden a establecer un marco más claro para la regulación del uso de inteligencia artificial en el futuro.
La decisión de OpenAI refleja una tendencia creciente hacia la implementación de mecanismos de trazabilidad en sistemas de IA, especialmente en contextos regulados como la Unión Europea. La compañía continúa explorando nuevas formas de equilibrar innovación, seguridad y cumplimiento normativo.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge