OpenAI implementará marca de agua en salidas de ChatGPT por defecto solo en la UE
OpenAI ha anunciado que comenzará a aplicar automáticamente marcas de agua en el texto generado por ChatGPT exclusivamente en la Unión Europea. Esta medida forma parte de una estrategia para cumplir con las regulaciones locales y mejorar la trazabilidad del contenido generado por inteligencia artificial. Aunque la funcionalidad también estará disponible en otras regiones, se activará de manera predeterminada solo dentro del espacio europeo.
La técnica utilizada por OpenAI se denomina «textGrain» y es propietaria del fabricante. La empresa ha publicado un documento técnico que explica cómo funciona este sistema de marca de agua. En términos generales, textGrain inserta patrones sutiles en las elecciones de palabras que no son perceptibles para un lector humano, pero que pueden ser detectados mediante herramientas especializadas.
Según OpenAI, solo un número limitado de investigadores y organizaciones tendrán acceso al detector de marcas de agua. Para otros interesados, existe un proceso de solicitud y aprobación que permitirá su inclusión gradual. Esta restricción de acceso busca proteger la integridad del sistema y evitar posibles abusos o manipulaciones maliciosas.
Los resultados de las pruebas realizadas por OpenAI muestran una tasa de detección del 92 por ciento, lo cual es considerable, aunque no perfecto. Sin embargo, los estudios también revelan que si se modifica solo el 10 por ciento del texto generado, la efectividad del detector disminuye en casi un 30 por ciento. En el caso de alterar el 20 por ciento del contenido, la tasa de éxito cae hasta un 75 por ciento.
Además, se ha observado que el rendimiento del sistema es menor en textos cortos o traducidos en comparación con los más extensos. Esto sugiere que la eficacia de la marca de agua puede verse afectada por factores como la longitud del texto y la complejidad del lenguaje utilizado.
Esta iniciativa se enmarca dentro de una tendencia creciente en el sector de la IA generativa. En agosto, la competencia de OpenAI, Anthropic, también lanzó una solución similar para sus modelos. A diferencia de OpenAI, Anthropic activó esta función de manera global, mientras que la nueva política de OpenAI se centra en cumplir con requisitos regulatorios específicos.
En el contexto de la API de OpenAI, la marca de agua seguirá estando disponible, pero desactivada por defecto fuera de la UE. Esto permite a los desarrolladores y usuarios tener la opción de habilitarla según sus necesidades, sin imponerla automáticamente en todas las regiones.
El despliegue de esta función en la Unión Europea está previsto para las próximas semanas. Esta medida representa un paso importante en la evolución de las políticas de transparencia y responsabilidad en el uso de tecnologías de inteligencia artificial.
La implementación de estas marcas de agua responde a preocupaciones crecientes sobre la autenticidad del contenido generado por modelos de lenguaje grandes (LLMs). A pesar de sus limitaciones, este tipo de soluciones buscan contribuir a una mayor trazabilidad y confianza en el contenido digital producido por sistemas de IA.
La estrategia de OpenAI refleja una nueva etapa en la regulación de la IA, donde las empresas deben equilibrar la innovación tecnológica con la conformidad normativa. Mientras tanto, los expertos continúan evaluando la efectividad real de estos sistemas frente a posibles intentos de evasión o manipulación.
Traducción y adaptación por Tecnología 365.
Fuente original: Ars Technica