OpenAI y Microsoft sabían que estaban creando un 'bucle de la perdición' para la web
Los documentos judicialmente revelados en el caso del New York Times contra OpenAI y Microsoft muestran que las dos empresas conocían los riesgos de sus acciones. En una declaración revelada por los archivos judiciales, se menciona claramente que el uso masivo de datos de la web para entrenar modelos de inteligencia artificial estaba generando un «bucle de la perdición» que afectaría negativamente tanto a los modelos como al ecosistema digital en general.
El documento interno citado indica que la estrategia de contenido de Microsoft en inteligencia artificial ha iniciado un ciclo vicioso que daña tanto el rendimiento de sus modelos como el funcionamiento del propio internet. Este tipo de crítica es especialmente grave porque sugiere que el modelo de negocio de las grandes corporaciones está amenazando directamente a los proveedores de contenido, lo cual es poco común en la industria tecnológica.
En uno de los momentos más contundentes del expediente judicial, el director de estrategia de datos de Microsoft, Jordan Usdan, calificó la posición de Hecht como «adversaria». Según él, Hecht representa puntos de vista académicos y futuristas que no necesariamente representan la visión oficial de Microsoft. Esto contrasta con las declaraciones públicas de la compañía, donde se presenta como defensora de prácticas justas en el uso de datos.
Entre las declaraciones incluidas en el archivo judicial, se encuentran comentarios de Satya Nadella, CEO de Microsoft, quien admitió que los chatbots han reemplazado en gran medida a los motores de búsqueda, reduciendo así la necesidad de acceder directamente a fuentes originales. Esta afirmación resalta cómo el avance de la IA está transformando la manera en que se consume la información en línea.
Además, el testimonio de Nick Turley, cabeza del equipo de ChatGPT en OpenAI, muestra una comprensión clara de que el uso de contenido protegido por derechos de autor representa una amenaza existencial para publicadores como el New York Times. Turley se refirió a la recopilación de datos como una forma de «robo de trabajo» sin precedentes en la historia humana.
La empresa OpenAI también reconoció internamente que su modelo GPT-4 tenía una tendencia a repetir información protegida por derechos de autor de forma literal. Aunque se señaló la importancia de evitar la memorización para prevenir violaciones de copyright, se admitió que el modelo había almacenado una gran cantidad de material protegido, lo cual plantea serias dudas sobre su cumplimiento con las normativas legales.
Greg Brockman, cofundador de OpenAI, fue citado en el expediente como alguien más interesado en el potencial lucrativo del sector de la IA que en la ética o el bienestar público. Su enfoque parece centrarse en la posibilidad de ganar «billones» de dólares mediante el desarrollo comercial de tecnologías de inteligencia artificial.
A pesar de que Nadella expresó posteriormente que todo contenido protegido debería estar licenciado, una representante de OpenAI declaró que no estaba al tanto de ningún intento de identificar o eliminar contenido pagado de los datos de entrenamiento. Esta contradicción entre declaraciones públicas y acciones internas refuerza las sospechas sobre la falta de transparencia en la gestión de los datos.
Las críticas internas y externas al modelo de negocio de OpenAI y Microsoft no solo ponen en tela de juicio su ética, sino también su sostenibilidad a largo plazo. La creación de un sistema que depende de la explotación de contenido sin compensación adecuada podría llevar a una crisis en la producción de contenido original y a una erosión de la confianza del usuario en plataformas digitales.
La revelación de estos documentos ha generado un intenso debate sobre la responsabilidad de las grandes corporaciones tecnológicas en la evolución del internet. Mientras tanto, los periodistas y creadores de contenido continúan exigiendo mayor transparencia y protección legal frente a la expansión desmedida de sistemas de IA basados en datos extraídos sin consentimiento explícito.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge