La disputa de OpenAI con los matemáticos se intensifica
La controversia entre OpenAI y la comunidad matemática se profundiza tras una carta abierta firmada por veinticinco destacados matemáticos, incluyendo varios galardonados con la Medalla Fields. El grupo denuncia que las principales empresas de inteligencia artificial están poniendo en riesgo el trabajo intelectual tradicional al competir por resolver problemas matemáticos clásicos.
Entre los firmantes se encuentran figuras reconocidas en el ámbito matemático, cuya labor ha sido fundamental para el avance del conocimiento científico. La carta señala que la carrera por ser el primero en resolver problemas complejos está generando tensiones significativas dentro de la comunidad académica.
Este conflicto adquiere mayor relevancia cuando se considera que uno de los signatarios, el profesor de NYU Tristan Buckmaster, acusó a OpenAI de presionarlo para no citar a un colaborador que trabaja en Anthropic. Según Buckmaster, el equipo de OpenAI pudo haber utilizado su trabajo con el modelo Codex para generar una prueba revolucionaria durante un fin de semana de inferencias intensivas.
El escándalo se agravó cuando OpenAI retiró su patrocinio de un evento matemático en Caltech tras críticas de investigadores universitarios. Esta medida refleja cómo la reputación de las instituciones tecnológicas puede verse afectada por la percepción pública de su comportamiento ético en el ámbito académico.
Los firmantes de la carta argumentan que aunque la capacidad de los modelos de IA para resolver desafíos matemáticos podría beneficiar a la humanidad, solo será así si esas soluciones son comprensibles y comunicables para la comunidad científica. La falta de transparencia en el proceso de desarrollo de estas pruebas plantea preocupaciones sobre la verificación académica.
En su carta, los matemáticos expresan que muchas veces estas soluciones se presentan con prisa, sin tiempo suficiente para redactar adecuadamente los resultados, identificar métodos innovadores o citar trabajos previos. Esto genera dudas sobre la autenticidad de los descubrimientos y eleva preguntas sobre plagio e atribución en el ámbito creativo.
Además, se advierte que sin la participación activa de matemáticos comprometidos en integrar estos hallazgos en el canon matemático, las ideas concebidas por IA nunca llegarán a consolidarse. Se teme que se rompa la cadena humana de transmisión del conocimiento entre generaciones de expertos.
La preocupación crece entre otros académicos que sospechan que sus propios usos de herramientas como Codex podrían estar siendo utilizados por las grandes empresas de IA para entrenar sus modelos. Esta situación amenaza la cultura de investigación abierta que ha sido fundamental para el progreso científico.
Un nuevo dinamismo en el entorno académico sugiere que ahora, si un laboratorio fronterizo encuentra una vía útil hacia un descubrimiento, puede invertir decenas de millones de dólares usando modelos de lenguaje grande (LLMs) para superar a los investigadores originales. Esta práctica incentiva la confidencialidad y puede socavar la colaboración abierta.
Esta carta surge como continuación del Declaración de Leiden, publicada en junio por un grupo de trabajo de matemáticos. Ese documento también analiza cómo las demostraciones generadas por LLMs están transformando el trabajo matemático y ofrece recomendaciones para académicos, instituciones y responsables políticos. Al igual que en otras áreas donde la IA está redefiniendo flujos de trabajo, los matemáticos enfatizan que el valor del campo no reside únicamente en las demostraciones, sino en la estructura intelectual que nutre a los estudiantes, genera nuevas preguntas y conecta el conocimiento con la civilización humana.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch