Investigadores de seguridad de OpenAI niegan acusaciones de mal manejo de información y advierten de efecto intimidatorio
Los investigadores de seguridad de OpenAI, Jasmine Wang, Tomek Korbak y Mikita Balesni, han publicado una carta abierta en la que niegan las acusaciones de la empresa sobre el supuesto mal manejo de información sensible fuera de los protocolos establecidos. Los tres fueron despedidos la semana pasada tras ser acusados de compartir datos confidenciales con una organización externa dedicada a la seguridad en inteligencia artificial.
En su carta dirigida al Comité de Seguridad y Seguridad, al Grupo Asesor de Seguridad y al Consejo Asesor de Misión de OpenAI, los investigadores expresaron su preocupación por cómo se comunicó interna y externamente su despido, lo cual ha generado miedo entre sus colegas para hablar o actuar como antes era habitual en la empresa.
Wang, Korbak y Balesni sostienen que su desvinculación representa un cambio significativo en la cultura de OpenAI, una empresa que tradicionalmente incentivaba la apertura para discutir riesgos de seguridad. Ahora, según ellos, los empleados se sienten inciertos sobre qué comportamientos son aceptables, ya que lo que antes era considerado normal puede convertirse repentinamente en motivo de despido.
Los tres investigadores destacan que la colaboración con expertos externos es fundamental para identificar riesgos en el desarrollo de IA, y que la libertad de hacerlo sin temor debe considerarse un mecanismo de seguridad clave. «La IA no es una tecnología común, y OpenAI no es una empresa normal», escriben en su carta, resaltando la importancia del trabajo conjunto con la comunidad externa para prevenir problemas potenciales.
Además, los investigadores negaron estar involucrados en filtrar información a The Information sobre arquitecturas menos monitoreables en los modelos más recientes de OpenAI, que dificultan el razonamiento de tipo cadena de pensamiento. También rechazaron cualquier contacto con terceros fuera de sus funciones laborales establecidas.
OpenAI no ha respondido oficialmente a la carta abierta, aunque TechCrunch obtuvo un memorando interno atribuido a un líder de investigación en el que se reconoce la contribución de los tres investigadores al campo de la seguridad en IA y se niega que hayan sido despedidos por levantar preocupaciones o expresar opiniones.
El memorando afirma claramente que las decisiones no estaban relacionadas con la denuncia de riesgos ni con la crítica abierta, algo que la empresa siempre ha alentado. Sin embargo, OpenAI no respondió directamente a las preguntas de TechCrunch sobre qué políticas específicas violaron los investigadores, las circunstancias exactas de su despido o cómo protege realmente a sus empleados.
La carta de los tres investigadores también alerta sobre el impacto de este tipo de decisiones en la cultura organizacional, advirtiendo que la falta de claridad y el miedo pueden obstaculizar el trabajo de seguridad en IA y debilitar la rendición de cuentas con entidades externas. El ambiente que se crea con estos despidos abruptos y poco transparentes puede tener efectos en cadena en la forma en que se trabaja dentro de la compañía.
Este incidente ocurre en un momento en el que la industria tecnológica está cada vez más enfocada en la ética y la seguridad de los sistemas de inteligencia artificial. La controversia planteada por los investigadores de OpenAI podría tener implicaciones importantes para la cultura de trabajo en empresas de IA y cómo se gestionan los conflictos internos relacionados con la seguridad.
La situación pone en evidencia tensiones entre la necesidad de proteger información sensible y la importancia de mantener un entorno de trabajo abierto donde los empleados puedan expresar preocupaciones sin temor a represalias. La respuesta de OpenAI será crucial para determinar si esta es una excepción aislada o un cambio estructural en la forma en que se manejan las críticas internas en la empresa.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch