Trillium Labs lanza un nuevo modelo de investigación abierta en IA
En medio del creciente debate sobre la ética y el control de la inteligencia artificial de vanguardia, dos científicos de la industria, Nathan Lambert y Tom Zick, han decidido tomar una postura contraria a la mayoría de los laboratorios de investigación en IA. Fundaron Trillium Labs, un laboratorio sin fines de lucro que busca llevar a cabo investigaciones de alto riesgo, como la auto-mejora recursiva (RSI) y el comportamiento de agentes, de manera completamente transparente.
La filosofía detrás de Trillium Labs se basa en la premisa de que la transparencia es clave para mitigar riesgos asociados a los modelos de IA avanzados. A diferencia de las grandes empresas tecnológicas que mantienen sus investigaciones confidenciales, Trillium publicará detalles completos de sus experimentos, permitiendo que otros científicos puedan replicarlos y analizarlos.
Lambert, quien ha trabajado en el área de inteligencia artificial desde hace años, argumenta que la falta de acceso público a los avances en IA limita la capacidad de la comunidad científica para evaluar y mejorar estos sistemas. «Durante miles de años, la humanidad ha contado con el método científico como herramienta para mitigar daños y construir un futuro mejor», dijo a WIRED. «La trayectoria cerrada actual del desarrollo de IA de vanguardia nos está llevando un paso atrás».
Actualmente, los modelos más poderosos del mercado, como los desarrollados por OpenAI y Anthropic, solo pueden accederse mediante aplicaciones o APIs (interfaces de programación de aplicaciones), lo cual impide una visión clara de cómo están construidos y cómo se comportan en la práctica. Esta falta de transparencia ha generado preocupación entre expertos que buscan comprender mejor los riesgos asociados a estas tecnologías.
En contraste, algunas empresas chinas han adoptado un enfoque diferente. Por ejemplo, Xiaomi ha compartido en vivo información detallada sobre una importante corrida de entrenamiento de uno de sus modelos. De igual forma, investigadores de la Universidad de Stanford están preentrenando el modelo AI Marin en un entorno abierto, permitiendo así una mayor participación comunitaria.
El debate sobre si la investigación en IA debe mantenerse restringida o ser completamente pública se intensifica debido al poder cada vez mayor de los modelos de vanguardia. Estos sistemas pueden automatizar la identificación de vulnerabilidades de software y realizar pruebas de penetración en sistemas informáticos. Recientes incidentes de ciberataques han aumentado aún más la atención hacia este tema.
Defensores del modelo de acceso limitado sostienen que mantener el control de estas capacidades en manos de unos pocos expertos es fundamental para evitar mal uso. Sin embargo, Lambert y Zick creen firmemente que una mayor colaboración y transparencia beneficiaría a toda la sociedad. Para ellos, compartir conocimiento permite una evaluación más completa de los riesgos y posibilidades de los modelos de IA.
Los fundadores de Trillium Labs se conocieron durante la pandemia de COVID-19, cuando ambos estaban realizando estudios de posgrado en la Universidad de California, Berkeley. Su experiencia en el ámbito académico les permitió observar la brecha entre la investigación industrial y la universitaria, donde muchos investigadores no tienen acceso a los recursos necesarios para replicar los avances de las grandes corporaciones.
Trillium Labs, lanzado oficialmente hoy, tiene como objetivo convertirse en un referente en investigación abierta en IA. El laboratorio espera inspirar a otros a adoptar prácticas más colaborativas y transparentes, promoviendo un futuro en el que la innovación en IA sea accesible y responsable.
Este movimiento representa un cambio significativo en la cultura de desarrollo de IA. Si bien aún hay mucho por explorar, la iniciativa de Trillium Labs podría marcar un hito en la forma en que se entiende y regula la investigación en inteligencia artificial de alto impacto.
Traducción y adaptación por Tecnología 365.
Fuente original: Wired