Google DeepMind lanza instituto para ampliar el debate sobre la inteligencia general artificial
Google y los investigadores de Google DeepMind anunciaron la creación del DeepMind Institute este miércoles con el objetivo de profundizar en el debate sobre la inteligencia general artificial (AGI). El nuevo organismo busca fomentar un diálogo más amplio entre las perspectivas de DeepMind, Google y la comunidad científica global respecto al desarrollo de sistemas de inteligencia artificial capaces de realizar tareas cognitivas similares a las humanas.
El instituto cuenta con una estructura directiva conformada por Shane Legg, cofundador de DeepMind; James Manyika, ejecutivo de Google; y Demis Hassabis, presidente de DeepMind. Legg asumirá el rol de editor gerente, mientras que el instituto se propone presentar diversas opiniones y puntos de vista en torno al avance tecnológico y sus implicaciones éticas y sociales.
En su lanzamiento, el instituto publicó una serie de ensayos que exploran temas cruciales como las políticas económicas necesarias para gestionar el impacto potencial de la AGI, cómo preservar la capacidad de razonamiento humano en modelos de IA, principios para garantizar el bienestar humano en un entorno de IA avanzada y marcos para evaluar modelos de IA de vanguardia.
Uno de los ensayos, escrito por los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, desafía la idea de que la transparencia en los modelos de IA sea inevitablemente reducida con el avance tecnológico. Los autores sostienen que, a medida que nuevas arquitecturas hacen más difíciles las auditorías de los modelos más poderosos, es fundamental que desarrolladores y reguladores enfrenten directamente las decisiones de seguridad asociadas.
La propuesta incluye limitar lo que llaman «profundidad serial opaca», es decir, el número de operaciones secuenciales que un modelo puede ejecutar sin dejar rastros legibles de su proceso de razonamiento. También sugieren que los desarrolladores deben demostrar que los sistemas menos transparentes siguen siendo monitoreables, asegurando así una mayor responsabilidad en el diseño de estos sistemas.
El instituto planea inicialmente colaborar con empresas de IA para diseñar evaluaciones, pero en un futuro próximo desarrollará sus propias pruebas independientes y no divulgadas, denominadas «tests held-out». Esta estrategia busca evitar que los laboratorios adapten sus modelos específicamente a las evaluaciones conocidas, promoviendo así una mayor objetividad en la medición del progreso de la IA.
Demis Hassabis señaló que el marco podría escalarse si la situación lo requiere, incluso considerando una desaceleración coordinada entre los principales desarrolladores de IA de vanguardia. Esta posibilidad refleja una evolución en el debate sobre la seguridad de la IA, que ha pasado de declaraciones generales de preocupación hacia propuestas concretas de rendición de cuentas, supervisión externa y medidas de control.
Esta transformación del debate se aceleró esta semana tras el apoyo de líderes de la industria a ciertos aspectos de la llamada de Dario Amodei, CEO de Anthropic, para «reducir el ritmo» del desarrollo de IA de frontera. La propuesta ha sido recibida con interés por parte de múltiples actores del sector, quienes reconocen la necesidad de un enfoque más cauteloso frente a los riesgos emergentes.
El lanzamiento del instituto coincide con el inicio de la edición 2026 de Disrupt, donde startups como OpenAI, Anthropic y Replit estarán presentes en seis escenarios industriales. Las inscripciones para expositores terminan el 18 de septiembre, ofreciendo oportunidades para conectar con inversores y generar visibilidad en el evento.
El DeepMind Institute representa un paso significativo en la búsqueda de una IA segura y responsable. Al promover el diálogo entre diferentes puntos de vista, busca construir una base sólida para la toma de decisiones informadas sobre el rumbo del desarrollo tecnológico en el ámbito de la inteligencia artificial.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch