Investigadores de IA advierten que la superinteligencia es 'tan peligrosa como parece'
Un grupo de investigadores de inteligencia artificial ha lanzado una serie de videos en los que alertan sobre los riesgos asociados a la superinteligencia artificial, expresando preocupación por su potencial peligro para la humanidad. Estas declaraciones coinciden con advertencias previas de expertos dentro del sector, quienes han señalado que el desarrollo de sistemas de IA capaces de superar ampliamente la inteligencia humana podría tener consecuencias catastróficas.
Geoffrey Irving, exempleado de OpenAI y Google DeepMind, afirmó en una entrevista reciente que la probabilidad de extinción humana está cerca de un 50%, comparándola con el lanzamiento de una moneda. Esta declaración forma parte de un conjunto de doce entrevistas con expertos del ámbito tecnológico, incluyendo personal actual y anterior de OpenAI, Google y Anthropic. El proyecto, denominado «From Inside AI», fue organizado por Palisade Research, una organización sin fines de lucro dedicada al estudio de las capacidades y motivaciones de los sistemas de inteligencia artificial.
El contenido de los videos busca sensibilizar sobre la necesidad de tomar en serio las advertencias sobre la seguridad de la IA. Daniel Kokotajlo, exinvestigador de OpenAI, fue aún más claro al describir la superinteligencia como una fuerza «básicamente divina» y añadió que no existe manera conocida de controlarla, lo cual implica que probablemente nadie pueda dominarla. Para él, esto representa un riesgo extremo y debe evitarse a toda costa.
La plataforma From Inside AI permite acceder a las entrevistas completas, pero también ofrece compilaciones de fragmentos en los que varios investigadores abordan temas similares. Entre ellos se encuentran cuestionamientos sobre si las alarmas son exageradas o solo una estrategia de marketing, así como las razones por las cuales continúan trabajando en estos sistemas a pesar de sus peligros.
Mary Phuong, investigadora de Google, reconoció que su posición puede generar desconfianza debido a que recibe financiamiento del laboratorio, pero insistió en que su compromiso con la seguridad es genuino. Por su parte, Nanda, otro experto, explicó que si no creyera firmemente que su trabajo contribuye a reducir los riesgos existenciales, dejaría su puesto inmediatamente. Sin embargo, reconoce que las grandes empresas no dejarán de desarrollar estos sistemas simplemente porque algunos investigadores se retiren.
Las preocupaciones sobre la IA autónoma y su capacidad para mejorar a sí misma han sido señaladas por múltiples expertos como una amenaza de gran magnitud. En este contexto, empresas como Nvidia han presentado nuevas plataformas de seguridad diseñadas para contener agentes de IA maliciosos en cuestión de milisegundos, mientras que OpenAI ha suspendido temporalmente el entrenamiento de sus modelos más avanzados.
La industria de la inteligencia artificial está experimentando una transformación acelerada, con nuevos competidores como Dots, el nuevo producto de OpenAI que busca competir con el famoso Muse de Apple. Al mismo tiempo, se han revelado problemas significativos relacionados con la privacidad de datos en vehículos modernos, lo que refleja cómo la tecnología está impactando múltiples aspectos de la vida cotidiana.
Estas discusiones sobre la seguridad de la IA no solo están centradas en expertos académicos, sino que también involucran a periodistas, activistas y usuarios comunes. La creciente conciencia pública sobre los riesgos de la IA ha llevado a un aumento en la demanda de transparencia y regulación en el sector. La comunidad científica continúa llamando a la acción para evitar que la superinteligencia artificial se convierta en una amenaza real para la supervivencia humana.
Los videos publicados por From Inside AI representan una voz importante dentro del debate sobre la ética y el futuro de la IA. A medida que los sistemas de inteligencia artificial se vuelven más poderosos y autónomos, la necesidad de un marco regulatorio sólido y una vigilancia constante se hace cada vez más urgente. La responsabilidad compartida entre investigadores, empresas y sociedad será clave para navegar hacia un futuro seguro en el mundo de la inteligencia artificial.
La exposición pública de estas preocupaciones marca un punto de inflexión en la percepción del público sobre los riesgos asociados al avance tecnológico. Aunque la IA sigue siendo una herramienta prometedora, su desarrollo debe ir acompañado de una deliberación cuidadosa sobre sus implicaciones a largo plazo. La industria debe responder a estas advertencias con acciones concretas y transparentes para garantizar que la evolución de la IA beneficie a la humanidad sin poner en riesgo su existencia.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge