¿El debate sobre la seguridad de la IA es sobre la seguridad o el control?
Disrupt 2026: OpenAI, Anthropic, Replit y más toman más de 6 etapas de la industria. 25% de descuento en boletos ahora
¿Cómo debería abordar la industria tecnológica el tema de la seguridad de la IA? Cada vez más, los ejecutivos de alto nivel están opinando sobre esta cuestión, a medida que se desata un debate sobre si incidentes como el de Hugging Face, en el que un agente de OpenAI pirateó varias empresas diferentes, sugieren que la IA está a punto de sumir a nuestro mundo en el caos.
En las últimas semanas, destacados laboratorios han pedido una desaceleración del avance de la IA. Lo más dramático es que el CEO Dario Amodei escribió un ensayo de casi 4.000 palabras en el que expuso por qué el desarrollo de la IA debería desacelerarse para que se puedan desplegar barandas adecuadas. Ese plan implica, entre otras cosas, una estrategia internacional de colaboración entre empresas y gobiernos sobre el despliegue seguro. Ejecutivos rivales de IA, como Sam Altman de OpenAI y Elon Musk de xAI, han respaldado el plan de Amodei.
El ensayo ha estimulado una mayor conversación en toda la industria tecnológica, aunque no todos estuvieron de acuerdo con el llamado de Amodei a una acción coordinada a nivel mundial. De hecho, muchos parecen pensar que la supervisión gubernamental no necesariamente tiene que desempeñar un papel en absoluto.
Los últimos participantes en este debate incluyen al CEO de Meta, Mark Zuckerberg, quien acudió a X esta semana para compartir sus pensamientos sobre el asunto.
«Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos.» Zuckerberg reveló que su empresa había retrasado el lanzamiento de su modelo de IA por preocupaciones de seguridad. «Meta retrasó el envío de Muse durante varios meses para centrarse en la seguridad», dijo Zuckerberg. «No pedimos a todos los demás que hicieran esto antes de que lo hiciéramos. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para las personas y para nosotros «.
Zuckerberg, quien respaldó partes del plan de Amodei, parece implicar que la acción del gobierno es innecesaria y que los incentivos orgánicos que estructuran la industria obligarán a las empresas a garantizar la seguridad. En última instancia, el mercado debería traer éxito a las empresas que se preocupan por crear modelos que no causen caos. Esto parece alinearse con el propio ensayo masivo de Zuckerberg, escrito el mes pasado, que abogó por una colaboración limitada con el gobierno, cuando sea necesario, pero en gran medida promocionó la competitividad estadounidense como la clave para un futuro tecnológico próspero.
En general, esta parece ser la posición de muchos otros ejecutivos de tecnología.
Otro ejecutivo de alto nivel que intervino fue el cofundador de Reddit, Alexis Ohanian, quien le dijo a CNBC el miércoles que sentía que la industria tecnológica había sido en gran medida «sorda» cuando se trataba de explicar los riesgos de la IA al público. Sin embargo, al igual que Zuckerberg, Ohanian también parecía expresar la esperanza de que las empresas pudieran resolver las cosas por sí mismas. Shane Legg, cofundador de Google DeepMind, también compartió sus pensamientos . «Estamos viviendo en un período en el que las capacidades están avanzando muy, muy rápidamente», dijo Legg. «Pero no podemos dejar que las capacidades se adelanten a la seguridad.» Añadió: «Tenemos que trabajar realmente en los detalles de eso y cómo funcionaría en la práctica».
Anteriormente se han celebrado discusiones sobre la creación de una organización similar administrada por el gobierno federal. Sin embargo, la Casa Blanca de Trump, que incluye defensores vocales de la IA y ha presionado en gran medida por un negocio tecnológico no regulado (la administración incluso ha tratado de impedir por la fuerza que los gobiernos estatales introduzcan sus propias leyes de IA), no ha buscado nada. El «zar de la IA» de la administración, el veterano de la tecnología David Sacks, ha dicho que la regulación de la IA debería dejarse en manos de las empresas que la desarrollan.
Al igual que la Casa Blanca, los miembros prominentes del Congreso parecen igualmente desinteresados en aceptar la oferta de Amodei para regular su empresa. Poco después de que se publicara el ensayo del CEO de Anthropic, el presidente de la Cámara de Representantes, Mike Johnson, abordó las preocupaciones sobre los avances catastróficos de la IA de esta manera: «No todos van a estar muertos en 10 años», dijo .
Muchas voces prominentes en el gobierno chino se han hecho eco de esa posición. Después de que Amodei pidiera «caminar por la frontera» esta semana, el Ministerio de Relaciones Exteriores de China, Guo Jiakun, acusó a los estadounidenses de usar el «alarmismo» para interrumpir el desarrollo de la gobernanza global de la IA, mientras que un artículo de opinión en el periódico estatal de China llamó a la retórica de Amodei directamente de un «libro de jugadas de la Guerra Fría».
La reestructuración de la forma en que las empresas hacen negocios con China, una de las cosas que Amodei pide en su ensayo, podría ser naturalmente una oportunidad para que las empresas estadounidenses influyan en las cosas a su favor. Amodei incluso admite que este es el objetivo. «Si ejecutamos bien estas medidas, creo que ralentizarían el progreso de China lo suficiente como para ampliar significativamente el liderazgo de Estados Unidos en los próximos 3–5 años, la ventana en la que la IA se vuelve geopolíticamente más importante», escribió en su ensayo.
Sin embargo, no es solo China la que considera que los grandes laboratorios estadounidenses de IA buscan lanzar el partido a su favor. Aidan Gómez, CEO de la firma canadiense de IA Cohere, acusó recientemente a esas compañías de formar un «cártel», escribiendo en una publicación de blog : «La IA necesita barandillas. Esa no es la disputa y nunca lo ha sido. La disputa es sobre quién las escribe, quién puede participar y qué intereses protegen las reglas».
Como señala Gómez, el campo de la seguridad de la IA es profundamente político, en el que los términos por los que se define la seguridad, y por quién, ayudarán en última instancia a determinar quién tiene una ventaja y quién se queda atrás en la próxima etapa de la competencia de IA.
El último día para reservar una mesa de exhibición es el 18 de septiembre. No te pierdas los clientes potenciales de alto impacto, el acceso de los inversores y la atención de la marca en el Expo Hall de Disrupt.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch
Fuente original: TechCrunch
