OpenAI, Anthropic y Google hablan de seguridad en IA durante semanas, según revelaciones
OpenAI, Anthropic y Google DeepMind han estado en conversaciones prolongadas sobre la seguridad de la inteligencia artificial durante varias semanas, según informó el director global de políticas de OpenAI, Chris Lehane, a periodistas el martes. Esta información fue revelada por Bloomberg y se produce en un contexto de creciente preocupación por los riesgos catastróficos asociados al desarrollo de modelos de IA de vanguardia.
Lehane, quien se encuentra actualmente en Washington trabajando junto a legisladores estadounidenses, destacó que estas discusiones tienen como objetivo establecer protocolos comunes para garantizar que los avances tecnológicos en IA no pongan en peligro la seguridad pública. La comunicación entre estas empresas representa una evolución significativa en la forma en que las principales figuras del sector abordan los desafíos regulatorios y éticos.
El debate se intensificó tras la publicación del ensayo del CEO de Anthropic, Dario Amodei, el sábado anterior. En su texto, Amodei instó a la industria a frenar el ritmo del desarrollo de IA de punta con el fin de prevenir posibles consecuencias catastróficas. Su llamado fue respaldado por figuras importantes como Sam Altman de OpenAI, Demis Hassabis de Google y Elon Musk de SpaceXAI.
Altman expresó públicamente que su empresa se uniría a Anthropic en la implementación de evaluadores independientes capaces de monitorear continuamente los procesos de desarrollo de IA. Este tipo de medidas busca asegurar que los sistemas sean seguros antes de ser lanzados al mercado o integrados en aplicaciones críticas.
A pesar de los esfuerzos colaborativos, algunos expertos advierten que dichas coordinaciones podrían violar leyes antimonopolio si se considera que están suprimiendo la competencia entre empresas. Sin embargo, Lehane indicó que las tres compañías no necesitan una exención gubernamental para poder trabajar conjuntamente en temas de seguridad.
En contraste, el presidente Donald Trump ha rechazado las preocupaciones sobre la seguridad de la IA, calificándolas como una «farsa». Además, ha señalado que cualquier restricción en el avance tecnológico podría beneficiar a China en la carrera por liderar el campo de la inteligencia artificial. Su asesor principal en asuntos de IA, David Sacks, también compartió esta visión, afirmando que los temores sobre riesgos existenciales son exagerados.
La reunión del martes fue parte de una serie de eventos organizados durante el evento Disrupt 2026, donde más de 6 escenarios industriales fueron ocupados por líderes tecnológicos. El evento, que ofrece un 25% de descuento en entradas, destaca por su enfoque en las implicaciones sociales y regulatorias del desarrollo tecnológico.
Además de las conversaciones privadas, OpenAI también expresó su apoyo a una cláusula incluida en la ley FRONTIER Act, que obligaría a los laboratorios de IA más avanzados a permitir la entrada de organizaciones de verificación independiente. Esta medida busca garantizar que los modelos sean desarrollados bajo estándares rigurosos de seguridad.
Las empresas involucradas aún no han emitido comentarios oficiales sobre las conversaciones mencionadas, aunque TechCrunch ha contactado a Anthropic, Google y OpenAI para obtener información adicional. El plazo final para reservar un espacio en el salón de exposición de Disrupt es el 18 de septiembre.
Este desarrollo marca un punto de inflexión en la relación entre grandes actores del sector tecnológico, ya que se observa una mayor disposición a colaborar en temas de regulación y ética, incluso si eso implica cierta complejidad legal.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch