Anthropic revela a Accenture como su primer evaluador integrado en el desarrollo de IA
En un giro significativo para la industria del desarrollo de inteligencia artificial, Anthropic ha anunciado que Accenture comenzará a trabajar dentro de su organización como evaluador externo independiente. Este movimiento marca una nueva etapa en la búsqueda de mayor transparencia y seguridad en los modelos de IA, especialmente después de las preocupaciones crecientes sobre los riesgos asociados al avance tecnológico.
La empresa de inteligencia artificial de San Francisco confirmó en una entrada de blog que Faculty, una compañía adquirida por Accenture en enero de este año para impulsar su presencia en el campo de la inteligencia artificial, se encargará de evaluar modelos, realizar pruebas de seguridad y asegurar la alineación de sus sistemas con los valores éticos establecidos. Esta colaboración representa una inversión de al menos mil millones de dólares durante los próximos cinco años, según lo anunciado por ambas partes.
La elección de Accenture como primer evaluador integrado sorprendió a muchos observadores del sector tecnológico. La compañía consultora, conocida principalmente por su experiencia en implementación de soluciones digitales para grandes corporativas y entidades gubernamentales, no tiene una trayectoria destacada en investigación avanzada de deep learning. Sin embargo, Anthropic enfatizó que su experiencia práctica en despliegue de IA en entornos empresariales y públicos representa una ventaja clave para el rol de auditoría.
El anuncio ocurrió poco después de que Dario Amodei, cofundador de Anthropic y exinvestigador de OpenAI, publicara un artículo en el que planteaba la necesidad de incorporar evaluadores de seguridad de terceros dentro de las principales instituciones de investigación en IA. La propuesta buscaba fortalecer la supervisión interna de los modelos mediante la inclusión de expertos externos que pudieran identificar posibles fallos o riesgos antes de que estos se convirtieran en problemas reales.
La reacción del mercado fue inmediata y positiva. Las acciones de Accenture subieron un 8% en las sesiones posteriores al anuncio, lo cual refleja la confianza de inversores en la capacidad de la empresa para adaptarse a este nuevo modelo de trabajo en el ámbito de la IA. Este interés también puede deberse a la percepción de que Accenture ofrece una visión más objetiva y menos influenciada por intereses comerciales o académicos.
Antes de este anuncio, la discusión sobre evaluadores integrados se centraba en organizaciones dedicadas a la investigación en seguridad de IA, como METR, Redwood Research y Apollo Research. Estas instituciones han sido vistas como candidatos naturales para este tipo de roles debido a su compromiso con la ética y la seguridad en el desarrollo de inteligencia artificial. Anthropic indicó que planea anunciar más evaluadores en las semanas venideras y que ya está en conversaciones con METR y otras organizaciones sin fines de lucro.
Algunos críticos consideran que este esquema de auto-regulación podría ser percibido como una forma de evadir responsabilidad frente a posibles abusos o errores en los modelos de IA desarrollados. En respuesta, Anthropic asegura que estos evaluadores no reducen su responsabilidad, sino que sirven para hacerla más verificable. La empresa afirma que la seguridad de sus modelos sigue siendo responsabilidad exclusiva de Anthropic.
Esta iniciativa se presenta como parte de una estrategia más amplia para construir una industria de IA más segura y transparente. El anuncio se produce justo antes de la conferencia Disrupt 2026, donde se espera que más empresas y líderes del sector presenten sus propuestas para mejorar la gobernanza en inteligencia artificial. La fecha límite para reservar espacios en el área de exposición es el 18 de septiembre.
La colaboración entre Anthropic y Accenture podría sentar las bases para un nuevo paradigma en la supervisión de IA, donde la responsabilidad compartida entre empresas privadas y consultoras especializadas sea clave para garantizar la ética y la seguridad en el desarrollo tecnológico. A medida que avanza el debate sobre cómo regular la IA, este tipo de alianzas podrían convertirse en un modelo replicable en otros sectores.
La decisión de Anthropic de incluir a Accenture como evaluador integrado representa un paso importante en la evolución de la cultura de seguridad dentro de las grandes compañías de IA. Si bien aún queda mucho por definir en cuanto a cómo se aplicarán estas prácticas, el hecho de que una empresa tan consolidada como Accenture se involucre en este espacio indica que la industria está tomando seriamente las preocupaciones relacionadas con la ética y el control de la inteligencia artificial.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch