Timnit Gebru: Las alarmas sobre el fin de la humanidad por IA son una distracción
La destacada investigadora de inteligencia artificial Timnit Gebru ha lanzado una fuerte crítica a las voces que advierten del peligro de la extinción humana ante el avance de la IA, afirmando que estas alarmas están destinadas a desviar la atención de los verdaderos riesgos tecnológicos. En un momento en que el debate público sobre la inteligencia artificial se ha vuelto cada vez más polarizado, Gebru sostiene que las preocupaciones exageradas sobre un futuro apocalíptico son una estrategia para evitar discutir problemas más concretos como el desarrollo de armas autónomas.
Gebru, quien fue una figura clave en la controversia que llevó a su salida de Google en 2020, ha sido una de las voces más críticas dentro del ámbito académico y técnico. Durante su tiempo en la empresa, lideró estudios sobre sesgos en modelos de lenguaje grandes, pero sus hallazgos fueron rechazados por la dirección. Este episodio marcó un punto de inflexión en su trayectoria profesional y en su visión sobre la ética en el desarrollo de tecnologías avanzadas.
Actualmente, Gebru está trabajando en un libro titulado «Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist», que se espera que sea publicado a principios del próximo año. En él, expone su experiencia personal y análisis crítico sobre cómo la industria tecnológica ha evolucionado desde sus inicios hasta convertirse en un poder que puede influir profundamente en la sociedad.
En entrevista con Wired, Gebru señaló que la atención excesiva dada a debates sobre el rendimiento matemático de los sistemas de IA revela una falta de comprensión sobre el verdadero alcance de la inteligencia artificial. Se pregunta por qué las empresas invierten tanto esfuerzo en resolver problemas de programación o ajedrez, cuando estos no representan necesariamente la inteligencia general.
Para ella, el enfoque en disciplinas específicas como las matemáticas permite a las compañías como OpenAI construir narrativas de éxito que les permiten afirmar haber alcanzado un hito en la inteligencia artificial. Sin embargo, este tipo de presentaciones carece de rigor académico y puede llevar a políticas públicas basadas en información incompleta o sesgada.
Gebru también mencionó la importancia de la Declaración de Leiden, un documento que advierte sobre los riesgos de que corporaciones utilicen campos académicos como las matemáticas para promocionar sus logros sin el debido escrutinio científico. Según ella, esto afecta directamente la calidad de las decisiones políticas, ya que los legisladores tienden a depender de informes de prensa en lugar de consultar directamente a expertos.
El rápido ciclo entre la divulgación de avances tecnológicos por parte de grandes empresas y la propuesta de leyes por parte de figuras políticas como Bernie Sanders ilustra cómo la velocidad en la difusión de información puede ser perjudicial. Para Gebru, este ritmo frenético es un reflejo de la presión competitiva que enfrentan las empresas antes de sus ofertas públicas iniciales (IPO), lo cual puede comprometer la integridad científica.
La investigadora enfatiza que, en lugar de centrarse en discusiones sobre el futuro de la humanidad, debería haberse dado mayor énfasis a los impactos reales de la IA en contextos como la seguridad nacional, la privacidad y los derechos humanos. Su crítica va más allá de la mera censura de ciertos tipos de investigación, sino que aboga por una transformación estructural en la forma en que se desarrolla y regula la tecnología.
En su opinión, la cultura de competencia y exclusividad dentro de las grandes corporaciones tecnológicas como Google, Microsoft y Amazon ha generado un entorno donde la colaboración académica se ve eclipsada por intereses comerciales. Esto, según Gebru, socava el potencial de la IA para beneficiar a toda la sociedad.
Gebru concluye que, si bien es importante mantener una vigilancia ética sobre el desarrollo de la inteligencia artificial, las alarmas apocalípticas no solo son infundadas, sino que también sirven para desviar la atención de los verdaderos peligros que enfrenta la humanidad en el siglo XXI. Su mensaje es claro: debemos centrarnos en la responsabilidad, no en la especulación.
Traducción y adaptación por Tecnología 365.
Fuente original: Wired