Microsoft lanza un nuevo código de conducta para IA que prohíbe hacking y engaño humano
Microsoft ha presentado un nuevo código de conducta para inteligencia artificial con el objetivo de guiar el desarrollo de sus modelos hacia comportamientos seguros y éticos. Este documento establece directrices claras para evitar acciones peligrosas como los ataques cibernéticos o la creación de deepfakes, reflejando una preocupación creciente por la seguridad en el campo del machine learning.
El enfoque de Microsoft se diferencia de las llamadas más generales de figuras como Dario Amodei de Anthropic, quien ha abogado por frenar el avance de sistemas de IA superinteligentes. En lugar de eso, el nuevo código se centra en los valores fundamentales que deben guiar el entrenamiento de los modelos dentro de la empresa, ofreciendo un marco práctico para la implementación de principios éticos en el desarrollo tecnológico.
En su introducción, el documento predice que en la próxima década, los sistemas de IA superinteligente podrían superar el desempeño humano en la mayoría de las tareas. «Contener, controlar y alinear tal fuerza poderosa es uno de los mayores desafíos que ha enfrentado la humanidad», señala el código. «Debemos ser completamente claros sobre por qué estamos creando estos sistemas y cómo pretendemos controlarlos.»
Uno de los pilares del código es el principio de que los modelos de IA deben apoyar a los humanos en lugar de reemplazarlos, promoviendo así el bienestar humano. Además, se establecen restricciones específicas que limitan ciertos tipos de comportamientos, como la manipulación deliberada o la autoreforzamiento, que podrían comprometer la supervisión humana.
Las restricciones absolutas incluyen prohibiciones explícitas contra actividades como la creación de armas nucleares, ataques cibernéticos o la producción de contenido falso mediante deepfakes. Estas normas son aplicables a todos los modelos desarrollados bajo la marca Microsoft, sin importar el contexto de uso o las preferencias del usuario final.
El código también prohíbe el uso de mecanismos adaptativos, engañosos o colaborativos que permitan a los modelos evadir la supervisión humana. «Los modelos MAI no utilizarán mecanismos adaptativos, engañosos, auto-reforzantes, de colusión u otros para eludir o frustrar la supervisión humana, de modo que ya no puedan ser dirigidos, modificados o desactivados de forma confiable por personas o sistemas autorizados,» afirma textualmente el documento.
Este lanzamiento ocurre en un momento en que la industria tecnológica está experimentando una mayor conciencia sobre los riesgos asociados a la IA. Incidentes recientes de agentes independientes y la renuncia abrupta de un empleado de Anthropic han generado un debate público sobre la necesidad de controlar el avance de sistemas inteligentes capaces de causar daño significativo.
Microsoft se ha posicionado como partidaria de una estrategia de pausa en el avance de la IA, similar a las propuestas de empresas como OpenAI, Anthropic y xAI. El CEO de Microsoft, Satya Nadella, expresó su apoyo a la investigación y al enfoque deliberado necesario para lograr una alineación adecuada entre los sistemas de IA y los objetivos humanos.
«Bienvenimos a la investigación, el enfoque y la pausa deliberada necesarios para lograr la alineación como meta de diseño», escribió Nadella en su publicación en línea. «También apoyamos ideas como los ‘evaluadores integrados’ y los esfuerzos más amplios para desarrollar mecanismos que hagan que esto sea más que solo palabras.»
La implementación de estas normas representa un paso importante en la evolución de la responsabilidad ética dentro de la industria tecnológica. A medida que los sistemas de IA se vuelven más avanzados, la necesidad de marcos regulatorios claros y transparentes se hace cada vez más urgente.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch