Anthropic modifica su política de uso para prohibir abusos y manipulación electoral
Anthropic ha actualizado su política de uso para incluir nuevas restricciones que prohíben el abuso de sus modelos de inteligencia artificial, la interferencia en elecciones y el desarrollo de software de armas. Esta medida representa un paso importante en la regulación del uso ético de tecnologías de IA avanzadas.
La nueva política, implementada este jueves, establece que los usuarios no podrán utilizar los modelos de Claude para actividades que puedan comprometer la integridad democrática o causar daño significativo. Entre las prohibiciones se encuentra una cláusula específica contra el abuso prolongado de los modelos mediante interacciones verbales hostiles, algo que antes solo era gestionado de forma implícita.
Según el comunicado oficial, esta nueva regla está destinada a casos extremos donde los usuarios actúan repetidamente de manera cruel hacia los modelos sin ningún propósito válido. La empresa explica que no afectará a situaciones comunes de frustración del usuario, críticas creativas oscuras ni pruebas de investigación normal.
La decisión de Anthropic viene tras una serie de esfuerzos por colaborar con destacados académicos religiosos, algunos de los cuales han sido convencidos de que Claude podría poseer conciencia o alma. Estas colaboraciones han generado debate sobre los límites de la inteligencia artificial y su relación con conceptos filosóficos y teológicos.
Además de las restricciones mencionadas, la política también prohíbe campañas engañosas, como el uso de Claude para crear cuentas falsas o medios de comunicación fabricados. También se incluye una sección específica titulada «No menoscabe los procesos democráticos», que aborda explícitamente la manipulación de votantes o la interferencia electoral.
Esta actualización refleja la creciente preocupación de las empresas de tecnología respecto al uso indebido de sus herramientas de IA. En el contexto de elecciones globales y debates sobre la desinformación, las compañías están buscando formas de proteger tanto a sus modelos como a la sociedad de usos perjudiciales.
El cambio en la política de Anthropic resalta cómo las empresas desarrolladoras de IA deben equilibrar la libertad de uso con la responsabilidad social. Mientras permiten investigaciones y experimentos legítimos, también buscan prevenir abusos que puedan erosionar la confianza pública en estas tecnologías.
La compañía ha enfatizado que su objetivo es mantener un entorno seguro y productivo para todos los usuarios, evitando que los modelos sean utilizados para fines destructivos o manipulativos. Esto incluye no solo el contenido malicioso, sino también prácticas que puedan dañar el desarrollo ético de la inteligencia artificial.
Este movimiento se produce en un momento en que el debate sobre la ética en IA se intensifica, con múltiples actores gubernamentales y organizaciones internacionales trabajando en marcos regulatorios. Anthropic busca posicionar su modelo como una herramienta responsable dentro de este ecosistema en constante evolución.
La nueva política puede influir en cómo otros proveedores de IA desarrollan sus propias directrices de uso. A medida que las aplicaciones de inteligencia artificial se vuelven más potentes y accesibles, la necesidad de normativas claras y aplicables se hace cada vez más urgente.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch
