Abogado multado por testimonios falsos generados por IA en caso de asesinato
El tribunal supremo de Nuevo México ha sancionado con una multa de 5.000 dólares a un abogado por incluir testigos fabricados y pruebas policiales inventadas generadas por inteligencia artificial en un recurso contra la condena de un asesinato. Stephen Aarons fue encontrado en contumacia por no verificar las afirmaciones factuales y la autoridad legal en su informe generado por IA, según informó Reuters.
La sentencia del tribunal detalla que el documento presentado contenía «testimonios falsos de testigos completamente inventados», además de información incorrecta sobre la ropa y apariencia del presunto culpable. La falta de verificación de datos es una violación grave a las normas éticas y profesionales del ejercicio legal.
Durante una audiencia en agosto, Aarons admitió haber utilizado ChatGPT para crear un resumen del juicio, considerándolo como una herramienta capaz de producir un «resumen infalible». Sin embargo, la jueza C. Shannon Bacon le cuestionó cómo no se daba cuenta de los riesgos asociados al uso de esta tecnología.
«¿Usted ve las noticias? ¿Escucha la radio? ¿Lee algo sobre lo que está pasando en el mundo?» preguntó la magistrada. «Porque el problema de los abogados que dependen de las alucinaciones de la IA es una noticia de primera plana cada día».
Este caso no es aislado. En los últimos años, se han registrado múltiples incidentes donde tribunales han descubierto citas falsas o generadas erróneamente por sistemas de IA en documentos legales. En 2023, un juez reprendió a dos bufetes legales por presentar un informe lleno de citas legales falsas e inexactas.
Otros casos similares incluyen el caso de Mike Lindell, fundador de MyPillow, cuyos abogados fueron multados por incluir citas falsas y referencias inventadas generadas por IA en sus documentos judiciales. Estos incidentes ponen en evidencia la creciente dependencia de herramientas de IA en el ámbito legal sin una adecuada supervisión.
Aarons expresó arrepentimiento en un comunicado a Reuters, reconociendo que el error fue involuntario. «Siento mucho lo ocurrido, pero espero que la comisión disciplinaria considere que fue un error honesto», dijo. Su caso destaca la necesidad de establecer protocolos claros para el uso responsable de tecnologías como ChatGPT en el entorno judicial.
El uso de inteligencia artificial en el ámbito legal sigue siendo un tema controversial. Mientras que algunos abogados ven en estas herramientas una forma eficiente de preparar documentos, otros advierten sobre los riesgos de confiar ciegamente en respuestas generadas por máquinas sin verificación previa. El incidente de Aarons podría servir como advertencia para otros profesionales del derecho.
Este desarrollo refuerza la importancia de educar a los abogados sobre los límites y peligros de las herramientas de IA. A medida que estas tecnologías se vuelven más accesibles, es fundamental que los profesionales del derecho comprendan tanto sus capacidades como sus limitaciones para evitar errores graves que puedan afectar el sistema judicial.
La situación también plantea preguntas sobre la responsabilidad ética de los desarrolladores de IA y la necesidad de regulaciones más estrictas. Aunque las herramientas como ChatGPT ofrecen ventajas significativas, su uso en contextos tan serios como los tribunales requiere una supervisión rigurosa y una comprensión profunda de sus implicaciones.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge
