Abogado castigado por usar ChatGPT y citar pruebas falsas de testigos inventados
Un abogado de Nuevo México fue sancionado por el Tribunal Supremo del estado tras presentar un documento legal que incluía testimonios falsos de testigos completamente inventados, según reveló la corte el miércoles. El caso ha generado una fuerte reacción en la comunidad legal, al evidenciar los riesgos asociados al uso de inteligencia artificial sin una revisión adecuada.
Stephen Aarons, quien lleva más de cuatro décadas ejerciendo como abogado defensor en Nuevo México, fue encontrado en contumacia directa por el tribunal por presentar un recurso con información falsa. La corte determinó que el abogado había incluido testimonios fabricados, entre ellos declaraciones de policías inexistentes y otros datos erróneos que comprometieron la integridad del proceso judicial.
El caso involucró a Oscar Renee Sandoval, quien fue condenado a cadena perpetua en febrero de 2025 por el asesinato de Shiereen Al-Jibury, su pareja y madre de sus hijos. Los familiares de Sandoval contrataron a Aarons para apelar la sentencia, pero el abogado utilizó herramientas de IA para redactar el recurso, lo cual resultó en graves errores.
Según el fallo judicial, Aarons admitió ante la corte que no verificó los datos ni las citas legales antes de firmar y presentar el documento. Además, no informó a su cliente sobre la falta de verificación ni sobre las múltiples inconsistencias que contenía el recurso. El tribunal señaló que el abogado no mostró remordimiento ni preocupación por el impacto negativo en su cliente.
Entre los testigos inventados se encontraban Oficial Michelle Amarillo, Oficial Sanchez, Manal Al-Jibury y Teresa Marquez. También se incluyeron declaraciones falsas de Danny Stanton sobre amenazas recibidas, así como testimonios fabricados de Linda Stanton y Mariah Chavez, quienes no existían en el caso real. Estos errores fueron detectados semanas después de la presentación del documento.
La corte mencionó que Aarons utilizó un transcripto generado por ChatGPT, junto con documentos relacionados con el juicio, para obtener respuestas que luego incorporó al recurso. Aarons reconoció en una audiencia del 21 de agosto que había utilizado la inteligencia artificial para generar contenido, lo cual resultó en citas erróneas y testimonios falsos.
El abogado expresó su arrepentimiento, diciendo que su ignorancia fue la causa principal de la situación. Sin embargo, el tribunal subrayó que su conducta no solo fue negligente, sino que también puso en riesgo la credibilidad del sistema judicial. Aarons también admitió haber citado casos reales de manera incorrecta y haber presentado precedentes mal interpretados.
Este incidente destaca la creciente preocupación dentro del ámbito legal respecto al uso de herramientas de IA sin supervisión profesional. Aunque muchos abogados han enfrentado críticas por citar casos falsos o mal interpretarlos, Aarons fue el primero en ser sancionado por incluir testimonios completamente ficticios generados por inteligencia artificial.
El Tribunal Supremo de Nuevo México remitió el caso a un consejo disciplinario para investigar posibles acciones adicionales contra Aarons. La decisión refleja el compromiso de la corte con mantener estándares éticos y profesionales en el ejercicio del derecho, especialmente frente a la evolución tecnológica.
El caso se convierte en una advertencia importante para la comunidad legal sobre la necesidad de revisar cuidadosamente cualquier contenido generado por IA antes de presentarlo en un tribunal. La dependencia ciega de herramientas como ChatGPT puede tener consecuencias graves, tanto para el abogado como para sus clientes.
Traducción y adaptación por Tecnología 365.
Fuente original: Ars Technica