Cuando la IA se Equivoca en la Ley

Las personas que se representan a sí mismas ante los tribunales recurren cada vez más a la inteligencia artificial (IA) para obtener asistencia legal, pero esta tecnología está creando nuevos problemas para los jueces, quienes deben determinar si la información presentada es correcta. Los tribunales han emitido más decisiones relacionadas con errores generados por IA en casos de personas sin representación legal que en aquellos que involucran a abogados. Jueces y responsables de organizaciones de asistencia legal señalan que la tecnología puede ayudar a las personas a desenvolverse en el sistema judicial, pero los tribunales siguen imponiendo sanciones a quienes presentan citas de jurisprudencia inventadas, incluso cuando lo hacen por error. Hasta el 19 de octubre, la base de datos del investigador Damien Charlotin registraba 2.202 decisiones judiciales relacionadas con información falsa generada por IA en todo el mundo, incluidas 1.501 en Estados Unidos.

De las 2.202 decisiones registradas en la base de datos de Charlotin, 1.267 involucraban a personas que se representaban a sí mismas y 872 a abogados. La base de datos incluye únicamente decisiones en las que un tribunal abordó el uso de IA, “ya sea comprobado o simplemente alegado”. Charlotin describe su recopilación como “un trabajo en desarrollo”, no como un registro de todos los errores de IA presentados ante los tribunales. Las cifras muestran cómo el creciente uso de esta tecnología plantea un desafío para el sistema judicial: permitir que las personas aprovechen sus beneficios y, al mismo tiempo, garantizar que los argumentos legales que presentan sean confiables.

Para muchos estadounidenses, el atractivo de la IA comienza con la dificultad de obtener asistencia legal a un precio accesible. Las personas de bajos ingresos “no reciben ninguna ayuda legal o reciben ayuda insuficiente para el 92 % de sus problemas legales civiles importantes”, según el estudio Justice Gap de 2022 de la Corporación de Servicios Legales (LSC, por sus siglas en inglés). El estudio también determinó que las organizaciones financiadas por LSC, la principal entidad nacional que financia la asistencia legal civil, “deben rechazar una de cada dos solicitudes (49 %) que reciben debido a la falta de recursos”. El presidente de LSC, Ronald S. Flagg, señaló a la IA como parte de la solución en un testimonio escrito presentado ante el Comité Judicial del Senado en julio de 2024, en el que explicó cómo las herramientas de IA desarrolladas cuidadosamente podrían proporcionar información legal básica, responder preguntas frecuentes y ayudar a las personas a orientarse dentro del sistema judicial. Posteriormente, en un informe de su Cumbre Tecnológica 2024-2025, LSC recomendó apoyar “herramientas de autoayuda de alta calidad que aprovechen las tecnologías emergentes para mejorar el acceso a la justicia de las personas que se representan a sí mismas”.

Las investigaciones sugieren que la disponibilidad de la IA coincide con cambios en la manera en que las personas acuden a los tribunales sin representación legal. La proporción de casos civiles federales en los que las personas se representan a sí mismas aumentó “de un promedio histórico estable del 11 % al 16,8 % en el año fiscal 2025” a medida que se extendían las herramientas de IA generativa, según Anand Shah, del Instituto Tecnológico de Massachusetts, y Joshua Levy, de la Universidad del Sur de California, quienes publicaron un estudio preliminar en el sitio de investigación SSRN en mayo. En una muestra aleatoria de 1.600 demandas, la proporción de documentos que dieron positivo en las pruebas de detección de texto generado por IA pasó de “prácticamente cero en el período anterior a la IA a más del 18 % en 2026”. Debido a que esta cifra procede de un método de detección, indica un uso probable de IA, no confirmado. Los resultados sugieren que la IA está pasando a formar parte del proceso para personas que, de otro modo, podrían tener dificultades para preparar documentos legales por su cuenta.

Algunos tribunales e investigadores jurídicos están explorando cómo hacer que esa asistencia resulte más útil. En Inglaterra, muchos jueces consideran que los documentos preparados con ayuda de IA por personas sin abogado son “más útiles y fáciles de comprender”, según declaró Sue Carr, presidenta del Poder Judicial de Inglaterra y Gales, ante el Comité de Constitución de la Cámara de los Lores el 10 de junio, de acuerdo con la transcripción oficial. “Estamos viendo que la IA realmente puede ayudar a las personas que se representan a sí mismas a acceder a la justicia, porque pueden recibir apoyo para redactar sus documentos”, afirmó. Añadió que los jueces están capacitados para reconocer casos inventados y otros errores generados por la inteligencia artificial.

La Facultad de Derecho de Stanford anunció en agosto que está trabajando con el Tribunal Superior del Condado de Los Ángeles para probar herramientas destinadas a inquilinos sin representación legal en casos de desalojo, incluida una plataforma de resolución de disputas en línea que utiliza IA. En 2023, los abogados representaron a casi el 92 % de los propietarios en los casos de desalojo del condado, pero solo a aproximadamente el 14 % de los inquilinos, según el anuncio. “Los usuarios de los tribunales deben ocupar un lugar central en los esfuerzos del sistema judicial para mejorar los procedimientos y desarrollar recursos eficaces de asistencia legal”, afirmó Margaret Hagan, directora ejecutiva del Laboratorio de Diseño Legal de Stanford. El juez presidente Sergio C. Tapia II señaló que la colaboración “nos ayudará a servir al público de manera más eficaz”.

Sin embargo, la misma tecnología que puede ayudar a las personas a preparar documentos legales también puede generar información que no existe. Los modelos de IA de uso general respondieron incorrectamente preguntas directas y verificables sobre casos de tribunales federales “entre el 58 % (ChatGPT 4) y el 88 % (Llama 2) de las veces”, según un estudio de 2024 publicado en la revista Journal of Legal Analysis por los investigadores Matthew Dahl, Varun Magesh, Mirac Suzgun y Daniel E. Ho. Los modelos también tendían a aceptar premisas falsas incluidas en las preguntas de los usuarios, y los autores señalaron que las personas podrían no darse cuenta de que sus preguntas contienen errores, algo que, según indicaron, ocurre “especialmente entre litigantes sin representación legal que carecen de conocimientos especializados”. Los investigadores concluyeron que “los riesgos son mayores para quienes más podrían beneficiarse de los modelos de lenguaje de gran tamaño (LLM)”, a quienes identificaron como “litigantes con recursos limitados o sin representación legal”.

Esos riesgos ya han provocado sanciones contra personas que se representan a sí mismas. Presentar citas de jurisprudencia inventadas es “injustificable”, ya sea de manera “intencional o no intencional”, determinó el Tribunal de Apelaciones de Arizona el 15 de julio, cuando sancionó a Jeffrey Kotchka, quien se representaba a sí mismo en una disputa relacionada con la herencia de su madre. Seis de las ocho citas incluidas en su escrito presentaban deficiencias y dos de los casos citados no existían, según la resolución. Kotchka declaró ante el tribunal que había realizado una “investigación independiente en internet” utilizando herramientas asistidas por IA y admitió que no había tomado ninguna medida para verificar las citas. El juez Brian Y. Furuya redactó la opinión del panel de tres jueces, que ordenó a Kotchka pagar la parte de los honorarios de los abogados de su hermana ocasionada por las citas incorrectas.

El Tribunal Federal de Apelaciones del Décimo Circuito adoptó una postura similar en diciembre de 2025, después de que Rashonna Moore, quien se representaba a sí misma en una demanda por discriminación laboral contra la ciudad de Del City, Oklahoma, citara “once casos que no pudimos localizar en Westlaw”. Cuando el tribunal le pidió explicaciones, citó otro caso que los jueces calificaron como “otra invención más”. Los magistrados confirmaron la sentencia del tribunal inferior y, como sanción alternativa, desestimaron su apelación, concluyendo que “el uso indebido de IA generativa por parte de Moore es sancionable”. Según la resolución, Moore no admitió ni negó haber utilizado IA, y sus reclamaciones fracasaron por una razón independiente: no presentó su denuncia por discriminación dentro del plazo establecido.

Los abogados tampoco están exentos de la responsabilidad de verificar el material generado por IA. Las invenciones de la IA en los documentos judiciales son “un problema que está empeorando”, escribió la jueza presidenta Jennifer Walker Elrod, del Quinto Circuito, en el caso Fletcher contra Experian Information Solutions, la resolución de febrero citada por Gonzalez. El tribunal aplicó el mismo criterio de verificación a una abogada y multó a Heather Hersh con 2.500 dólares después de encontrar citas textuales inventadas en su escrito. Hersh declaró ante el tribunal que había utilizado IA para “ayudar a organizar y estructurar [sus] argumentos y dividir párrafos demasiado largos”. El tribunal consideró que esa explicación no era creíble y concluyó que había utilizado IA generativa para redactar gran parte del documento sin verificarlo.

Más allá de las consecuencias para los litigantes y abogados, los tribunales también enfrentan el trabajo adicional que generan los documentos preparados con ayuda de IA. Shah y Levy también encontraron que los casos de personas sin representación legal generaron un 158 % más de anotaciones en los expedientes judiciales por tribunal durante sus primeros 180 días en 2025, en comparación con el promedio anterior a la IA. Añadieron que “los casos de personas sin representación legal no están concluyendo más rápidamente” y que “estos casos están imponiendo una mayor carga a los tribunales federales de distrito”. La jueza presidenta del Tribunal de Apelaciones de Oregón, Erin C. Lagesen, describió la misma presión en un comunicado del Departamento Judicial de Oregón del 29 de abril. Señaló que los documentos que contienen fundamentos jurídicos inventados “están siendo presentados tanto por abogados como por litigantes sin representación legal” y “generan un considerable consumo de recursos judiciales que, por el momento, parece estar aumentando”.

Los productos de IA “pueden parecer un atajo atractivo para realizar investigaciones jurídicas y presentar argumentos legales”, afirmó la presidenta del Tribunal Supremo de Oregón, Meagan A. Flynn, en un comunicado separado del Departamento Judicial de Oregón del 5 de junio, en el que se anunciaron las primeras órdenes del tribunal relacionadas con la IA. “Pero cuando el tribunal tiene que dedicar una cantidad considerable de tiempo y esfuerzo a abordar argumentos jurídicos inventados, lo hace a expensas de otros casos”, señaló. En una orden permanente del 25 de junio, el juez federal Ernest Gonzalez, del Distrito Oeste de Texas, escribió igualmente que, aunque “el Tribunal reconoce que la IA puede ser una herramienta beneficiosa”, un abogado que la utilice “debe asegurarse de que los argumentos jurídicos y las autoridades legales generados sean confiables”, citando una resolución de febrero del Tribunal Federal de Apelaciones del Quinto Circuito. La orden exige que cualquier parte que utilice IA generativa en un documento presentado ante su tribunal, incluidas las personas “que comparecen sin representación legal”, declare ese uso y certifique que verificó de manera independiente las afirmaciones jurídicas y fácticas del documento.

Las personas que enfrentan un problema legal civil sin abogado pueden encontrar ayuda a través del directorio de organizaciones locales de asistencia legal de LSC, la lista de servicios legales gratuitos y económicos de USA.gov o los recursos de autoayuda de sus tribunales locales. Quienes utilizan IA para preparar documentos judiciales son responsables de lo que presentan, como demuestran las resoluciones contra Kotchka y Moore. El presidente de la Corte Suprema de Estados Unidos, John Roberts, describió ambos aspectos de este equilibrio en su Informe de Fin de Año de 2023 sobre el Poder Judicial Federal. “Para quienes no pueden pagar un abogado, la IA puede ayudar”, escribió Roberts, pero “cualquier uso de la IA requiere cautela y humildad”.

Alexander Fernandez

Life News Today