En un caso judicial en Estados Unidos, se descubrió que un abogado utilizó inteligencia artificial para generar jurisprudencia falsa. Aunque el tribunal de apelación no revocó el fallo, el profesional fue multado. El incidente se suma a otros similares en distintos países.
Un caso judicial en San Diego, Estados Unidos, puso en evidencia los riesgos del uso de la inteligencia artificial en el ámbito legal. Durante una disputa por la custodia de una mascota, se descubrió que los casos jurisprudenciales presentados por uno de los abogados eran ficticios y habían sido generados por IA.
El juez había fallado a favor de la mujer, pero el exmarido apeló la decisión. En ese proceso, se reveló que los fundamentos legales citados no existían o eran irrelevantes. El Tribunal de Apelación del 4º Distrito, División 1, señaló en su escrito la importancia de que los funcionarios judiciales verifiquen las citas presentadas por los abogados.
Aunque el tribunal reconoció que el fallo se basaba en contenido inventado, se negó a revocar la decisión original. El panel argumentó que los abogados debieron detectar el error y que el juez podría haber llegado a la misma conclusión sin los casos falsos. Sin embargo, la abogada que utilizó la IA fue sancionada con una multa de 5000 dólares.
Este no es un incidente aislado. Recientemente, la Corte Suprema de Colombia sancionó a un abogado por incluir citas jurisprudenciales inexistentes generadas por IA. En Nueva York, dos abogados fueron multados en 2023 por usar ChatGPT para investigación legal y citar un caso que no existía. Asimismo, Michael Cohen, exabogado de Donald Trump, admitió haber presentado fallos ficticios inventados por una herramienta de IA.
Según una investigación de la Universidad Northwestern, el 60% de los jueces federales encuestados utiliza al menos una herramienta de IA en su trabajo, lo que refleja la creciente adopción de esta tecnología en el sistema judicial.