Cuatro abogados de Mississippi creyeron que ChatGPT era un asistente jurídico de fiar. Acabaron con dos años de inhabilitación, multas de hasta 3.500 dólares y un juicio cancelado por citar sentencias que jamás existieron. La inteligencia artificial, muy lista para una cena, pero en los juzgados la cosa se puso seria.
La jueza Sharion Aycock dijo basta
El caso arrancó como una simple disputa contractual: el abogado Tom Withers reclamaba honorarios al ayuntamiento de Aberdeen, en Mississippi. Pero cuando ambos bandos entregaron escritos preparados con IA, la jueza Sharion Aycock detectó algo raro. Las citas jurisprudenciales sonaban convincentes, pero ninguna existía en los registros.
Según recoge la prensa local, Aycock llevaba tiempo lidiando con alucinaciones de IA en documentos judiciales. En la vista de enero, los cuatro letrados reconocieron los hechos y pidieron disculpas. A esas alturas, el daño ya estaba hecho.
Las sanciones no se hicieron esperar: dos de los abogados recibieron multas de entre 1.000 y 3.500 dólares, y fueron vetados durante dos años en ese tribunal. Los otros dos también se llevaron un tirón de orejas, aunque con castigos algo más suaves.
Error humano: firmar sin mirar lo que escupe la máquina
El verdadero despropósito no fue recurrir a la IA, sino no molestarse en comprobar nada. Kathryn Williams, una de las implicadas, usó una herramienta de investigación legal que su fabricante aseguraba que no generaba casos inventados. Pero el software estaba configurado para la jurisdicción de otro estado, no para la de Mississippi, y falló.
Confiar en una IA para un juicio sin verificar sus resultados es como usar un GPS que te manda al río y seguir conduciendo sin mirar por la ventanilla.
Más grave aún fue el caso de Kathleen Wilson. Después de ser sancionada en enero, la abogada siguió usando IA en otros procedimientos sin revisar los resultados. En abril, otros jueces encontraron sentencias inventadas en sus escritos. La jueza Aycock ya le había advertido, y Wilson hizo oídos sordos.
Los cuatro abogados expresaron su vergüenza en la audiencia. Mientras unos admitieron haber usado First Drafts para redactar íntegramente los documentos, otros simplemente firmaron sin leer. La falta de verificación humana fue el denominador común.
El verdadero problema: la IA no es infalible, y tú tampoco deberías creerlo
Este caso no es un accidente aislado. Jueces de todo Estados Unidos llevan tiempo denunciando la avalancha de citas falsas generadas por modelos de lenguaje. La semana anterior, un tribunal de Nueva York vivió una situación similar. La confianza ciega en herramientas que no garantizan exactitud está generando consecuencias reales: juicios cancelados, multas y clientes que pagan por un servicio deficiente.
La moraleja es clara: la IA puede acelerar procesos, pero no puede sustituir al criterio humano. Al menos, no en un juzgado donde una alucinación cuesta dinero y reputación. Los letrados de Mississippi lo aprendieron a las malas, y la justicia, de paso, enseñó una lección a cualquiera que esté tentado de delegar su trabajo en un chatbot.
Hype-O-Meter
Nivel de hype: 3/10. La IA promete transformar la abogacía, pero casos como este demuestran que el hype está muy por delante de la realidad. Verificar sigue siendo la mejor herramienta, y estos letrados lo aprendieron a golpe de multa.
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? Cuatro abogados usaron ChatGPT para redactar escritos judiciales y citaron casos inventados.
- 🔥 ¿Por qué importa? La jueza canceló el juicio, impuso multas e inhabilitó a dos letrados durante dos años.
- 🤔 ¿Nos afecta o es solo un meme? Es un recordatorio de que la IA no es infalible y la verificación humana sigue siendo imprescindible.
