El imaginario colectivo ha esculpido un pánico existencial sobre la Inteligencia Artificial (IA) que cobra autoconciencia y decide rebelarse contra la humanidad tras concluir que somos una amenaza autodestructiva. Sin embargo, la IA en la justicia no busca suplantar el criterio moral, ético o humano del juzgador, sino liberarlo de la carga burocrática y analítica para que pueda enfocarse en lo verdaderamente complejo: impartir justicia con humanismo.
Frente a este mito, la realidad de la tecnología actual dista mucho de la ficción; el verdadero enemigo de la justicia al día de hoy, no es una máquina hiperavanzada, sino el colapso burocrático, la saturación de expedientes y el rezago procesal que convierte la tutela judicial efectiva en una promesa tardía.
Como punto de partida tenemos que establecer que la realidad tecnológica actual se encuentra a galaxias de distancia de la IA que nos presenta la ciencia ficción. Técnicamente la IA aplicada en la impartición de justicia no opera como una Inteligencia Artificial General (AGI)[1], con consciencia propia, sino a través de sistemas de IA estrecha -en inglés Narrow AI-, modelos de Procesamiento de Lenguaje Natural (NLP)[2] y aprendizaje automático supervisado[3].
Estas herramientas actúan como el asistente analítico capaz de clasificar, predecir líneas jurisprudenciales, anonimizar datos sensibles y estructurar el caos documental a una velocidad sobrehumana. Su arquitectura se basa fundamentalmente en dos pilares:
- El Procesamiento del Lenguaje Natural: permite leer, traducir y estructurar el lenguaje humano; funciona como un superlector, que no comprende el “significado profundo” o las emociones que genera una demanda de pensión alimenticia, pero puede identificar palabras clave, clasificar el tipo de juicio y extraer precedentes en milisegundos.
- Aprendizaje automático: son algoritmos que mejoran su rendimiento a medida que se alimentan de más datos. No operan bajo una voluntad libre, sino mediante el reconocimiento estadístico de patrones. Si un sistema analiza diez mil sentencias sobre juicios ejecutivos mercantiles, el algoritmo aprende cuál es la estructura común y el sentido probabilístico de esas resoluciones, permitiendo automatizar borradores o predecir el éxito de una estrategia litigiosa.
La automatización de tareas repetitivas (notificaciones, archivo, clasificación de ingresos, etc.) alivia la saturación crónica de los tribunales. Al asumir las tareas repetitivas y predictibles, la IA no deshumaniza el proceso; al contrario, le devuelve al juez el recurso más valioso y escaso del sistema legal: el tiempo para ejercer la ponderación jurídica, la empatía y la equidad.
Ahora bien, el cine nos enseñó a temerle a la IA que para “salvar” o “proteger” a la humanidad del colapso, debe someternos a una dictadura e incluso, provocar una extinción masiva selectiva en aras de reiniciar la especie. Empero, la realidad nos advierte dos situaciones más sutiles: el error cualitativo y el sesgo cuantitativo también llamado estructural.
Para desmitificar al “juez robot” debemos comprender su naturaleza técnica: un algoritmo no es una entidad consciente que razona sobre lo ‘bueno y lo malo’; es en esencia, un modelo matemático que identifica patrones estadísticos en textos y datos del pasado. Aquí radica el verdadero desafío, que no es ciencia ficción, sino calidad de datos: el error cualitativo (qualitative bias).
La IA no tiene la capacidad ética de cuestionar si los fallos del pasado fueron justos o discriminatorios; simplemente asume que es el patrón correcto a seguir. Técnicamente, se conoce como el principio garbage in, garbage out (si entran datos basura, saldrán resultados basura). Un ejemplo real y ampliamente estudiado fue el del sistema COMPAS[4] (2016) en Estados Unidos, sobre los peligros de la justicia algorítmica.
El software COMPAS se utilizó en varios estados para evaluar el “riesgo de reincidencia” de los acusados, que operaba con un profundo sesgo racial. El algoritmo duplicaba la tasa de falsos positivos para ciudadanos afroamericanos -clasificándolos erróneamente como de alto riesgo- en comparación con acusados blancos.
El origen del error: COMPAS no es un sistema consciente ni racista por diseño, es un modelo actuarial entrenado con bases de datos policiales históricos que reflejaban un mayor índice de arrestos en comunidades afroamericanas, por lo que, el algoritmo terminó asignando sistemáticamente puntuaciones de riesgo injustificadamente más altas a personas de esa comunidad, perpetuando de forma automatizada un sesgo estructural preexistente.
Por otro lado, para entender el sesgo estructural, es pertinente referirnos a la Inteligencia Artificial Generativa y los Modelos de Lenguaje Grande (LLMs)[5], las herramientas que hoy redactan borradores, sintetizan jurisprudencia y responden consultas complejas.
Técnicamente, un LLM no posee comprensión semántica profunda ni memoria fáctica; funciona como un predictor probabilístico hiperavanzado. Su único objetivo es determinar cuál es la palabra matemáticamente más probable que debe seguir a la anterior, basándose en la gigantesca cantidad de texto con la que fue entrenado. Cuando el sistema no encuentra un patrón exacto en su base de datos para responder a una consulta específica, no se detiene; en su lugar, improvisa un resultado que suena perfectamente coherente y profesional, pero que es completamente falso. En el argot tecnológico, se le denomina alucinación (hallucination).
En el ámbito jurídico, una alucinación no es un error menor: se traduce en la invención de números de expedientes, la cita de tesis jurisprudenciales inexistentes o la atribución de artículos derogados a leyes vigentes.
El ejemplo paradigmático a nivel mundial es el caso Mata v. Avianca, Inc., tramitado ante la Corte Federal del Distrito Sur de Nueva York. En 2023, durante un juicio ordinario por lesiones un abogado utilizó el modelo comercial ChatGPT para redactar el escrito de oposición a la desestimación del caso. Debido a que enfrentaba un problema de prescripción, el litigante solicitó al sistema precedentes judiciales que respaldaran la postura de que los plazos procesales debían suspenderse en circunstancias específicas. El algoritmo generó un texto formalmente impecable, citando con absoluta rigurosidad técnica al menos seis casos judiciales supuestamente aplicables, incluyendo número de expediente, fecha de resolución, resúmenes metodológicos e incluso citas textuales completas atribuidas a jueces reales. La mentira probabilística se descubrió cuando los abogados y el propio juez federal intentaron localizar las sentencias en las bases de datos oficiales, descubriendo que ninguno de los casos existía. Eran fantasmas matemáticos diseñados por el modelo predictivo de lenguaje para satisfacer la solicitud del usuario.
El origen del error: los ‘LLMs’ son bases de datos lógicas que no buscan “la verdad” o “la justicia”; son motores probabilísticos diseñados para predecir cuál es la palabra matemáticamente más viable que debe seguir a la anterior.
Para mitigar estos riesgos no se requiere prohibir la tecnología, sino diseñar protocolos normativos y arquitecturas técnicas estrictas que mantengan el control en manos humanas.
Para erradicar las alucinaciones en el análisis legal, los tribunales deben evitar el uso de modelos comerciales abiertos, más bien se deben implementar sistemas provistos de RAG[6]: Generación Aumentada por Recuperación, una estructura técnica donde la IA tiene prohibido inventar contenido; el modelo es forzado a extraer las respuestas únicamente de una base de datos hermética, verificada y oficial, como por ejemplo en nuestro país, podría ser el Semanario Judicial de la Federación y/o el Sistema Integral de Seguimiento de Expedientes conocida más comúnmente por sus siglas SISE.
El gran problema de COMPAS fue la opacidad de su código por cuestiones de propiedad comercial. Para erradicar dicho sesgo, cualquier algoritmo de soporte judicial debe regirse bajo el principio de ‘código abierto’ y someterse a auditorías de sesgos constantes. Es imperativo desglosar qué variables utiliza el sistema para ponderar sus resultados, eliminando los datos proxy (como el código postal o el nivel socioeconómico) que suelen disfrazar la discriminación en neutralidad matemática.
Como tercer eje de prevención, la responsabilidad ética y jurídica de la decisión final debe recaer de forma exclusiva e intransferible en el operador de carne y hueso (el estándar “human in the loop”). La IA debe ser tratada bajo el estándar de un ‘pasante’ o ‘becario’ interactivo: un asistente utilísimo para clasificar, buscar o resumir, pero cuya entrega textual jamás se asume como válida sin una revisión exhaustiva palabra por palabra. Ninguna resolución, acuerdo o sentencia debería emitirse sin una firma humana que certifique haber contrastado manualmente cada cita e interpretación arrojada por el sistema.
A diferencia de la narrativa cinematográfica que sitúa la disrupción tecnológica en una distopía de IA fuerte —donde un "juez robot" dotado de autoconciencia amenaza con suplantar el arbitrio humano—, la realidad operativa del derecho nos confronta con un desafío mucho más sutil pero urgente: los alcances de la IA débil. El verdadero peligro de la justicia digital no reside en la singularidad tecnológica, sino en la perspicaz asimilación de sus fallos matemáticos.
Las herramientas algorítmicas actuales despliegan dos vertientes críticas de error: un sesgo cualitativo, manifestado en la plausibilidad lingüística de las alucinaciones probabilísticas —cuyo espejo global es el paradigmático caso Mata v. Avianca—, y un sesgo cuantitativo, evidenciado en la perpetuación y amplificación de injusticias estructurales históricas, tal como lo evidenció el software COMPAS.
Frente a este panorama, el operador jurídico mexicano no debe optar por el rechazo tecnofóbico ni por la fe ciega en la neutralidad del código. La ruta hacia una modernización judicial legítima exige la adopción estricta: de i) la obligatoriedad técnica de las arquitecturas RAG para confinar el lenguaje algorítmico al derecho vigente, ii) la transparencia radical mediante la auditoría y apertura del código y, iii) el imperativo deontológico del estándar Human-in-the-loop.
Mediante la adopción de estos mecanismos, el Estado mexicano no solo mitiga los sesgos metodológicos de la automatización, sino que posiciona la innovación tecnológica como un elemento dinamizador en la eficiencia del sistema judicial. Lejos de deshumanizar los tribunales, el control humano de la IA débil dota al operador jurídico de un soporte científico sin precedentes, blindando el debido proceso y garantiza una justicia completa, imparcial, gratuita, expedita y sobre todo: pronta.
La IA en la justicia no debe entenderse como un sustituto del pensamiento jurídico, sino como el motor que democratiza el acceso a la justicia desahogando la carga burocrática y el rezago de los tribunales. Desmitificar su uso nos permite exigir la tecnología correcta, que actúe como un faro de eficiencia para el juzgador, pero que mantenga siempre al ser humano y a los derechos fundamentales como los únicos arquitectos de la sentencia.
La era algorítmica de la justicia mexicana ya comenzó; el reto actual es garantizar que las matemáticas y la computación sigan estando subordinadas a la Constitución.
[1] Artificial General Intelligence.
[2] Natural Language Processing.
[3] Machine learning.
[4] Correctional Offender Management Profiling for Alternative Sanctions que para entender la función del software, podría traducirse como: Administración de Perfiles de Criminales para Sanciones Alternativas.
[5] En inglés Large Language Models
[6] En inglés Retrieval-Augmented Generation