Cuando la IA inventa la ley: El caso de las diez sentencias "fantasma" que sacudió a la Corte Suprema de Justicia de Colombia. Un resumen del Auto AC739- 2026

1. La seducción del "copy-paste" algorítmico La eficiencia tecnológica y la responsabilidad profesional han chocado frontalmente en el radicado 11001-02-03-000-2025-05324-00. El abogado Jorge Hernán Zapata Vargas, en un intento por agilizar un recurso de revisión, presentó ante la Corte Suprema de Justicia un memorial construido sobre cimientos de ficción. Este caso trasciende el error técnico para convertirse en una advertencia sobre la erosión del criterio jurídico. Al delegar la fundamentación en un algoritmo, el profesional terminó citando leyes distorsionadas y sentencias inexistentes, recordándonos que la velocidad sin supervisión es el prólogo del desastre ético. 2. El fenómeno del "Pseudo-Derecho": ¿Por qué la IA miente con tanta seguridad? La providencia de la Magistrada Martha Patricia Guzmán Álvarez analiza las "alucinaciones" o "confabulaciones" de los modelos de lenguaje (LLM). A diferencia de una base de datos, estos sistemas operan mediante una arquitectura Transformer que procesa "tokens" y "vectores" en un espacio multidimensional. No hay recuperación de datos reales, sino una predicción probabilística basada en un muestreo estadístico. El discurso jurídico, con su estructura ritual y técnica, es el escenario perfecto para este engaño: la IA imita la forma del derecho (fechas, radicados, cargos) pero vacía su contenido de veracidad. Un ejemplo flagrante fue la cita del artículo 250 del Código General del Proceso. Mientras la ley real regula la indivisibilidad de los documentos, el algoritmo de Zapata Vargas lo transformó en una inexistente salvaguarda del derecho de defensa. La coherencia lingüística se impuso sobre la realidad factual. "El sistema no 'sabe' nada en el sentido convencional del término. Lo que posee es una representación estadística de regularidades lingüísticas... el modelo carece de un mecanismo interno para contrastar sus propios enunciados con el mundo exterior". 3. El "Deber de Verificación": Una carga que no se puede delegar La Corte es tajante: la autoría de un memorial pertenece al abogado que lo firma, sin importar si el texto fue redactado por un pasante o una red neuronal. La función de garante de la veracidad de las fuentes es un núcleo irreductible de la profesión. La Sala de Casación Civil fundamentó esta exigencia en cinco pilares estructurales: * Naturaleza asertiva de la cita: Invocar una fuente es afirmar implícitamente que existe y está vigente en el ordenamiento jurídico. * Desproporción costo-daño: El esfuerzo de verificar en repositorios oficiales es mínimo comparado con el riesgo de inducir a error al juez y viciar el proceso. * Confianza institucional: El sistema adversarial colapsaría si los jueces y las contrapartes no pudieran confiar en la autenticidad de las normas citadas. * Deberes de lealtad: La "celosa diligencia" del estatuto del abogado obliga a contrastar la información antes de integrarla a la justicia. * Función estructural de las fuentes: En derecho, la fuente no solo apoya el argumento; la fuente es el derecho mismo. 4. Persistir en el error: La "Ceguera Voluntaria" como agravante Lo más alarmante del caso ocurrió tras la advertencia judicial. Al ser confrontado con las falsedades, el abogado presentó un escrito de subsanación que, lejos de rectificar, incluyó cuatro nuevas citas inexistentes, acumulando un total de diez referencias apócrifas en el expediente. La Corte calificó este patrón como "ceguera voluntaria funcional" (willful blindness). No se trató de un descuido aislado, sino de una decisión deliberada de permanecer ignorante ante el riesgo evidente de usar una herramienta cuya falta de fiabilidad ya había sido señalada por el despacho. Este comportamiento ilustra el peligro del chat-chamber effect: una cámara de eco donde el profesional busca confirmación para sus sesgos. El algoritmo devuelve un reflejo de lo que el usuario quiere oír, revestido con una falsa autoridad que el abogado decide no cuestionar. 5. El veredicto: Una multa de 15 salarios mínimos y un precedente ético La Magistrada Guzmán Álvarez impuso una multa de 15 salarios mínimos legales mensuales vigentes (SMLMV) a Jorge Hernán Zapata Vargas. Además, ordenó la compulsa de copias a la Comisión Seccional de Disciplina Judicial para investigar su conducta ética. La "dosimetría" de la sanción es reveladora: la Corte aplicó el mínimo legal por tratarse de una tecnología novedosa (atenuante), pero elevó la multa debido a la persistencia del abogado en el error tras ser advertido (agravante). La sanción castiga la negligencia persistente, no la innovación. Es fundamental entender que la Corte no proscribe la Inteligencia Artificial. Lo que censura es el "uso acrítico", donde el abogado renuncia a su rol de intermediario intelectual y se convierte en un simple transmisor de datos generados por una máquina. 6. La Regla de Oro para el futuro del litigio El fallo establece un marco de uso responsable basado en tres pilares: Control humano efectivo (el juicio jurídico es humano), Verificación rigurosa (gestión de alucinaciones) y Transparencia funcional sobre el uso de la herramienta. "La herramienta asiste; el abogado decide, estructura y responde". 7. Conclusión: Hacia una justicia con supervisión humana La tecnología es un aliado poderoso para procesar información, pero carece de la capacidad de asumir la responsabilidad ética que exige la defensa de un derecho. La supervisión humana no es un obstáculo para la modernización, sino la única garantía de que la justicia siga siendo real y no estadística. Ante este panorama, la pregunta para la comunidad jurídica es inevitable: ¿Estamos preparados para reclamar nuestro rol como guardianes de la verdad, o hemos comenzado a aceptar una realidad donde el derecho es simplemente la cadena de caracteres más probable según un algoritmo?