El Consejo de Estado, a través de su Sección Tercera, estableció nuevas reglas para el uso de inteligencia artificial en la justicia colombiana, luego de descubrir que un abogado presentó sentencias inexistentes generadas con ChatGPT en un recurso extraordinario de unificación de jurisprudencia. La corporación detectó que varias de las sentencias citadas por el recurrente no existían, lo que llevó a un análisis profundo del fenómeno conocido como «alucinaciones» de la IA, donde estas herramientas producen información que parece correcta pero que carece de respaldo real. Como resultado, la Sala no solo fijó lineamientos sobre el uso de esta tecnología, sino que también ordenó remitir copias del expediente a la Comisión Seccional de Disciplina Judicial de Bogotá para que evalúe una posible conducta disciplinaria del abogado involucrado.
La decisión del alto tribunal se produjo durante el estudio de un recurso extraordinario de unificación en el que los recurrentes alegaban desconocimiento de precedentes del Consejo de Estado. Al verificar las sentencias citadas, la Relatoría de la Sección Tercera concluyó que varias de ellas eran inexistentes o no correspondían con lo afirmado. Este hallazgo llevó a la Sala a emitir una providencia que aborda directamente los riesgos del uso de herramientas como ChatGPT, Claude o Gemini en el ámbito judicial, sin prohibir su utilización pero exigiendo una verificación humana rigurosa.
Reglas claras para evitar riesgos
En su providencia, el Consejo de Estado fue enfático al señalar que el uso de inteligencia artificial solo resulta admisible bajo una premisa esencial: administrar justicia es una función indelegable y toda decisión judicial debe emanar del discernimiento autónomo, razonado y responsable de quien ejerce jurisdicción. «La inteligencia artificial no decide, no valora pruebas, no interpreta el derecho con autoridad judicial ni responde por las consecuencias de una providencia; esa responsabilidad recae exclusivamente en el juez», señaló la corporación en su fallo. La medida también advierte que los jueces no pueden delegar en la IA la valoración de pruebas ni la interpretación del derecho, y que cualquier uso de estas herramientas debe estar acompañado de una verificación humana completa.
«Su utilización sólo resulta admisible bajo una premisa esencial: administrar justicia es una función indelegable y toda decisión judicial debe emanar, siempre, del discernimiento autónomo, razonado y responsable de quien ejerce jurisdicción. La inteligencia artificial no decide, no valora pruebas, no interpreta el derecho con autoridad judicial ni responde por las consecuencias de una providencia; esa responsabilidad recae exclusivamente en el juez»
Consejo de Estado, Providencia Sección Tercera
El fallo también expresó reservas sobre los programas diseñados para detectar textos generados por inteligencia artificial, señalando sus limitaciones en precisión y confiabilidad. La decisión no impone una sanción inmediata al abogado, sino que deja en manos de la Comisión Seccional de Disciplina Judicial de Bogotá la evaluación de su conducta, en un caso que marca un precedente sobre los límites y responsabilidades del uso de la inteligencia artificial en los procesos judiciales colombianos.
