En Sentencia T-323 del 2 de agosto de 2024, la Corte Constitucional, ante los riesgos inherentes al uso de la inteligencia artificial, tales como alucinaciones y sesgos discriminatorios, consideró buscar medidas que permitan asegurar un uso razonable y proporcional de herramientas como ChatGPT en el ámbito judicial, garantizando la protección de los derechos fundamentales, el debido proceso, así como la autonomía e independencia judicial.
Lo anterior resultó de un análisis sobre el uso de la IA, específicamente ChatGPT 3.5, en la toma de una decisión judicial, en una acción de tutela en segunda instancia, donde la Corte evaluó si dicho uso vulneró el derecho al debido proceso. Para ello, consideró dos puntos focales:
- Debido Proceso: la Corte evaluó si el uso de IA, específicamente ChatGPT 3.5, por parte del juez de segunda instancia vulneró el derecho al debido proceso, donde se analizó si la decisión fue producto del razonamiento humano o influenciada por la IA. La Corte concluyó que, aunque se consultó la IA, esta fue utilizada después de que el juez ya había fundamentado su decisión, sin reemplazar la función jurisdiccional.
- Principios del uso de IA: la Corte resaltó la necesidad de regular el uso de IA en la judicatura, estableciendo principios como la transparencia, responsabilidad, privacidad y la no sustitución del razonamiento humano.
La Corte Constitucional concluyó que el uso ponderado y razonado de la inteligencia artificial en la administración de justicia es admisible, siempre que se garantice la protección de los derechos fundamentales, se adopten las mejores prácticas y se apliquen criterios éticos y de respeto a los mandatos superiores. El empleo de estas herramientas debe regirse por el principio de no sustitución del razonamiento humano, así como por las obligaciones de transparencia, responsabilidad y privacidad que el juez debe asumir al recurrir a estos apoyos tecnológicos.
En consecuencia, la Corte confirmó parcialmente la sentencia de segunda instancia, ordenando al Consejo Superior de la Judicatura expedir, en un plazo de cuatro meses, guías sobre el uso de la IA en el ámbito judicial, asegurando su implementación en concordancia con los principios constitucionales.
Por último, exhortó a los jueces a evaluar cuidadosamente el uso de la IA en sus decisiones, aplicando criterios éticos y garantizando la protección de los derechos fundamentales, la independencia judicial y la transparencia en sus fallos.
Francisco Javier Fajardo Angarita Abogados y Asociados S.A.S.
