El debate sobre el uso de inteligencia artificial en la justicia llegó al Tribunal Superior de Cali a través de un recurso de apelación presentado por la parte demandante en un proceso de responsabilidad civil médica. La controversia surgió luego de que el juez de primera instancia negara la práctica de una prueba basada en ChatGPT, decisión que llevó a la autoridad judicial a pronunciarse sobre los límites de estas tecnologías dentro del proceso judicial.
La Sala advirtió diversos riesgos jurídicos y técnicos asociados al uso de herramientas de inteligencia artificial en el proceso judicial, entre ellos:
- La ausencia de un sujeto identificable que asuma responsabilidad directa por el contenido generado
- El riesgo de generación de información sin respaldo fáctico o jurídico, presentada con apariencia de autoridad.
- La tendencia del sistema a producir respuestas que pueden reflejar o reforzar las hipótesis del usuario.
- Que estos sistemas no operan con conocimiento experto verificable, sino mediante modelos de predicción probabilística basados en patrones lingüísticos.
Asimismo, el Tribunal precisó que, dada la forma en que fue solicitada, la prueba no cumplía los requisitos mínimos de pertinencia, conducencia y utilidad, ni se ajustaba a las exigencias propias de los medios probatorios previstos en el ordenamiento procesal, razón por la cual no podía ser decretada.
No obstante, la Sala indicó que, en abstracto, la información generada mediante herramientas de inteligencia artificial podría eventualmente incorporarse al proceso como mensaje de datos, siempre que se cumplan exigencias orientadas a garantizar su fiabilidad y contradicción, tales como:
- La identificación del sistema o modelo utilizado, su versión y condiciones de funcionamiento.
- La trazabilidad del proceso, incluyendo las instrucciones o prompts empleados.
- La posibilidad de auditar o reproducir el procedimiento de generación del contenido.
- La garantía de control y contradicción por las partes y el juez.
En ese contexto, el Tribunal decidió confirmar la negativa del decreto probatorio solicitada en primera instancia. La decisión se fundamenta en la necesidad de preservar el debido proceso probatorio, en particular las garantías de contradicción, control judicial y transparencia en la producción de la prueba. En ese sentido, la Sala resaltó que las herramientas de inteligencia artificial se caracterizan por fenómenos como la “opacidad algorítmica”, la dificultad de verificación de sus resultados y la imposibilidad de atribuirles comprensión semántica del contenido que generan.
Finalmente, el Tribunal reiteró que, aunque estas tecnologías pueden cumplir un papel auxiliar en determinadas actividades, no pueden sustituir la racionalidad humana ni la función jurisdiccional, la cual recae exclusivamente en el juez.
Con este pronunciamiento, se reafirma que el debido proceso probatorio exige el cumplimiento estricto de las reglas procesales en la solicitud, decreto y práctica de pruebas, incluso frente a nuevas tecnologías.
Nota Aclaratoria. Las publicaciones realizadas por Francisco Javier Fajardo Angarita Abogados y Asociados S.A.S. en la sección de NOTICIAS, tienen como finalidad divulgar decisiones relevantes de las autoridades judiciales y administrativas, con el propósito de informar a quienes se interesan en estos temas. Estas publicaciones no comprometen, en ningún caso, la postura de la firma frente a los asuntos tratados.
Francisco Javier Fajardo Angarita Abogados y Asociados S.A.S.
