En una reciente sentencia, la Corte Constitucional de Colombia establece que la inteligencia artificial no puede reemplazar al juez en la toma de decisiones judiciales y enfatiza la necesidad de garantizar derechos fundamentales y transparencia en su uso.
La Corte Constitucional de Colombia ha emitido un fallo crucial en el que subraya que la inteligencia artificial (IA), como ChatGPT, no puede sustituir al juez en la toma de decisiones judiciales. La Sala Segunda de Revisión abordó una tutela en la que se cuestionaba el uso de IA para formular interrogantes en un caso de derechos a la salud de un menor, concluyendo que, aunque la IA puede apoyar en tareas administrativas y documentales, debe respetar principios de transparencia, responsabilidad y protección de datos personales.
Bogotá D.C., 12 de agosto de 2024 —La Corte Constitucional se enfrentó a una acción de tutela presentada por la madre de un menor con necesidades especiales, quien buscaba el amparo de derechos fundamentales tras la negativa de una EPS (Entidad Promotora de Salud) de cubrir gastos médicos y de transporte para su hijo. El caso tomó relevancia debido al uso de inteligencia artificial por parte del juez de segunda instancia, quien empleó ChatGPT para formular preguntas jurídicas sobre el derecho fundamental a la salud de menores diagnosticados con trastorno del espectro autista.
En su sentencia, la Corte destacó que la IA no puede reemplazar al juez en la creación de contenido judicial, interpretación de hechos o resolución de casos. Aceptó que la IA puede ser útil para gestionar documentación y apoyar en tareas administrativas, siempre bajo la supervisión humana para garantizar precisión y coherencia. También enfatizó que el uso de la IA debe cumplir con estándares de independencia judicial e imparcialidad, evitando sesgos que puedan influir en las decisiones judiciales.
La Corte advirtió que el respeto al debido proceso requiere garantizar que la IA no afecte la privacidad de los datos personales ni implique una sustitución de la racionalidad humana. Aunque en el caso concreto el uso de ChatGPT no sustituyó la función del juez, la Corte identificó deficiencias en la aplicación de los principios de transparencia y responsabilidad, aunque se satisfizo el principio de privacidad al no incluir datos personales del menor en el uso de la herramienta.
La Sala confirmó parcialmente la decisión del juzgado, ordenando la exoneración de cuotas moderadoras y copagos para el menor y la cobertura de transporte necesario para su tratamiento. También instó a los jueces a evaluar cuidadosamente el uso de tecnologías como ChatGPT, adoptando mejores prácticas y aplicando criterios éticos para proteger los derechos fundamentales en el proceso judicial.
Detalles de fondo: La Corte Constitucional ha establecido un precedente significativo sobre el uso de la inteligencia artificial en el ámbito judicial. Este fallo es parte de un contexto más amplio en el que se busca integrar tecnologías avanzadas en el sistema judicial sin comprometer principios fundamentales como la imparcialidad, la transparencia y el debido proceso. La necesidad de una normativa específica sobre el uso de la IA en la judicatura es cada vez más evidente, y la Corte ha instado al Consejo Superior de la Judicatura a desarrollar directrices claras al respecto.
«El uso de la inteligencia artificial en el sistema judicial debe hacerse de manera razonable y ponderada, garantizando siempre el respeto a los derechos fundamentales y la transparencia en su aplicación», afirmó el magistrado Juan Carlos Cortés González, ponente de la sentencia.
La Corte Constitucional ha establecido que la inteligencia artificial puede ser una herramienta útil en la administración de justicia, pero nunca debe reemplazar la función decisoria del juez. La decisión subraya la importancia de mantener la racionalidad humana en el proceso judicial y garantizar que cualquier uso de tecnología respete los derechos fundamentales, con un enfoque en la transparencia y la responsabilidad.
Información adicional: Se ha instado al Consejo Superior de la Judicatura a crear una guía sobre el uso de IA en el poder judicial, y a fomentar la capacitación de los jueces en el uso de estas herramientas, abordando tanto sus riesgos como sus beneficios.
Boletín de prensa N. 146
La inteligencia artificial (IA) no puede sustituir al juez
El uso de estas herramientas en la administración de justicia debe respetar los derechos fundamentales y hacerse de manera razonable y ponderada, bajo las cargas de transparencia, responsabilidad y garantía de protección de datos personales.
Bogotá D.C., 12 de agosto de 2024
La Sala Segunda de Revisión conoció la acción de tutela presentada por la madre de un menor de edad contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas de aquel, debido a la negativa de la entidad de (i) exonerar al niño del pago de cuotas moderadoras y copagos, (ii) cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y (iii) garantizarle un tratamiento integral.
La Corte Constitucional dividió el estudio del caso en dos grandes temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia. De otra parte, abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.
En relación con el debido proceso en un sistema de administración de justicia que haga uso de herramientas de inteligencia artificial IA, la Sala de Revisión de la Corte Constitucional señaló que debía respetarse el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina. En ese sentido, resaltó que la IA no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación.
La Corte agregó que, en el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como por ejemplo una IA, pueda influir en la consideración del caso. Advirtió que tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas. La motivación es otra de las subgarantías del derecho al debido proceso que debe ampararse, ya que el uso de la IA supone el riesgo de alucinaciones, fenómeno que se refiere a información inexacta o falsa que pueden dar lugar a problemas de motivación de la decisión judicial. Además, consideró esencial que los jueces velen porque el tratamiento de la información relativa a los usuarios del sistema judicial se realice con plenas salvaguardas para la data sensible, de forma que el uso de la IA no involucre su derecho a la intimidad y a la privacidad.
La Corte Constitucional concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores. La utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez cuando recurra a este tipo de apoyos tecnológicos.
La transparencia implica exponer claramente cuál fue el uso, el alcance y la ubicación en las decisiones de lo gestionado a través de la herramienta IA. La responsabilidad exige del servidor que esté capacitado en la materia, que pueda dar cuenta del origen, la idoneidad y la necesidad del uso de IA y, principalmente, que verifique las condiciones de esta y la información y resultados que aporta. Por último, la carga de privacidad supone la protección de la reserva de datos personales y sensibles que se le dan a conocer al sistema judicial para el cumplimiento de sus funciones.
Con base en lo anterior, al revisar el caso concreto la Sala de Revisión concluyó que no hubo un remplazo de la función judicial por parte de ChatGPT, porque el juez de segunda instancia utilizó esa IA luego de fundamentar y tomar la decisión; solo entonces transcribió las preguntas que hizo en dicha plataforma y las respuestas arrojadas en la consulta. De acuerdo con ello, no se cuestionó la validez de la decisión del juzgado por haber sido tomada con antelación al uso de la herramienta ChatGPT, pese a lo cual, al estudiar la forma en que se utilizó la herramienta, la Corte encontró que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.
La Corte advirtió que las consideraciones y prevenciones sobre el uso de estas tecnologías frente a una decisión judicial en sede de tutela resultan aplicables en lo pertinente a procesos judiciales de diferente naturaleza, pues el correcto uso de la IA como salvaguarda del debido proceso debe garantizarse en todo tipo de procedimiento, al paso que reconoció los efectos inter comunis de la decisión debido a que, mientras no haya una reglamentación o guía oficial expedida por el Consejo Superior de la Judicatura o una normativa dictada por el Congreso de la República, se deben prevenir las afectaciones del derecho al debido proceso que podría causar el uso indiscriminado de la IA en la actuación judicial.
De otro lado, en relación con la posible afectación del derecho a la salud del menor de edad, la Corte concluyó que se cumplieron las condiciones para exonerarlo del cobro de copagos y cuotas moderadoras por los servicios y medicamentos que requiera, ya que las leyes 1438 de 2011 y 1618 de 2013, así como el Decreto 1652 del 2022, exceptúan del cobro de cuotas moderadoras y copagos a las personas en situación de discapacidad, en relación con su rehabilitación. Así mismo, dispuso se eliminaran las barreras para aplicar dicho amparo, en especial, que se gestionaran las actuaciones administrativas para que la EPS comunicara a los prestadores sobre la no aplicación de cuotas moderadoras ni copagos.
La Sala encontró que ni el niño ni su madre tienen los recursos económicos suficientes para pagar el valor de los traslados requeridos para acceder al servicio de salud, pues se encuentran en situación de pobreza extrema. Además, la falta de autorización del transporte, debido al diagnóstico que padece el niño, pondría en riesgo su dignidad y estado de salud. Si bien la EPS autorizó el suministro del transporte para la asistencia a las terapias de rehabilitación, no dio la orden respecto a los demás desplazamientos asociados a valoraciones y controles con especialistas y ayudas diagnósticas. Por esa razón, la Corte encontró una deficiencia en el amparo concedido por los jueces de instancia.
Finalmente, sobre el tratamiento integral la Corte advirtió que no se allegó prueba al expediente de que la EPS se haya negado a autorizar alguna orden médica que prescribiera una valoración, tratamiento, servicio asistencial, ayuda diagnóstica, control o cualquier otro parecido para la atención médica del niño, por lo que no se ordenó algo adicional a lo anteriormente señalado.
Por todo lo anterior, la Sala confirmó parcialmente la sentencia de instancia y ordenó el reconocimiento del servicio del transporte para el niño y su acompañante y conminó a las entidades del sistema de salud a que exoneren del pago de copagos y cuotas moderadoras al menor de edad.
De otra parte, exhortó a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.
Para tal fin, los funcionarios y empleados de la Rama Judicial aplicarán los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad.
De igual forma, ordenó al Consejo Superior de la Judicatura que adopte una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT. También, que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue la providencia a todos los despachos judiciales del país y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial IA en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos.
Sentencia T-323 de 2024
M.P. Juan Carlos Cortés González
