Constitucional colombiano: La IA no puede reemplazar a un juez en la toma de decisiones

La Corte Constitucional colombiana ha decretado que "la Inteligencia Artificial no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción", después de un caso en el que un juez usó ChatGPT en un proceso judicial.

El alto tribunal estudió este caso a petición de la Defensoría del Pueblo y concluyó que debe respetarse "el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina".

Se trata de un caso en el que estaba involucrado un menor de edad diagnosticado con Trastorno del Espectro Autista (TEA) desde su nacimiento y que necesitaba un tratamiento de salud especializado por parte de su Entidad Prestadora de Salud (EPS), las empresas que se encargan de gestionar y administrar los servicios de salud en Colombia.

En la tutela, la madre del niño aludía que para recibir la terapia, necesitaba desplazarse en transporte urbano y no contaba con los recursos económicos suficientes ni tampoco para pagar las cuotas moderadoras y lo copagos de la EPS para acceder al médico y a los fármacos. Por ello pedía a la EPS que la exonerara del pago y autorizara el financiamiento de los desplazamientos. 

RELACIONADAS

Tecnología

Juez colombiano usa inteligencia artificial de ChatGPT en un caso

En este caso, el juez empleó la IA para "formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia".

También abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.

La corte también recordó que no es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares, "que pueden estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas".

Por último, alegó que los jueces deben garantizar un uso adecuado de la información y los datos de los implicados.

RELACIONADAS

Justicia

Jueza del TC llama a legisladores a "ponerse las pilas" con la ley de protección de datos

En contrapartida, el Constitucional dictaminó que es "admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación".

Finalmente, el alto tribunal indicó que el uso de este tipo de tecnologías "debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez".

En el caso del juez, concluyó que "no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos", aunque "no hubo remplazo de la función judicial por parte de ChatGPT". 

EFE

Fehaciente, fidedigno y fácil. Agencia de noticias multimedia en español.