Inteligencia Artificial en Colombia

Aplicación de métodos informáticos en el Sistema Judicial

La Inteligencia artificial en el sistema judicial en Colombia

El marco normativo jurisprudencial de la Inteligencia Artificial en Colombia, por sus siglas IA, se encuentra en gran parte en la Sentencia de la Corte Constitucional de Colombia T 323 del 2024, también conocida como la sentencia de Chatgpt (OpenAI).

Para ese momento, herramientas de Inteligencia Artificial tales como Claude (Anthropic), Gemini (Google), hoy más conocidas, aún no se encontraban con tal presencia en el mercado, como hoy. Sin embargo, se observa como, las dos últimas, a hoy, empiezan a tener más auge que la primera, es decir que el ChatGPT. No obstante, para el momento de la mencionada Sentencia de la Corte Constitucional, ChatGPT era la que más auge tenía, y fue la herramienta que uso el Juez de Circuito en sede de apelación para resolver la sentencia apelada por la EPS.

La mencionada Sentencia, dictaminó importantes criterios y principios orientadores en la función jurisdiccional en cuanto al uso de herramientas de IA generativa, por parte de los despachos judiciales del país, importante para el tema a tratar, la inteligencia artificial Colombia sistema judicial.

La mencionada sentencia, estudio el uso de herramientas de inteligencia artificial en sede de revisión de tutela, a propósito de, la acción promovida por Blanca, en nombre y representación de su menor hijo de edad, en contra de la EPS.

La Corte Constitucional examinó, el uso de la inteligencia artificial (IA) para la toma de decisiones en sede de tutela, dado el uso de la herramienta por parte del juez de segunda instancia, así como, el cobro de copagos y el suministro de servicio de transporte y derecho a tratamiento integral de un niño diagnosticado con trastorno de espectro autista, quien además su madre se encuentra en estado de pobreza clasificada en el SISBEN.

El juez de segunda instancia de la tutela, como se mencionó, hizo uso de IA para fundamentar la sentencia, no obstante, aclaró que, la decisión, a la que llegó, fue por su propio criterio. Por ello, dado el uso de dicha herramienta en el fallo judicial, la Sala de la Corte Constitucional entró a estudiar si, se genera una vulneración al derecho fundamental al debido proceso en la emisión de dicha decisión, por parte del juez, ya que, existió duda respecto de, si quien emitió la decisión fue el juez de la República o la IA generativa, no obstante, la aclaratoria del juez respecto de la decisión.

Por tanto, la Sala de la Corte, estudió los siguientes numerales, de cara a la inteligencia artificial colombia en el sistema judicial

i) el derecho fundamental al debido proceso
ii) el debido proceso en un sistema jurisdiccional que utiliza IA
iii) IA como sistema, conceptos de su funcionamiento.
iv) Impactos del uso de IA en la sociedad
vi) Marco regulatorio de IA en el mundo
vii) experiencias del uso de IA en la práctica judicial
viii) garantía del juez natural en un sistema jurisdiccional que utiliza IA
ix) debido proceso probatorio en un sistema jurisdiccional que utiliza IA.

La mencionada Sentencia, es bastante interesante porque además de estudiar los temas anteriormente mencionados, analiza los derechos de los niños, niñas y adolescentes como sujetos de especial protección constitucional, las personas en situación de discapacidad, y la protección de su derecho fundamental a la salud.

En dicho caso, se analizó que, si bien el uso de la herramienta de IA por parte del despacho fue aceptable, no fue así a la hora de cumplir a cabalidad con los principios de transparencia y responsabilidad exigidos, para su uso.

El Juez, argumentó que, atendiendo a la Ley 2213 de 2022, la cual, tiene por objeto la incorporación de las Tecnologías de la Información, por sus siglas TIC, en los procesos judiciales, decidió hacer uso de la IA para confirmar el fallo de primera instancia, y para ello, copio las preguntas y respuestas realizadas por la herramienta de Inteligencia Artificial chatGPT en el texto de la sentencia de segunda instancia.

Si bien, se reitera, el mencionado juez, insistió en que, la decisión fue tomada por él, y que utilizó la IA, solo como una herramienta adicional de trabajo pero después de haber adoptado la determinación, dicha aclaración es importante para la inteligencia artificial colombia sistema judicial.

Así, analizó la Corte, los componentes del debido proceso constitucional que pueden verse trasgredidos por el uso de la IA:

i) la garantía de juez natural
ii) la garantía de la motivación de las decisiones judiciales
iii) la garantía del debido proceso probatorio

Así, la Corte Constitucional, hace uso del derecho comparado para analizar la IA, y para ello, toma la definición de la Comisión Europea, del 2019, la cual, manifiesta:

“Sistemas de software (y posiblemente también de hardware) diseñados por humanos que, dado un objetivo complejo, actúan en la dimensión física o digital percibiendo su entorno mediante la adquisición de datos, interpretando los datos recogidos -sean estos estructurados o no- razonando sobre el conocimiento o procesando la información derivada de estos datos y decidiendo la(s) mejor(es) acción(es) a tomar para alcanzar un determinado objetivo. Los sistemas de IA pueden utilizar reglas simbólicas o aprender un modelo numérico y también pueden adaptar su comportamiento analizando cómo se ve afectado el entorno por sus acciones anteriores”

Al igual, toma un concepto más reciente por parte de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), que el 5 de marzo de 2024, publicó, la definición de dicha entidad para un sistema de IA, así:

“Un sistema de IA es un sistema basado en una máquina que, ya sea para alcanzar objetivos explícitos o implícitos, infiere -a partir de la entrada que recibe- cómo generar salidas, tales como predicciones, contenidos, recomendaciones o decisiones, las cuales pueden influir en entornos físicos o virtuales. Los diferentes sistemas de IA varían en sus niveles de autonomía y capacidad de adaptación después de su implementación”

Explica la sentencia que, en el sistema de IA es fundamental los datos que se le suministran. Así mismo, la IA es capaz de tener un sistema de aprendizaje automático (machine learning), pero uno de los conceptos más importantes del sistema de IA, y es el actual, es del IA generativa, misma que, utiliza procesamiento de lenguaje natural (Large Language Models – LLM – o sistemas predictivos de lenguaje), una especie de linguística computacional, con base en lenguaje humano entrelazo con modelos estadísticos de autoaprendizaje, así como, de los datos que toma o se le suministran.

La IA generativa, es una clase de algoritmo de inteligencia capaz de producir contenido novedoso, en diversos formatos como texto, audio, video, imágenes y código.

ChatGPT es una de las tantas IA generativas, basado en LLM, modelos de lenguaje (Generative Pretrained Transformer). GPT es un modelo de aprendiza automático entrenado con grandes cantidades de datos de texto para generar respuestas coherentes, aunque hace la salvedad la Sentencia que, esto no quiere decir que la información sea real, fiable ni verificable; pues los LLM se basan en predicciones de texto. ChatGPT, explicó OpenAI, en el marco del trámite de revisión que hizo la Corte Constitucional, es un medio creativo o, más específicamente, una herramienta de producción de contenido a partir de instrucciones (PROMPTS).

OpenIA desde sus términos y condiciones enfatiza que, su herramienta no debe remplazar el criterio profesional, debido a que el Output generado, no siempre es correcto, y mucho menos ser usado, en el ámbito o cuestiones legales, y medicas u otras que puedan tener impacto significativo en la vida y decisiones de las personas. Manifestó OpenAI “nuestro servicio puede generar Output incompleto, incorrecto u ofensivo que no represente las opiniones de OpenAI”

Adicional, ChatGPT en sus políticas de uso manifiesta “se prohíbe a los usuarios basarse en las respuestas de los modelos o utilizarlas: (i) como única fuente de asesoramiento jurídico o financiero”.

En cuanto a los principios éticos para la IA en Colombia, se destacan los siguientes:

(i) transparencia y explicación, (ii) control humano de las decisiones propias de un sistema de IA, (iii) seguridad, (iv) responsabilidad, (v) no discriminación, (vi) inclusión, (vii) prevalencia de los derechos de los niños, niñas y adolescentes y (viii) beneficio social.

Todo ello dentro del ámbito propio de estas herramientas, como mecanismos que apoyan y que nunca pueden sustituir la labor humana en el servicio de justicia. Adicionalmente, la transparencia, la protección de datos, el conocimiento de los sesgos por conocer el origen de los datos con los cuales sea entrenada la IA, entre otros conceptos, no se verían afectados o, por lo menos, se reducirían en una gran parte los riesgos, puesto que se trataría de una IA controlada y en funcionamiento por y para la Rama Judicial, lo cual, suena a una motivación al ejecutivo para su realización.

Así, aunque la Corte, no cuestionó la validez de la decisión por esta haber sido tomada con antelación del uso de la herramienta de ChatGPT, lo cierto es que encontró que, en el caso concreto no se cumplió a cabalidad con los principios de transparencia y responsabilidad requeridos al momento de usarse herramientas de IA en la toma de decisiones judiciales.

Por ende, la Sala expone en la sentencia, cuándo se entienden cumplidos los principios de transparencia, responsabilidad y privacidad por los operadores jurídicos que hacen uso de las herramientas de IA, mismos que, deberán cumplirlos si deciden usar herramientas de tecnología de la información como lo es la de la Inteligencia Artificial Generativa.

En Bustos Abogados (Bustos IP Law) te asesoramos en el uso eficiente de la inteligencia artificial y derechos de propiedad intelectual.

Contacta ahora a nuestro experto:

Henry Bustos
Abogado
LLM Propiedad Intelectual y Tecnologías de la Información