Contenido
En Colombia para el mes de enero del 2023, por primera vez se tomó una decisión judicial haciendo uso de la inteligencia artificial a través del prototipo de chatbot ChatGPT. El caso encontraba su génesis en la vulneración al derecho a la salud de un niño autista en Cartagena.
La sentencia antes mencionada decide a favor de una madre que solicitaba la exoneración del pago de citas médicas, terapias y transportes a centros hospitalarios a su hijo autista, en tanto la familia no contaba con los recursos económicos necesarios para cubrir la condición del menor.
Así, el juez a cargo formula varias preguntas al chatbot como: “¿Menor autista está exonerado de pagar cuotas moderadoras en sus terapias?”. A dicha solicitud, el chatbot, respondio "Sí, es correcto. De acuerdo con la normativa en Colombia, los menores con diagnóstico de autismo están exonerados de pagar cuotas moderadoras en sus terapias".
Esto sin duda alguna presupone un avance en la toma de decisiones que ha generado múltiples reacciones entre los colegas de la abogacía y los jueces del pís. Así, se destacan como preguntas de reflexión sobre lo acontecido las siguientes:
¿Cuáles son las implicaciones legales de la IA en los sistemas judiciales?
La IA puede tener implicaciones significativas en los sistemas judiciales, en tanto su uso puede generar decisiones perjudiciales y efectos adversos para las partes y jueces del proceso, de no considerarse los siguientes aspectos:
1. Sesgos y posible discriminación: Los sistemas de IA al ser una herramienta de autoaprendizaje basan sus decisiones en las fuentes que alimentan su algoritmo, de tal suerte que, si se usa la herramienta sin considerar estas posibles asimetrías de información, es muy probable que desconozca las condiciones particulares de cada caso de estudio. De esta manera, el algoritmo puede llegar a generar discriminaciones positivas o negativas que podría generar cambios en la decisión judicial.
2. Privacidad y protección de datos: La IA en el sistema judicial puede implicar el procesamiento de grandes cantidades de datos personales, incluyendo datos sensibles como la información médica o financiera de los involucrados en el proceso. De esta manera, se deben implementar medidas adecuadas para proteger la privacidad y seguridad de los datos personales, así como para garantizar que se respeten los derechos de los individuos en relación con sus datos.
3. Responsabilidad: En el caso de errores o decisiones incorrectas tomadas por sistemas de IA, es importante que se tengan en cuenta las implicaciones de las que se harían acreedores los jueces de conformidad la Ley Estatutaria de Administración de Justicia.
¿Cómo pueden las partes interesadas del ecosistema judicial abordar estos desafíos y oportunidades?
El uso de la inteligencia artificial (IA) en el sistema judicial puede ser beneficioso para mejorar la eficiencia y la precisión de los procesos judiciales. Sin embargo, es importante que las partes interesadas del ecosistema judicial, incluyendo jueces, abogados, fiscales, y cualquier tipo de interviniente de la decisión, apliquen la IA de manera responsable y ética para evitar cualquier tipo de decisión que vulnere los derechos de las partes.
De esta manera, se destacan algunas pautas generales para la aplicación de la IA en el sistema judicial:
1. Responsabilidad: Tal y como se mencionaba en la pregunta anterior, es importante que las partes interesadas asuman la responsabilidad por el uso de la IA en los procesos judiciales. Esto incluye asegurarse de que la IA no discrimine a las personas en función de su raza, género, religión, orientación sexual u otros factores protegidos por la Ley.
2. Prueba y validación: Se deben probar y validar el uso de la IA en los procesos judiciales antes de implementarlos a gran escala. Deben asegurarse de que la IA funcione correctamente y sea precisa para este tipo de decisiones. Esto sin duda es un llamado al gobierno, a los desarrolladores y al Ministerio de Tecnologías de la Información y las Comunicaciones de Colombia (MINTIC), para evaluar como este tipo de desarrollos tecnológicos pueden ser herramientas que, si bien no reemplacen la labor del juez en la toma de decisiones, si puedan contribuir al desarrollo óptimo de la misma a través del análisis de datos y otras herramientas de este tipo de tecnologías.
3. Participación de las partes interesadas: Es importante que las partes interesadas del ecosistema judicial, incluidos los jueces, abogados y fiscales, participen en el desarrollo y la implementación del uso de la IA en los procesos judiciales. Esto garantizará que la IA atienda a las necesidades que el entorno que el país necesita.