El uso de la inteligencia artificial en el sistema legal
Inteligencia Artificial, ¿aliada o enemiga?

Participante activo e impulsor del ecosistema de ciencia de datos en México. Co-fundador de tres startups relacionadas con inteligencia artificial. Posdoctorado en Sistemas Complejos de C3. Director Académico de la Escuela de Gobierno y Transformación Pública del Tec de Monterrey.

Twitter: @nano_unanue

El uso de la inteligencia artificial en el sistema legal
Foto: Christina Morillo/ Pexels

La definición de la meta es una de las partes más importantes de un sistema de Ciencia de Datos (CD). Implícito en la meta, está el propósito del proyecto, es decir, el para qué del proyecto, su raison d´être.

El énfasis en la meta se debe a que la meta ‘jala’ las acciones, las definiciones, los datos, etc. Todo comienza por el final en el proyecto de CD. Por ejemplo, los datos no pueden ser ‘robustos’, ‘interpretables’ o ‘justos’ a menos que estén referidos o contextualizados respecto a la meta: ¿Con los datos se puede aproximar a la meta, cumpliendo con los objetivos planteados? ¿Es posible seguir cumpliendo la meta a pesar de los cambios ocasionados por la acción?

Una de las disciplinas en la que más se ha cuestionado el uso de la Inteligencia Artificial (IA) es la práctica legal o jurídica. Antes de adentrarnos en cómo funcionan estos sistemas, debemos entender cuál es la necesidad de tenerlos. La respuesta es sencilla: los sistemas de administración de justicia a nivel mundial están rebasados en cuanto a su capacidad de atención a la población. Esta saturación deriva en las largas estancias de las personas en prisiones esperando su juicio o en la acumulación de expedientes en los ministerios públicos.

Estas circunstancias impiden o complican el derecho al acceso a la justicia que tienen todas las personas, por lo que es necesario, e incluso crítico considerar implementar un sistema con procesos expeditos, eficientes, eficaces, de fácil gestión y que además, analice el balance entre riesgos y necesidades. 

Por esta razón, algunos planes de estudio y la misma práctica del Derecho se están transformando para cumplir con esas demandas. Proyectos como Legal operations y Legal processes buscan adaptar las metodologías que se practican en ambientes industriales como Six Sigma para optimizar los procesos legales. La inclusión de evidencia en la toma de decisiones en el sistema de justicia contribuye a atender mejor las necesidades de la ciudadanía, hacer un mejor uso de los recursos públicos y a resolver deficiencias estructurales.

Actualmente, existen sistemas de IA que impactan en la impartición de justicia. De hecho, en el sistema legal estadounidense se han utilizado sistemas de CD (reglas heurísticas, modelos estadísticos, entre otros) desde hace décadas.

COMPAS es un sistema basados en evidencia, creado por la empresa Northpointe, que se usa en varios estados de Estados Unidos para calcular score de riesgo de un acusado de: a) no aparecerse en el  juicio, b) reincidencia general y c) reincidencia por un crimen violento. Este sistema utiliza datos históricos del acusado (comportamiento), así como algunos datos criminológicos (necesidades o causantes de crimen) sugeridos en la literatura.

Esta estimación se utiliza para informar decisiones en cada etapa del sistema de justicia, desde estimar la cantidad de la fianza hasta decidir sobre la libertad de la persona. En la siguiente columna discutiremos los problemas de no utilizar la meta para determinar las métricas de equidad apropiada.