La Corte bonaerense prohíbe que la IA dicte sentencias o valore pruebas

La Suprema Corte de Justicia de la provincia de Buenos Aires puso en consulta pública un proyecto de reglamento para el desarrollo y uso responsable de herramientas de inteligencia artificial (IA) en el ámbito judicial y creó una Comisión de Gobernanza y Uso de Inteligencia Artificial que tendrá a su cargo la supervisión de la iniciativa.

La medida forma parte del proceso de modernización tecnológica que viene llevando adelante el máximo tribunal y busca establecer un marco institucional y jurídico para la incorporación progresiva de sistemas de IA en la administración de justicia, garantizando su utilización de manera segura, ética y respetuosa de los derechos fundamentales.

En lo que es un paso sin precedentes para la Justicia del país, la Corte bonaerense elaboró un proyecto de reglamento, que estará sometido a una consulta participativa hasta el 7 de agosto, para regular el uso de la IA dentro de los tribunales. Bajo la premisa de que “la función jurisdiccional es indelegable e insustituible”, busca evitar que las herramientas tecnológicas reemplacen el razonamiento humano en la toma de decisiones judiciales.

Según la resolución a la que accedió Agencia DIB, magistrados, funcionarios, agentes judiciales, colegios profesionales, universidades y demás interesados pueden presentar observaciones y sugerencias a través de un espacio específico habilitado en el sitio web de la Suprema Corte. El formulario de consulta se accede desde la web y en las redes del Tribunal.

Los riesgos de la inteligencia artificial

El tribunal destacó que la inteligencia artificial ya es utilizada en distintos sistemas judiciales del mundo para tareas como la gestión de procesos, el análisis de datos, la sistematización de jurisprudencia y la atención de usuarios. Sin embargo, advirtió sobre los riesgos asociados a estas tecnologías, entre ellos la posibilidad de reproducir sesgos, generar errores o producir contenidos inexactos, por lo que consideró necesario establecer reglas claras para su implementación.

Entre los objetivos del futuro reglamento figuran la mejora de la eficiencia en los procesos judiciales y administrativos, el fortalecimiento del acceso a la justicia mediante la reducción de barreras tecnológicas, lingüísticas y geográficas, y el apoyo a la labor jurisdiccional sin reemplazar el razonamiento ni la decisión humana.

La resolución subraya que la función jurisdiccional es “indelegable e insustituible” y establece que bajo ninguna circunstancia podrá delegarse en sistemas de inteligencia artificial la toma de decisiones judiciales, la valoración de pruebas o la elaboración del razonamiento jurídico que sustenta sentencias o resoluciones.

Asimismo, dispone que el uso de estas herramientas no exime a jueces, funcionarios o agentes de la responsabilidad por el contenido, validez y legalidad de los actos en los que intervengan sistemas de IA, debiendo ejercer un control sustantivo y documentado sobre los resultados obtenidos.

Finalmente, la Corte le prohibió a sus integrantes el uso de chatbots de acceso gratuito o comercial (como ChatGPT) para tratar información judicial sensible o investigaciones en curso, ante el riesgo de que esos datos personales sean utilizados para entrenar modelos futuros fuera del control institucional.