Justicia de Buenos Aires prohíbe usar IA para dictar sentencias

La Suprema Corte de Justicia de la provincia de Buenos Aires prohibió que la inteligencia artificial (IA) sea utilizada para dictar sentencias, valorar pruebas o elaborar el razonamiento jurídico de cualquier resolución judicial. Esta decisión forma parte de un proyecto de reglamento para el uso responsable de la IA, una iniciativa sin precedentes en la justicia argentina que fue puesta a consulta pública hasta el 7 de agosto. La premisa central, según la resolución citada por medios como El Debate, es que “la función jurisdiccional es indelegable e insustituible”.

El objetivo del futuro reglamento es doble: por un lado, mejorar la eficiencia de los procesos y fortalecer el acceso a la justicia; por otro, mitigar los riesgos asociados a la IA. El máximo tribunal bonaerense advirtió sobre la posibilidad de que estas herramientas reproduzcan sesgos, generen errores o produzcan contenidos inexactos. Por ello, la normativa establece que el uso de IA no exime a jueces y funcionarios de su responsabilidad, quienes deberán ejercer un “control sustantivo y documentado” sobre los resultados que obtengan de estos sistemas.

Además de las limitaciones en las decisiones judiciales, la Corte prohibió explícitamente a sus integrantes el uso de chatbots de acceso gratuito o comercial, como ChatGPT, para manejar información judicial sensible o datos de investigaciones en curso. Según El Eco, la medida busca evitar que esa información confidencial sea utilizada para entrenar modelos de IA fuera del control institucional. Con este paso, la justicia bonaerense se posiciona como un actor clave en el debate sobre la gobernanza de la IA en América Latina, sentando un precedente sobre cómo integrar la tecnología en el sector público sin ceder el control humano en funciones críticas del Estado.