Anulan sentencia porque juez usó Inteligencia Artificial

La resolución condenatoria dictada el 4 de junio decía: "Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar" lo que evidenció que el funcionario había utilizado un asistente digital para redactar un tramo decisivo sin dejar constancia de ello.

El tribunal encontró una frase textual incluida en la sentencia que revelaba el uso de la IA: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”

El tribunal encontró una frase textual incluida en la sentencia que revelaba el uso de la IA: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”

La Cámara en lo Penal de Esquel, Chubut, anuló por primera vez una sentencia penal al detectar que el juez de primera instancia había utilizado un asistente de inteligencia artificial (IA) generativa para redactar parte de la fundamentación del fallo. Al resolver el caso, los jueces Hernán Dal Verme, Martín Zacchino y Carina Estefanía dejaron sin efecto la pena de dos años y seis meses de prisión de cumplimiento efectivo impuesta al acusado, ordenaron un nuevo juicio ante un juez distinto y remitieron el caso al Superior Tribunal de Justicia de la provincia patagónica.

Al revisar la sentencia del juez Carlos Rogelio Richeri se detectó una frase: ‘Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar’, que evidenciaba que el juez había delegado funciones jurisdiccionales sin supervisión humana". Dado que, la Cámara sostuvo que el uso no controlado de asistentes digitales vulnera garantías constitucionales como el debido proceso y la motivación suficiente de las decisiones judiciales, y también infringe normas provinciales que prohíben delegar funciones judiciales a sistemas automatizados sin trazabilidad ni transparencia.

La causa se originó el 17 de noviembre de 2023, cuando se denunció un robo en un departamento de Esquel por $2.000 y USD400, y la investigación incluyó registros de cámaras de seguridad, análisis de un Renault Clio gris y pericias sobre imágenes y vestimenta. A partir de la evaluación de todas las pruebas, el juez de primera instancia consideró acreditada la autoría del acusado y dictó la sentencia condenatoria el 4 de junio de este año.

A cargo de la defensa, Horacio Hernández cuestionó la valoración de la prueba, la falta de evidencia directa y la arbitrariedad en la fundamentación, alegando ‘errónea valoración de la prueba’. Detalló que los videos de seguridad no eran concluyentes y que su defendido se encontraba trabajando en otra localidad al momento, respaldado por testigos.

Defendiendo la investigación mencionada, el Ministerio Público Fiscal sostuvo la solidez de la investigación y la valoración de la prueba, basada en registros fílmicos, el trabajo de un inspector y la pericia criminalística, y rechazó acusaciones de manipulación o animosidad policial.

Spotify lanza su DJ con inteligencia artificial que acepta pedidos en español

Para resolver el caso, el fallo de la Cámara se apoya en un Acuerdo Plenario del Superior Tribunal de Justicia del Chubut, que regula el uso ético y responsable de asistentes digitales en el Poder Judicial provincial. Añade que estas herramientas solo pueden usarse como apoyo, nunca para delegar decisiones, y exige supervisión humana, resguardo de la confidencialidad de los datos y constancia expresa de su utilización.

Qué sostuvieron los jueces al anular la condena por el uso de un asistente digital en la sentencia

Los jueces de la Cámara Penal de Esquel consideraron que el uso de un asistente digital para redactar parte esencial de una sentencia vulneró garantías constitucionales básicas, como el debido proceso y la obligación del juez de fundamentar sus decisiones. A partir de ese argumento, anularon la condena y ordenaron un nuevo juicio.

A un lado, la jueza Carina Estefanía subrayó la gravedad de que el magistrado no dejara constancia del uso de la herramienta ni del alcance de su intervención: “la circunstancia de no dejar constancia del uso de la herramienta y a qué fines impide controlar cuál ha sido el grado de asistencia requerida y, con ello, el control de las partes en cuanto a la trazabilidad del razonamiento del magistrado". También dijo "se presenta como un obstáculo para este Tribunal al examinar la corrección de la sentencia, en todos sus aspectos, en especial con relación a la fundamentación de la misma”.

De hecho, agregó que utilizar un sistema automatizado sin transparencia ni control humano adecuado vulnera principios esenciales del debido proceso y la garantía del juez natural. Mientras el juez Martín Zacchino coincidió en que la sentencia de primera instancia presentaba un “vicio insalvable de fundamentación”, al no poder determinarse si el razonamiento pertenecía al magistrado o al asistente digital: “No hay forma de conocer la dirección elegida por el juez".

Tribunal cordobés rechazó recurso realizado con inteligencia artificial porque generó “alucinaciones”

Para el tercer juez Hernán Dal Verme advirtió que la falta de explicación sobre el modo y el alcance del uso de la herramienta en un punto decisorio impide a las partes ejercer un control efectivo y afecta el derecho al doble conforme, es decir, a que una condena sea revisada por un tribunal superior.