Un tribunal argentino invalida condena escrita con ChatGPT

La Cámara en lo Penal de Esquel (Chubut) anuló de oficio una condena penal tras detectar que el juez había usado inteligencia artificial para redacta…

| Por La Tribuna-
Agregar La Tribuna en

La Cámara en lo Penal de Esquel (Chubut) anuló de oficio una condena penal tras detectar que el juez había usado inteligencia artificial para redactar la sentencia. El indicio fue inequívoco: en el texto aparecía la frase “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”, típica de asistentes como ChatGPT.

La decisión deja sin efecto el fallo del 4 de junio dictado por el juez Carlos Rogelio Richeri, que había impuesto a Raúl Amelio Payalef una pena de dos años y seis meses de prisión por robo simple, y ordena un nuevo juicio con otro magistrado.

Para el tribunal revisor, el error expuso “una brecha demasiado amplia” para saber cuánto del razonamiento era atribuible al algoritmo y cuánto al juez, lo que vulnera la prohibición de delegar la función jurisdiccional. Además, subrayó que no hubo constancia del sistema utilizado, de los datos ingresados ni de las instrucciones dadas, lo que impide controlar sesgos, alucinaciones o errores y afecta el derecho de defensa al eliminar las fuentes citadas.

“El fallo presentaba múltiples violaciones constitucionales y procesales: falta de transparencia, delegación prohibida e impacto en el principio de juez natural”, explicó el abogado especializado en derechos digitales Luis García Balcarce, quien advirtió también el riesgo de haber cargado datos personales en una plataforma privada. En la misma línea, Lucas de Venezia (UCA), experto en Derecho e Inteligencia Artificial, consideró “correcta y necesaria” la nulidad: “El acto jurisdiccional es un acto de autoridad sustentado en razonamiento humano y responsabilidad personal. Sin trazabilidad ni supervisión efectiva, la sentencia se vuelve un producto híbrido de dudosa autoría”.

El antecedente se suma a otros episodios recientes: a fines de agosto, la Cámara Civil y Comercial de Rosario sancionó a un abogado por citar jurisprudencia inexistente generada con IA. Para Pablo Palazzi (Universidad de San Andrés), el punto crítico es claro: “La discusión es si la decisión la tomó el juez o la delegó en ChatGPT. No se puede encargar a un tercero que decida por uno, menos en una causa penal”.

La Cámara chubutense remitió el caso al Superior Tribunal de Justicia para investigar alcances y responsabilidades. El mensaje institucional es nítido: la IA puede usarse, pero con trazabilidad, transparencia y control humano verificable. Lo contrario erosiona la motivación del fallo, la tutela judicial efectiva y la confianza pública en la justicia.

TAGSNo hay tags para el artículo.

También te puede interesar

Últimas noticias