Juez emplea ChatGPT para crear sentencia: atribuye falsos antecedentes al Tribunal Supremo
El juez atribuyó la culpa a un asistente y a la excesiva carga de trabajo. ¿Podrá esta justificación ser suficiente para mitigar las consecuencias?
Tl;dr
- Se investiga a un juez brasileño por uso erróneo de IA.
- El juez Jefferson Rodrigues usó el ChatGPT para redactar una sentencia.
- El juez atribuyó la equivocación a la sobrecarga de trabajo.
- El CNJ da al juez 15 días para explicar la situación.
El dilema de la Inteligencia Artificial en la justicia brasileña
En un hecho sin precedentes en Brasil, las autoridades han iniciado una investigación sobre un juez federal, Jefferson Rodrigues, por utilizar de manera equivocada una herramienta de inteligencia artificial (IA) en la redacción de una sentencia. El error fue detectado en una decisión que presentaba fragmentos incorrectos, generados por la herramienta de IA denominada ChatGPT.
El error de la Inteligencia Artificial
Según el informe, Rodrigues justificó su decisión basándose en antecedentes procesales incorrectos, atribuidos erróneamente al Supremo Tribunal de Justicia (STJ), uno de los tribunales más altos de Brasil. “Las disconformidades ocurrieron debido a la utilización de alguna herramienta virtual que se mostró inadecuada”, explicó el juez, señalando a la sobrecarga de trabajo recurrente como origen de este error.
Un precedente en la justicia brasileña
El Consejo Nacional de Justicia (CNJ), el organismo responsable de supervisar y mejorar el sistema judicial, ha otorgado al juez un plazo de 15 días para proporcionar aclaraciones. A medida que la tecnología de IA se utiliza cada vez más en los tribunales brasileños, este caso resalta la necesidad de regulación y supervisión adecuadas.
A pesar de que una corregiduría regional decidió inicialmente archivar la investigación al no detectar ninguna “infracción disciplinaria” por parte de Rodrigues ni de su asistente, el CNJ advirtió sobre los “perjuicios que pueden ser causados por la utilización inadecuada de herramientas de inteligencia artificial”.
Opinión editorial
Este caso nos recuerda que la tecnología, aunque valiosa, no es infalible. La IA puede ser una herramienta útil para aliviar la carga de trabajo en el sistema judicial, pero es esencial que se utilice de manera responsable y bajo supervisión adecuada. La regulación de su uso en la justicia es un paso crucial para evitar errores futuros.