Annulation d'un jugement pour utilisation abusive de l'intelligence artificielle par le juge

La chambre pénale de la circonscription judiciaire d’Esquel (Argentine) a rendu une décision novatrice qui annule une condamnation à deux ans et six mois de prison pour un délit de vol simple, après avoir constaté que le juge de première instance avait utilisé l’intelligence artificielle générative pour rédiger le jugement.

« Voici le point IV réédité, sans citations et prêt à être copié-collé », une phrase très courante dans les applications d’IA, qui est restée par erreur dans le texte, a été la preuve qui a démontré l’utilisation de l’IA par le juge pour rédiger le jugement.

Dans leur décision, les magistrats citent l’accord plénier 5435/2025 de la Cour supérieure de justice de Chubut, qui approuve les Directives Ethiques pour l’utilisation de l’intelligence artificielle générative dans le pouvoir judiciaire. Cet accord interdit de déléguer la prise de décision à des systèmes automatisés, exige la transparence dans l’utilisation de ces outils et établit comme condition nécessaire le contrôle humain et la protection des données sensibles concernées.

Par conséquent, pour la Cour, la pratique du juge a violé des garanties constitutionnelles et procédurales fondamentales :

• En raison d’un manque de transparence, le système d’IA utilisé, les données utilisées ou la « consigne » ou instruction donnée n’étant pas connus, ce qui empêcherait de contrôler d’éventuels biais de l’algorithme.
• En raison d’un manque de traçabilité du raisonnement judiciaire, donnant lieu à une décision qui, bien qu’elle puisse être motivée, empêche de contrôler non seulement la genèse de cette motivation, mais aussi la validité de ses fondements.
• En raison d’une délégation abusive de la fonction juridictionnelle, qui est, par nature, personnelle et incessible.
• En raison de la violation du principe du juge naturel, car nul ne peut être jugé par d’autres juges que ceux institués par la loi avant les faits de l’affaire. Encore moins par une technologie développée par des entreprises privées et appliquée en dehors du contrôle des parties.
• Et pour absence de supervision humaine et de contrôle indispensables sur le résultat.

Pour Cristina Retana, directrice de l’innovation et des contenus chez Aranzadi LA LEY, « les systèmes d’intelligence artificielle générative, qui permettent un dialogue fluide comparable à celui d’une personne, fonctionnent techniquement en effectuant des calculs probabilistes du mot qui suit sans être conscients de ce dont ils parlent ni comprendre la relation entre ces fragments ». C’est pourquoi, insiste l’experte, « il est indispensable de veiller à ce que les contenus générés soient corrects et ne soient pas des hallucinations, et ce cas le met en évidence ».

—

Chambre pénale de la circonscription judiciaire d’Esquel, jugement 1239/2025, du 4 juin