FYI.

This story is over 5 years old.

Tech

Justice du futur : « Ce n'est pas parce qu'on passe par une machine que le jugement sera plus juste »

Les machines changent tout, même le droit. Pour savoir si un ordinateur pourra bientôt nous mettre en prison, on a rencontré Jean Lassègue, chercheur et co-auteur de « Justice digitale ».
Image : 20100vallon

Des robots dans les tribunaux et des algorithmes comme juges : ces deux vieux fantasmes de la science-fiction n'ont jamais été aussi près d'être une réalité. La loi de programmation sur la justice, présentée fin avril en conseil des ministres, entend résoudre une partie des problèmes des tribunaux français via l’utilisation des nouvelles technologiques. Dématérialisation des procédures ou généralisation de la visioconférence lors de certains procès devraient permettre d'économiser des moyens et de rendre plus efficace l'institution.

Publicité

Aux États-Unis, le numérique fait partie du quotidien judiciaire depuis longtemps. Régulièrement pointé du doigt pour ses biais racistes, le logiciel Compas, basé sur un algorithme qui calcule les chances de récidive, est souvent utilisé pour évaluer les demandes de liberté conditionnelle. D’autres technologies, blockchain et smarts contracts en tête, rendent aujourd’hui obsolètes des pans entiers du droit et attestent, si cela doit encore être dit, que la révolution numérique est aussi juridique.

Sorti chez Puf le 11 avril dernier, Justice digitale voit au-delà de la simple question technologique. L'ouvrage interroge en profondeur l'impact de la révolution numérique sur la règle juridique et esquisse ce qui pourrait être la justice de demain. Faut-il avoir peur de la justice numérique ? Pour répondre à cette question — et à la dizaine d'autres qui nous taraudent depuis la lecture de ce livre, nous avons rencontré Jean Lassègue, philosophe, épistémologue, chercheur au CNRS et co-auteur avec Antoine Garapon de Justice digitale.

Motherboard : Vous écrivez « Le numérique agit comme un réorganisateur symbolique affectant tous les secteurs », c’est-à-dire qu’il transforme fondamentalement notre manière d'interagir en société ou dans la sphère privée. Au-delà des questions purement techniques, cette révolution peut-elle changer le droit ?

Jean Lassègue : C’est une question immense… Comment le numérique transforme-t-il le droit ? Le droit est essentiellement un corpus de textes et avec le numérique, nous n'avons plus affaire à un corpus de textes lisibles mais à des logiciels, des algorithmes ou des bases de données… C'est une révolution graphique, une nouvelle façon d’écrire le droit face à laquelle la majorité des individus est prise au dépourvu car ils ne savent pas lire le code informatique. Le droit s'en trouve profondément transformé parce qu'il n'est plus accessible directement et que nous devons nous reposer sur des informaticiens pour le comprendre.

Publicité

Cette révolution graphique complexifie l’accès au droit. Mais Internet démocratise aussi l’outil juridique, non ?

C'est en effet un aspect fondamental de la révolution numérique : les justiciables ont aujourd'hui accès à l'information juridique qui, avant, était uniquement accessible aux professionnels du droit. C'est un véritable défi pour les professions juridiques qui doivent apprendre à se réinventer.

À terme, il sera probablement possible de gérer certains litiges sur Internet, pourquoi pas via des applications. Prenons un conflit de voisinage, un arbre planté trop près d'un champ. Il devient envisageable de résoudre ce genre de situation sans faire intervenir un juge, en utilisant seulement une application qui intègre les paramètres du conflit et présente sa solution et chiffre les compensations. La grande question, c'est d'arriver à définir à partir de l'intervention d'un juge sera nécessaire.

L’autre conséquence de cette révolution graphique, c’est en quelque sorte une révolution statistique ?

La grande nouveauté, c'est qu'on est aujourd'hui capable d'exploiter juridiquement des statistiques qui existent depuis des années. Les exemples américains, sur le respect du code de la route, sont très clairs de ce point de vue là. On peut imaginer un futur proche où si vous êtes en bonne santé, que vous êtes riches et qu'il fait beau, la limitation de vitesse sur une route droite n'est pas la même que si vous êtes en mauvaise santé, possédez une mauvaise assurance et une vieille voiture.

Publicité

Ce nouvel usage de la statistique peut en fait conduire à une individualisation de loi, qui remet fondamentalement en cause l'universalité de la règle de droit. Le jugement n'a dès lors plus la même fonction. Jusqu'à présent, il avait en partie pour but de susciter l’idée que ce qui s’est produit aurait pu ne pas se produire ou se produire autrement. Si on vous condamne, c'est qu'on estime que vous aviez le choix, que vous n'étiez pas obligé de commettre le délit que vous avez commis mais aussi que l’on vous accorde la possibilité de modifier votre comportement à l’avenir. La logique statistique s’oriente dans une autre direction et omet cette question fondamentale du choix.

Un autre exemple : aux États-Unis, les juges utilisent aussi communément des algorithmes pour calculer les chances de récidive d'un prisonnier et donc de lui accorder ou non une liberté conditionnelle. Mais si les logiciels ne sont pas correctement programmés, ils ont tendance à renforcer des inégalités déjà existantes : les Noirs se retrouvent en moyenne plus longtemps que les Blancs en prison parce que le programme prend en compte l’environnement socio-culturel des individus et qu’il renforce l’exclusion au lieu de la combattre.

Dans votre livre, vous expliquez aussi que le numérique remet profondément en cause la fonction de l’audience.

Les nouvelles technologies désacralisent en effet le temps de l’audience. Une audience, c’est un moment et des rituels précis. Il faut se demander si la distribution des rôles, très ritualisés, n’est pas remise en question dès lors qu'on constitue des cours virtuelles où les différentes parties ne partagent pas physiquement un même lieu, ou à partir du moment où l’on utilise Skype pour interroger un suspect dans sa cellule et non dans le bureau d’un juge à l’extérieur de la prison… Si, en somme, on ne rate pas quelque chose en se privant de ce temps collectif et commun du procès. Et puis, qu’est que cela va faire sur le sentiment de justice ? La justice a pour objectif de faire sentir aux différentes parties qu’elles sont reconnues comme victimes ou coupables, ce qu'une audience dématérialisée rend moins palpable.

Publicité

Quand on se questionne sur la justice de demain, le fantasme d’une justice contrôlée par les robots arrive très rapidement. C’est une hypothèse plausible ?

On n'est pas dans la science fiction, pas dans Minority report. On n’est pas et ne sera pas dans une justice prédictive capable de prévoir les délits avant qu'ils ne se déclenchent. Il ne faut pas croire que l'on va vers une homogénéisation globale de la norme juridique. Les situations locales continuent à primer sur l’usage des algorithmes.

En Europe, les gens semblent penser que le recours à la machine rendrait une justice plus objective. Pourquoi ? Parce qu'on a un imaginaire mécaniste qui considère que la machine est plus fiable que l'humain. Mais ce n'est pas le cas, c'est juste une croyance partagée dans une société donnée, un facteur anthropologique qui n’a pas de validité universelle. Il faut bien se rendre compte qu'il peut parfaitement y avoir des biais dans les algorithmes comme dans les jugements humains : ce n'est pas parce qu'on passe par une machine que le jugement sera plus juste. Mais la justice digitale a sûrement son utilité pour améliorer la qualité de la justice quotidienne.

Doit-on craindre une disparition de la justice tel qu’on la connaît aujourd’hui ?

On essaye, aujourd’hui, de faire en sorte de se passer complètement de tiers garants institutionnels pour gérer les interactions sociales. La justice connaît le même phénomène que le système bancaire, fondamentalement remis en cause par le Bitcoin. Mais la justice ne va pas disparaître pour autant. Ce qu’on a essayé de soutenir dans notre livre, c’est qu’on passe d’une justice qui s'appuie sur des textes et un procès en chair et en os à autre chose, une intégration d’une partie algorithmique dans le déroulement du procès. Mais cela ne signifie pas que la justice va disparaître.

Reste que beaucoup de questions se posent. Avec cette révolution graphique, comment faire pour que nul ne puisse ignorer la loi ? Que devons-nous déléguer aux robots, où est là la limite ? Qui doit-construire ces outils, le privé ou le public ? Qui assurera la surveillance des outils en question ? Dans tous les cas, nous ne pouvons pas revenir en arrière et devons réfléchir, en tant que société, aux réponses à apporter à ces interrogations et aux gardes-fous que nous devons mettre en place rapidement pour rester maître de la manière dont fonctionne la justice.

Antoine Garapon et Jean Lassègue (2018), Justice digitale, puf.