L’usage de l’IA dans la justice criminelle – trouver le bon équilibre pour assurerle respect des droits des personnes accusées par rapport au système CEDH

Studiu publicat în volumul In Honorem Corneliu Bîrsan, tomul II, Ed. Hamangiu, 2023, p. 577-594.

L’IA offre de multiples possibilités dans le domaine de l’application de la loi et de la justice pénale, souvent améliorant les méthodes de travail des services répressifs et des autorités judiciaires et en luttant plus efficacement contre certains types de crimes, en particulier dans le domaine de la criminalité financière, ainsi que de certains types de cybercriminalité. On envisage les applications de l’IA comprenant notamment les technologies de reconnaissance faciale, la reconnaissance automatisée des plaques d’immatriculation, l’identification du locuteur, l’identification vocale, les technologies de lecture labiale, la surveillance auditive, la recherche et l’analyse autonomes de bases de données identifiées, la police prédictive (outils d’IA peuvent être utilisés pour calculer les probabilités de récidive et pour déterminer la probation ou décider de la peine^[1]) et même des outils autonomes d’identification de la fraude.

Toutefois, malgré les avantages apportés par l’IA, elle comporte aussi un certain nombre de risques potentiels, tels que la prise de décision opaque, différents types de discrimination, l’intrusion dans la vie privée de personnes et la perturbation du droit au procès équitable.

Ces risques potentiels sont aggravés dans le secteur de l’application de la loi et de la justice pénale, car ils peuvent affecter la présomption d’innocence, le droit à la liberté et à la sécurité de l’individu, ainsi que le droit à un recours effectif et à un procès équitable.

§1. Les «bias» génères par l’utilisation de l’intelligence artificielle

L’utilisation d’algorithmes dans les systèmes de justice pénale soulève de graves préoccupations au regard de l’article 6 (concernant le droit à un procès équitable), et implicitement du principe de l’égalité des armes et de la procédure contradictoire établi par la Cour européenne des droits de l’homme, mais aussi de l’article5, 13 et article 14 de la Convention Européenne des droits de l’homme^[2] (CEDH). Les normes relatives au procès équitable énoncées à l’article 6 de la CEDH garantissent à l’accusé le droit de participer effectivement au procès et comprennent la présomption d’innocence, le droit d’être informé dans le plus court délai de la cause et de la nature de l’accusation et le droit de se défendre en personne.

La tendance de faire appel à l’utilisation de techniques de traitement automatisé et d’algorithmes dans le cadre de la prévention de la criminalité et du système de justice pénale est de plus en plus forte. En effet, cette utilisation peut présenter certains avantages, comme le traitement plus rapide d’un ensemble de données massives ou l’évaluation plus précise des risques de fuite. En outre, l’utilisation des techniques de traitement automatisé pour déterminer la durée d’une peine d’emprisonnement peut permettre à son tour d’adopter des approches plus uniformes pour des cas comparables.

Dans le domaine de la prévention de la criminalité, les principaux débats concernent l’utilisation des algorithmes portent sur la police prédictive. Cette approche va au-delà de la capacité des êtres humains à tirer des conclusions à partir d’infractions passées pour prédire d’éventuelles formes de criminalité à l’avenir. Elle inclut des systèmes automatisés développés qui prédisent quels individus sont susceptibles d’être impliqués dans un crime ou qui sont susceptibles de devenir des récidivistes et donc de nécessiter des peines plus sévères^[3]. Elle inclut également des systèmes destinés à prédire où la criminalité est susceptible de se produire à un moment donné, qui sont ensuite utilisés pour prioriser le temps consacré par la police aux enquêtes et aux arrestations. Ces approches peuvent être très préjudiciables en termes d’origines ethniques et raciales et nécessitent donc une surveillance scrupuleuse et des garanties appropriées.

Souvent, les systèmes sont basés sur des bases de données policières existantes qui, intentionnellement ou non, reflètent des préjugés systémiques. En fonction de la manière dont les crimes sont enregistrés, des crimes sélectionnés pour être inclus dans l’analyse et en fonction des outils analytiques utilisés, les algorithmes prédictifs peuvent donc contribuer à une prise de décision préjudiciable et à des résultats discriminatoires.

En outre, on peut craindre que l’utilisation de ces évaluations dans le contexte de la prévention de la criminalité ne crée des chambres d’écho au sein desquelles les préjugés préexistants pourraient être encore renforcés. Les préjugés liés, par exemple, à l’origine raciale ou ethnique, peuvent ne pas être reconnus comme tels par la police lorsqu’ils sont intégrés dans un programme informatique automatisé considéré comme indépendant et neutre. En conséquence, les préjugés peuvent devenir standardisés et être moins susceptibles d’être identifiés et remis en question en tant que tels.

Bien que l’on ne sache pas exactement dans quelle mesure de telles décisions créées par des algorithmes sont répandues dans le système de justice pénale en général, le simple fait qu’elles puissent être utilisées soulève de graves préoccupations au regard de l’article 6 de la CEDH et du principe de l’égalité des armes et de la procédure contradictoire tels qu’établis par la Cour européenne des droits de l’homme.

La nature prédictive de l’IA a conduit à son essor dans la plupart des domaines de la criminologie, du droit, de la criminalistique et de la psychologie médico-légale^[4].

Par ailleurs, certaines juridictions ont adopté des outils d’IA pour presque toutes les étapes du processus de justice pénale. Les algorithmes éclairent les décisions relatives à la mise en liberté sous caution, à la condamnation et à la libération conditionnelle. Dans le cas de l’évaluation des risques avant le procès, de nombreux juges ont recours à l’analyse prédictive pour décider d’incarcérer un suspect dans l’attente de son procès ou de le remettre en liberté, ce qui peut aussi bien sûr toucher le droit à la liberté consacré par l’article 5 de la Convention. La détention provisoire doit toujours être une mesure de dernier recours et la prise d’une telle mesure doit être le résultat d’une décision transparente.

Ainsi, les outils d’évaluation du risque permettent de prédire la probabilité qu’un défendeur récidive, ce que l’on appelle un récidiviste. L’une des entreprises les plus populaires dans ce domaine est Northpointe, qui possède COMPAS^[5] (Correctional Offender Management Profiling for Alternative Sanctions), un outil d’évaluation du risque. COMPAS établit un score de risque de récidive sur la base des réponses d’un prévenu à un questionnaire. Ses réponses sont ensuite comparées à celles d’un délinquant à haut risque. L’individu se voit attribuer une note de 1 à 10. Dix signifie que l’individu est à haut risque, et un signifie que l’individu est à faible risque. Northpointe n’a pas divulgué les calculs algorithmiques qui sous-tendent les scores, ce qui permet au public de s’imaginer, au moins en théorie, que les résultats sont basés sur des questions concernant le niveau d’éducation, les antécédents professionnels, les relations, l’éducation et le mode de vie du défendeur.

L’utilisation de l’IA dans le système de justice pénale ne date pas d’hier. Plus on découvre de failles dans l’IA, plus ces outils sont rénovés ou retirés du système. Dans les années 2010, PredPol^[6], une entreprise spécialisée dans l’utilisation de l’IA dans le système de justice pénale, utilisait un algorithme d’apprentissage automatique pour classer les zones comme „zones à haut risque”. Les policiers consacraient une partie de leur temps de travail à patrouiller dans les zones classées „à haut risque”^[7]. Bien que PredPol ne recueille pas de données spécifiques sur la race ou l’appartenance ethnique, les zones classées à haut risque seraient principalement des quartiers latinos et noirs. À Los Angeles, en Californie^[8], PredPol a été utilisé pendant un certain temps avant de cesser d’être utilisé en 2020 en raison de son coût et de son manque de fiabilité.

L’utilisation de la reconnaissance faciale est une autre façon dont le système de justice pénale a été introduit à la technologie. La reconnaissance faciale est utilisée pour identifier les criminels potentiels. Cependant, la reconnaissance faciale reconnaît beaucoup mieux les visages des hommes blancs d’âge moyen^[9]. Il en résulte des identifications inexactes de criminels et, dans certains cas, des arrestations erronées, pouvant donc de nouveau impacter le droit à la liberté.

Le COMPAS a fait l’objet d’un examen minutieux de la part du public en raison de ses résultats biaisés. ProPublica, une organisation journalistique à but non lucratif, a mené une étude sur la partialité et l’inexactitude du COMPAS, qui a montré que le COMPAS n’était pas le plus fiable pour prédire si un individu allait récidiver, en particulier pour les crimes violents. Cette étude a également montré que les prévenus noirs étaient deux fois plus nombreux que les prévenus blancs à prédire à tort qu’ils allaient recommencer à commettre un crime, un plus grand nombre d’accusés blancs que d’accusés noirs étant faussement considérés comme à faible risque (ProPublica)^[10]. Bien que le COMPAS ne pose pas de questions sur la race du défendeur, certaines des questions du questionnaire sont biaisées en raison des disparités raciales aux États-Unis.

Les outils d’évaluation des risques se sont alors révélés inexacts dans des scénarios réels et préjudiciables à la vie des gens. En plus, comment peut-on contester la décision d’un tel soft utilisant IA pour des raisons de justice prédictive ? Comment peut-elle la personne accusée ou condamnée savoir les critères qui ont été prises en compte pour la prise de de décision ? Il est vrai qu’on pourrait affirmer la même chose au cas où la décision appartient au juge, mais avec un système IA, la transparence et même moins présente que dans le cas d’une décision basée sur l’IA.

Et la justice prédictive n’est pas le seul exemple. Plusieurs autres développements en cours concernent le processus décisionnel dans les salles d’audience. En Estonie^[11], le ministère de la justice finance une équipe chargée de concevoir un juge robot qui pourrait statuer sur des litiges portant sur de petites créances d’un montant inférieur à 7 000 euros. En principe, les deux parties téléchargeront des documents et d’autres informations pertinentes, et l’IA rendra une décision qui pourra faire l’objet d’un recours auprès d’un juge humain. Imaginons-nous la même situation, mais dans le cadre d’un procès pénal. Bien sûr, on peut soutenir que ce moment est loin, mais avec l’évolution de la technologie, ça pourrait arriver dans quelques années. Il existe déjà de software IA pour la justice prédictive, mais quid si c’était également le cas pour le jugement au fond de l’affaire ? Imaginez ce scénario : deux options s’offrent à vous dans la salle d’audience : soit un outil algorithmique basé sur des données évalue votre aptitude à sortir de prison, soit un inconnu ayant des années d’expérience et de préparation décide de votre sort. Les deux choix peuvent conduire à une mauvaise décision. Cependant, la question demeure : à qui faire le plus confiance ? Un juge robot ou un logiciel d’IA pourrait-il assurer le respect de la garantie d’un procès équitable tout comme la participation effective, l’égalité des armes ou la présomption d’innocence ?

L’une des principales préoccupations soulevées par l’utilisation de certains systèmes d’IA est leur inaccessibilité aux accusés et à leurs avocats afin qu’ils puissent les examiner de manière adéquate. Cela a de sérieuses implications pour le principe de l’égalité des armes et le droit à une procédure contradictoire, car sans informations sur la manière dont une décision est prise, il est difficile d’envisager comment les défendeurs peuvent remettre en question l’exactitude et la légalité de la décision.

Le droit à la participation effective peut être violé dans des situations variées, allant d’une mauvaise acoustique dans la salle d’audience à l’impossibilité pour l’accusé d’assister au procès ou d’interroger un témoin déposant contre lui. Ce dernier point est également l’une des garanties minimales d’un procès équitable prévues par l’article 6 de la Convention EDH. Le droit à la confrontation ne s’applique pas seulement aux témoins, comme le terme est habituellement compris dans le droit national, puisqu’il a une signification autonome dans le système de la Convention qui va au-delà de son sens ordinaire et inclut également les experts, les témoins experts et les victimes^[12]. Dans tous les cas où la déposition sert matériellement de base à la condamnation de la personne accusée, elle constitue une preuve à charge à laquelle s’appliquent les garanties de la Convention. Le droit consacré à l’article 6(3) peut même s’appliquer aux preuves documentaires et aux fichiers informatiques pertinents pour les accusations pénales portées contre le défendeur. Par conséquent, afin de garantir une participation effective au procès, la personne accusée doit également être en mesure de contester le score algorithmique qui est à la base de sa condamnation. Or comment faire ça pour les preuves obtenus ou analysés avec l’aide d’outils IA (par exemple outils de reconnaissance faciale ou preuves ADN analysées par des outils d’IA)?

Toutefois, le droit à la confrontation n’est pas absolu et peut être limité si certaines conditions sont remplies. Selon l’approche traditionnelle de la Cour européenne des droits de l’homme, le droit à un procès équitable était violé si une condamnation était fondée soit uniquement, soit dans une mesure décisive, sur une déclaration non contestée^[13]. Toutefois, dans les affaires Khawaja et Tahery^[14], la Cour s’est partiellement écartée de sa jurisprudence antérieure en déclarant que l’admission de preuves non vérifiées n’entraîne pas automatiquement une violation de l’article 6, paragraphe 1 : lorsqu’elle évalue l’équité globale d’un procès, la Cour doit examiner s’il était nécessaire d’admettre ces preuves et s’il existait des facteurs compensatoires suffisants, y compris des garanties procédurales solides. Les problèmes posés par les systèmes d’IA sont très similaires à ceux présentés par les témoins anonymes ou les preuves documentaires non divulguées, car les systèmes d’IA sont opaques (comme indiqué dans l’introduction). Un certain degré de divulgation est au moins nécessaire pour garantir qu’une personne accusée ait la possibilité de contester les preuves retenues contre elle et pour contrebalancer le fardeau de l’anonymat.

Un juste équilibre devrait être trouvé entre le droit de participer effectivement au procès, d’une part, et l’utilisation de systèmes d’IA opaques conçus pour aider les juges à parvenir à des évaluations plus précises du comportement futur du défendeur, d’autre part. Le droit de contre-interroger les témoins devrait être interprété de manière à englober également le droit d’examiner les données et les règles sous-jacentes de la méthodologie d’évaluation des risques. Dans les procédures de probation, ce droit devrait impliquer de veiller à ce qu’il soit possible pour une personne condamnée de remettre en question le modèle appliqué – depuis les données introduites dans l’algorithme jusqu’à la conception générale du modèle.

L’utilisation d’outils algorithmiques dans la justice pénale pourrait également violer d’autres aspects du droit à un procès équitable, en particulier le droit à un juge choisi au hasard, le droit à un tribunal indépendant et impartial et la présomption d’innocence.

En plus d’affecter de nombreuses dimensions de l’inégalité, les systèmes décisionnels de l’IA peuvent entrer en conflit avec la présomption d’innocence comme on l’a déjà affirmé. Si par exemple, on utilise un programme prédictif pour créer le profil de la personne coupable d’un tel délit, en analysant avec l’aide de l’IA plusieurs personnes soupçonnées – leur vie sociale, leur résidence dans un quartier dangereux ou pas, leur « posts » sur de réseaux sociaux – pour enfin créer un profil de la personne la mieux placée pour commettre le délit – peut-on conclure que cet usage de l’IA respect la présomption d’innocence^[15]? Le fait d’être entouré par de la criminalité lorsqu’on habite dans un certain quartier ou d’avoir des amis avec un profil criminel sur les réseaux sociaux, ferait de toi un potentiel « criminel ».

Un autre aspect qui peut toucher le droit à un procès équitable réside dans l’allocation aléatoire, au hasard, de dossiers à un tel ou tel panel des juges. Dans la plupart de pays, ce sont les fonctionnaires de tribunaux qui font cela. Quid si ce n’était plus une personne, mais de l’IA^[16]? Plusieurs pays européens utilisent des systèmes automatisés de prise de décision pour l’administration de la justice, en particulier pour l’attribution des affaires aux juges, par exemple en Géorgie, en Pologne et en Slovaquie, et à d’autres fonctionnaires, tels que les agents d’exécution en Serbie^[17]. Cependant, bien que ces cas soient des exemples de systèmes automatisés de prise de décision indirects, ils peuvent encore affecter de manière significative le droit à un procès équitable. L’étude „alGOVrithms-State of Play”^[18] a montré qu’aucun des quatre pays utilisant des systèmes de prise de décision automatisée pour l’attribution des affaires n’autorise l’accès à l’algorithme et au code source. Ainsi, le contrôle des systèmes de prise de décision automatisée n’est pas possible, car les systèmes manquent de transparence de base. La principale préoccupation concerne le caractère aléatoire de ces systèmes et le fait qu’ils permettent des manipulations et peuvent donc être „trompés”. Ce qui est encore plus inquiétant, c’est que les systèmes décisionnels automatisés utilisés pour la gestion des tribunaux ne sont pas transparents, même pour les juges eux-mêmes.

Les techniques automatisées et les algorithmes utilisés à des fins de prévention de la criminalité facilitent des formes de surveillance secrète et de „surveillance des données” (l’utilisation de technologie de reconnaissance faciale ou d’outils d’analyse de données disponibles sur les réseaux sociaux) dont la personne concernée ne peut pas avoir connaissance. La manque de transparence par rapport à ces techniques peut compromettre l’efficacité des recours contre de telles mesures. Le droit à un recours effectif implique ainsi le droit à une décision motivée et individuelle. L’article 13 de la Convention EDH stipule que toute personne dont les droits ont été violés dispose d’un recours effectif devant une instance nationale. Le recours disponible doit être effectif tant en pratique qu’en droit.

Les processus de prise de décision automatisés posent des problèmes particuliers en ce qui concerne la capacité des individus à obtenir un recours effectif. Il s’agit notamment de l’opacité de la décision elle-même, de son fondement et de la question de savoir si les individus ont consenti à l’utilisation de leurs données pour prendre cette décision, ou s’ils sont même conscients de la décision qui les concerne. La difficulté d’attribuer la responsabilité de la décision complique également la compréhension par les individus vis-à-vis de la personne à qui s’adresser pour contester la décision.

Finalement, pour ce qui est du droit à ne pas être discriminé, l ‘article 14 de la Convention européenne des droits de l’homme stipule : „La jouissance des droits et libertés reconnus dans la présente Convention doit être assurée, sans distinction aucune, fondée notamment sur le sexe, la race, la couleur, la langue, la religion, les opinions politiques ou toutes autres opinions, l’origine nationale ou sociale, l’appartenance à une minorité nationale, la fortune, la naissance ou toute autre situation”^[19]. La Convention interdit à la fois la discrimination directe et indirecte. La discrimination directe signifie^[20] que des personnes sont discriminées sur la base d’une caractéristique protégée, telle que l’origine raciale. La discrimination indirecte, qui est plus fréquente lorsqu’il s’agit de systèmes d’IA, se produit lorsqu’une pratique est neutre à première vue, mais qu’elle aboutit, par exemple, à une discrimination à l’encontre de personnes d’une certaine origine raciale (comme par exemple le cas de l’outil COMPAS). Cela pourrait aboutir en fait à une discrimination sous le couvert de l’objectivité. Le vrai problème est que les nouvelles formes de discrimination, telles que celles générées par l’IA, ne sont pas prises en compte par la plupart des lois existantes visant la non-discrimination. L’article 14 devant être lu conjointement avec d’autres articles de la Convention, l’article 1 du Protocole n° 12 étend la portée de la protection contre la discrimination à „tout droit prévu par la loi”. Ce faisant, il établit une interdiction générale de la discrimination (Sejdić et Finci c. Bosnie-Herzégovine, 2009, § 53) et, implicitement, un „droit autonome” à ne pas être discriminé.

Dans l’interprétation donnée par la Cour, l’article 1 du Protocole n° 12 étend le champ de protection non seulement à „tout droit prévu par la loi”, mais aussi au-delà.

La protection accordée donc par cet article est de la plus haute importance dans le contexte de la discrimination résultant de l’utilisation de systèmes d’IA puisqu’elle se réfère à des droits qui ne sont pas prévus et expressément consacrés par la Convention, comme par exemple le droit de ne pas être soumise à une prise automatique de décision, manquant de transparence, pour restreindre sa liberté. En outre, les critères prévus par l’article 14 ne représentent pas les seuls motifs pouvant conduire à une discrimination causée par l’utilisation de l’IA.

§2. Les avantages découlant de l’utilisation de l’intelligence artificielle

Lorsque les systèmes d’IA sont utilisés pour éclairer ou aider à la prise des décisions de justice pénale, ils soutiennent un acte important d’administration publique qui a un impact significatif sur les droits des suspects et des personnes accusées. En tentant d’imiter les processus analytiques et le raisonnement humain, ils peuvent ainsi apporter des conseils influant la prise de décision humaine, voire la remplacer complètement.

L’IA peut également jouer un rôle actif dans la promotion des droits de l’homme et améliorer l’équité des systèmes de justice pénale. Par exemple, les systèmes d’IA pourraient être utilisés pour analyser les décisions des services répressifs ou judiciaires afin d’identifier des modèles de décisions erronées ou médiocres, ou même de discrimination, à des fins préventives.

On a pu, par exemple, observer que l’analyse de vidéos et d’images est utilisée dans la justice pénale, par les autorités, pour obtenir des informations sur les personnes, les objets et leurs actions, afin d’étayer les enquêtes criminelles. Cette analyse demande beaucoup de travail et un investissement important en personnel spécialisé dans le domaine concerné et peut être également sujet à l’erreur humaine en raison du volume d’informations, de l’évolution rapide des technologies telles que les smartphones et les systèmes d’exploitation, et du nombre limité de personnes spécialisées ayant les connaissances nécessaires pour traiter ces informations.

Toutefois, les technologies de l’IA permettent de surmonter ces erreurs humaines et de fonctionner comme des experts. En plus, les algorithmes vidéo et d’image de l’IA ne se contentent pas d’apprendre des tâches complexes, ils développent et déterminent également leurs propres tâches. Ainsi, l’IA peut aussi présenter des avantages pour le système de justice pénale.

La reconnaissance faciale par l’IA évalue les vêtements, la structure du squelette et les mouvements du corps afin de détecter les comportements anormaux ou suspects au sein de la population, comme les voleurs à l’étalage ou les conducteurs dangereux qui enfreignent le code de la route. Elle contribue également à l’identification des véhicules, car les programmes d’IA apprennent à déchiffrer les plaques d’immatriculation, même avec une mauvaise résolution ou une faible lumière ambiante. L’IA peut être très utile pour détecter les accidents de la route grâce à la surveillance par télévision en circuit fermé (CCTV)^[21].

En détectant les activités suspectes, l’IA peut prévenir les crimes et aider les enquêteurs à identifier les suspects plus rapidement, ce qui renforce la sécurité publique et la confiance de la population dans les forces de l’ordre et la justice pénale en général.

L’IA pourra aussi profiter aux services répressifs d’un point de vue scientifique et en matière de traitement des preuves. C’est particulièrement vrai pour les tests ADN en médecine légale, qui ont eu un impact sans précédent sur le système de justice pénale au cours des dernières décennies^[22].

Le matériel biologique, tel que le sang, la salive, le sperme et les cellules de la peau, peut être transféré par contact avec des personnes et des objets lors de la commission d’un crime. Les progrès de la technologie de l’ADN se sont accompagnés d’une amélioration de la sensibilité de l’analyse de l’ADN, ce qui permet aux scientifiques de la police de détecter et de traiter des preuves génétiques de faible niveau, dégradées ou non viables, qui n’auraient pas pu être utilisées auparavant^[23].

L’analyse de l’ADN produit de grandes quantités de données complexes sous forme électronique; ces données contiennent des schémas, dont certains peuvent être hors de portée de l’analyse humaine, mais qui peuvent s’avérer utiles à mesure que les systèmes gagnent en sensibilité^[24]. Bien qu’une évaluation continue de l’utilisation des techniques d’IA soit nécessaire et que de nombreux facteurs puissent influer sur la capacité à analyser les donneurs d’ADN individuels, la technologie de l’IA a le potentiel de contribuer à ces analyses complexes^[25].

La découverte de signatures de modèles dans l’analyse des coups de feu offre un autre domaine d’utilisation des algorithmes d’IA. Dans le cadre d’un projet, le NIJ a financé Cadre Research Labs, LLC, pour analyser des fichiers audio de coups de feu provenant de smartphones et d’appareils intelligents „sur la base de l’observation que le contenu et la qualité des enregistrements de coups de feu sont influencés par le type d’arme à feu et de munition, la géométrie de la scène et l’appareil d’enregistrement utilisé”^[26].

L’analyse prédictive, comme l’on a déjà montré avant, constitue un processus complexe qui utilise de grandes quantités de données pour prévoir et formuler des résultats potentiels. Dans le domaine de la justice pénale, cette tâche incombe principalement à la police, aux agents de probation et à d’autres professionnels, qui doivent acquérir une expertise au fil des ans. Ce travail prend beaucoup de temps et est sujet à des biais et à des erreurs, comme on l’a aussi déjà analysé. Toutefois, à l’aide de l’IA, des volumes d’informations sur le droit et la jurisprudence, les informations sociales et les médias peuvent être utilisés pour suggérer des décisions, identifier les entreprises criminelles, et prédire et révéler les personnes menacées par les entreprises criminelles.

L’IA est bien capable d’analyser de grands volumes d’enregistrements liés à la justice pénale afin de prédire la récidive criminelle potentielle. Des chercheurs du Research Triangle Institute, en partenariat avec la police de Durham et le département du shérif d’Anne Arundel, travaillent à la création d’un outil automatisé de triage des mandats pour le North Carolina – Statewide Warrant Repository (registre des mandats de l’État de Caroline du Nord). L’équipe soutenue par le NIJ^[27] utilisait des algorithmes pour analyser des ensembles de données contenant plus de 340 000 enregistrements de mandats. Les algorithmes forment des arbres de décision et effectuent des analyses de survie pour déterminer le délai avant la prochaine occurrence d’un événement et prédire le risque de récidive pour les personnes en fuite. L’outil qui en résultera sera géographiquement référencé afin que les praticiens puissent poursuivre des concentrations de fuyards à haut risque – ainsi que d’autres qui ont des mandats actifs – afin d’optimiser les ressources.

Ces types d’outils de police prédictive sont désormais utilisés également en Europe. Au Royaume-Uni, une coalition de forces de police a mis au point un système similaire à la Strategic Subject List, qui vise à identifier les individus susceptibles de commettre des délits. Connu sous le nom de National Data Analytics Solution („NDAS”), cet outil d’évaluation des risques utilise l’analyse statistique et l’apprentissage automatique pour éclairer les décisions de la police et faciliter les „interventions précoces”, le cas échéant^[28]. Il est vrai que ces systèmes peuvent soutenir ou aider les juges et les avocats, compte tenu de la pression exercée par la charge de travail élevée et les ressources insuffisantes dont souffrent la plupart des systèmes judiciaires. La construction d’un système prédictif textuel des décisions judiciaires peut offrir aux avocats des personnes accusées et aux juges un outil d’assistance utile. Le système peut être utilisé pour identifier rapidement des cas pertinents pour la défense et extraire des modèles qui sont en corrélation avec certains résultats, mais aussi pour aider les juges à analyser par exemple toute la jurisprudence pertinente pour un tel cas, tout en assurant l’égalité des armes. Cela peut aider les juges à concentrer leur temps sur les affaires pour lesquelles leur expertise a une plus grande valeur ajoutée. À long terme, il peut renforcer la stabilité de la justice dans le monde en offrant aux acteurs des décisions de justice plus harmonisées, favorisant ainsi une meilleure anticipation.

On pourra même parler de la possibilité d’utiliser de software IA pour prédire la solution qu’un juge rendra, ce qui permettra peut-être à la défense de mieux préparer son cas. Ce type de logiciel vient déjà d’être utilise pour prédire les décisions de la Cour EDH^[29]. Une prédiction fiable de l’activité des juges dépendrait d’une compréhension scientifique de l’impact du droit et des faits sur les décideurs concernés, c’est-à-dire les juges. Les progrès réalisés dans le domaine du traitement du langage naturel (NLP) et de l’apprentissage automatique (ML) nous fournissent les outils nécessaires à l’analyse automatique des documents juridiques, afin de construire des modèles prédictifs efficaces des résultats judiciaires.

Toutefois, il existe toujours un risque que les systèmes de soutien basés sur l’intelligence artificielle soient utilisés de manière inappropriée par les juges pour „déléguer” des décisions à des systèmes technologiques qui n’ont pas été développés à cette fin.

Il convient donc d’évaluer avec le plus grand soin ce que ces systèmes peuvent fournir et dans quelles conditions ils peuvent être utilisés afin de ne pas compromettre le droit à un procès équitable. C’est particulièrement le cas lorsque ces systèmes sont introduits de manière obligatoire.

L’IA peut améliorer la prise de décisions critiques dans le domaine de la justice pénale, notamment en ce qui concerne l’évaluation des risques avant le procès. Utilisés avec précaution, les algorithmes rendent les décisions plus cohérentes et plus transparentes. En fin de compte, les humains doivent être conscients des biais et veiller à ce que les analyses prédictives respectent les normes juridiques et éthiques en gardant l’équité à l’esprit.

Les nouveaux outils sont utilisés de diverses manières dans la phase post-condamnation. Dans les prisons, l’IA est de plus en plus utilisée pour l’automatisation de la sécurité ainsi que pour l’aspect réhabilitatif de l’incarcération. Une prison qui accueille les criminels les plus célèbres de Chine serait en train d’installer un réseau d’IA capable de reconnaître et de suivre chaque prisonnier 24 heures sur 24 et d’alerter les gardiens si quelque chose semble anormal^[30].

Ces systèmes sont également utilisés pour déterminer les besoins criminogènes des délinquants, qui peuvent être modifiés par un traitement, et pour contrôler les interventions dans les procédures de condamnation. Dans les prisons finlandaises^[31], la formation des détenus comprend des algorithmes de formation à l’IA. Les détenus aident à classer et à répondre à des questions simples dans le cadre des études sur les utilisateurs, par exemple en examinant des éléments de contenu recueillis dans les médias sociaux, ainsi que sur internet. Ce travail est censé profiter à Vainu, l’entreprise qui organise le travail en prison, tout en permettant aux détenus d’acquérir de nouvelles compétences professionnelles qui pourraient les aider à se réinsérer avec succès dans la société après avoir purgé leur peine.

De même, en Angleterre et au Pays de Galles, le gouvernement a annoncé un nouveau financement pour la formation des prisonniers au codage dans le cadre d’une enveloppe de 1,2 million de livres sterling destinée à aider les groupes sous-représentés à accéder à ce type de travail^[32].

On peut même prendre en compte la possibilité d’utiliser l’IA pour résoudre la crise de l’isolement cellulaire aux États-Unis en employant des assistants intelligents, similaires à Alexa d’Amazon, comme une forme de „compagnons de détention” pour les prisonniers. Si ces „compagnons” peuvent atténuer le stress psychologique de certains prisonniers, on pourra parler d’un instrument vraiment utile pour combattre les dommages aggravants de ce type d’isolement, qui contribue en fait à légitimer la politique pénale de l’isolement cellulaire.

Conclusion

Le Conseil de l’Europe et le Groupe d’experts de haut niveau sur l’intelligence artificielle de la Commission européenne („AI HLEG”) ont tous les deux admis que les droits fondamentaux devraient être un principe directeur essentiel pour la conception et le déploiement des systèmes d’IA^[33]. Le Conseil de l’Europe recommande que les systèmes d’IA soient construits selon les principes des „droits de l’homme dès la conception” et reconnaît que les systèmes d’IA ne devraient pas porter atteinte au droit à un procès équitable en vertu de la Convention européenne des droits de l’homme.

On est d’avis que les systèmes d’IA utilisés dans le cadre du processus décisionnel de la justice pénale doivent être conçus non seulement pour ne pas porter atteinte au droit à un procès équitable, mais aussi pour le promouvoir. Les systèmes d’IA doivent respecter la présomption d’innocence et être conçus de manière à ne pas désigner un individu comme criminel avant le procès. Ils ne doivent pas non plus permettre à la police de prendre des mesures injustifiées et disproportionnées à l’encontre d’individus sans soupçon raisonnable.

Toutefois, on a pu observer à travers notre démarche, que malgré ses avantages, l’utilisation de l’IA est accompagnée de risques. Par rapport à la nature des décisions prises automatiquement, sans ou avec peu d’intervention humaine, et compte tenu de la primauté accordée à l’efficacité plutôt qu’à la réflexion sur le contexte humain, il incombera aux organisations qui emploient ces systèmes de fournir aux personnes concernées un moyen pour comprendre le fonctionnement de ces outils et obtenir un recours. Ensuite, il reviendra aux autorités qui utilisent la technologie IA de le faire d’une manière responsable afin d’assurer le juste équilibre entre la protection des droits de l’homme d’une part et l’efficacité de la justice pénale d’autre part. Trouver le bon équilibre entre l’IA et l’interaction humaine dans le système de justice pénale sera une tâche difficile. Les juges peuvent être réfractaires au changement, et nous aurons besoin de systèmes et d’institutions qui garantissent la transparence et le respect des procédures. Toutefois, on ne peut pas abandonner le projet juste parce qu’il est difficile. Après tout, les êtres humains sur lesquels on compte déjà pour rendre la justice sont eux aussi « biaisés ».

Notes infrapaginales

^[1] REPORT on artificial intelligence in criminal law and its use by the police and judicial authorities in criminal matters | A9-0232/2021 | European Parliament (europa.eu).

^[2] Convention de sauvegarde des droits de l’homme et des libertés fondamentales, STCE no: 005, Conseil de l’Europe.

^[3] https://www.fairtrials.org/articles/news/ai-act-eu-must-ban-predictive-ai-systems-in-policing-and-criminal-justice/.

^[4] K.J. Hayward, M.M. Maas, Artificial intelligence and crime: A primer for criminologists, in Crime, Media, Culture, 17(2), 209-233, (2021), https://doi.org/10.1177/1741659020917434.

^[5] https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm.

^[6] https://www.technologyreview.com/2020/07/17/1005396/predictive-policing-algorithms-racist-dismantled-machine-learning-bias-criminal-justice/.

^[7] A. Bensamoun, L. Gregoire, Droit de l’intelligence artificielle, LGDJ, Paris, 2019, p. 185-233.

^[8] https://insider.govtech.com/california/news/firms-predictive-policing-software-uses-ai-gets-mixed-results.html#:~:text=PredPol%27s%20software%20has%20been%20used%20by%20about%2050,and%20sexual%20assault%2C%20domestic%20violence%20or%20drug%20crimes.

^[9] https://sitn.hms.harvard.edu/flash/2020/racial-discrimination-in-face-recognition-technology/.

^[10] https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm.

^[11] https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/.

^[12] F. Sudre, Droit européen et international de droits de l’homme, 13 éd., PUF, Paris, 2016, p. 606-608.

^[13] CEDH, Doorson v the Netherlands, req. no. 20524/92, 26 mars 1996.

^[14] CEDH, Al-Khawaja et Tahery c. Royaume Uni, req. no. 26766/05, 20 janvier 2009.

^[15] L’exemple du cas de Robert McDaniel, un lycéen de vingt-deux ans qui a fait l’objet d’une attention accrue de la part de la police en raison de l’analyse, par un programme prédictif, de son réseau social et de sa résidence dans un quartier pauvre et dangereux, voir plus d’info https://theconversation.com/can-a-machine-be-racist-artificial-intelligence-has-shown-troubling-signs-of-bias-but-there-are-reasons-for-optimism-197893.

^[16] European Commission, „Speed Enforcement” <https://ec.europa.eu/transport/road_safety/specialist/knowledge/speed/speed_limits/speed_enforcement_en>; A. Snow, Automated Road Traffic Enforcement: Regulation, Governance and Use – a Review, RAC Foundation (2017).

^[17] https://opendatakosovo.org/wp-content/uploads/2021/03/ODK_alGOVrithms-2-0_report-2021_1.pdf.

^[18] K. Izdebski (ed.): alGOVrithms – State of Play, ePaństwo Foundation (2019). Available at: https://epf.org.pl/en/projects/algovrithms/; le rapport alGOVrithms – the State of Play est le résultat d’une recherche collaborative qui a étudié les pratiques existantes et a trouvé un nombre significatif d’algorithmes qui peuvent être qualifiés comme faisant partie de la prise de décision automatisée dans ces pays. Ce rapport se compose de données et d’analyses recueillies par des chercheurs de la Fondation ePaństwo (Pologne), de KohoVolit.eu (Tchèquie et Slovaquie), de l’IDFI (Géorgie), de K-Monitor (Hongrie) et du CRTA entre novembre 2018 et avril 2019.

^[19] Article 14, Convention EDH.

^[20] Guide du CoE sur l’article 14 et l’article 1, P. 12, 31 aout 2022, disponible a https://www.echr.coe.int/documents/d/echr/Guide_Art_14_Art_1_Protocol_12_ENG.

^[21] https://www.brookings.edu/articles/its-time-for-our-justice-system-to-embrace-artificial-intelligence/.

^[22] https://theconversation.com/ai-could-revolutionise-dna-evidence-but-right-now-we-cant-trust-the-machines-129927.

^[23] https://theconversation.com/ai-could-revolutionise-dna-evidence-but-right-now-we-cant-trust-the-machines-129927.

^[24] Pour explorer ce domaine, des chercheurs de l’université de Syracuse se sont associés au centre des sciences médico-légales du comté d’Onondaga et au département de biologie médico-légale du bureau du médecin légiste en chef de la ville de New York afin d’étudier une nouvelle méthode de déconvolution des mélanges basée sur l’apprentissage automatique. Grâce à une bourse de recherche du NIJ, l’équipe de l’université de Syracuse s’est efforcée de combiner les points forts des approches impliquant des analystes humains avec des algorithmes d’exploration de données et d’intelligence artificielle. L’équipe a utilisé cette approche hybride pour séparer et identifier des profils ADN individuels afin de minimiser les faiblesses potentielles inhérentes à l’utilisation d’une approche isolée.

^[25] „A Hybrid Machine Learning Approach for DNA Mixture Interpretation” at Syracuse University, voir plus d’info https://artsandsciences.syracuse.edu/news-all/news-from-2021/as-forensic-scientists-design-the-first-machine-learning-approach-to-forensic-dna-analysis/https://artsandsciences.syracuse.edu/news-all/news-from-2021/as-forensic-scientists-design-the-first-machine-learning-approach-to-forensic-dna-analysis/.

^[26] „À l’aide d’un modèle mathématique bien défini, les scientifiques du Cadre travaillent à l’élaboration d’algorithmes permettant de détecter les coups de feu, de différencier les coups de bouche des ondes de choc, de déterminer la chronologie des coups de feu, de déterminer le nombre d’armes à feu présentes, d’attribuer des coups de feu spécifiques à des armes à feu et d’estimer les probabilités de classe et de calibre – autant d’éléments qui pourraient aider les forces de l’ordre dans leurs enquêtes, voir plus d’informations https://nij.ojp.gov/funding/awards/2016-dn-bx-0183.

^[27] „Applying Data Science to Justice Systems: The North Carolina Statewide Warrant Repository (NCAWARE)” at RTI International, NIJ award number 2015-IJ-CX-K016.

^[28] H. O’Brien, The police know what you’ll do next summer, New Statesman(15 August 2019) https://www.newstatesman.com/politics/uk/2019/08/police-know-what-you-ll-do-next-summer.

^[29] https://peerj.com/articles/cs-93/.

^[30] S. Yan, Chinese High-Security Jail Puts AI Monitors in Every Cell „to Make Prison Breaks Impossible”, The Telegraph (2019). Available at: www.telegraph.co.uk/news/2019/04/01/chinese-prison-rolls-facial-recognition-sensors-track-inmates/.

^[31] A. Newcomb, Finland is Using Inmates to Help a Start-Up Train Its Artificial Intelligence Algorithms (2019), Available at: http://fortune.com/2019/03/28/finland-prison-inmates-train-ai-artificial-intelligence-algorithms-vainu/.

^[32] https://www.computerweekly.com/news/252459463/DCMS-announces-new-funding-for-prison-coding-skills.

^[33] https://assembly.coe.int/LifeRay/JUR/Pdf/DocsAndDecs/2020/AS-JUR-2020-22-EN.pdf.