Des chercheurs chinois ont mis sur pied une IA « procureur » capable d’établir un acte d’accusation

Par Frank Dong
5 janvier 2022
Mis à jour: 12 janvier 2022

Des scientifiques chinois ont déclaré avoir mis au point une machine s’appuyant sur l’intelligence artificielle (IA) afin d’inculper les délinquants.

Le parquet de Shanghai Pudong, le plus grand parquet du pays, a construit et testé l’appareil. Pour l’heure, le robot est capable d’identifier et d’engager des poursuites pour huit des délits les plus fréquents à Shanghai : fraude par carte de crédit, bookmaking, conduite dangereuse, blessures intentionnelles, entrave à un agent en fonction, vol, escroquerie et bagarre.

Les chercheurs ont déclaré que, à l’aide d’une description écrite du cas, le « procureur » IA peut établir une accusation avec une précision de 97 %.

Le professeur Shi Yong, responsable scientifique du projet, a déclaré que la technologie de l’IA pourrait réduire la charge de travail quotidienne des procureurs, leur permettant ainsi de se concentrer sur des tâches plus complexes. M. Shi est également le directeur du laboratoire de gestion du big data et des connaissances de l’Académie chinoise des sciences, le principal institut de recherche du régime.

« Dans une certaine mesure, le système peut remplacer les procureurs dans le processus décisionnel », a déclaré l’équipe de M. Shi dans un article publié ce mois-ci dans la revue chinoise à comité de lecture Management Review. Le South China Morning Post a été le premier à faire état de cette nouvelle machine d’IA.

M. Shi et ses collègues ont déclaré que les procureurs chinois ont commencé à employer l’IA en 2016. Beaucoup d’entre eux utilisent désormais l’outil d’IA connu sous le nom de « Système 206 ». Ce système est capable d’évaluer la force des preuves, les conditions d’une arrestation et le degré de dangerosité d’un suspect pour le public.

Jusqu’à présent, les outils d’IA existants n’ont joué qu’un rôle limité, car « ils ne participent pas au processus de prise de décision concernant le dépôt des accusations et [la] suggestion des peines », indique le document.

Pour prendre de telles décisions, une machine doit identifier et supprimer tout contenu d’un dossier qui n’est pas pertinent pour un crime et conserver les informations utiles, ajoute le document.

La machine doit également transformer le langage humain, complexe et en constante évolution, en un format mathématique ou géométrique standard qu’un ordinateur peut comprendre, selon le document.

Les sociétés Internet chinoises ont développé des outils puissants pour le traitement du langage naturel, mais leur fonctionnement nécessite souvent de gros ordinateurs auxquels les procureurs n’ont pas accès.

Le « procureur » IA développé par l’équipe de M. Shi pourrait fonctionner sur un ordinateur de bureau. Pour chaque suspect, il construirait une première accusation sur la base de 1 000 « indices » (trop courts et trop abstraits pour avoir du sens) extraits à partir du texte humain décrivant l’affaire. Ensuite, le système 206 évaluerait les preuves.

M. Shi a déclaré qu’ils avaient mis à profit plus de 17 000 affaires entre 2015 et 2020 pour entraîner la machine.

Le document prévoit que le procureur IA deviendra bientôt plus compétent avec les mises à jour. Il sera capable de reconnaître des crimes moins courants et de déposer plusieurs accusations contre un seul suspect.

Mais la nouvelle machine a soulevé des questions parmi les procureurs chinois. Un procureur de Guangzhou a déclaré dans le rapport qu’il avait quelques inquiétudes quant à l’utilisation de l’IA pour établir un acte d’accusation.

Le taux de précision de 97 % peut être élevé du point de vue de la technologie, mais il y aura toujours un risque d’erreur, a déclaré le procureur. « Qui prendra la responsabilité lorsque cela se produira ? Le procureur, la machine ou le concepteur de l’algorithme ? »

L’application directe de l’IA dans la prise de décision pourrait également affecter l’autonomie d’un procureur humain. La plupart des procureurs ne veulent pas que des informaticiens interfèrent avec un jugement juridique, a ajouté le procureur.

Un autre enjeu est que le procureur IA pourrait déposer une accusation en se basant uniquement sur son expérience antérieure, a déclaré le procureur. Il ne pourrait pas prévoir la réaction du public à une affaire dans un environnement social en mutation.

« L’IA peut aider à détecter une erreur, mais elle ne peut pas remplacer les humains dans la prise de décision », a déclaré le procureur.

Les médias chinois ont encensé le procureur IA comme la première réalisation mondiale dans ce domaine.

Contrairement aux démocraties occidentales, la Chine ne dispose pas d’un système juridique indépendant, les tribunaux étant contrôlés par le Parti communiste chinois (PCC).

Ceux qui s’expriment ou agissent d’une manière jugée inacceptable par le Parti, comme les dissidents, les croyants, les défenseurs des droits et les journalistes citoyens, sont souvent accusés de délits vaguement définis tels que « provocation et trouble » ou « subversion contre le pouvoir d’État » et invariablement condamnés dans un système judiciaire dont le taux de condamnation est de 99,9 %.

Par exemple, le journaliste citoyen Zhang Zhan est actuellement à mi-chemin d’une peine de quatre ans de prison pour avoir rendu compte des premiers stades de l’épidémie de Covid-19 à Wuhan en février 2020. Sa condamnation a suscité une large condamnation de la part des gouvernements occidentaux et des groupes de défense des droits. Selon sa famille, la santé de M. Zhang s’est considérablement détériorée en prison après une longue grève de la faim et le refus de soins médicaux adéquats.


Rejoignez-nous sur Telegram pour des informations libres et non censurées :
👉 t.me/Epochtimesfrance

Soutenez Epoch Times à partir de 1€

Comment pouvez-vous nous aider à vous tenir informés ?

Epoch Times est un média libre et indépendant, ne recevant aucune aide de l’État et n’appartenant à aucun groupe politique ou financier. Depuis le jour de notre création, nous faisons face à des attaques systématiques pour faire taire la vérité, notamment de la part du parti communiste chinois. C'est pourquoi nous comptons sur votre générosité pour défendre un journalisme indépendant, honnête et en bonne santé. Ensemble, nous pouvons continuer à faire connaître la vérité.

RECOMMANDÉ