Un comité éthique et scientifique consacré à la justice prédictive et dénommé « Tendance » a adopté une charte éthique le 19 novembre. Naturellement, ce comité étant purement informel cette charte est non contraignante.
Il donne quelques pistes de travail et des recommandations. En premier lieu, il faut constater que les décrets qui devaient suivre la Loi pour une République Numérique du 7 octobre 2016 ne sont toujours pas publiés. Il n’a pas été tranché la question de l’anonymisation des décisions de justice. Par ailleurs, chacun maintenant reconnait que l’algorithme n’est pas neutre. Les concepteurs de cet outil qui n’est nullement « prédictif » mais uniquement statistique décident, seuls, des critères qu’ils estiment pertinents pour procéder au tri des décisions de justice.
Le comité semble proposer de soumettre les algorithmes à une « procédure d’audit réalisée par une institution ».
Une charte d’éthique a néanmoins été élaborée. Seule la Société PREDICTICE y aurait adhéré. Il s’agirait de contrôler les algorithmes, d’adopter un principe de loyauté, de convenir d’une collaboration étroite entre les légaltechs et les universitaires.
Cela semble un peu pauvre.
La vraie décision serait la transparence des formules algorithmiques utilisées.
Le lobby des légaltechs va s’y opposer.
Michel BENICHOU
