Enquêter sur les algorithmes

Durant la conférence Dataharvest, qui s’est déroulé du 18 au 20 mai à Bruxelles, une partie des échanges s’est concentrée sur «les algorithmes». On a déjà parlé ici de tout ça, avec notamment quelques recommandations de lecture. «Les algorithmes», c’est un mot fourre-tout pour parler de l’analyse de masse de grand nombre de données, la prise de décision à partir de ces analyses, automatisée ou non, ainsi que l’apprentissage des mêmes logiciels à partir des décisions précédentes, et des nouvelles données.

Les algorithmes prennent de plus en plus de place dans la sphère publique. Ils prennent des décisions d’affectation pour les lycées, participent de la décision d’aménagement de peine dans certains état américains, calculent les impôts… Nicholas Diakopoulos était invité de la conférence pour évoquer son travail autour des algorithmes. Il travaille à l’Université du Maryland et a focalisé une partie de ses recherches sur la questions des algorithmes et la manière dont les journalistes peuvent enquêter dessus.

De multiples angles journalistiques sont à trouver dans les algorithmes : une discrimination, une injustice dans la décision, des erreurs qui empêchent le service de fonctionner, une censure possible, des prédictions erronées, un problème avec la vie privée ou autres infractions. Tout ça, à coup d’ingénierie renversée, d’enquêtes sur les concernés par les décisions de l’algorithmes ou de simulation.

Code source et simulations

On peut citer l’exemple de ProPublica. Julia Angwin et ses collègues ont enquêté sur l’aide à la décision concernant les remises de peine sur la prévention de la récidive. L’algorithme défavorise les personnes noires. On peut aussi évoquer l’algorithme d’Admission post-bac, dont une partie du code source a été dévoilé après une longue bataille de l’association Droit des lycées à coup de demandes CADA. L’étude du code source avait mis en lumière le traitement de faveur accordé aux lycéens inscrits à l’étranger.

Pour aider les journalistes à faire leur marché et voir ce qui existait, Diakopoulos a rassemblé de nombreux algorithmes utilisés par les différentes administrations aux États-Unis sur un seul site : algorithmtips.org. Le site devrait s’ouvrir à d’autres pays prochainement. Laura Motet, journaliste au Monde, revient sur le contenu de la conférence de Nicholas Diakopoulos.

En France, la loi Numérique, votée l’an dernier va permettre de faire quelques avancées sur le sujet. Un de ses articles prévoit que les citoyens soient informés de toutes les décisions de l’administration le concernant sont issues d’un algorithme. Les données utilisées et les règles de fonctionnement doivent également être communicables. Selon une fiche d’impact accompagnant  le décret, les services du gouvernement estiment qu’il y aurait une centaine d’algorithmes concernés. A leur liste, on peut ajouter quelques oublis, comme les systèmes attribuant des places en crèches ou gérant l’affectation des enseignants, entre autres. Tout ça pourra commencer à être exploré à partir du 1^er septembre.

Le travail journalistique sur les algorithmes devient, on l’a vu, une nécessité alors qu’ils prennent de plus en plus de place. Les rédactions doivent s’ouvrir à la collaboration avec des statisticiens ou informaticiens à même de comprendre les conséquences de ces logiciels dans toujours plus de décisions concernant tout le monde.