Transparence des algorithmes: depuis le 1er juillet 2020 nullité des décisions administratives 100 % automatisées en l'absence de mention explicite

04.07.2020

Depuis le 1er septembre 2017, en application de la loi pour une République numérique du 7 octobre 2016 (dite Loi Lemaire), toutes les décisions administratives prises « sur le fondement d'un traitement algorithmique » doivent être accompagnées d’une « mention explicite ».

L'article L 311-3-1 du CRPA dispose donc:

"Sous réserve de l'application du 2° de l'article L. 311-5, une décision individuelle prise sur le fondement d'un traitement algorithmique comporte une mention explicite en informant l'intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l'administration à l'intéressé s'il en fait la demande. "

et l'article R 311-1-3-1-1 prévoit que "La mention explicite prévue à l'article L. 311-3-1 indique la finalité poursuivie par le traitement algorithmique. Elle rappelle le droit, garanti par cet article, d'obtenir la communication des règles définissant ce traitement et des principales caractéristiques de sa mise en œuvre, ainsi que les modalités d'exercice de ce droit à communication et de saisine, le cas échéant, de la commission d'accès aux documents administratifs, définies par le présent livre."

L’administration doit donc:

-Intégrer une « mention explicite » informant l’usager que la décision qui le concerne a été prise sur le fondement d’un traitement algorithmique, et qu’il a donc le droit de savoir quelles sont les « principales caractéristiques » de mise en œuvre de ce programme.

-Expliquer, sur sa demande, comment fonctionne l’algorithme utilisé.

Mais cette loi Lemaire n’était en réalité pas appliquée, sauf par l'Education nationale (avec le système d’affectation des lycéens Affelnet)

Et c’est pourquoi ce fut lors du débat sur la loi sur la protection des données personnelles de 2018 qu’un amendement sénatorial est intervenu pour « relancer la machine », finalement accepté par le gouvernement mais en en repoussant les effets de la nullité au 1er juillet 2020 et en limitant cette nullité automatique aux décisions 100 % automatisées.

Dès lors depuis le 1er juillet 2020 en effet, en l’absence de « mention explicite », les décisions concernées doivent systématiquement être considérées comme nulles. Mais cette nullité automatique ne prévaudra devant le juge administratif qu’en l’absence de « mention explicite », le seul fait pour l'administration de ne pas répondre aux demandes d’explicitation des citoyens n’étant passible d’aucune sanction.

C’est désormais l’Article 47 De la loi informatique et liberté de 1978 modifié (ancien article 10) qui prévoit cette nullité.

Mais il est clair que les administrations et collectivités territoriales ne sont malheureusement toujours pas prêtes pour au moins deux raisons:

- une insuffisante acculturation des administrations aux enjeux du numérique qu'elle considèrent comme une charge indûe

- une inadaptation lorsqu'elles confrontées à des difficultés de mise en œuvre de ces nouvelles obligations

Il faudrait bien entendu une parfaite transparence des algorithmes qui serait effectivement de nature à sécuriser mais force est de constater que ce principe est difficile à mettre en œuvre par l'Etat à chaque fois qu'il est réclamé. On l'a vu par exemple lors du Grand Débat et les interrogations concernant l'algorithme très opaque ou la mise en place de l'appli StopCovid.

Le Conseil constitutionnel s'est prononcé sur ces problématiques et a considéré en 2018 que "Ne peuvent être utilisés, comme fondement exclusif d'une décision administrative individuelle, des algorithmes susceptibles de réviser eux-mêmes les règles qu'ils appliquent, sans le contrôle et la validation du responsable du traitement. »

Sont ainsi posées des bornes au traitement automatisé des impôts et des aides ou de l'admission post-bac, voire aux expériences de justice prédictive qui, précisément, reposent sur ce type d'algorithmes et la porte ouverte aux citoyens qui pourront saisir la justice administrative chaque fois qu'une décision défavorable non motivée ou prise en considération de la personne.

Me Thierry Vallat a analysé cette disposition pour ZDNET du 3 juillet 2020: Algorithmes : les administrations forcées à plus de transparence

(crédits dessin: Cabinet Thierry Vallat)