Algorithmes

Droits et libertés fondamentaux

Libertés individuelles – décisions individuelles – traitement algorithmique des données individuelles – algorithmes

Décision n° 2018-765 DC du 12 juin 2018, §§. 65-72. Loi relative à la protection des données personnelles

On se souvient que la loi Lemaire n’a pas été déférée au Conseil constitutionnel, ce qui n’a pas permis d’apprécier nombre de points problématiques de celle-ci, dont le traitement algorithmique d’une demande individuelle adressée à l’administration. Le Conseil a, cependant, pu, quoiqu’après coup, se prononcer sur ce nouveau mode informatique de prise de décisions publiques à l’occasion de l’examen de la loi relative à la protection des données personnelles et l’a complètement validé après avoir constaté que toutes les garanties ont été prises par le législateur pour pallier les dérives d’un tel traitement algorithmique^[1].

Voici le contenu de cette décision du Conseil constitutionnel sur l’usage des algorithmes dans le traitement des dossiers individuels par l’administration :

« 65. L'article 21 modifie l'article 10 de la loi du 6 janvier 1978 afin d'étendre les cas dans lesquels, par exception, une décision produisant des effets juridiques à l'égard d'une personne ou l'affectant de manière significative peut être prise sur le seul fondement d'un traitement automatisé de données à caractère personnel. En vertu du 2° de cet article 10, il en va ainsi des décisions administratives individuelles dès lors que l'algorithme de traitement utilisé ne porte pas sur des données sensibles, que des recours administratifs sont possibles et qu'une information est délivrée sur l'usage de l'algorithme.

« 66. Les requérants estiment qu'en autorisant l'administration à prendre des décisions individuelles sur le seul fondement d'un algorithme, celle-ci serait conduite à renoncer à l'exercice de son pouvoir d'appréciation des situations individuelles, de sorte que le 2° de l'article 10 de la loi du 6 janvier 1978 méconnaîtrait la garantie des droits et l'article 21 de la Constitution. Ces exigences seraient également méconnues en raison de l'existence d'algorithmes « auto-apprenants » susceptibles de réviser eux-mêmes les règles qu'ils appliquent, empêchant, selon eux, de ce fait, l'administration de connaître les règles sur le fondement desquelles la décision administrative a été effectivement prise. Par ailleurs, les requérants estiment que, faute de garanties suffisantes, le législateur aurait porté atteinte « aux principes de valeur constitutionnelle régissant l'exercice du pouvoir réglementaire », dans la mesure où, d'une part, il ne serait pas garanti que les règles appliquées par les algorithmes seront conformes au droit et, d'autre part, l'administration aurait abandonné son pouvoir réglementaire aux algorithmes définissant leurs propres règles. Les règles appliquées par ce dernier type d'algorithmes ne pouvant être déterminées à l'avance, il en résulterait également une méconnaissance du « principe de publicité des règlements ». Enfin, les requérants soutiennent que les dispositions contestées sont dénuées de portée normative ou, à défaut, qu'elles seraient contraires, par leur complexité, à l'objectif de valeur constitutionnelle d'accessibilité et d'intelligibilité de la loi.

« 67. L'article 21 de la Constitution confie le pouvoir réglementaire au Premier ministre, sous réserve des dispositions de l'article 13.

« 68. Les dispositions contestées autorisent l'administration à adopter des décisions individuelles ayant des effets juridiques ou affectant de manière significative une personne sur le seul fondement d'un algorithme.

« 69. Toutefois, en premier lieu, ces dispositions se bornent à autoriser l'administration à procéder à l'appréciation individuelle de la situation de l'administré, par le seul truchement d'un algorithme, en fonction des règles et critères définis à l'avance par le responsable du traitement. Elles n'ont ni pour objet ni pour effet d'autoriser l'administration à adopter des décisions sans base légale, ni à appliquer d'autres règles que celles du droit en vigueur. Il n'en résulte dès lors aucun abandon de compétence du pouvoir réglementaire.

« 70. En deuxième lieu, le seul recours à un algorithme pour fonder une décision administrative individuelle est subordonné au respect de trois conditions. D'une part, conformément à l'article L. 311-3-1 du code des relations entre le public et l'administration, la décision administrative individuelle doit mentionner explicitement qu'elle a été adoptée sur le fondement d'un algorithme et les principales caractéristiques de mise en œuvre de ce dernier doivent être communiquées à la personne intéressée, à sa demande. Il en résulte que, lorsque les principes de fonctionnement d'un algorithme ne peuvent être communiqués sans porter atteinte à l'un des secrets ou intérêts énoncés au 2° de l'article L. 311-5 du code des relations entre le public et l'administration, aucune décision individuelle ne peut être prise sur le fondement exclusif de cet algorithme. D'autre part, la décision administrative individuelle doit pouvoir faire l'objet de recours administratifs, conformément au chapitre premier du titre premier du livre quatrième du code des relations entre le public et l'administration. L'administration sollicitée à l'occasion de ces recours est alors tenue de se prononcer sans pouvoir se fonder exclusivement sur l'algorithme. La décision administrative est en outre, en cas de recours contentieux, placée sous le contrôle du juge, qui est susceptible d'exiger de l'administration la communication des caractéristiques de l'algorithme. Enfin, le recours exclusif à un algorithme est exclu si ce traitement porte sur l'une des données sensibles mentionnées au paragraphe I de l'article 8 de la loi du 6 janvier 1978, c'est-à-dire des données à caractère personnel « qui révèlent la prétendue origine raciale ou l'origine ethnique, les opinions politiques, les convictions religieuses ou philosophiques ou l'appartenance syndicale d'une personne physique », des données génétiques, des données biométriques, des données de santé ou des données relatives à la vie sexuelle ou l'orientation sexuelle d'une personne physique.

« 71. En dernier lieu, le responsable du traitement doit s'assurer de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard. Il en résulte que ne peuvent être utilisés, comme fondement exclusif d'une décision administrative individuelle, des algorithmes susceptibles de réviser eux-mêmes les règles qu'ils appliquent, sans le contrôle et la validation du responsable du traitement.

« 72. Il résulte de tout ce qui précède que le législateur a défini des garanties appropriées pour la sauvegarde des droits et libertés des personnes soumises aux décisions administratives individuelles prises sur le fondement exclusif d'un algorithme. Les griefs tirés de la méconnaissance de l'article 16 de la Déclaration de 1789 et de l'article 21 de la Constitution doivent donc être écartés. Le 2° de l'article 10 de la loi du 6 janvier 1978, qui n'est pas non plus dépourvu de portée normative ou inintelligible et ne méconnaît aucune autre exigence constitutionnelle, est conforme à la Constitution. »

Cette jurisprudence a été précisée dans une affaire concrète relative à l’accès aux critères d’examen des candidatures traitées par algorithme dans le cadre de Parcoursup[2].

Le Conseil constitutionnel, se fondant sur l’article 15 de la DDHC de 1789, a jugé que si « les candidats peuvent, à leur demande, obtenir la communication par l’établissement des informations relatives aux critères et modalités d’examen de leurs candidatures, ainsi que des motifs pédagogiques justifiant la décision prise à leur égard[3] », cet accès doit, du moins après le processus national de préinscription, s’étendre à toute personne tierce : « Toutefois, cette communication ne bénéficie qu’aux candidats. Or, une fois la procédure nationale de préinscription terminée, l’absence d’accès des tiers à toute information relative aux critères et modalités d’examen des candidatures effectivement retenus par les établissements porterait au droit garanti par l'article 15 de la Déclaration de 1789 une atteinte disproportionnée au regard de l’objectif d’intérêt général poursuivi, tiré de la protection du secret des délibérations des équipes pédagogiques. Dès lors, les dispositions contestées ne sauraient, sans méconnaître le droit d’accès aux documents administratifs, être interprétées comme dispensant chaque établissement de publier, à l’issue de la procédure nationale de préinscription et dans le respect de la vie privée des candidats, le cas échéant sous la forme d’un rapport, les critères en fonction desquels les candidatures ont été examinées et précisant, le cas échéant, dans quelle mesure des traitements algorithmiques ont été utilisés pour procéder à cet examen.[4] »

Serge SURIN

Mercredi 13 juin 2018

(MAJ : samedi 4 avril 2020)