Thèse de doctorat · Université de Montpellier · 2024

Algorithmes &
droit administratif

Tous les algorithmes de l'Administration ne se valent pas. Certains traduisent une règle de droit ; d'autres produisent un fait. De cette seule distinction découle tout leur régime juridique.

Sabrina Hammoudi · sous la direction du Pr Pascale Idoux
Soutenue le 11 décembre 2024 · 409 pages · Droit public

COMMENT LIRE CETTE TRAVERSÉE

Elle suit le fil de la démonstration, de l'introduction à la conclusion. Les notions techniques sont expliquées au passage, par analogie avec le raisonnement juridique — aucun prérequis numérique n'est nécessaire. Deux couleurs vous accompagnent d'un bout à l'autre :

Motivé en droit — l'algorithme applique une règle Motivé en fait — l'algorithme produit une information Notion technique vulgarisée
Introduction · Le point de départ

D'abord, qu'est-ce
qu'un algorithme ?

Le mot évoque aussitôt l'informatique — Google, Instagram, « des lignes et des lignes de code ». Mais l'algorithme, dans son sens premier, est bien plus ancien et bien plus simple.

C'est une suite d'étapes précises qui, à partir d'une entrée, mène à un résultat. Rien de plus. Nous en utilisons tous les jours. L'exemple que retient la thèse, emprunté aux informaticiens Abiteboul et Dowek, est celui d'une recette :

La recette comme algorithme
Entrée → farine, sucre, œufs, lait, beurre
Étape 1 → mélanger la farine, le sucre, le sel
Étape 2 → ajouter les œufs, puis le lait, puis le beurre
Étape 3 → cuire sur une poêle adaptée
Résultat → des crêpes, quel que soit le cuisinier
Ce qu'il faut retenir « Un algorithme est un procédé qui permet de résoudre un problème, sans avoir besoin d'inventer une solution à chaque fois. » Gagner en efficacité, réduire l'incertitude : exactement ce que recherche l'Administration.

Or ce schéma — des faits en entrée, une suite de règles, une décision en sortie — le juriste le connaît déjà intimement. C'est la structure même du syllogisme judiciaire.

Notion technique · Algorithme

Une suite d'opérations déterminées

Donnez-lui les mêmes entrées, il rendra toujours le même résultat, par le même chemin. Un algorithme ne « comprend » rien : il exécute. Toute sa force — et toute sa rigidité — tient là.

En droit Le syllogisme judiciaire est déjà un algorithme : la majeure (la règle) et la mineure (les faits qualifiés) commandent la conclusion (la décision). Langage juridique et langage informatique partagent cette architecture conditionnelle du « si… alors… ».

Voilà pourquoi l'Administration s'en saisit : Parcoursup pour l'orientation, le calcul de l'impôt, l'attribution des aides sociales, la détection de la fraude… La décision administrative se confie de plus en plus à la machine.

La question de la thèse naît de ce constat. Le droit administratif — droit de la décision motivée, du contrôle du juge, des droits de l'administré — est-il armé pour cette délégation ? Et surtout : tous ces algorithmes posent-ils le même problème juridique ?

La réponse tient en une distinction. Elle est toute l'originalité du travail.

L'idée maîtresse

Deux familles
d'algorithmes

La thèse propose une summa divisio — une grande partition qui commande tout le reste. Les algorithmes de l'Administration se rangent en deux familles, selon ce qu'ils font au regard de la norme.

Famille I

Motivé en droit

Il traduit une règle de droit en code. On lui donne des faits, il applique la règle et en tire la décision.

  • Exemple : le calcul de l'impôt, l'éligibilité à une bourse
  • La règle existe déjà ; l'algorithme l'exécute
  • Il applique le droit
Famille II

Motivé en fait

Il produit une information factuelle, souvent en apprenant de données. Ce fait servira ensuite de motif à une décision.

  • Exemple : un score de risque, une estimation, une détection
  • Le fait n'existait pas ; l'algorithme le fabrique
  • Il produit un fait

L'élégance de la grille tient à ce qu'elle ne sort pas de nulle part. Elle transpose à l'outil une distinction que tout publiciste connaît : celle des motifs de l'acte administratif, entre motifs de droit et motifs de fait. La thèse déplace cette grille du raisonnement vers l'instrument qui le mécanise.

À vous d'essayer. Chaque algorithme ci-dessous relève d'une famille — laquelle ?

Comparateur — motivé en droit ou motivé en fait ?

Cette partition juridique rencontre — sans se confondre avec elle — une partition technique. L'informatique connaît en effet deux grandes manières de « faire un algorithme ». Retournez les cartes.

Notion technique

IA symbolique

↻ Cliquez pour retourner
Analogie juridique

Des règles écrites par des humains, sous forme de « si… alors… ». Comme un règlement ou un arbre de décision. Terrain naturel du motivé en droit.

Notion technique

IA connexionniste

↻ Cliquez pour retourner
Analogie juridique

Aucune règle écrite : la machine apprend des régularités dans des milliers d'exemples. Comme une jurisprudence qui se construit par accumulation de cas. Terrain naturel du motivé en fait.

La clause d'assurance-vie de la grille

Le critère est juridique, pas technique

La correspondance symbolique → droit et connexionniste → fait n'est qu'une régularité observée aujourd'hui, non une loi. Ce qui distingue vraiment les deux familles, c'est leur rapport à la norme : traduire une règle, ou produire un fait. Retenez-le — c'est ce qui sauvera la distinction quand la technique aura changé (nous y reviendrons à la toute fin).

Partie I · Titre I — L'algorithme motivé en droit

La notion : une règle
de droit faite machine

« L'adaptabilité du droit administratif face à une action publique basée sur le droit. »

Pourquoi le droit se prête-t-il si bien à la machine ? Parce que le langage juridique et le langage informatique sont cousins : l'un et l'autre formels, conditionnels, hiérarchisés. « Si le contribuable remplit telle condition, alors il relève de tel taux » se code presque tel quel.

Presque. Car le droit possède ce que la machine n'a pas : le flou. Les standards — le « trouble à l'ordre public », le bâtiment qui ne doit pas « dénoter dans le paysage », le « bon père de famille » — appellent une appréciation. L'algorithme rigide ne sait pas apprécier : il ne peut que trancher par oui/non ce que le juriste pèse.

Cas · APB, l'ancêtre de Parcoursup

Quand l'algorithme durcit — et déborde — le droit

En rigidifiant la « priorité académique », APB a transformé une orientation souple en règle mécanique. Pire : le ministère y avait glissé un objectif « ne reposant sur aucun fondement juridique ».

Le Conseil d'État a censuré (CE, 22 déc. 2017). La leçon est nette : ce qu'un algorithme applique n'est pas toujours du droit valide — et nul paramétrage technique ne peut combler une lacune que seul le pouvoir normatif compétent pouvait combler.

Alors, juridiquement, que fait un algorithme motivé en droit ? La thèse tranche : il réalise une opération automatique de qualification juridique des faits.

Cette opération, vous la pratiquez tous les jours : qualifier, c'est ranger un fait dans une catégorie juridique — ce chien est-il « dangereux » au sens du texte ? L'algorithme la mécanise. Mais il ne l'accomplit pas seul : elle est redistribuée entre trois acteurs. Faites défiler.

1 · en amont
L'Administration

interprète la règle et choisit les faits qui compteront

2 · la traduction
Le programmeur

convertit ces choix juridiques en code

3 · l'exécution
La machine

qualifie les faits et en tire la décision

Premier temps

L'Administration interprète

Avant toute ligne de code, un choix juridique : comment lire la règle ? quels faits sont pertinents ? C'est ici que loge l'appréciation — invisible, mais décisive.

Deuxième temps

Le programmeur traduit

Il transpose en instructions ce qu'on lui a confié. Chaque ambiguïté du droit doit être tranchée pour devenir codable : le standard « ne pas dénoter » devient un seuil, un oui/non. La souplesse se perd dans la traduction.

Troisième temps

La machine qualifie

Confrontée aux faits, elle range le cas dans une catégorie et conclut : « Oui, le permis de construire peut être accordé » — ou non. L'algorithme est, à lui seul, une opération de qualification juridique des faits.

« L'algorithme possède, dans son code, un large choix de qualifications juridiques des faits potentielles et consiste en lui-même en une opération de qualification juridique des faits particulière, fondée sur l'interprétation antérieure de dispositions juridiques. »
S. Hammoudi, Algorithmes et droit administratif, p. 154
L'objection subtile — et assumée

Jugement d'identité, ou d'identification ?

Qualifier, rappelle Vautrot-Schwarz, est un jugement d'identification — une exploration — et non un simple jugement d'identité mécanique. Or la machine, elle, ne fait qu'un jugement d'identité.

La réponse de la thèse : l'appréciation n'a pas disparu, elle a été consommée en amont, lors de l'interprétation et de la traduction. Ce déplacement invisible est précisément ce qui va fonder l'exigence de documentation — au Titre II.

Partie I · Titre II — L'encadrement juridique

Un droit existe déjà.
Le voici, en trois questions.

Contrairement à une idée reçue, l'algorithme administratif n'est pas un vide juridique. Un régime s'applique — encore faut-il savoir lequel. La thèse le déplie en un arbre de décision. Répondez pour votre propre cas.

Question 1 / 3
La décision individuelle est-elle prise sur le fondement d'un algorithme ?
Un traitement automatisé intervient-il dans la décision qui touche l'administré ?
Question 2 / 3
Un humain garde-t-il un pouvoir d'appréciation réel ?
Ou la décision est-elle entièrement automatisée, l'agent se bornant à valider ?
Question 3 / 3
Le traitement est-il maîtrisé ?
L'Administration peut-elle expliquer, en détail et sous une forme intelligible, comment il s'est appliqué — sans données sensibles, avec recours possible ?

Droit commun

Pas de régime algorithmique spécifique : on reste dans le droit ordinaire de la décision administrative. La question de l'outil ne se pose pas.

Régime de transparence (humain dans la boucle)

La décision doit porter mention explicite du recours à l'algorithme, et l'administré peut obtenir communication des règles du traitement (art. L. 311-3-1 CRPA).

Mais l'intervention humaine doit être significative — pas un simple clic de validation. Sinon, la décision bascule en « entièrement automatisée ».

Régime le plus exigeant — mais autorisé

La décision entièrement automatisée est possible sous conditions (art. 47 loi Informatique et Libertés) : transparence renforcée et droit à une explication individuelle (L. 311-3-1-1 CRPA).

Clé de voûte : l'exigence de maîtrise posée par le Conseil constitutionnel (déc. n° 2018-765 DC). C'est elle qui rend l'outil admissible.

Interdit comme fondement exclusif

Un traitement que l'Administration ne maîtrise pas — typiquement auto-apprenant — ne peut pas fonder à lui seul une décision individuelle. Le Conseil constitutionnel l'exige (2018-765 DC).

Techniquement, la thèse le démontre aussi : un algorithme probabiliste ne « connaît » pas le droit. La règle juridique et la démonstration technique se rejoignent.

Ce régime existe donc. Reste qu'il bute sur un obstacle inattendu, propre au motivé en droit.

Le paradoxe de la transparence : la loi impose de publier les règles de l'algorithme. Mais pour un motivé en droit, ces règles sont le droit. Les publier, c'est republier la réglementation — sans rien apprendre à l'administré sur l'outil.

Les fiches mises en ligne « se contentent de reprendre la réglementation en vigueur… l'algorithme, à propos duquel l'usager n'est donc pas davantage informé, constitue la traduction de ladite réglementation. »
Constat rapporté par la thèse à propos de France Travail, p. 181

Et pourtant — retournement inattendu. Contrainte de documenter, l'Administration finit par mieux expliquer le droit applicable. L'algorithme, d'ordinaire synonyme d'opacité, devient « indirectement facteur de clarté juridique » (p. 182).

Que contrôle alors le juge ? Non plus seulement la décision, mais le raisonnement implémenté dans le code. D'où la proposition phare :

Proposition · Documenter la traduction

Rendre visibles les choix juridiques cachés dans le code

Imposer une documentation standardisée des choix de traduction : quels standards ont été réduits à quels seuils, quelle interprétation retenue. Le juge peut l'exiger par ses pouvoirs d'instruction (jurisprudence Maison Génestal, Paugam).

Sa force : elle ne relève pas du vœu pieux. Elle réalise l'exigence constitutionnelle de maîtrise (2018-765 DC). D'un souhait, elle devient une obligation.

Partie II · Titre I — L'algorithme motivé en fait

L'instrument paradoxal
de l'action publique

« Les limites du droit administratif face à une activité publique fondée sur le nombre. »

On change de monde. L'algorithme ne traduit plus une règle : il produit un fait. Et pour cela, il ne suit plus des instructions écrites par un humain — il apprend. C'est le tournant technique du travail, et il faut le comprendre pour saisir ce qui suit.

Notion technique · L'apprentissage automatique

La machine qui apprend d'exemples

Au lieu de recevoir des règles, l'algorithme reçoit des milliers d'exemples passés et en dégage seul des régularités. Personne n'a écrit « si… alors… » : le comportement émerge des données.

En droit Pensez au jeune magistrat qui, sans qu'on lui dicte de règle, apprend à « sentir » les solutions en lisant des centaines de précédents. L'algorithme connexionniste fait de même — mais sans conscience du sens, seulement des corrélations.

Comment fabrique-t-on une telle machine ? En cinq temps. Faites défiler pour voir la chaîne s'allumer.

1
Données collectées
2
Exemples étiquetés
3
Entraînement
4
Modèle obtenu
5
Score sur un cas nouveau
Temps 1

Rassembler des données

Des dossiers d'allocataires, des déclarations, des historiques. La matière première, ce ne sont pas des règles : ce sont des faits en masse.

Temps 2

Étiqueter les exemples

On indique à la machine, sur des cas passés, la « bonne » réponse : ce dossier était frauduleux, celui-là non. C'est l'équivalent des précédents annotés que lit l'apprenti juriste.

Temps 3

Entraîner

La machine ajuste des milliers de paramètres internes pour coller au mieux à ces exemples. Elle ne comprend rien : elle optimise.

Temps 4

Le modèle

Il en sort une fonction : donnez-lui un dossier, elle rend un chiffre. C'est une boîte dont même ses concepteurs ne savent pas toujours détailler le raisonnement.

Temps 5

Prédire — un score, pas une vérité

Sur votre dossier, le modèle sort un score de risque. Ce n'est jamais une certitude : c'est une probabilité, tirée de ce qui ressemble au passé.

Trois pièges guettent alors le juriste. Retournez les cartes.

Piège n° 1

Corrélation ≠ causalité

↻ Cliquez
Ce qu'il faut retenir

La machine repère que deux choses vont ensemble, jamais pourquoi. Un motif corrélé à la fraude n'en est pas la cause — mais l'algorithme le traitera comme un signal.

Piège n° 2

Biais ≠ erreur

↻ Cliquez
Ce qu'il faut retenir

Une erreur est ponctuelle. Un biais est systématique : la machine se trompe toujours dans le même sens, souvent au détriment des mêmes personnes. Il ne se « corrige » pas au cas par cas.

Où est alors la vraie rupture ? Pas dans la vitesse (souvent illusoire). Ailleurs, plus profondément :

Le motivé en droit déduit — de la règle au cas. Le motivé en fait induit — des cas à la régularité. L'induction se substitue à la déduction. C'est un autre mode de raisonnement qui entre dans l'action publique.

Le juriste connaît ce basculement : la déduction, c'est le syllogisme ; l'induction, c'est la construction d'une jurisprudence par accumulation. Sauf qu'ici, la « jurisprudence » est produite par une machine aveugle au sens.

De là, deux paradoxes que la thèse dégage — et qui donnent son titre au Titre I :

Paradoxe I

L'autonomie qui crée la dépendance

L'outil censé rendre le décideur plus autonome finit par l'enchaîner à ses sorties : « un nouveau lien à sa cheville ». On ne décide plus vraiment sans lui.

Paradoxe II

La rapidité qui multiplie les erreurs

Promis comme instrument de vitesse, il peut multiplier les erreurs et ralentir la décision juste — le temps de détricoter ce qu'il a mal évalué.

Cas · Le score de la CNAF

Quand le fait produit vise les plus fragiles

L'algorithme attribue à chaque allocataire un score de risque d'indu. Or les variables qui le font grimper — précarité, monoparentalité, revenus irréguliers — ciblent statistiquement les plus vulnérables.

Effet différencié ne vaut pas encore discrimination : tout se joue sur le test de la justification objective et proportionnée. Le miroir international existe : aux Pays-Bas, le système SyRI a été jugé illégal (La Haye, 2020) et le scandale des allocations a fait tomber un gouvernement.

Partie II · Titre II — Un objet juridique à identifier

Saisir l'insaisissable :
l'identification par le régime

Comment le droit administratif attrape-t-il un objet aussi mouvant ? Une définition unifiée paraît illusoire. La thèse propose donc de l'identifier autrement — par ce que le droit administratif sait en faire. Figure classique : identifier par le régime, non par la définition.

Premier levier : la compliance. L'Administration s'impose à elle-même des garde-fous — analyses d'impact, audits, référents. Mais la thèse ne se paie pas de mots :

La limite de l'auto-régulation

Pourquoi s'auto-réguler quand l'opacité protège ?

L'exemple central du travail le montre : la CNAF s'est enfermée dans l'opacité jusqu'à y être contrainte. L'auto-régulation ne fonctionne que sous l'ombre portée de la contrainte — CADA, juge, et désormais le règlement européen sur l'IA.

Ce qui a changé depuis la soutenance L'article 27 du règlement IA rend l'analyse d'impact sur les droits fondamentaux obligatoire pour les organismes publics déployant des systèmes à haut risque — dont les algorithmes de lutte contre la fraude sociale. Ce qui était proposé comme volontaire devient, en partie, une obligation.
Notion technique · L'explicabilité (XAI)

Faire parler la boîte noire

Tout un champ de recherche tente de reconstituer après coup pourquoi un modèle a produit tel score. Utile — mais l'explication reste une approximation, jamais la raison véritable.

En droit C'est l'obligation de motivation appliquée à la machine. Sauf qu'ici, motiver, c'est deviner ses propres raisons — un renversement que le droit administratif n'a jamais connu.

Second levier : le juge. Mais son office se heurte à un mur — la meilleure démonstration de toute la thèse.

Cas · CA Grenoble, 16 décembre 2021

L'impasse probatoire

Une allocataire soupçonne une discrimination algorithmique. Comment la prouver ? Elle n'a pas accès au code. Le droit exige une preuve que l'opacité rend impossible.

La thèse identifie le nœud avec force. La solution reste à construire : aménager la charge de la preuve — faisceau d'indices puis renversement, comme en droit de l'Union et en droit du travail —, recourir à l'expertise algorithmique, examiner le code in camera.

Et lorsque le préjudice est diffus, comment engager la responsabilité de l'Administration ? La thèse transpose un considérant de la jurisprudence Gomez :

« L'utilisation d'une méthode de décision nouvelle crée, lorsque ses conséquences ne sont pas encore entièrement connues, un risque spécial pour les administrés qui en sont l'objet. »
Considérant transposé, proposé par la thèse comme fondement de responsabilité, p. 336

Reste un dernier effet, plus insidieux : l'algorithme motivé en fait, en apprenant sur le passé, agit sur le droit lui-même. Voici l'effet cliquet — l'irréversibilité. Une fois déployé, l'outil ne recule jamais ; il ne fait que s'étendre.

Étape 1

L'expérimentation

On déploie « à titre d'essai », périmètre restreint, garanties promises. Personne ne s'alarme.

Étape 2

La normalisation

L'outil devient l'ordinaire du service. On ne sait plus, ni ne veut plus, faire sans lui.

Étape 3

L'extension

Le périmètre s'élargit : nouvelles finalités, nouvelles données, nouveaux publics. La garantie initiale se dilue.

Étape 4 · Le cliquet

L'irréversibilité

Le retour en arrière devient impensable — techniquement comme politiquement. Deux tests grandeur nature : le data-mining fiscal (CFVR, 2014→) et la vidéosurveillance « augmentée » des JO 2024.

En apprenant sur le droit d'hier, l'algorithme le découpe et le pétrifie : il reproduit le passé et referme l'avenir. Le droit, matière vivante, risque de se figer dans le miroir de ses propres données.

Le dividende le plus fin de la grille

Le hasard, poison ou remède selon la famille

Relisant Peynet, la thèse rappelle que l'aléa — une part de hasard — est une condition de l'évolution du droit. Et voici le trait de génie de la distinction :

Injecter du hasard assainit un algorithme motivé en fait (il diversifie, corrige les biais) — mais biaiserait un algorithme motivé en droit (il fausserait l'application de la règle). Une même opération, deux effets opposés selon la famille : la preuve que la grille travaille.

Conclusion générale

La clé de voûte

Toute la thèse repose sur une distinction technique : symbolique d'un côté, connexionniste de l'autre. Or l'autrice le reconnaît elle-même, avec honnêteté — cette frontière technique est en train de céder.

« [La distinction entre intelligence artificielle] connexionniste et intelligence artificielle symbolique ne résistera pas longtemps aux nouveaux développements de la recherche… les frontières entre ces catégories techniques s'estomperont inévitablement. »
S. Hammoudi, p. 369

Si la distinction était technique, elle s'effondrerait avec la technique. Mais souvenez-vous de la clause d'assurance-vie, posée dès le premier acte : elle ne l'est pas.

La défense qui scelle tout

Ce qui sépare les deux familles n'est pas leur architecture, c'est leur rapport à la norme : traduire une règle ou produire un fait. Ce critère est juridique. Il survivra à l'obsolescence des machines.

Les systèmes hybrides ne dissolvent pas la question : ils l'aiguisent. Un même système pourra être motivé en droit et motivé en fait — et c'est précisément la grille qui permettra d'y démêler les fonctions, donc les régimes. L'objection devient la démonstration de la robustesse du critère.

Restait, dans la thèse soutenue, à ne pas laisser cette clé de voûte exposée — et à rassembler les propositions que la démonstration avait semées. Les voici réunies.

Ce que le droit administratif peut faire, dès aujourd'hui

Sept propositions, tirées de la démonstration
Partie I · Titre I

Des critères ex ante pour repérer les domaines réellement « propices » à l'automatisation.

Partie I · Titre II

Documenter les choix de traduction juridique — ancrée dans l'exigence de maîtrise (2018-765 DC) et la documentation technique du règlement IA.

Partie I · Titre II

Limiter aux compétences liées l'automatisation intégrale, là où l'appréciation n'a pas sa place.

Partie II · Titre II

Une grille interne de criticité et l'analyse d'impact sur les droits fondamentaux (art. 27 RIA).

Partie II · Titre II

Des clauses contractuelles types pour la commande publique d'algorithmes.

Partie II · Titre II

Aménager la charge de la preuve et fonder la responsabilité sur le « risque spécial » (considérant Gomez).

Deux familles. Un seul critère, juridique. Et un droit administratif qui, en apprenant à nommer ces outils, apprend aussi quelque chose sur lui-même.