Doctrine d'emploi de l'intelligence artificielle dans l'administration : lignes rouges et contrôle humain

Le règlement européen sur l'intelligence artificielle (AI Act, 2024) classe en « haut risque » les usages d'IA dans les missions régaliennes et sociales de l'État, avec des obligations de transparence et d'audit. L'article 47 de la loi Informatique et Libertés interdit déjà, en principe, les décisions individuelles entièrement automatisées produisant des effets juridiques, mais la CNIL constate dans ses recommandations sur l'IA dans le service public une application inégale de cette garantie face à la multiplication des outils de scoring et de détection algorithmique (allocations sociales, contrôle fiscal). La mesure formalise une doctrine interministérielle : lignes rouges explicites par domaine d'usage, obligation de contrôle humain effectif avant toute décision défavorable à un usager, et audit périodique des algorithmes publics par un comité d'éthique dédié.

Coût de fonctionnement du comité d'éthique de l'IA publique et des audits périodiques des algorithmes administratifs.

Qui porte cette mesure ?

Aucun des programmes types encodés ne la porte: mesure d'origine Centre / Gauche.

Origine documentaire : CentreGauche

Groupes potentiellement concernés

Incidence populationnelle non documentée : l'absence de donnée reste inconnue et n'est jamais convertie en zéro.

Score de rupture

Rupture : ajustement (17/100)

Descriptif, jamais normatif: ce score dit seulement combien cette mesure s'écarte du cadre existant, pas si c'est souhaitable. Calculé uniquement depuis des champs déjà publiés sur cette fiche (véhicule juridique, coût, perdants, délai, main-d'œuvre).

Effets non monétaires expérimental

Effet non monétaire : non documenté: aucun effet non monétaire sourcé pour cette mesure. L'absence de donnée est affichée telle quelle, jamais convertie en zéro (méthode). Vous connaissez une étude qui le documente ? Proposez une source.

Mesures proches

• Agence numérique de l'État dotée d'un pouvoir budgétaire contraignant sur les grands projets SI -0 à -0 Md€/an
• Mandat légal d'aidant numérique pour les démarches administratives en ligne -0,3 à -0,2 Md€/an
• Budget temps administratif publié et opposable, sur le modèle du Paperwork Reduction Act américain -0 à 0 Md€/an
• Corps légistique interministériel de 200 juristes pour la qualité de la loi -0 à -0 Md€/an

Sources et mise en œuvre

• Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l'intelligence artificielle (AI Act): catégorie « haut risque » secteur public
• CNIL: recommandations sur l'intelligence artificielle dans le service public, 2023
• Loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, art. 47

loi ordinaire (complément à la loi Informatique et Libertés) + décret (comité d'éthique de l'IA publique) · délai de montée en charge ≈ 2 ans · bande documentaire non calibrée et méthode d'agrégation détaillées dans la méthodologie.

Un chiffre vous semble faux ? Contestez ce chiffrage: une source suffit.