GCRI · Intelligence artificielle et systèmes autonomes
IA et services publics
Governments use algorithms to target benefits, detect fraud, triage health care, allocate inspections, translate and answer citizens’ questions. When these systèmes are wrong, opaque or biased, people lose services and rights they depend on, often without knowing why. This page sets out how public sector AI succeeds and fails, how it is assessed and made accountable, and what evidence serves the agencies, auditors and citizens involved.
Comment le travail se déroule.
Registre des modèles
AI and public services · Model registry · Release gate
Modèles
| M-843 triage assistant | Service public | Élevé | 22 of 24 suites | Bloqué |
| M-266 flood nowcast | Science | Moyen | 11 sur 12 | Publié |
| M-756 document search | Interne | Faible | 8 of 8 | Publié |
| M-769 agent planner | Agentique | Élevé | 12 of 16 | En évaluation |
Fiche de modèle
- Utilisation prévue
- aide au tri, décision humaine
- Hors périmètre
- décisions d'éligibilité
- Limites connues
- moindre précision sur les cas rares
- Propriétaire
- Propriétaire du modèle
Journal des incidents
- D-13INCCitation hallucinée dans le résumé
- D-6MITAncrage de la récupération ajouté
- D-2INCInjection de prompt via un fichier téléversé
- D-1MITAutorisation d'outil restreinte
Evaluation scores
vs release threshold
Fig.Model registry: example names and illustrative values, not a record or a live system.
AI and public services: how the risk develops.
Public accountability, access and rights. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Errors fall on the vulnerable
People who depend most on public services are often those most affected by automated decisions, and least able to challenge them.
Historical data carry bias
Models trained on past decisions can reproduce discrimination present in those decisions, even when protected characteristics are excluded.
Opacity blocks challenge
When people cannot see that an algorithm was used or why it produced a result, they cannot contest it, and errors persist.
Accountability stays with the agency
Procuring a system from a vendor does not transfer responsibility. Agencies must be able to explain, audit and override algorithmic decisions.
How AI and public services is modelled, measured and tested.
Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.
Modèle de système
The couplings between the systems in AI and public services: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
AI in public services touches the domains people depend on.
Public service AI studies are designed for the série Notes de synthèse sur les preuves. The EU AI Act classifies many public-service uses as high-risk; UNESCO’s Recommendation (2021) and WHO guidance (2021) set ethical expectations.
- Algorithmic impact assessments a body publishes.
- Accounts from people affected by automated decisions.
Ce qui est mesuré, et avec quelle qualité.
Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.
| Indicateur | Unité | Fréquence | Type de source | Étiquette |
|---|---|---|---|---|
| Public algorithm registers | count of systèmes registered | per update | Government algorithm registers | Statistiques publiées |
| Algorithmic impact assessments completed | percent of deployed systems | annuel | Registres des agences | DÉCLARÉ |
| Error rate by population group | difference in error rates | per audit | Algorithm audits | OBSERVÉ |
| Decisions appealed and overturned | count and percent | annuel | Appeals records | Statistiques publiées |
| Systems with human review of adverse decisions | percent of systems | par examen | Agency documentation | DÉCLARÉ |
| Audit findings on public sector algorithms | count by severity | per audit cycle | Audit office reports | DÉCLARÉ |
D'où proviennent les données probantes.
Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.
| Sources | Ce qu'elle apporte | Catégorie de licence |
|---|---|---|
| Government algorithm and AI registers, such as the UK Algorithmic Transparency Recording Standard records | Public records of algorithmic tools in use | Open, Open Government Licence where applicable |
| National audit office reports on algorithms | Independent audits of public sector AI | Public records, licence per office |
| Observatoire des politiques de l'IA de l'OCDE (OECD.AI) | Government AI policies and the AI Incidents Monitor | Public, OECD terms |
| Court and ombudsman decisions on automated decision-making | Legal findings on public sector algorithms | Registres publics |
| Canada Directive on Automated Decision-Making and its impact assessment tool | A model for impact assessment requirements | Public, Government of Canada terms |
Qui décide, et à quoi servent les données probantes.
Studio Intelligence artificielle et systèmes prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Qui décide | La question | Données probantes servies par cette page |
|---|---|---|
| Government agencies | Whether and how to deploy an algorithm in a public service | Impact assessments; audit methods |
| Auditors and ombudspersons | Where to investigate algorithmic harm | Registers; appeals data; audit evidence |
| Parlements | What transparency and accountability to require | Comparative policy and case evidence |
Résultats que produit ce thème
- Impact assessment templates for public sector AI
- Audit methods for disaggregated error and fairness
- Transparency record templates
- Case studies of public sector algorithm failures and fixes
What public-sector technologists ask.
- Is the system accurate for the whole population it serves, including minority groups?
- Can affected people understand a decision, challenge it and get it corrected?
- Who is accountable when an automated decision is wrong?
- Does automation improve access, or does it create new barriers for people without digital skills or connections?
How automated decisions go wrong.
systèmes trained on historical administrative data inherit its biases and gaps. Risk-scoring tools can concentrate scrutiny on groups already over-represented in past enforcement. Small error rates become large numbers of wrongly affected people at national scale. When staff defer to the system, known as automation bias, errors are not caught.
Opacity compounds harm: if neither public servants nor citizens can see why a decision was made, it is hard to contest and slow to correct. Access barriers arise when services move online without alternatives.
Evidence for accountable systems.
- 01
Évaluation d'impact
Structured assessment of a system’s purpose, data, affected groups and safeguards before deployment, using sciences sociales et comportementales. Quality depends on honest completion.
- 02
Fairness and error analysis
Disaggregated error rates by group, with les probabilités et la statistique. Different fairness definitions can conflict, so trade-offs must be made explicit.
- 03
Explanation and contestability
Designing decision notices and appeal routes people can use. Technical explanations do not by themselves make a decision contestable.
- 04
Audit and monitoring
Ongoing checks of outcomes and complaints after deployment.
Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.
- 01Sciences sociales et comportementalesÉtudes sur la supervision humaine · Recherche auprès des communautés touchées · Études sur l'adoption au travailAppliqué ici
- 02Ingénierie de l'évaluation et de l'assurance de l'IADossiers d'assurance pour les systèmes d'IA · Tests adversariaux structurés · Surveillance après déploiementAppliqué ici
- 03Probabilités et statistiquesIncertitude sur les scores de référence · Évaluation de l'étalonnage · Échantillonnage d'auditAppliqué ici
- 04Intelligence artificielle et apprentissage automatiqueAnalyse des glissements de distribution · Ajustement fin pour un usage spécifique · Méthodes d'interprétabilitéAppliqué ici
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
What is automated decision-making?
What is an algorithmic impact assessment?
Can people challenge an algorithmic decision?
Should public services use AI at all?
What is automation bias?
Can affected people use the platform’s work?
Does the platform evaluate specific government systems?
Apportez des éléments de preuve depuis cette page.
Rapports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPasserelle GW-GCRIL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoDépôt ouvertLe déposer et le soumettre à la communautéPubliez votre propre fiche sur Zenodo avec votre identifiant ORCID, puis soumettez-la à la communauté Reports qui s'y trouve. Des curateurs l'examinent ; le DOI reste le vôtre.
- RapportsGCRIVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Apportez une méthode, un jeu de données ou une question.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.