GCRI · Intelligenza artificiale e sistemi autonomi
IA e servizi pubblici
Governments use algorithms to target benefits, detect fraud, triage health care, allocate inspections, translate and answer citizens’ questions. When these sistemi are wrong, opaque or biased, people lose services and rights they depend on, often without knowing why. This page sets out how public sector AI succeeds and fails, how it is assessed and made accountable, and what evidence serves the agencies, auditors and citizens involved.
Come si svolge il lavoro.
Registro dei modelli
AI and public services · Model registry · Release gate
Modelli
| M-843 triage assistant | Servizio pubblico | Alto | 22 of 24 suites | Bloccato |
| M-266 flood nowcast | Scienza | Medio | 11 di 12 | Rilasciato |
| M-756 document search | Interno | Basso | 8 of 8 | Rilasciato |
| M-769 agent planner | Agentico | Alto | 12 of 16 | In valutazione |
Scheda del modello
- Uso previsto
- supporto al triage, decide una persona
- Fuori ambito
- decisioni di ammissibilità
- Limiti noti
- minore accuratezza sui casi rari
- Titolare
- Responsabile del modello
Registro degli incidenti
- D-13INCCitazione allucinata nel riepilogo
- D-6MITRetrieval grounding aggiunto
- D-2INCPrompt injection tramite file caricato
- D-1MITAutorizzazione dello strumento ristretta
Evaluation scores
vs release threshold
Fig.Model registry: example names and illustrative values, not a record or a live system.
AI and public services: how the risk develops.
Public accountability, access and rights. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Errors fall on the vulnerable
People who depend most on public services are often those most affected by automated decisions, and least able to challenge them.
Historical data carry bias
Models trained on past decisions can reproduce discrimination present in those decisions, even when protected characteristics are excluded.
Opacity blocks challenge
When people cannot see that an algorithm was used or why it produced a result, they cannot contest it, and errors persist.
Accountability stays with the agency
Procuring a system from a vendor does not transfer responsibility. Agencies must be able to explain, audit and override algorithmic decisions.
How AI and public services is modelled, measured and tested.
Il modello, le sue ipotesi, i suoi dati e la sua incertezza, nella forma in cui uno scienziato o un ingegnere li verificherebbe. Le strutture seguono metodi pubblicati. I valori rappresentati sono illustrativi, non risultati.
Modello di sistema
The couplings between the systems in AI and public services: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
AI in public services touches the domains people depend on.
Public service AI studies are designed for the serie Evidence Brief. The EU AI Act classifies many public-service uses as high-risk; UNESCO’s Recommendation (2021) and WHO guidance (2021) set ethical expectations.
- Algorithmic impact assessments a body publishes.
- Accounts from people affected by automated decisions.
Cosa viene misurato e con quale accuratezza.
Ogni indicatore riporta la sua unità, la sua cadenza, il tipo di fonte su cui si basa e l'etichetta di evidenza che un valore riporterebbe. Non sono mostrati valori: un programma li fornisce sotto la propria autorità.
| Indicatore | Unità | Cadenza | Tipo di fonte | Etichetta |
|---|---|---|---|---|
| Public algorithm registers | count of sistemi registered | per update | Government algorithm registers | Statistiche pubblicate |
| Algorithmic impact assessments completed | percent of deployed systems | annuale | Registri delle agenzie | DICHIARATO |
| Error rate by population group | difference in error rates | per audit | Algorithm audits | OSSERVATO |
| Decisions appealed and overturned | count and percent | annuale | Appeals records | Statistiche pubblicate |
| Systems with human review of adverse decisions | percent of systems | per revisione | Agency documentation | DICHIARATO |
| Audit findings on public sector algorithms | count by severity | per audit cycle | Audit office reports | RIPORTATO |
Da dove provengono le evidenze.
Set di dati pubblici e registri istituzionali specifici, ciascuno con la sua classe di licenza. Le fonti soggette ad accordo sono utilizzate solo alle relative condizioni e mai ripubblicate.
| Fonte | Cosa fornisce | Classe di licenza |
|---|---|---|
| Government algorithm and AI registers, such as the UK Algorithmic Transparency Recording Standard records | Public records of algorithmic tools in use | Open, Open Government Licence where applicable |
| National audit office reports on algorithms | Independent audits of public sector AI | Public records, licence per office |
| Osservatorio OECD.AI sulle politiche | Government AI policies and the AI Incidents Monitor | Public, OECD terms |
| Court and ombudsman decisions on automated decision-making | Legal findings on public sector algorithms | Registri pubblici |
| Canada Directive on Automated Decision-Making and its impact assessment tool | A model for impact assessment requirements | Public, Government of Canada terms |
Chi decide, e a cosa servono le evidenze.
Studio Intelligenza artificiale e sistemi prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Chi decide | La domanda | Evidenze fornite da questa pagina |
|---|---|---|
| Government agencies | Whether and how to deploy an algorithm in a public service | Impact assessments; audit methods |
| Auditors and ombudspersons | Where to investigate algorithmic harm | Registers; appeals data; audit evidence |
| Parlamenti | What transparency and accountability to require | Comparative policy and case evidence |
Output prodotti da questo argomento
- Impact assessment templates for public sector AI
- Audit methods for disaggregated error and fairness
- Transparency record templates
- Case studies of public sector algorithm failures and fixes
What public-sector technologists ask.
- Is the system accurate for the whole population it serves, including minority groups?
- Can affected people understand a decision, challenge it and get it corrected?
- Who is accountable when an automated decision is wrong?
- Does automation improve access, or does it create new barriers for people without digital skills or connections?
How automated decisions go wrong.
sistemi trained on historical administrative data inherit its biases and gaps. Risk-scoring tools can concentrate scrutiny on groups already over-represented in past enforcement. Small error rates become large numbers of wrongly affected people at national scale. When staff defer to the system, known as automation bias, errors are not caught.
Opacity compounds harm: if neither public servants nor citizens can see why a decision was made, it is hard to contest and slow to correct. Access barriers arise when services move online without alternatives.
Evidence for accountable systems.
- 01
Valutazione d'impatto
Structured assessment of a system’s purpose, data, affected groups and safeguards before deployment, using scienze sociali e comportamentali. Quality depends on honest completion.
- 02
Fairness and error analysis
Disaggregated error rates by group, with probabilità e statistica. Different fairness definitions can conflict, so trade-offs must be made explicit.
- 03
Explanation and contestability
Designing decision notices and appeal routes people can use. Technical explanations do not by themselves make a decision contestable.
- 04
Audit and monitoring
Ongoing checks of outcomes and complaints after deployment.
Come viene studiato, e cosa i metodi non possono dire.
- 01Scienze sociali e comportamentaliStudi sulla supervisione umana · Ricerca sulle comunità interessate · Studi sull'adozione nei luoghi di lavoroApplicato qui
- 02Ingegneria della valutazione e dell'assicurazione dell'IACasi di garanzia per i sistemi di IA · Red teaming strutturato · Monitoraggio successivo all'impiegoApplicato qui
- 03Probabilità e statisticaIncertezza sui punteggi di riferimento · Valutazione della calibrazione · Campionamento per auditApplicato qui
- 04Intelligenza artificiale e apprendimento automaticoAnalisi degli spostamenti di distribuzione · Messa a punto per un uso specifico · Metodi di interpretabilitàApplicato qui
Where this page’s references lead.
Gli organismi e i documenti alla luce dei quali si legge questa pagina. Stato ed edizioni cambiano; ogni link porta all'organismo emittente.
Domande e risposte.
What is automated decision-making?
What is an algorithmic impact assessment?
Can people challenge an algorithmic decision?
Should public services use AI at all?
What is automation bias?
Can affected people use the platform’s work?
Does the platform evaluate specific government systems?
Contribuisci con evidenze da questa pagina.
Rapporti is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPortale GW-GCRIInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoDeposito apertoDepositalo e invialo alla comunitàPubblica il tuo registro su Zenodo con il tuo ORCID iD, poi invialo alla comunità Reports. I curatori lo esaminano; il DOI resta tuo.
- RapportiGCRIVedi tutti i modi per contribuireI tipi di contributo, come viene revisionato ciascuno, il riconoscimento che ricevi, la licenza e ciò che non è mai accettato.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Porta un metodo, un set di dati o una domanda.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.