GCRI · Yapay Zekâ ve Otonom Sistemler
Yapay zekâ ve kamu hizmetleri
Governments use algorithms to target benefits, detect fraud, triage health care, allocate inspections, translate and answer citizens’ questions. When these sistemleri are wrong, opaque or biased, people lose services and rights they depend on, often without knowing why. This page sets out how public sector AI succeeds and fails, how it is assessed and made accountable, and what evidence serves the agencies, auditors and citizens involved.
İşin nasıl yürüdüğü.
Model kaydı
AI and public services · Model registry · Release gate
Modeller
| M-843 triage assistant | Kamu hizmeti | Yüksek | 22 of 24 suites | Engellendi |
| M-266 flood nowcast | Bilim | Orta | 12 içinden 11 | Yayımlandı |
| M-756 document search | Dahili | Düşük | 8 of 8 | Yayımlandı |
| M-769 agent planner | Ajan temelli | Yüksek | 12 of 16 | Değerlendiriliyor |
Model kartı
- Amaçlanan kullanım
- triyaj desteği, karar insanda
- Kapsam dışı
- uygunluk kararları
- Bilinen sınırlar
- nadir durumlarda daha düşük doğruluk
- Sahip
- Model sahibi
Olay günlüğü
- D-13INCÖzette uydurma atıf
- D-6MITGeri getirme temellendirmesi eklendi
- D-2INCYüklenen dosya üzerinden istem enjeksiyonu
- D-1MITAraç izni daraltıldı
Evaluation scores
vs release threshold
Şek.Model registry: example names and illustrative values, not a record or a live system.
AI and public services: how the risk develops.
Public accountability, access and rights. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Errors fall on the vulnerable
People who depend most on public services are often those most affected by automated decisions, and least able to challenge them.
Historical data carry bias
Models trained on past decisions can reproduce discrimination present in those decisions, even when protected characteristics are excluded.
Opacity blocks challenge
When people cannot see that an algorithm was used or why it produced a result, they cannot contest it, and errors persist.
Accountability stays with the agency
Procuring a system from a vendor does not transfer responsibility. Agencies must be able to explain, audit and override algorithmic decisions.
How AI and public services is modelled, measured and tested.
Model, varsayımları, verileri ve belirsizliği, bir bilim insanının veya mühendisin kontrol edeceği biçimde. Yapılar yayımlanmış yöntemleri izler. Çizilen değerler bulgu değil, açıklayıcıdır.
Sistem modeli
The couplings between the systems in AI and public services: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
AI in public services touches the domains people depend on.
Public service AI studies are designed for the Kanıt Özeti serisi. The EU AI Act classifies many public-service uses as high-risk; UNESCO’s Recommendation (2021) and WHO guidance (2021) set ethical expectations.
- Algorithmic impact assessments a body publishes.
- Accounts from people affected by automated decisions.
Neyin ve ne kadar iyi ölçüldüğü.
Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.
| Gösterge | Birim | Sıklık | Kaynak türü | Etiket |
|---|---|---|---|---|
| Public algorithm registers | count of sistemleri registered | per update | Government algorithm registers | Yayımlanmış istatistikler |
| Algorithmic impact assessments completed | percent of deployed systems | yıllık | Ajans kayıtları | BEYAN EDİLDİ |
| Error rate by population group | difference in error rates | per audit | Algorithm audits | GÖZLENEN |
| Decisions appealed and overturned | count and percent | yıllık | Appeals records | Yayımlanmış istatistikler |
| Systems with human review of adverse decisions | percent of systems | inceleme başına | Agency documentation | BEYAN EDİLDİ |
| Audit findings on public sector algorithms | count by severity | per audit cycle | Audit office reports | BİLDİRİLMİŞ |
Kanıtın nereden geldiği.
Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.
| Kaynak | Sağladıkları | Lisans sınıfı |
|---|---|---|
| Government algorithm and AI registers, such as the UK Algorithmic Transparency Recording Standard records | Public records of algorithmic tools in use | Open, Open Government Licence where applicable |
| National audit office reports on algorithms | Independent audits of public sector AI | Public records, licence per office |
| OECD.AI Politika Gözlemevi | Government AI policies and the AI Incidents Monitor | Public, OECD terms |
| Court and ombudsman decisions on automated decision-making | Legal findings on public sector algorithms | Kamu kayıtları |
| Canada Directive on Automated Decision-Making and its impact assessment tool | A model for impact assessment requirements | Public, Government of Canada terms |
Kim karar verir ve kanıt neye hizmet eder.
Yapay Zekâ ve Otonom Sistem prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Kim karar verir | Soru | Bu sayfanın hizmet ettiği kanıt |
|---|---|---|
| Government agencies | Whether and how to deploy an algorithm in a public service | Impact assessments; audit methods |
| Auditors and ombudspersons | Where to investigate algorithmic harm | Registers; appeals data; audit evidence |
| Yasama organları | What transparency and accountability to require | Comparative policy and case evidence |
Bu konunun ürettiği çıktılar
- Impact assessment templates for public sector AI
- Audit methods for disaggregated error and fairness
- Transparency record templates
- Case studies of public sector algorithm failures and fixes
What public-sector technologists ask.
- Is the system accurate for the whole population it serves, including minority groups?
- Can affected people understand a decision, challenge it and get it corrected?
- Who is accountable when an automated decision is wrong?
- Does automation improve access, or does it create new barriers for people without digital skills or connections?
How automated decisions go wrong.
Sistem trained on historical administrative data inherit its biases and gaps. Risk-scoring tools can concentrate scrutiny on groups already over-represented in past enforcement. Small error rates become large numbers of wrongly affected people at national scale. When staff defer to the system, known as automation bias, errors are not caught.
Opacity compounds harm: if neither public servants nor citizens can see why a decision was made, it is hard to contest and slow to correct. Access barriers arise when services move online without alternatives.
Evidence for accountable systems.
- 01
Etki değerlendirmesi
Structured assessment of a system’s purpose, data, affected groups and safeguards before deployment, using sosyal ve davranış bilimi. Quality depends on honest completion.
- 02
Fairness and error analysis
Disaggregated error rates by group, with olasılık ve istatistiği. Different fairness definitions can conflict, so trade-offs must be made explicit.
- 03
Explanation and contestability
Designing decision notices and appeal routes people can use. Technical explanations do not by themselves make a decision contestable.
- 04
Audit and monitoring
Ongoing checks of outcomes and complaints after deployment.
Nasıl incelendiği ve yöntemlerin söyleyemeyecekleri.
- 01Sosyal ve davranış bilimleriİnsan gözetimi çalışmaları · Etkilenen topluluk araştırması · İşyerinde benimseme çalışmalarıBurada uygulanır
- 02Yapay zekâ değerlendirme ve güvence mühendisliğiYapay zekâ sistemleri için güvence gerekçeleri · Yapılandırılmış kırmızı takım çalışması · Kullanıma alma sonrası izlemeBurada uygulanır
- 03Olasılık ve istatistikKıyaslama puanlarındaki belirsizlik · Kalibrasyon değerlendirmesi · Denetim örneklemesiBurada uygulanır
- 04Yapay zekâ ve makine öğrenmesiDağılım kayması analizi · Belirli bir kullanım için ince ayar · Yorumlanabilirlik yöntemleriBurada uygulanır
Where this page’s references lead.
Bu sayfanın karşılaştırıldığı kuruluşlar ve belgeler. Durumlar ve sürümler değişir; her bağlantı yayımlayan kuruluşa gider.
Sorular ve yanıtlar.
What is automated decision-making?
What is an algorithmic impact assessment?
Can people challenge an algorithmic decision?
Should public services use AI at all?
What is automation bias?
Can affected people use the platform’s work?
Does the platform evaluate specific government systems?
Bu sayfadan kanıt katkısında bulunun.
Raporlar is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-postaGW-GCRI geçidiBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoAçık depoDepolayın ve topluluğa gönderinKendi kaydınızı ORCID iD'nizle Zenodo'da yayımlayın, ardından orada Reports topluluğuna gönderin. Küratörler inceler; DOI sizde kalır.
- RaporlarGCRIKatkıda bulunmanın tüm yollarını görünKatkı türleri, her birinin nasıl incelendiği, alacağınız atıf, lisans ve asla kabul edilmeyenler.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir yöntem, bir veri seti ya da bir soru getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.