GCRI · Искусственный интеллект и автономные системы
ИИ и государственные услуги
Governments use algorithms to target benefits, detect fraud, triage health care, allocate inspections, translate and answer citizens’ questions. When these системы are wrong, opaque or biased, people lose services and rights they depend on, often without knowing why. This page sets out how public sector AI succeeds and fails, how it is assessed and made accountable, and what evidence serves the agencies, auditors and citizens involved.
Как ведётся работа.
Реестр моделей
AI and public services · Model registry · Release gate
Модели
| M-843 triage assistant | Государственная услуга | Высокий | 22 of 24 suites | Заблокировано |
| M-266 flood nowcast | Наука | Средний | 11 из 12 | Выпущено |
| M-756 document search | Внутренний | Низкий | 8 of 8 | Выпущено |
| M-769 agent planner | Агентный | Высокий | 12 of 16 | Оценивается |
Карточка модели
- Назначение
- поддержка сортировки, решает человек
- Вне рамок
- решения о праве на получение услуг
- Известные ограничения
- более низкая точность в редких случаях
- Владелец
- Владелец модели
Журнал инцидентов
- D-13INCВыдуманная ссылка в резюме
- D-6MITДобавлена привязка к извлечённым источникам
- D-2INCВнедрение инструкций через загруженный файл
- D-1MITПрава инструмента сужены
Evaluation scores
vs release threshold
Рис.Model registry: example names and illustrative values, not a record or a live system.
AI and public services: how the risk develops.
Public accountability, access and rights. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Errors fall on the vulnerable
People who depend most on public services are often those most affected by automated decisions, and least able to challenge them.
Historical data carry bias
Models trained on past decisions can reproduce discrimination present in those decisions, even when protected characteristics are excluded.
Opacity blocks challenge
When people cannot see that an algorithm was used or why it produced a result, they cannot contest it, and errors persist.
Accountability stays with the agency
Procuring a system from a vendor does not transfer responsibility. Agencies must be able to explain, audit and override algorithmic decisions.
How AI and public services is modelled, measured and tested.
Модель, её допущения, данные и неопределённость в том виде, в каком их проверил бы учёный или инженер. Структуры следуют опубликованным методам. Показанные значения являются иллюстративными, а не результатами.
Модель системы
The couplings between the systems in AI and public services: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
AI in public services touches the domains people depend on.
- ЗдравоохранениеВзаимосвязиTriage and eligibility tools can encode bias.What to watchOutcomes by subgroup
- ПродовольствиеВзаимосвязиTargeting of assistance increasingly uses models.What to watchExclusion errors
- ВодаВзаимосвязиUtilities use AI for leak detection and demand forecasting.What to watchForecast error
Public service AI studies are designed for the серии «Аналитические справки по доказательной базе». The EU AI Act classifies many public-service uses as high-risk; UNESCO’s Recommendation (2021) and WHO guidance (2021) set ethical expectations.
- Algorithmic impact assessments a body publishes.
- Accounts from people affected by automated decisions.
Что измеряется и насколько хорошо.
Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.
| Индикатор | Единица | Периодичность | Тип источника | Метка |
|---|---|---|---|---|
| Public algorithm registers | count of системы registered | per update | Government algorithm registers | Опубликованная статистика |
| Algorithmic impact assessments completed | percent of deployed systems | ежегодно | Записи органов | ЗАДЕКЛАРИРОВАНО |
| Error rate by population group | difference in error rates | per audit | Algorithm audits | НАБЛЮДАЕМО |
| Decisions appealed and overturned | count and percent | ежегодно | Appeals records | Опубликованная статистика |
| Systems with human review of adverse decisions | percent of systems | на каждое рецензирование | Agency documentation | ЗАДЕКЛАРИРОВАНО |
| Audit findings on public sector algorithms | count by severity | per audit cycle | Audit office reports | СООБЩЕНО |
Откуда берётся доказательная база.
Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.
| Источник | Что он даёт | Класс лицензии |
|---|---|---|
| Government algorithm and AI registers, such as the UK Algorithmic Transparency Recording Standard records | Public records of algorithmic tools in use | Open, Open Government Licence where applicable |
| National audit office reports on algorithms | Independent audits of public sector AI | Public records, licence per office |
| OECD.AI Policy Observatory | Government AI policies and the AI Incidents Monitor | Public, OECD terms |
| Court and ombudsman decisions on automated decision-making | Legal findings on public sector algorithms | Публичные записи |
| Canada Directive on Automated Decision-Making and its impact assessment tool | A model for impact assessment requirements | Public, Government of Canada terms |
Кто принимает решения и чему служит доказательная база.
Студия «Искусственный интеллект и автономные Системная prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Кто принимает решение | Вопрос | Доказательная база, которую обслуживает эта страница |
|---|---|---|
| Government agencies | Whether and how to deploy an algorithm in a public service | Impact assessments; audit methods |
| Auditors and ombudspersons | Where to investigate algorithmic harm | Registers; appeals data; audit evidence |
| Законодательные органы | What transparency and accountability to require | Comparative policy and case evidence |
Результаты, которые даёт эта тема
- Impact assessment templates for public sector AI
- Audit methods for disaggregated error and fairness
- Transparency record templates
- Case studies of public sector algorithm failures and fixes
What public-sector technologists ask.
- Is the system accurate for the whole population it serves, including minority groups?
- Can affected people understand a decision, challenge it and get it corrected?
- Who is accountable when an automated decision is wrong?
- Does automation improve access, or does it create new barriers for people without digital skills or connections?
How automated decisions go wrong.
Системная trained on historical administrative data inherit its biases and gaps. Risk-scoring tools can concentrate scrutiny on groups already over-represented in past enforcement. Small error rates become large numbers of wrongly affected people at national scale. When staff defer to the system, known as automation bias, errors are not caught.
Opacity compounds harm: if neither public servants nor citizens can see why a decision was made, it is hard to contest and slow to correct. Access barriers arise when services move online without alternatives.
Evidence for accountable systems.
- 01
Оценка воздействия
Structured assessment of a system’s purpose, data, affected groups and safeguards before deployment, using социальные и поведенческие науки. Quality depends on honest completion.
- 02
Fairness and error analysis
Disaggregated error rates by group, with теорию вероятностей и статистику. Different fairness definitions can conflict, so trade-offs must be made explicit.
- 03
Explanation and contestability
Designing decision notices and appeal routes people can use. Technical explanations do not by themselves make a decision contestable.
- 04
Audit and monitoring
Ongoing checks of outcomes and complaints after deployment.
Как это изучается и чего методы не могут сказать.
- 01Социальные и поведенческие наукиИсследования человеческого надзора · Исследования затронутых сообществ · Исследования внедрения на рабочих местахПрименяется здесь
- 02Инженерия оценки и обеспечения уверенности в ИИОбоснования для обеспечения уверенности в системах ИИ · Структурированное тестирование «красной командой» · Мониторинг после развёртыванияПрименяется здесь
- 03Теория вероятностей и статистикаНеопределённость оценок на эталонных тестах · Оценка калибровки · Выборка для аудитаПрименяется здесь
- 04Искусственный интеллект и машинное обучениеАнализ сдвига распределения · Дообучение для конкретного применения · Методы интерпретируемостиПрименяется здесь
Where this page’s references lead.
Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.
Вопросы и ответы.
What is automated decision-making?
What is an algorithmic impact assessment?
Can people challenge an algorithmic decision?
Should public services use AI at all?
What is automation bias?
Can affected people use the platform’s work?
Does the platform evaluate specific government systems?
Поделитесь доказательствами с этой страницы.
Отчёты is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Электронная почтаШлюз GW-GCRIОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoОткрытый депозитДепонируйте и подайте в сообществоОпубликуйте собственную запись на Zenodo со своим идентификатором ORCID iD, затем подайте её в сообщество Reports. Кураторы проверяют её; DOI остаётся за вами.
- ОтчётыGCRIВсе способы внести вкладВиды вклада, порядок рецензирования каждого из них, указание авторства, лицензия и то, что никогда не принимается.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Предложите метод, набор данных или вопрос.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.