GCRI · Области работы в рамках Консорциума
Искусственный интеллект
AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.
Artificial intelligence in six parts.
Область, увиденная тремя способами.
Наука и доказательная база
«Искусственным интеллектом и автономными системами», «Будущим труда и навыков».
From model failure to systemic effect.
Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.
| Уровень | Typical risk | Оценка |
|---|---|---|
| Модель | Robustness, bias, capability for misuse | Evaluations and red teaming |
| Системная | Integration errors, over-reliance, data leakage | Impact assessment, human oversight design |
| Учреждение | Unclear accountability, missing incident response | Management system audit (ISO/IEC 42001) |
| Экосистема | Однородность, концентрация, коррелированные сбои | Market and dependency analysis |
Risk frameworks and law.
| Рамочная программа или орган | Что он регулирует или обеспечивает |
|---|---|
| NIST AI RMF and its generative AI profile | Govern, map, measure and manage functions |
| ISO/IEC 42001 и ISO/IEC 23894 | AI management systems and AI risk management guidance |
| Закон ЕС об искусственном интеллекте (EU AI Act) | Обязательства с учётом уровня риска вводятся поэтапно; актуальные сроки по каждому обязательству следует уточнять |
| OECD AI Principles and UNESCO Recommendation on the Ethics of AI | Intergovernmental principles |
Where AI risk lands.
- Compute: capability concentration and energy demand.
- Work: task exposure and transition.
- добросовестность информации: синтетический контент и доверие.
- Financial stability: model risk and herding.
The science sits on AI and Autonomous Systems; methods start from AI assurance.
Методы, лежащие в основе области.
- Искусственный интеллект и машинное обучение
- Инженерия оценки и обеспечения уверенности в ИИ
- Высокопроизводительные, облачные и периферийные вычисления
- Теория вероятностей и статистика
- Кибербезопасность и криптография
- Социальные и поведенческие науки
- Робототехника и автоматизация
- Экономика и экономика развития
- Эконометрика
- Наука о политике, институтах и решениях
- Системная инженерия
- Цифровая идентичность и общественные цифровые системы
- Количественная оценка неопределённости и валидация моделей
Where this page’s references lead.
Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.
- Рамочная программа управления рисками ИИ NIST (NIST AI Risk Management Framework)
- ISO/IEC 42001:2023 Системы менеджмента искусственного интеллекта (ISO)
- Закон ЕС об искусственном интеллекте, график применения (Европейская комиссия)
- Принципы ОЭСР в области ИИ
- Рекомендация ЮНЕСКО об этических аспектах искусственного интеллекта
- Международный доклад по безопасности ИИ
Вопросы и ответы.
Почему GCRI размещает полевые шлюзы?
Поделитесь доказательствами с этой страницы.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
- Электронная почтаШлюз GW-GCRIОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ОтчётыGCRIВсе способы внести вкладВиды вклада, порядок рецензирования каждого из них, указание авторства, лицензия и то, что никогда не принимается.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Предложите метод, набор данных или вопрос.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.