Skip to content

GCRI · Области работы в рамках Консорциума

Искусственный интеллект

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

02Три мандата

Область, увиденная тремя способами.

03Системный вопрос

From model failure to systemic effect.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

УровеньTypical riskОценка
МодельRobustness, bias, capability for misuseEvaluations and red teaming
СистемнаяIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
УчреждениеUnclear accountability, missing incident responseManagement system audit (ISO/IEC 42001)
ЭкосистемаОднородность, концентрация, коррелированные сбоиMarket and dependency analysis
04Рамочные подходы

Risk frameworks and law.

Рамочная программа или органЧто он регулирует или обеспечивает
NIST AI RMF and its generative AI profileGovern, map, measure and manage functions
ISO/IEC 42001 и ISO/IEC 23894AI management systems and AI risk management guidance
Закон ЕС об искусственном интеллекте (EU AI Act)Обязательства с учётом уровня риска вводятся поэтапно; актуальные сроки по каждому обязательству следует уточнять
OECD AI Principles and UNESCO Recommendation on the Ethics of AIIntergovernmental principles
05Взаимосвязи

Where AI risk lands.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

08Вопросы

Вопросы и ответы.

Почему GCRI размещает полевые шлюзы?
GCRI hosts the shared references of the Consortium, including the STEM Commons and the field gateways, so each field has one place that links all three institutions’ work.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

GCRI
Global Centre for Risk and Innovation

Предложите метод, набор данных или вопрос.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.