Skip to content

GCRI · Технологии

Искусственный интеллект и машинное обучение

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.

02Метод

What artificial intelligence and machine learning covers.

  1. 01

    Основные методы

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    Данные и приборы

    размеченные обучающие наборы данных; архивы данных датчиков и изображений; текстовые корпуса; результаты моделирования; наборы эталонных тестов.

  3. 03

    Валидация

    Модели оцениваются на отложенных данных с учётом пространственной, временной и групповой структуры. Устойчивость, калибровка и справедливость проверяются наряду с точностью.

  4. 04

    Ограничения

    Эффективность снижается, когда условия развёртывания отличаются от обучающих данных. Модели могут кодировать предвзятость и давать сбои без явного предупреждения при редких событиях.

  5. 05

    Использование в решениях о рисках

    Машинное обучение позволяет масштабировать обнаружение и прогнозирование во взаимосвязанных системы. Его собственные режимы отказов необходимо учитывать, когда автоматизированные результаты используются при принятии значимых решений.

03Эталонная практика

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

СправкаЧто устанавливает
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)Reporting of prediction models, including machine-learning extensions
04Процесс

Как устроен процесс.

Process explorer · Process

Artificial intelligence and machine learning: AI risk management (NIST)

9 steps5 stages1 gate

Процесс

Artificial intelligence and machine learning: AI risk management (NIST)

Ядро AI RMF содержит четыре функции: GOVERN, MAP, MEASURE и MANAGE, причём GOVERN является сквозной; показанный порядок представляет собой одно из распространённых прочтений, а не контрольный перечень.

  1. 01 Управление

    1. 01GOVERN: политики, роли и подотчётностьШаг · Независимый рецензентGOVERN является сквозной функцией. Она пронизывает всё управление рисками ИИ и обеспечивает работу остальных функций.
  2. 02 Map

    1. 02MAP: контекст и предполагаемое использованиеНабор данныхФункция MAP устанавливает контекст для определения рисков, связанных с системой ИИ, включая предполагаемые цели и воздействие на людей.
  3. 03 Измерение

    1. 03MEASURE: оценка характеристик, обеспечивающих довериеМодельAI системы ИИ оцениваются на соответствие характеристикам надёжности. Их следует тестировать перед внедрением и регулярно в ходе эксплуатации.
    2. 04MEASURE: отслеживание выявленных рисков во времениМодельДействуют механизмы отслеживания выявленных рисков ИИ во времени, включая непредвиденные и возникающие риски.
  4. 04 Управление

    1. 05MANAGE: обработка рисковШагОбработка риска охватывают реагирование на инциденты, восстановление после них и информирование о них. Ресурсы направляются на выявленные и измеренные риски.
    2. 06Продолжать или нет (MANAGE 1.1)Контрольная точка · Независимый рецензентОпределяется, соответствует ли система своим целям и задачам и следует ли продолжать работу. Рамочный подход не устанавливает пороговых значений.
    3. 07Решение о внедренииРешение · Независимый рецензентОрганизация, которой принадлежит система, решает, развёртывать ли её и на каких условиях.
    4. 08Мониторинг после внедрения и инцидентыМодельПланы мониторинга после внедрения реализуются. Информация об инцидентах и ошибках передаётся соответствующим участникам сферы ИИ, включая затронутые сообщества.
  5. 05 Запись

    1. 09Инвентаризация систем ИИНабор данныхGOVERN 1.6 требует механизмов инвентаризации систем ИИ. Карточка модели является распространённой практикой и в рамочном документе не названа.

Нейтральное описание опубликованного внешнего стандарта или метода, составленное по материалам выпустившей его организации. Не является записью об эксплуатации. Nexus не выполняет, не сертифицирует и не утверждает ни один из показанных шагов. Контрольная точка или решение относятся к стороне, названной в источнике. Действия не обязательно образуют упорядоченный набор шагов. Закон ЕС об ИИ (EU AI Act) в этой схеме не отражён.

05В работе по системным рискам

Быстрые эмуляторы, хрупкая экстраполяция.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

  • Проверяйте качество работы за пределами распределения обучающих данных, а не только на отложенных выборках за тот же период.
  • Report training data provenance and licence.
  • Keep a physical or mechanistic check where one exists.
  • Заявки на ИИ и автономные системы и Лаборатории.
07Ведение и сопровождение

Кто ведёт эту страницу.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08Источники

Where this page’s references lead.

Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.

09Вопросы

Вопросы и ответы.

Почему одно учреждение размещает все страницы методов?
GCRI размещает STEM Commons, чтобы у каждого метода было одно каноническое описание. Платформы ссылаются на него, а не повторяют его, что обеспечивает согласованность определений.
Как предложить исправление к странице метода?
Пишите форму сообщения о проблемах добросовестности , указав фрагмент и причину.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

GCRI
Global Centre for Risk and Innovation

Предложите метод, набор данных или вопрос.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.