GCRI · Технологии
Искусственный интеллект и машинное обучение
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.
Artificial intelligence and machine learning in six parts.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Reference practiceMachine learning in risk work is governed by AI risk frameworks and reporting standards
- 03In systemic risk workFast emulators, fragile extrapolation
- 04Применяется вПлатформы, применяющие этот метод
- 05Ведение и сопровождениеКто ведёт эту страницу
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
Основные методы
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
Данные и приборы
размеченные обучающие наборы данных; архивы данных датчиков и изображений; текстовые корпуса; результаты моделирования; наборы эталонных тестов.
- 03
Валидация
Модели оцениваются на отложенных данных с учётом пространственной, временной и групповой структуры. Устойчивость, калибровка и справедливость проверяются наряду с точностью.
- 04
Ограничения
Эффективность снижается, когда условия развёртывания отличаются от обучающих данных. Модели могут кодировать предвзятость и давать сбои без явного предупреждения при редких событиях.
- 05
Использование в решениях о рисках
Машинное обучение позволяет масштабировать обнаружение и прогнозирование во взаимосвязанных системы. Его собственные режимы отказов необходимо учитывать, когда автоматизированные результаты используются при принятии значимых решений.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| Справка | Что устанавливает |
|---|---|
| NIST AI RMF | Risk management functions for AI systems |
| ISO/IEC 42001 | AI management systems |
| TRIPOD (EQUATOR) | Reporting of prediction models, including machine-learning extensions |
Как устроен процесс.
Process explorer · Process
Artificial intelligence and machine learning: AI risk management (NIST)
9 steps·5 stages·1 gate
Процесс
Artificial intelligence and machine learning: AI risk management (NIST)
Ядро AI RMF содержит четыре функции: GOVERN, MAP, MEASURE и MANAGE, причём GOVERN является сквозной; показанный порядок представляет собой одно из распространённых прочтений, а не контрольный перечень.
01 Управление
- 01GOVERN: политики, роли и подотчётностьШаг · Независимый рецензентGOVERN является сквозной функцией. Она пронизывает всё управление рисками ИИ и обеспечивает работу остальных функций.
02 Map
- 02MAP: контекст и предполагаемое использованиеНабор данныхФункция MAP устанавливает контекст для определения рисков, связанных с системой ИИ, включая предполагаемые цели и воздействие на людей.
03 Измерение
- 03MEASURE: оценка характеристик, обеспечивающих довериеМодельAI системы ИИ оцениваются на соответствие характеристикам надёжности. Их следует тестировать перед внедрением и регулярно в ходе эксплуатации.
- 04MEASURE: отслеживание выявленных рисков во времениМодельДействуют механизмы отслеживания выявленных рисков ИИ во времени, включая непредвиденные и возникающие риски.
04 Управление
- 05MANAGE: обработка рисковШагОбработка риска охватывают реагирование на инциденты, восстановление после них и информирование о них. Ресурсы направляются на выявленные и измеренные риски.
- 06Продолжать или нет (MANAGE 1.1)Контрольная точка · Независимый рецензентОпределяется, соответствует ли система своим целям и задачам и следует ли продолжать работу. Рамочный подход не устанавливает пороговых значений.
- 07Решение о внедренииРешение · Независимый рецензентОрганизация, которой принадлежит система, решает, развёртывать ли её и на каких условиях.
- 08Мониторинг после внедрения и инцидентыМодельПланы мониторинга после внедрения реализуются. Информация об инцидентах и ошибках передаётся соответствующим участникам сферы ИИ, включая затронутые сообщества.
05 Запись
- 09Инвентаризация систем ИИНабор данныхGOVERN 1.6 требует механизмов инвентаризации систем ИИ. Карточка модели является распространённой практикой и в рамочном документе не названа.
Нейтральное описание опубликованного внешнего стандарта или метода, составленное по материалам выпустившей его организации. Не является записью об эксплуатации. Nexus не выполняет, не сертифицирует и не утверждает ни один из показанных шагов. Контрольная точка или решение относятся к стороне, названной в источнике. Действия не обязательно образуют упорядоченный набор шагов. Закон ЕС об ИИ (EU AI Act) в этой схеме не отражён.
Быстрые эмуляторы, хрупкая экстраполяция.
Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.
- Проверяйте качество работы за пределами распределения обучающих данных, а не только на отложенных выборках за тот же период.
- Report training data provenance and licence.
- Keep a physical or mechanistic check where one exists.
- Заявки на ИИ и автономные системы и Лаборатории.
Платформы, применяющие этот метод.
- ЛабораторииУчреждениеGCRI
- FoundryInstitutionGCRI
- «Искусственным интеллектом и автономными системами»УчреждениеGCRI
- «Будущим труда и навыков»УчреждениеGCRI
- Innovation NexusInstitutionGRF
- «Управление ИИ и цифровыми технологиями»УчреждениеGRF
- Информационная добросовестность и общественное довериеУчреждениеGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- Риски ИИ и финансовых моделейУчреждениеGRA
- Риски финансовых преступлений и мошенничестваУчреждениеGRA
Кто ведёт эту страницу.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.
Вопросы и ответы.
Почему одно учреждение размещает все страницы методов?
Как предложить исправление к странице метода?
Поделитесь доказательствами с этой страницы.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
- Электронная почтаШлюз GW-GCRIОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ОтчётыGCRIВсе способы внести вкладВиды вклада, порядок рецензирования каждого из них, указание авторства, лицензия и то, что никогда не принимается.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Предложите метод, набор данных или вопрос.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.