Skip to content

GCRI · Foundry

ИИ и машинное обучение в Foundry

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02Заявка

Что здесь делают искусственный интеллект и машинное обучение.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Карточки моделей и записи о продвижении

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

Scoped agents with receipts

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03Мониторинг

Обучение модели.

Экран, который команда использовала бы для следования этому методу: его показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.

Обучение модели

Foundry · AI and machine learning at Foundry · Run R-6794

Drift on one sliceGCRI · Foundry

Оценка по срезам

Все0.830.025712Пролёт
Регион A0.740.051098Рецензирование
Регион B0.760.05458Рецензирование
Редкий класс0.640.07160Ниже порога

Карточка метода

Метод
Искусственный интеллект и машинное обучение
Разделение
по времени, без утечки
Особенности
22
Метка
СМОДЕЛИРОВАНО

Стабильность населения

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04Данные

Что потребляет метод.

Используемые на этой платформе наборы данных и записи по направлению «Искусственный интеллект и машинное обучение», с ролью каждого и меткой, которую несут его значения. Источники перечислены в реестре источников.

ДанныеРольМетка
Labelled training setsОбучение с учителемСООБЩЕНО
Satellite image archivesInputs to classificationНАБЛЮДАЕМО
Held-out and out-of-distribution test setsОценкаНАБЛЮДАЕМО
Записи оценки и испытаний методом «красной команды»Promotion decisionsСООБЩЕНО
Datasheets for training dataOrigin, consent and licenceЗАДЕКЛАРИРОВАНО
05Методы и доказательная база

How AI and machine learning at Foundry is modelled, measured and tested.

Модель, её допущения, данные и неопределённость в том виде, в каком их проверил бы учёный или инженер. Структуры следуют опубликованным методам. Показанные значения являются иллюстративными, а не результатами.

Модель, уравнения и допущения

The model structure used for AI and machine learning at Foundry, the assumptions it makes and how each is tested.

Риск элемента iRi = f(Hi, Ei, Vi, Ci)опасность, подверженность, уязвимость и потенциал реагирования
Ожидаемый годовой ущербEAL = ∑k pk · Lkover events k with annual probability pk
Связанные системыxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
ДопущениеЗачем это создаётсяКак это проверяется
В пределах события опасность и подверженность независимыДелает интеграл убытков вычислимымСравнить с подгонкой копулы по совместным записям
Вблизи рабочей точки связи линейныПозволяет потрясениям распространяться через AВыйдите за пределы линейного диапазона и сравните
Кривые уязвимости переносятся между местамиМестные кривые редко доступныПроверять по наблюдаемым убыткам там, где они есть
Исходные данные
версионированные наборы данных с указанием происхождения
Результаты
распределения, а не отдельные числа
Код
выпускается вместе с карточкой модели и тестами
Воспроизведение
те же данные, код, среда и начальное значение
Стандартные формулировки риска и пространства состояний; перечисленные допущения типичны для метода и приведены для рецензирования, а не как результаты.
Руководящие принципы FAIR · GO FAIR и FORCE11W3C PROV · Консорциум Всемирной паутиныРуководство по единообразному учёту неопределённостей · МГЭИКCEOS Analysis Ready Data · Комитет по спутникам наблюдения Земли
06Валидация

Как проверяются результаты.

Модели оцениваются на отложенных данных с учётом пространственной, временной и групповой структуры. Устойчивость, калибровка и справедливость проверяются наряду с точностью.

ПроверкаКак это делается
Spatial and temporal hold-outTest data are separated in space and time from training data to prevent leakage
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
Мониторинг дрейфаInput and output distributions in use are compared with those at validation, and divergence triggers review
Состязательное тестированиеModels and agents are tested against prompt injection and misuse before promotion

Эффективность снижается, когда условия развёртывания отличаются от обучающих данных. Модели могут кодировать предвзятость и давать сбои без явного предупреждения при редких событиях.

07Процесс

Как устроен процесс.

Process explorer · Process

ИИ и машинное обучение в Foundry: управление рисками ИИ (NIST)

9 steps5 stages1 gate

Процесс

ИИ и машинное обучение в Foundry: управление рисками ИИ (NIST)

Ядро AI RMF содержит четыре функции: GOVERN, MAP, MEASURE и MANAGE, причём GOVERN является сквозной; показанный порядок представляет собой одно из распространённых прочтений, а не контрольный перечень.

  1. 01 Управление

    1. 01GOVERN: политики, роли и подотчётностьШаг · Распорядитель моделиGOVERN является сквозной функцией. Она пронизывает всё управление рисками ИИ и обеспечивает работу остальных функций.
  2. 02 Map

    1. 02MAP: контекст и предполагаемое использованиеНабор данныхФункция MAP устанавливает контекст для определения рисков, связанных с системой ИИ, включая предполагаемые цели и воздействие на людей.
  3. 03 Измерение

    1. 03MEASURE: оценка характеристик, обеспечивающих довериеМодельAI системы ИИ оцениваются на соответствие характеристикам надёжности. Их следует тестировать перед внедрением и регулярно в ходе эксплуатации.
    2. 04MEASURE: отслеживание выявленных рисков во времениМодельДействуют механизмы отслеживания выявленных рисков ИИ во времени, включая непредвиденные и возникающие риски.
  4. 04 Управление

    1. 05MANAGE: обработка рисковШагОбработка риска охватывают реагирование на инциденты, восстановление после них и информирование о них. Ресурсы направляются на выявленные и измеренные риски.
    2. 06Proceed or not (MANAGE 1.1)Gate · Model stewardA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Решение о внедренииРешение · Распорядитель моделиОрганизация, которой принадлежит система, решает, развёртывать ли её и на каких условиях.
    4. 08Мониторинг после внедрения и инцидентыМодельПланы мониторинга после внедрения реализуются. Информация об инцидентах и ошибках передаётся соответствующим участникам сферы ИИ, включая затронутые сообщества.
  5. 05 Запись

    1. 09Инвентаризация систем ИИНабор данныхGOVERN 1.6 требует механизмов инвентаризации систем ИИ. Карточка модели является распространённой практикой и в рамочном документе не названа.

Нейтральное описание опубликованного внешнего стандарта или метода, составленное по материалам выпустившей его организации. Не является записью об эксплуатации. Nexus не выполняет, не сертифицирует и не утверждает ни один из показанных шагов. Контрольная точка или решение относятся к стороне, названной в источнике. Действия не обязательно образуют упорядоченный набор шагов. Закон ЕС об ИИ (EU AI Act) в этой схеме не отражён.

09Ведение и сопровождение

Кто ведёт метод.

«Искусственным интеллектом и автономными системами» ведёт и сопровождает искусственный интеллект и машинное обучение для Консорциума и проводит рецензирование их применения на платформах.

11Вопросы

Вопросы и ответы.

Каковы пределы искусственного интеллекта и машинного обучения в этой области?
Эффективность снижается, когда условия развёртывания отличаются от обучающих данных. Модели могут кодировать предвзятость и давать сбои без явного предупреждения при редких событиях.
Как проверяются результаты?
Модели оцениваются на отложенных данных с учётом пространственной, временной и групповой структуры. Устойчивость, калибровка и справедливость проверяются наряду с точностью.
Значения на этой странице реальные?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Где ещё применяется этот метод?
Observatory Каноническая страница метода перечисляет все применяющие его платформы.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

GCRIFoundryFoundry Build and Readiness
Foundry

Предложите метод, набор данных или вопрос.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.