Earth observation models with spatial validation
Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.
GCRI · Foundry
Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.
Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.
Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.
Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.
Экран, который команда использовала бы для следования этому методу: его показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.
Foundry · AI and machine learning at Foundry · Run R-6794
| Все | 0.83 | 0.02 | 5712 | Пролёт |
| Регион A | 0.74 | 0.05 | 1098 | Рецензирование |
| Регион B | 0.76 | 0.05 | 458 | Рецензирование |
| Редкий класс | 0.64 | 0.07 | 160 | Ниже порога |
Используемые на этой платформе наборы данных и записи по направлению «Искусственный интеллект и машинное обучение», с ролью каждого и меткой, которую несут его значения. Источники перечислены в реестре источников.
| Данные | Роль | Метка |
|---|---|---|
| Labelled training sets | Обучение с учителем | СООБЩЕНО |
| Satellite image archives | Inputs to classification | НАБЛЮДАЕМО |
| Held-out and out-of-distribution test sets | Оценка | НАБЛЮДАЕМО |
| Записи оценки и испытаний методом «красной команды» | Promotion decisions | СООБЩЕНО |
| Datasheets for training data | Origin, consent and licence | ЗАДЕКЛАРИРОВАНО |
Модель, её допущения, данные и неопределённость в том виде, в каком их проверил бы учёный или инженер. Структуры следуют опубликованным методам. Показанные значения являются иллюстративными, а не результатами.
The model structure used for AI and machine learning at Foundry, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)опасность, подверженность, уязвимость и потенциал реагированияEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Допущение | Зачем это создаётся | Как это проверяется |
|---|---|---|
| В пределах события опасность и подверженность независимы | Делает интеграл убытков вычислимым | Сравнить с подгонкой копулы по совместным записям |
| Вблизи рабочей точки связи линейны | Позволяет потрясениям распространяться через A | Выйдите за пределы линейного диапазона и сравните |
| Кривые уязвимости переносятся между местами | Местные кривые редко доступны | Проверять по наблюдаемым убыткам там, где они есть |
Модели оцениваются на отложенных данных с учётом пространственной, временной и групповой структуры. Устойчивость, калибровка и справедливость проверяются наряду с точностью.
| Проверка | Как это делается |
|---|---|
| Spatial and temporal hold-out | Test data are separated in space and time from training data to prevent leakage |
| Probability calibration | Predicted probabilities are compared with observed frequencies on held-out data |
| Мониторинг дрейфа | Input and output distributions in use are compared with those at validation, and divergence triggers review |
| Состязательное тестирование | Models and agents are tested against prompt injection and misuse before promotion |
Эффективность снижается, когда условия развёртывания отличаются от обучающих данных. Модели могут кодировать предвзятость и давать сбои без явного предупреждения при редких событиях.
Process explorer · Process
9 steps·5 stages·1 gate
Процесс
Ядро AI RMF содержит четыре функции: GOVERN, MAP, MEASURE и MANAGE, причём GOVERN является сквозной; показанный порядок представляет собой одно из распространённых прочтений, а не контрольный перечень.
Нейтральное описание опубликованного внешнего стандарта или метода, составленное по материалам выпустившей его организации. Не является записью об эксплуатации. Nexus не выполняет, не сертифицирует и не утверждает ни один из показанных шагов. Контрольная точка или решение относятся к стороне, названной в источнике. Действия не обязательно образуют упорядоченный набор шагов. Закон ЕС об ИИ (EU AI Act) в этой схеме не отражён.
«Искусственным интеллектом и автономными системами» ведёт и сопровождает искусственный интеллект и машинное обучение для Консорциума и проводит рецензирование их применения на платформах.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.
The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.
Этот сайт использует только строго необходимые файлы cookie для своей работы и для сохранения ваших настроек конфиденциальности. Ничего не загружается от других компаний, и мы никогда не продаём и не передаём вашу личную информацию.
Этот сайт использует только строго необходимые файлы cookie для своей работы и для сохранения ваших настроек конфиденциальности. Ничего не загружается от других компаний, и мы никогда не продаём и не передаём вашу личную информацию. Мы не размещаем рекламу. Вы можете в любое время пересмотреть свой выбор в разделе «Настройки конфиденциальности» внизу каждой страницы.
Политика в отношении файлов cookieПолитика конфиденциальности