Earth observation models with spatial validation
Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.
GCRI · Foundry
Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.
Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.
Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.
Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.
A tela que uma equipe usaria para acompanhar este método: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.
Foundry · IA e aprendizado de máquina na Foundry · Execução R-6794
| Tudo | 0.83 | 0.02 | 5712 | Aprovado |
| Região A | 0.74 | 0.05 | 1098 | Análise |
| Região B | 0.76 | 0.05 | 458 | Análise |
| Classe rara | 0.64 | 0.07 | 160 | Abaixo do patamar |
Conjuntos de dados e registros usados pela inteligência artificial e pelo aprendizado de máquina nesta plataforma, com o papel que cada um desempenha e a etiqueta que seus valores levam. As fontes estão listadas no registro de fontes.
| Dados | Função | Rótulo |
|---|---|---|
| Labelled training sets | Aprendizado supervisionado | REPORTADO |
| Satellite image archives | Inputs to classification | OBSERVADO |
| Held-out and out-of-distribution test sets | Avaliação | OBSERVADO |
| Registros de avaliação e de red team | Decisões de promoção | REPORTADO |
| Fichas técnicas para dados de treinamento | Origin, consent and licence | DECLARADO |
O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.
A estrutura de modelo usada para IA e aprendizado de máquina no Foundry, as premissas que adota e como cada uma é testada.
Ri = f(Hi, Ei, Vi, Ci)ameaça, exposição, vulnerabilidade e capacidade de enfrentamentoEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Pressuposto | Porque é feito | Como é testado |
|---|---|---|
| A ameaça e a exposição são independentes dentro de um evento | Mantém tratável o integral de perdas | Comparar com um ajuste de cópula sobre registros conjuntos |
| Os acoplamentos são lineares perto do ponto de funcionamento | Permite que os choques se propaguem através de A | Perturbar para além do intervalo linear e comparar |
| As curvas de vulnerabilidade transferem-se entre lugares | As curvas locais raramente estão disponíveis | Validar face às perdas observadas quando existam |
Os modelos são avaliados com dados reservados que respeitam a estrutura espacial, temporal e de grupos. A robustez, a calibração e a equidade são testadas ao lado da exatidão.
| Verificar | Como é feito |
|---|---|
| Retenção espacial e temporal de dados (hold-out) | Os dados de teste são separados dos dados de treinamento no espaço e no tempo para evitar vazamento |
| Probability calibration | Predicted probabilities are compared with observed frequencies on held-out data |
| Monitoramento de deriva | Input and output distributions in use are compared with those at validation, and divergence triggers review |
| Testes adversariais | Modelos e agentes são testados contra injeção de prompt e uso indevido antes da promoção |
O desempenho se degrada quando as condições de implantação diferem dos dados de treinamento. Os modelos podem codificar vieses e falhar sem aviso claro em eventos raros.
Process explorer · Process
9 steps·5 stages·1 gate
Processo
O núcleo do AI RMF tem quatro funções, GOVERN, MAP, MEASURE e MANAGE, com GOVERN de caráter transversal; a ordem representada é uma leitura comum, não uma lista de verificação.
Esboço neutro de uma norma ou método externo publicado, conforme o órgão emissor. Não é um registro de operação. O Nexus não executa, certifica nem aprova nenhuma etapa mostrada. Uma etapa de controle ou decisão pertence à parte indicada pela fonte. As ações não constituem necessariamente um conjunto ordenado de etapas. A Lei de IA da UE não é representada neste fluxo.
Inteligência artificial e sistemas autônomos é guardião da inteligência artificial e do aprendizado de máquina para o Consortium e revisa como são aplicados nas plataformas.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.
The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.
Este site usa apenas cookies estritamente necessários para funcionar e para lembrar as suas escolhas de privacidade. Nada é carregado de outras empresas, e nunca vendemos nem compartilhamos as suas informações pessoais.
Este site usa apenas cookies estritamente necessários para funcionar e para lembrar as suas escolhas de privacidade. Nada é carregado de outras empresas, e nunca vendemos nem compartilhamos as suas informações pessoais. Não veiculamos publicidade. Você pode rever as suas escolhas a qualquer momento em Escolhas de privacidade, no rodapé de cada página.