Skip to content

GCRI · Foundry

IA e aprendizado de máquina no Foundry

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02Candidatura

O que a inteligência artificial e o aprendizado de máquina fazem aqui.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

Agentes com escopo definido e com comprovantes

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03Monitoramento

Treinamento de modelos.

A tela que uma equipe usaria para acompanhar este método: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.

Treinamento de modelos

Foundry · IA e aprendizado de máquina na Foundry · Execução R-6794

Drift on one sliceGCRI · Foundry

Avaliação por fatia

Tudo0.830.025712Aprovado
Região A0.740.051098Análise
Região B0.760.05458Análise
Classe rara0.640.07160Abaixo do patamar

Ficha do método

Método
Inteligência artificial e aprendizado de máquina
Divisão
baseado no tempo, sem vazamento
Funcionalidades
22
Rótulo
MODELADO

Estabilidade da população

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04Dados

O que o método consome.

Conjuntos de dados e registros usados pela inteligência artificial e pelo aprendizado de máquina nesta plataforma, com o papel que cada um desempenha e a etiqueta que seus valores levam. As fontes estão listadas no registro de fontes.

DadosFunçãoRótulo
Labelled training setsAprendizado supervisionadoREPORTADO
Satellite image archivesInputs to classificationOBSERVADO
Held-out and out-of-distribution test setsAvaliaçãoOBSERVADO
Registros de avaliação e de red teamDecisões de promoçãoREPORTADO
Fichas técnicas para dados de treinamentoOrigin, consent and licenceDECLARADO
05Métodos e evidência

How AI and machine learning at Foundry is modelled, measured and tested.

O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.

Modelo, equações e pressupostos

A estrutura de modelo usada para IA e aprendizado de máquina no Foundry, as premissas que adota e como cada uma é testada.

Risco do elemento iRi = f(Hi, Ei, Vi, Ci)ameaça, exposição, vulnerabilidade e capacidade de enfrentamento
Perda anual esperadaEAL = ∑k pk · Lkover events k with annual probability pk
Sistemas acopladosxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
PressupostoPorque é feitoComo é testado
A ameaça e a exposição são independentes dentro de um eventoMantém tratável o integral de perdasComparar com um ajuste de cópula sobre registros conjuntos
Os acoplamentos são lineares perto do ponto de funcionamentoPermite que os choques se propaguem através de APerturbar para além do intervalo linear e comparar
As curvas de vulnerabilidade transferem-se entre lugaresAs curvas locais raramente estão disponíveisValidar face às perdas observadas quando existam
Entradas
conjuntos de dados versionados com proveniência
Resultados
distribuições, nunca números isolados
Código
publicado com a ficha de modelo e os testes
Reprodução
mesmos dados, código, ambiente e semente
Formulações padrão de risco e de espaço de estados; os pressupostos listados são típicos do método, indicados para revisão, não resultados.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Validação

Como os resultados são verificados.

Os modelos são avaliados com dados reservados que respeitam a estrutura espacial, temporal e de grupos. A robustez, a calibração e a equidade são testadas ao lado da exatidão.

VerificarComo é feito
Retenção espacial e temporal de dados (hold-out)Os dados de teste são separados dos dados de treinamento no espaço e no tempo para evitar vazamento
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
Monitoramento de derivaInput and output distributions in use are compared with those at validation, and divergence triggers review
Testes adversariaisModelos e agentes são testados contra injeção de prompt e uso indevido antes da promoção

O desempenho se degrada quando as condições de implantação diferem dos dados de treinamento. Os modelos podem codificar vieses e falhar sem aviso claro em eventos raros.

07Processo

Como decorre o processo.

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

Processo

AI and machine learning at Foundry: AI risk management (NIST)

O núcleo do AI RMF tem quatro funções, GOVERN, MAP, MEASURE e MANAGE, com GOVERN de caráter transversal; a ordem representada é uma leitura comum, não uma lista de verificação.

  1. 01 Governar

    1. 01GOVERN: políticas, papéis e responsabilizaçãoEtapa · Guardião do modeloGOVERN é uma função transversal. Ela permeia toda a gestão de riscos de IA e viabiliza as demais funções.
  2. 02 Map

    1. 02MAP: contexto e uso pretendidoConjunto de dadosA função MAP estabelece o contexto para delimitar os riscos relacionados a um sistema de IA, incluindo finalidades pretendidas e impactos sobre as pessoas.
  3. 03 Medir

    1. 03MEDIR: avaliar as características de confiabilidadeModeloAI sistemas de IA são avaliados quanto a características de confiabilidade. Devem ser testados antes da implantação e regularmente em operação.
    2. 04MEASURE: acompanhar os riscos identificados ao longo do tempoModeloHá mecanismos para acompanhar ao longo do tempo os riscos de IA identificados, incluindo riscos imprevistos e emergentes.
  4. 04 Gerenciar

    1. 05GERIR: tratar os riscosPassoTratamento do risco abrangem a resposta a incidentes, a recuperação e a comunicação sobre eles. Os recursos são destinados a riscos mapeados e medidos.
    2. 06Prosseguir ou não (MANAGE 1.1)Etapa de controle · Guardião do modeloDetermina-se se o sistema cumpre seus propósitos e objetivos e se deve prosseguir. O quadro não estabelece limiares.
    3. 07Decisão de implantaçãoDecisão · Responsável pelo modeloA organização proprietária do sistema decide se o implanta e em que condições.
    4. 08Monitoramento pós-implantação e incidentesModeloPlanos de monitoramento pós-implantação são executados. Incidentes e erros são compartilhados com os atores de IA relevantes, inclusive as comunidades afetadas.
  5. 05 Registro

    1. 09Inventário de sistemas de IAConjunto de dadosGOVERN 1.6 pede mecanismos para inventariar sistemas de IA. O cartão de modelo é prática comum e não é mencionado na estrutura.

Esboço neutro de uma norma ou método externo publicado, conforme o órgão emissor. Não é um registro de operação. O Nexus não executa, certifica nem aprova nenhuma etapa mostrada. Uma etapa de controle ou decisão pertence à parte indicada pela fonte. As ações não constituem necessariamente um conjunto ordenado de etapas. A Lei de IA da UE não é representada neste fluxo.

09Gestão responsável

Quem mantém o método.

Inteligência artificial e sistemas autônomos é guardião da inteligência artificial e do aprendizado de máquina para o Consortium e revisa como são aplicados nas plataformas.

11Perguntas

Perguntas e respostas.

Quais são os limites da inteligência artificial e do aprendizado de máquina neste campo?
O desempenho se degrada quando as condições de implantação diferem dos dados de treinamento. Os modelos podem codificar vieses e falhar sem aviso claro em eventos raros.
Como os resultados são verificados?
Os modelos são avaliados com dados reservados que respeitam a estrutura espacial, temporal e de grupos. A robustez, a calibração e a equidade são testadas ao lado da exatidão.
Os valores desta página são reais?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Onde mais este método é aplicado?
A página canônica do método lista todas as plataformas que o aplicam.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.

GCRIFoundryFoundry Build and Readiness
Foundry

Traga um método, um conjunto de dados ou uma pergunta.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.