Skip to content

GCRI · Foundry

IA et apprentissage automatique à Foundry

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02Candidature

Ce que fait ici l'intelligence artificielle et l'apprentissage automatique.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

Agents délimités avec justificatifs

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03Suivi

Entraînement des modèles.

L'écran qu'une équipe utiliserait pour suivre cette méthode : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.

Entraînement des modèles

Foundry · AI and machine learning at Foundry · Run R-6794

Drift on one sliceGCRI · Foundry

Évaluation par tranche

Tout0.830.025712Réussite
Région A0.740.051098Examen
Région B0.760.05458Examen
Classe rare0.640.07160Sous le seuil

Fiche méthode

Méthode
Intelligence artificielle et apprentissage automatique
Répartition
chronologique, sans fuite
Caractéristiques
22
Étiquette
MODÉLISÉ

Stabilité de la population

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04Données

Ce que consomme la méthode.

Les jeux de données et registres utilisés par l'intelligence artificielle et l'apprentissage automatique sur cette plateforme, avec le rôle de chacun et l'étiquette que portent ses valeurs. Les sources sont listées dans le registre des sources.

DonnéesRôleÉtiquette
Labelled training setsApprentissage superviséDÉCLARÉ
Satellite image archivesInputs to classificationOBSERVÉ
Held-out and out-of-distribution test setsÉvaluationOBSERVÉ
Enregistrements d'évaluation et d'exercices d'équipe rougePromotion decisionsDÉCLARÉ
Fiches techniques pour les données d'entraînementOrigine, consentement et licenceDÉCLARÉ
05Méthodes et preuves

Comment l'IA et l'apprentissage automatique à Foundry sont modélisés, mesurés et testés.

Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.

Modèle, équations et hypothèses

The model structure used for AI and machine learning at Foundry, the assumptions it makes and how each is tested.

Risque de l'élément iRi = f(Hi, Ei, Vi, Ci)aléa, exposition, vulnérabilité et capacité à faire face
Perte annuelle attendueEAL = ∑k pk · Lkover events k with annual probability pk
Systèmes couplésxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
HypothèsePourquoi il est réaliséComment il est testé
Aléa et exposition sont indépendants au sein d'un événementGarde l'intégrale des pertes calculableComparer avec un ajustement de copule sur des relevés conjoints
Les couplages sont linéaires près du point de fonctionnementLaisse les chocs se propager à travers APerturber au-delà de la plage linéaire et comparer
Les courbes de vulnérabilité se transposent d'un lieu à l'autreLes courbes locales sont rarement disponiblesValider par rapport aux pertes observées lorsqu'elles existent
Entrées
jeux de données versionnés avec provenance
Productions
des distributions, jamais des nombres isolés
Code
publié avec la fiche de modèle et les tests
Reproduction
mêmes données, code, environnement et graine
Formulations standard du risque et de l'espace d'états ; les hypothèses énumérées sont typiques de la méthode, énoncées pour examen, et non des résultats.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Validation

Comment les résultats sont vérifiés.

Les modèles sont évalués sur des données réservées qui respectent la structure spatiale, temporelle et par groupe. La robustesse, l'étalonnage et l'équité sont testés en plus de l'exactitude.

VérifierComment c'est fait
Échantillon de validation spatial et temporelLes données de test sont séparées des données d'entraînement dans l'espace et dans le temps afin d'éviter les fuites
Probability calibrationLes probabilités prédites sont comparées aux fréquences observées sur des données mises de côté
Surveillance de la dériveInput and output distributions in use are compared with those at validation, and divergence triggers review
Tests contradictoiresLes modèles et les agents sont testés contre l'injection de prompts et l'usage abusif avant leur promotion

La performance se dégrade lorsque les conditions de déploiement diffèrent des données d'entraînement. Les modèles peuvent encoder des biais et échouer sans avertissement clair sur des événements rares.

07Processus

Comment le processus se déroule.

Process explorer · Process

IA et apprentissage automatique à Foundry : gestion des risques de l'IA (NIST)

9 steps5 stages1 gate

Processus

IA et apprentissage automatique à Foundry : gestion des risques de l'IA (NIST)

Le AI RMF Core comprend quatre fonctions, GOVERN, MAP, MEASURE et MANAGE, GOVERN étant transversale ; l'ordre représenté est une lecture courante, non une liste de contrôle.

  1. 01 Gouverner

    1. 01GOVERN : politiques, rôles et responsabilitéÉtape · Garant du modèleGOVERN est une fonction transversale. Elle imprègne l'ensemble de la gestion des risques liés à l'IA et rend possibles les autres fonctions.
  2. 02 Map

    1. 02MAP : contexte et usage prévuJeu de donnéesLa fonction MAP établit le contexte permettant de cadrer les risques liés à un système d'IA, y compris les finalités prévues et les impacts sur les personnes.
  3. 03 Mesurer

    1. 03MESURER : évaluer les caractéristiques de fiabilitéModèleAI systèmes d'IA sont évalués au regard de caractéristiques de fiabilité. Ils devraient être testés avant le déploiement, puis régulièrement en exploitation.
    2. 04MESURER : suivre les risques identifiés dans le tempsModèleDes mécanismes de suivi dans le temps des risques identifiés liés à l'IA sont en place, y compris les risques imprévus et émergents.
  4. 04 Gérer

    1. 05GÉRER : traiter les risquesÉtapeTraitement des risques couvrent la réponse aux incidents, le rétablissement après incident et la communication à leur sujet. Les ressources sont affectées aux risques cartographiés et mesurés.
    2. 06Poursuivre ou non (MANAGE 1.1)Porte · Garant du modèleIl est déterminé si le système répond à ses finalités et à ses objectifs, et s'il convient de poursuivre. Le cadre ne fixe aucun seuil.
    3. 07Décision de déploiementDécision · Gestionnaire du modèleL'organisation propriétaire du système décide de son déploiement et des conditions de celui-ci.
    4. 08Suivi après déploiement et incidentsModèleDes plans de suivi après déploiement sont mis en œuvre. Les incidents et les erreurs sont communiqués aux acteurs concernés de l'IA, y compris aux communautés touchées.
  5. 05 Consigner

    1. 09Inventaire des systèmes d'IAJeu de donnéesGOVERN 1.6 demande des mécanismes pour inventorier les systèmes d'IA. Une fiche de modèle est une pratique courante et n'est pas nommée dans le cadre.

Présentation neutre d'une norme ou d'une méthode externe publiée, telle qu'elle émane de son organisme émetteur. Ce n'est pas un enregistrement d'exploitation. Nexus n'exécute, ne certifie et n'approuve aucune des étapes présentées. Une porte ou une décision relève de la partie que désigne la source. Les actions ne forment pas nécessairement une suite ordonnée d'étapes. Le règlement européen sur l'IA n'est pas représenté dans ce flux.

09Intendance

Qui tient à jour la méthode.

Intelligence artificielle et systèmes autonomes est le garant de l'intelligence artificielle et de l'apprentissage automatique pour le Consortium et examine la manière dont ils sont appliqués sur les différentes plateformes.

11Questions

Questions et réponses.

Quelles sont les limites de l'intelligence artificielle et de l'apprentissage automatique dans ce domaine ?
La performance se dégrade lorsque les conditions de déploiement diffèrent des données d'entraînement. Les modèles peuvent encoder des biais et échouer sans avertissement clair sur des événements rares.
Comment les résultats sont-ils vérifiés ?
Les modèles sont évalués sur des données réservées qui respectent la structure spatiale, temporelle et par groupe. La robustesse, l'étalonnage et l'équité sont testés en plus de l'exactitude.
Les valeurs de cette page sont-elles réelles ?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Où d'autre cette méthode est-elle appliquée ?
Le page canonique de la méthode liste toutes les plateformes qui l'appliquent.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

GCRIFoundryFoundry Build and Readiness
Foundry

Apportez une méthode, un jeu de données ou une question.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.