Skip to content

GCRI · Technologie

Intelligence artificielle et apprentissage automatique

L'intelligence artificielle et l'apprentissage automatique développent des algorithmes qui apprennent des motifs à partir de données pour classer, prédire ou générer des résultats. Ils sont de plus en plus utilisés pour la détection des aléas, la prévision et l'aide à la décision, et constituent eux-mêmes une source de risque. Artificial Intelligence and Autonomous systèmes est le garant de cette page pour le Nexus Consortium.

02La méthode

What artificial intelligence and machine learning covers.

  1. 01

    Méthodes de base

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    Données et instruments

    labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.

  3. 03

    Validation

    Les modèles sont évalués sur des données réservées qui respectent la structure spatiale, temporelle et par groupe. La robustesse, l'étalonnage et l'équité sont testés en plus de l'exactitude.

  4. 04

    Limites

    La performance se dégrade lorsque les conditions de déploiement diffèrent des données d'entraînement. Les modèles peuvent encoder des biais et échouer sans avertissement clair sur des événements rares.

  5. 05

    Utilisation dans les décisions relatives aux risques

    L'apprentissage automatique permet d'étendre la détection et la prévision à l'ensemble de systèmesinterconnectés. Ses propres modes de défaillance doivent être pris en compte lorsque des résultats automatisés éclairent des décisions lourdes de conséquences.

03Pratiques de référencement

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

RéférenceCe qu'il fixe
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001Systèmes de management de l'IA
TRIPOD (EQUATOR)Déclaration des modèles de prédiction, y compris les extensions d'apprentissage automatique
04Processus

Comment le processus se déroule.

Process explorer · Process

Intelligence artificielle et apprentissage automatique : gestion des risques liés à l'IA (NIST)

9 steps5 stages1 gate

Processus

Intelligence artificielle et apprentissage automatique : gestion des risques liés à l'IA (NIST)

Le AI RMF Core comprend quatre fonctions, GOVERN, MAP, MEASURE et MANAGE, GOVERN étant transversale ; l'ordre représenté est une lecture courante, non une liste de contrôle.

  1. 01 Gouverner

    1. 01GOVERN : politiques, rôles et responsabilitéÉtape · Évaluateur indépendantGOVERN est une fonction transversale. Elle imprègne l'ensemble de la gestion des risques liés à l'IA et rend possibles les autres fonctions.
  2. 02 Map

    1. 02MAP : contexte et usage prévuJeu de donnéesLa fonction MAP établit le contexte permettant de cadrer les risques liés à un système d'IA, y compris les finalités prévues et les impacts sur les personnes.
  3. 03 Mesurer

    1. 03MESURER : évaluer les caractéristiques de fiabilitéModèleAI systèmes d'IA sont évalués au regard de caractéristiques de fiabilité. Ils devraient être testés avant le déploiement, puis régulièrement en exploitation.
    2. 04MESURER : suivre les risques identifiés dans le tempsModèleDes mécanismes de suivi dans le temps des risques identifiés liés à l'IA sont en place, y compris les risques imprévus et émergents.
  4. 04 Gérer

    1. 05GÉRER : traiter les risquesÉtapeTraitement des risques couvrent la réponse aux incidents, le rétablissement après incident et la communication à leur sujet. Les ressources sont affectées aux risques cartographiés et mesurés.
    2. 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Décision de déploiementDécision · Examinateur indépendantL'organisation propriétaire du système décide de son déploiement et des conditions de celui-ci.
    4. 08Suivi après déploiement et incidentsModèleDes plans de suivi après déploiement sont mis en œuvre. Les incidents et les erreurs sont communiqués aux acteurs concernés de l'IA, y compris aux communautés touchées.
  5. 05 Consigner

    1. 09Inventaire des systèmes d'IAJeu de donnéesGOVERN 1.6 demande des mécanismes pour inventorier les systèmes d'IA. Une fiche de modèle est une pratique courante et n'est pas nommée dans le cadre.

Présentation neutre d'une norme ou d'une méthode externe publiée, telle qu'elle émane de son organisme émetteur. Ce n'est pas un enregistrement d'exploitation. Nexus n'exécute, ne certifie et n'approuve aucune des étapes présentées. Une porte ou une décision relève de la partie que désigne la source. Les actions ne forment pas nécessairement une suite ordonnée d'étapes. Le règlement européen sur l'IA n'est pas représenté dans ce flux.

05Dans les travaux sur le risque systémique

Fast emulators, fragile extrapolation.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Report training data provenance and licence.
  • Keep a physical or mechanistic check where one exists.
  • Applications sur IA et systèmes autonomes et Laboratoires.
07Intendance

Responsable de la mise à jour de cette page.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08Sources

Where this page’s references lead.

Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.

09Questions

Questions et réponses.

Pourquoi une seule institution héberge-t-elle toutes les pages de méthode ?
Le GCRI héberge les Communs STIM afin que chaque méthode dispose d'une description canonique unique. Les plateformes y renvoient au lieu de la répéter, ce qui préserve la cohérence des définitions.
Comment proposer une correction à une page de méthode ?
Écrire à le formulaire de signalement d'intégrité en indiquant le passage et le motif.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

GCRI
Le Global Centre for Risk and Innovation

Apportez une méthode, un jeu de données ou une question.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.