GCRI · Technologie
Intelligence artificielle et apprentissage automatique
L'intelligence artificielle et l'apprentissage automatique développent des algorithmes qui apprennent des motifs à partir de données pour classer, prédire ou générer des résultats. Ils sont de plus en plus utilisés pour la détection des aléas, la prévision et l'aide à la décision, et constituent eux-mêmes une source de risque. Artificial Intelligence and Autonomous systèmes est le garant de cette page pour le Nexus Consortium.
L'intelligence artificielle et l'apprentissage automatique en six parties.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Pratiques de référencementL'apprentissage automatique dans les travaux sur les risques est encadré par des cadres de risque liés à l'IA et par des normes d'information
- 03In systemic risk workFast emulators, fragile extrapolation
- 04Appliqué dansPlateformes qui appliquent cette méthode
- 05IntendanceResponsable de la mise à jour de cette page
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
Méthodes de base
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
Données et instruments
labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.
- 03
Validation
Les modèles sont évalués sur des données réservées qui respectent la structure spatiale, temporelle et par groupe. La robustesse, l'étalonnage et l'équité sont testés en plus de l'exactitude.
- 04
Limites
La performance se dégrade lorsque les conditions de déploiement diffèrent des données d'entraînement. Les modèles peuvent encoder des biais et échouer sans avertissement clair sur des événements rares.
- 05
Utilisation dans les décisions relatives aux risques
L'apprentissage automatique permet d'étendre la détection et la prévision à l'ensemble de systèmesinterconnectés. Ses propres modes de défaillance doivent être pris en compte lorsque des résultats automatisés éclairent des décisions lourdes de conséquences.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| Référence | Ce qu'il fixe |
|---|---|
| NIST AI RMF | Risk management functions for AI systems |
| ISO/IEC 42001 | Systèmes de management de l'IA |
| TRIPOD (EQUATOR) | Déclaration des modèles de prédiction, y compris les extensions d'apprentissage automatique |
Comment le processus se déroule.
Process explorer · Process
Intelligence artificielle et apprentissage automatique : gestion des risques liés à l'IA (NIST)
9 steps·5 stages·1 gate
Processus
Intelligence artificielle et apprentissage automatique : gestion des risques liés à l'IA (NIST)
Le AI RMF Core comprend quatre fonctions, GOVERN, MAP, MEASURE et MANAGE, GOVERN étant transversale ; l'ordre représenté est une lecture courante, non une liste de contrôle.
01 Gouverner
- 01GOVERN : politiques, rôles et responsabilitéÉtape · Évaluateur indépendantGOVERN est une fonction transversale. Elle imprègne l'ensemble de la gestion des risques liés à l'IA et rend possibles les autres fonctions.
02 Map
- 02MAP : contexte et usage prévuJeu de donnéesLa fonction MAP établit le contexte permettant de cadrer les risques liés à un système d'IA, y compris les finalités prévues et les impacts sur les personnes.
03 Mesurer
- 03MESURER : évaluer les caractéristiques de fiabilitéModèleAI systèmes d'IA sont évalués au regard de caractéristiques de fiabilité. Ils devraient être testés avant le déploiement, puis régulièrement en exploitation.
- 04MESURER : suivre les risques identifiés dans le tempsModèleDes mécanismes de suivi dans le temps des risques identifiés liés à l'IA sont en place, y compris les risques imprévus et émergents.
04 Gérer
- 05GÉRER : traiter les risquesÉtapeTraitement des risques couvrent la réponse aux incidents, le rétablissement après incident et la communication à leur sujet. Les ressources sont affectées aux risques cartographiés et mesurés.
- 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
- 07Décision de déploiementDécision · Examinateur indépendantL'organisation propriétaire du système décide de son déploiement et des conditions de celui-ci.
- 08Suivi après déploiement et incidentsModèleDes plans de suivi après déploiement sont mis en œuvre. Les incidents et les erreurs sont communiqués aux acteurs concernés de l'IA, y compris aux communautés touchées.
05 Consigner
- 09Inventaire des systèmes d'IAJeu de donnéesGOVERN 1.6 demande des mécanismes pour inventorier les systèmes d'IA. Une fiche de modèle est une pratique courante et n'est pas nommée dans le cadre.
Présentation neutre d'une norme ou d'une méthode externe publiée, telle qu'elle émane de son organisme émetteur. Ce n'est pas un enregistrement d'exploitation. Nexus n'exécute, ne certifie et n'approuve aucune des étapes présentées. Une porte ou une décision relève de la partie que désigne la source. Les actions ne forment pas nécessairement une suite ordonnée d'étapes. Le règlement européen sur l'IA n'est pas représenté dans ce flux.
Fast emulators, fragile extrapolation.
Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.
- Test performance out of distribution, not only on held-out samples from the same period.
- Report training data provenance and licence.
- Keep a physical or mechanistic check where one exists.
- Applications sur IA et systèmes autonomes et Laboratoires.
Plateformes qui appliquent cette méthode.
- LabsInstitutionGCRI
- FoundryInstitutionGCRI
- Artificial Intelligence and Autonomous SystemsInstitutionGCRI
- Future of Work and SkillsInstitutionGCRI
- Innovation NexusInstitutionGRF
- AI and Digital GovernanceInstitutionGRF
- Information Integrity and Public TrustInstitutionGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- AI and Financial Model RiskInstitutionGRA
- Financial Crime and Fraud RiskInstitutionGRA
Responsable de la mise à jour de cette page.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
Pourquoi une seule institution héberge-t-elle toutes les pages de méthode ?
Comment proposer une correction à une page de méthode ?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GCRIL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RapportsGCRIVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Apportez une méthode, un jeu de données ou une question.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.