Skip to content

GCRI · Domaines au sein du consortium

Intelligence artificielle

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

02Trois mandats

Le domaine, vu sous trois angles.

03La question systémique

From model failure to systemic effect.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

CoucheRisque typiqueÉvaluation
ModèleRobustesse, biais, capacité de détournementEvaluations and red teaming
SystèmeIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
InstitutionUnclear accountability, missing incident responseAudit du système de management (ISO/IEC 42001)
ÉcosystèmeHomogeneity, concentration, correlated failureAnalyse du marché et des dépendances
04Cadres

Cadres de risque et droit.

Cadre ou organismeCe qu'il régit ou fournit
NIST AI RMF et son profil pour l'IA générativeGovern, map, measure and manage functions
ISO/IEC 42001 et ISO/IEC 23894AI management systems and AI risk management guidance
EU AI ActObligations échelonnées selon le niveau de risque et appliquées par étapes ; vérifier les dates en vigueur pour chaque obligation
OECD AI Principles and UNESCO Recommendation on the Ethics of AIPrincipes intergouvernementaux
05Couplages

Where AI risk lands.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

GCRI
Le Global Centre for Risk and Innovation

Apportez une méthode, un jeu de données ou une question.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.