Assurance cases for AI systems
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
GCRI · Intelligence artificielle et systèmes autonomes
L'ingénierie de l'évaluation et de l'assurance de l'IA est la deuxième méthode dont cette plateforme est garante. Elle fournit les données probantes attestant qu'un système d'IA est adapté à un usage déclaré : évaluations, tests d'intrusion adverses (red teaming), documentation, suivi et argumentaires structurés qui les relient.
L'ingénierie de l'évaluation et de l'assurance de l'IA met au point des méthodes pour tester et surveiller les systèmesd'IA et pour fonder une confiance justifiée à leur égard. Elle porte sur la performance, la robustesse, la sûreté et l'impact sociétal tout au long du cycle de vie du système. Dans l'intelligence artificielle, les données et le calcul, l'assurance de l'IA détermine si des systèmes automatisés peuvent être jugés fiables dans des contextes à fortes conséquences. Elle aide à gérer les risques lorsque l'IA est intégrée dans la finance, la santé et les infrastructures. La description de référence figure sur les STEM Commons.
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
Adversarial testing is planned around threat models, with testers, scope, time and findings documented so that coverage can be judged.
Les incidents, les réclamations et les indicateurs de performance sont suivis après la mise en service, et les déclencheurs d'un réexamen ou d'un retour arrière sont définis à l'avance.
L'écran qu'une équipe utiliserait pour suivre cette méthode : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.
AI and autonomous systems · AI evaluation and assurance · Run R-0951
| Capacités | 585 | 89 | Version | Réussite |
| Robustesse | 133 | 72 | Version | Réussite |
| Bias and fairness | 169 | 81 | Version | Réussite |
| Misuse red team | 142 | 79 | Déployer | Constats ouverts |
Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.
| Données | Rôle | Étiquette |
|---|---|---|
| Résultats d'évaluation | Evidence for claims | OBSERVÉ |
| Rapports d'équipe rouge | Détection des défaillances | DÉCLARÉ |
| Journaux d'incidents | Données de terrain | DÉCLARÉ |
| Documentation du système | Périmètre et hypothèses | DÉCLARÉ |
Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.
The model structure used for AI evaluation and assurance, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)aléa, exposition, vulnérabilité et capacité à faire faceEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Hypothèse | Pourquoi il est réalisé | Comment il est testé |
|---|---|---|
| Aléa et exposition sont indépendants au sein d'un événement | Garde l'intégrale des pertes calculable | Comparer avec un ajustement de copule sur des relevés conjoints |
| Les couplages sont linéaires près du point de fonctionnement | Laisse les chocs se propager à travers A | Perturber au-delà de la plage linéaire et comparer |
| Les courbes de vulnérabilité se transposent d'un lieu à l'autre | Les courbes locales sont rarement disponibles | Valider par rapport aux pertes observées lorsqu'elles existent |
Les méthodes d'évaluation sont vérifiées quant à leur fiabilité et à leur pertinence au regard des conditions de déploiement. La réplication indépendante et les audits par des tiers mettent les affirmations à l'épreuve.
| Vérifier | Comment c'est fait |
|---|---|
| Examen indépendant | Les dossiers d'assurance sont examinés par des personnes non impliquées dans le développement |
| Evidence currency | Les données probantes sont revérifiées après toute modification du modèle ou du déploiement |
| Déclaration de la couverture | Les évaluations indiquent ce qu'elles n'ont pas testé |
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
Process explorer · Process
9 steps·5 stages·1 gate
Processus
Le AI RMF Core comprend quatre fonctions, GOVERN, MAP, MEASURE et MANAGE, GOVERN étant transversale ; l'ordre représenté est une lecture courante, non une liste de contrôle.
Présentation neutre d'une norme ou d'une méthode externe publiée, telle qu'elle émane de son organisme émetteur. Ce n'est pas un enregistrement d'exploitation. Nexus n'exécute, ne certifie et n'approuve aucune des étapes présentées. Une porte ou une décision relève de la partie que désigne la source. Les actions ne forment pas nécessairement une suite ordonnée d'étapes. Le règlement européen sur l'IA n'est pas représenté dans ce flux.
Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.
Ce site n'utilise que des cookies strictement nécessaires à son fonctionnement et à la mémorisation de vos choix de confidentialité. Aucun contenu n'est chargé depuis d'autres sociétés, et nous ne vendons ni ne partageons jamais vos informations personnelles.
Ce site n'utilise que des cookies strictement nécessaires à son fonctionnement et à la mémorisation de vos choix de confidentialité. Aucun contenu n'est chargé depuis d'autres sociétés, et nous ne vendons ni ne partageons jamais vos informations personnelles. Nous ne diffusons aucune publicité. Vous pouvez revoir vos choix à tout moment au moyen du lien Choix de confidentialité en bas de chaque page.