Assurance cases for AI systems
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
GCRI · Künstliche Intelligenz und autonome Systeme
Evaluierung und Absicherung von KI-Systemen ist die zweite Methode, für die diese Plattform als Sachwalter fungiert. Sie liefert die Evidenz dafür, dass ein KI-System für einen bestimmten Einsatzzweck geeignet ist: Evaluierungen, Red-Teaming, Dokumentation, Überwachung und die strukturierten Argumentationen, die sie miteinander verbinden.
Die Evaluierungs- und Assurance-Technik für KI entwickelt Methoden, um KI- Systemezu testen, zu überwachen und begründetes Vertrauen in sie zu schaffen. Sie befasst sich mit Leistung, Robustheit, Sicherheit und gesellschaftlichen Auswirkungen über den gesamten Lebenszyklus des Systems. In den Bereichen künstliche Intelligenz sowie Daten und Rechenleistung klärt die KI-Absicherung, ob automatisierten Systemen in Situationen mit gravierenden Folgen vertraut werden kann. Sie hilft, Risiken zu steuern, wenn KI in Finanzwesen, Gesundheit und Infrastruktur eingebettet ist. Die maßgebliche Beschreibung befindet sich bei die STEM Commons.
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
Adversarial testing is planned around threat models, with testers, scope, time and findings documented so that coverage can be judged.
Vorfälle, Beschwerden und Leistungskennzahlen werden nach der Freigabe verfolgt, und Auslöser für eine Überprüfung oder einen Rollback werden im Voraus festgelegt.
Die Ansicht, die ein Team nutzen würde, um diese Methode zu verfolgen: ihre Messgrößen, Zustände und Entscheidungen. Namen sind Beispiele, Werte sind illustrativ.
KI und autonome Systeme · KI-Evaluierung und -Absicherung · Lauf R-0951
| Fähigkeit | 585 | 89 | Veröffentlichung | Bestanden |
| Robustheit | 133 | 72 | Veröffentlichung | Bestanden |
| Bias and fairness | 169 | 81 | Veröffentlichung | Bestanden |
| Misuse red team | 142 | 79 | Bereitstellen | Offene Feststellungen |
Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.
| Daten | Rolle | Kennzeichnung |
|---|---|---|
| Evaluierungsergebnisse | Evidenz für Aussagen | BEOBACHTET |
| Red-team reports | Fehlererkennung | BERICHTET |
| Vorfallprotokolle | Field evidence | BERICHTET |
| Systemdokumentation | Geltungsbereich und Annahmen | DEKLARIERT |
Das Modell, seine Annahmen, seine Daten und seine Unsicherheit in der Form, in der eine Wissenschaftlerin oder ein Ingenieur sie prüfen würde. Die Strukturen folgen veröffentlichten Methoden. Die dargestellten Werte sind illustrativ, keine Befunde.
The model structure used for AI evaluation and assurance, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)Gefahr, Exposition, Verwundbarkeit und BewältigungskapazitätEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Annahme | Warum es entsteht | Wie es geprüft wird |
|---|---|---|
| Gefahr und Exposition sind innerhalb eines Ereignisses unabhängig | Hält das Schadensintegral berechenbar | Mit einer Copula-Anpassung an gemeinsamen Aufzeichnungen vergleichen |
| Kopplungen sind nahe dem Arbeitspunkt linear | Lässt Schocks sich über A ausbreiten | Über den linearen Bereich hinaus stören und vergleichen |
| Vulnerabilitätskurven lassen sich zwischen Orten übertragen | Lokale Kurven sind selten verfügbar | Anhand beobachteter Schäden validieren, wo es sie gibt |
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
| Prüfen | Wie es gemacht wird |
|---|---|
| Unabhängige Überprüfung | Assurance Cases werden von Personen geprüft, die nicht an der Entwicklung beteiligt waren |
| Evidence currency | Die Evidenz wird nach Änderungen am Modell oder am Einsatz erneut geprüft |
| Berichterstattung zur Abdeckung | Evaluierungen geben an, was sie nicht getestet haben |
Benchmarks bilden die reale Nutzung oder neuartige Fähigkeiten möglicherweise nicht ab. Universell einsetzbare Systeme verhalten sich offen und entziehen sich einer vollständigen Prüfung.
Process explorer · Process
9 steps·5 stages·1 gate
Verfahren
Der AI RMF Core hat vier Funktionen, GOVERN, MAP, MEASURE und MANAGE, wobei GOVERN übergreifend wirkt; die dargestellte Reihenfolge ist eine gängige Lesart, keine Checkliste.
Neutrale Übersicht über einen veröffentlichten externen Standard oder eine veröffentlichte Methode, wiedergegeben von der herausgebenden Stelle. Kein Betriebsnachweis. Nexus führt keinen der dargestellten Schritte durch, zertifiziert oder genehmigt ihn. Ein Gate oder eine Entscheidung liegt bei der Partei, die die Quelle nennt. Die Maßnahmen bilden nicht zwingend eine geordnete Abfolge von Schritten. Der EU AI Act ist in diesem Ablauf nicht abgebildet.
Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.
Diese Website verwendet nur unbedingt erforderliche Cookies, um zu funktionieren und Ihre Datenschutzeinstellungen zu speichern. Nichts wird von anderen Unternehmen geladen, und wir verkaufen oder teilen Ihre personenbezogenen Daten niemals.
Diese Website verwendet nur unbedingt erforderliche Cookies, um zu funktionieren und Ihre Datenschutzeinstellungen zu speichern. Nichts wird von anderen Unternehmen geladen, und wir verkaufen oder teilen Ihre personenbezogenen Daten niemals. Wir schalten keine Werbung. Sie können Ihre Einstellungen jederzeit über „Datenschutzeinstellungen“ am Fuß jeder Seite überprüfen.