GCRI · Technologie
Künstliche Intelligenz und maschinelles Lernen
Künstliche Intelligenz und maschinelles Lernen entwickeln Algorithmen, die Muster in Daten erlernen, um Ergebnisse zu klassifizieren, vorherzusagen oder zu erzeugen. Sie werden zunehmend für Gefahrenerkennung, Vorhersage und Entscheidungsunterstützung eingesetzt und sind selbst eine Risikoquelle. Artificial Intelligence and Autonomous System betreut diese Seite als Sachwalter für das Nexus Consortium.
Künstliche Intelligenz und maschinelles Lernen in sechs Teilen.
- 01Die MethodeWas künstliche Intelligenz und maschinelles Lernen umfassen
- 02QuellenpraxisMaschinelles Lernen in der Risikoarbeit unterliegt KI-Risikorahmenwerken und Berichtsstandards
- 03In der Arbeit zu systemischen RisikenSchnelle Emulatoren, fragile Extrapolation
- 04Angewandt inPlattformen, die diese Methode anwenden
- 05TreuhänderschaftWer diese Seite pflegt
- 06SourcesWhere this page’s references lead
Was künstliche Intelligenz und maschinelles Lernen umfassen.
- 01
Kernmethoden
überwachtes Lernen; tiefe neuronale Netze; bestärkendes Lernen; Repräsentationslernen; probabilistische Modellierung; Modellinterpretation.
- 02
Daten und Instrumente
annotierte Trainingsdatensätze; Sensor- und Bildarchive; Textkorpora; Simulationsergebnisse; Benchmark-Suiten.
- 03
Validierung
Modelle werden an zurückgehaltenen Daten evaluiert, die räumliche, zeitliche und Gruppenstrukturen berücksichtigen. Robustheit, Kalibrierung und Fairness werden neben der Genauigkeit getestet.
- 04
Grenzen
Die Leistung verschlechtert sich, wenn die Einsatzbedingungen von den Trainingsdaten abweichen. Modelle können Verzerrungen kodieren und bei seltenen Ereignissen ohne klare Warnung versagen.
- 05
Einsatz in Risikoentscheidungen
Maschinelles Lernen kann Erkennung und Vorhersage über vernetzte Systemehinweg skalieren. Seine eigenen Fehlermodi müssen abgewogen werden, wenn automatisierte Ergebnisse folgenreiche Entscheidungen stützen.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| Referenz | Was es festlegt |
|---|---|
| NIST AI RMF | Risikomanagementfunktionen für KI- Systeme |
| ISO/IEC 42001 | KI-Managementsysteme |
| TRIPOD (EQUATOR) | Berichterstattung zu Vorhersagemodellen, einschließlich Erweiterungen des maschinellen Lernens |
Wie der Prozess abläuft.
Process explorer · Process
Künstliche Intelligenz und maschinelles Lernen: KI-Risikomanagement (NIST)
9 steps·5 stages·1 gate
Verfahren
Künstliche Intelligenz und maschinelles Lernen: KI-Risikomanagement (NIST)
Der AI RMF Core hat vier Funktionen, GOVERN, MAP, MEASURE und MANAGE, wobei GOVERN übergreifend wirkt; die dargestellte Reihenfolge ist eine gängige Lesart, keine Checkliste.
01 Steuern
- 01GOVERN: Richtlinien, Rollen und VerantwortlichkeitSchritt · Unabhängige GutachterGOVERN ist eine Querschnittsfunktion. Sie durchzieht das gesamte KI-Risikomanagement und ermöglicht die anderen Funktionen.
02 Map
- 02MAP: Kontext und beabsichtigte VerwendungDatensatzDie Funktion MAP schafft den Kontext, um Risiken im Zusammenhang mit einem KI-System einzuordnen, einschließlich der beabsichtigten Zwecke und der Auswirkungen auf Menschen.
03 Messen
- 03MEASURE: vertrauenswürdige Merkmale bewertenModellAI Systeme werden auf Merkmale der Vertrauenswürdigkeit hin bewertet. Sie sollten vor dem Einsatz und regelmäßig im Betrieb getestet werden.
- 04MEASURE: identifizierte Risiken im Zeitverlauf verfolgenModellEs bestehen Mechanismen, um erkannte KI-Risiken im Zeitverlauf zu verfolgen, einschließlich unvorhergesehener und neu entstehender Risiken.
04 Steuern
- 05STEUERN: Risiken behandelnSchrittRisikobehandlung umfassen Reaktion auf Vorfälle, Wiederherstellung nach Vorfällen und Kommunikation darüber. Ressourcen fließen in kartierte und gemessene Risiken.
- 06Fortfahren oder nicht (MANAGE 1.1)Gate · Unabhängige PrüfinstanzEs wird festgestellt, ob das System seine Zwecke und Ziele erfüllt und ob fortgefahren werden soll. Das Rahmenwerk legt keine Schwellenwerte fest.
- 07EinsatzentscheidungEntscheidung · Unabhängiger GutachterDie Organisation, der das System gehört, entscheidet, ob und unter welchen Bedingungen es eingesetzt wird.
- 08Überwachung nach dem Einsatz und VorfälleModellPläne zur Überwachung nach dem Einsatz werden umgesetzt. Vorfälle und Fehler werden mit den relevanten KI-Akteuren geteilt, einschließlich betroffener Gemeinschaften.
05 Aufzeichnung
- 09Verzeichnis der KI-SystemeDatensatzGOVERN 1.6 verlangt Mechanismen zur Inventarisierung von KI-Systemen. Eine Modellkarte (Model Card) ist gängige Praxis und wird im Rahmenwerk nicht genannt.
Neutrale Übersicht über einen veröffentlichten externen Standard oder eine veröffentlichte Methode, wiedergegeben von der herausgebenden Stelle. Kein Betriebsnachweis. Nexus führt keinen der dargestellten Schritte durch, zertifiziert oder genehmigt ihn. Ein Gate oder eine Entscheidung liegt bei der Partei, die die Quelle nennt. Die Maßnahmen bilden nicht zwingend eine geordnete Abfolge von Schritten. Der EU AI Act ist in diesem Ablauf nicht abgebildet.
Fast emulators, fragile extrapolation.
Maschinelles Lernen beschleunigt die Risikoanalyse: Emulatoren aufwendiger physikalischer Modelle, Klassifikation von Bildmaterial, Vorhersagen aus großen Datensätzen. Seine Schwäche ist die Extrapolation: Ein Modell, das auf dem historischen Klima oder historischen Märkten trainiert wurde, kann gerade unter den beispiellosen Bedingungen versagen, um die es beim systemisches Risiko geht.
- Die Leistung außerhalb der Trainingsverteilung testen, nicht nur an zurückgehaltenen Stichproben aus demselben Zeitraum.
- Herkunft und Lizenz der Trainingsdaten angeben.
- Wo vorhanden, eine physikalische oder mechanistische Prüfung beibehalten.
- Anwendungen zu KI und autonome Systeme und Labore.
Plattformen, die diese Methode anwenden.
- LabsInstitutionGCRI
- FoundryInstitutionGCRI
- Artificial Intelligence and Autonomous SystemsInstitutionGCRI
- Future of Work and SkillsInstitutionGCRI
- Innovation NexusInstitutionGRF
- AI and Digital GovernanceInstitutionGRF
- Information Integrity and Public TrustInstitutionGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- AI and Financial Model RiskInstitutionGRA
- Financial Crime and Fraud RiskInstitutionGRA
Wer diese Seite pflegt.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.
Fragen und Antworten.
Warum beherbergt eine einzige Institution jede Methodenseite?
Wie schlage ich eine Korrektur an einer Methodenseite vor?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.