Skip to content

GCRI · Technologie

Künstliche Intelligenz und maschinelles Lernen

Künstliche Intelligenz und maschinelles Lernen entwickeln Algorithmen, die Muster in Daten erlernen, um Ergebnisse zu klassifizieren, vorherzusagen oder zu erzeugen. Sie werden zunehmend für Gefahrenerkennung, Vorhersage und Entscheidungsunterstützung eingesetzt und sind selbst eine Risikoquelle. Artificial Intelligence and Autonomous System betreut diese Seite als Sachwalter für das Nexus Consortium.

02Die Methode

Was künstliche Intelligenz und maschinelles Lernen umfassen.

  1. 01

    Kernmethoden

    überwachtes Lernen; tiefe neuronale Netze; bestärkendes Lernen; Repräsentationslernen; probabilistische Modellierung; Modellinterpretation.

  2. 02

    Daten und Instrumente

    annotierte Trainingsdatensätze; Sensor- und Bildarchive; Textkorpora; Simulationsergebnisse; Benchmark-Suiten.

  3. 03

    Validierung

    Modelle werden an zurückgehaltenen Daten evaluiert, die räumliche, zeitliche und Gruppenstrukturen berücksichtigen. Robustheit, Kalibrierung und Fairness werden neben der Genauigkeit getestet.

  4. 04

    Grenzen

    Die Leistung verschlechtert sich, wenn die Einsatzbedingungen von den Trainingsdaten abweichen. Modelle können Verzerrungen kodieren und bei seltenen Ereignissen ohne klare Warnung versagen.

  5. 05

    Einsatz in Risikoentscheidungen

    Maschinelles Lernen kann Erkennung und Vorhersage über vernetzte Systemehinweg skalieren. Seine eigenen Fehlermodi müssen abgewogen werden, wenn automatisierte Ergebnisse folgenreiche Entscheidungen stützen.

03Quellenpraxis

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

ReferenzWas es festlegt
NIST AI RMFRisikomanagementfunktionen für KI- Systeme
ISO/IEC 42001KI-Managementsysteme
TRIPOD (EQUATOR)Berichterstattung zu Vorhersagemodellen, einschließlich Erweiterungen des maschinellen Lernens
04Verfahren

Wie der Prozess abläuft.

Process explorer · Process

Künstliche Intelligenz und maschinelles Lernen: KI-Risikomanagement (NIST)

9 steps5 stages1 gate

Verfahren

Künstliche Intelligenz und maschinelles Lernen: KI-Risikomanagement (NIST)

Der AI RMF Core hat vier Funktionen, GOVERN, MAP, MEASURE und MANAGE, wobei GOVERN übergreifend wirkt; die dargestellte Reihenfolge ist eine gängige Lesart, keine Checkliste.

  1. 01 Steuern

    1. 01GOVERN: Richtlinien, Rollen und VerantwortlichkeitSchritt · Unabhängige GutachterGOVERN ist eine Querschnittsfunktion. Sie durchzieht das gesamte KI-Risikomanagement und ermöglicht die anderen Funktionen.
  2. 02 Map

    1. 02MAP: Kontext und beabsichtigte VerwendungDatensatzDie Funktion MAP schafft den Kontext, um Risiken im Zusammenhang mit einem KI-System einzuordnen, einschließlich der beabsichtigten Zwecke und der Auswirkungen auf Menschen.
  3. 03 Messen

    1. 03MEASURE: vertrauenswürdige Merkmale bewertenModellAI Systeme werden auf Merkmale der Vertrauenswürdigkeit hin bewertet. Sie sollten vor dem Einsatz und regelmäßig im Betrieb getestet werden.
    2. 04MEASURE: identifizierte Risiken im Zeitverlauf verfolgenModellEs bestehen Mechanismen, um erkannte KI-Risiken im Zeitverlauf zu verfolgen, einschließlich unvorhergesehener und neu entstehender Risiken.
  4. 04 Steuern

    1. 05STEUERN: Risiken behandelnSchrittRisikobehandlung umfassen Reaktion auf Vorfälle, Wiederherstellung nach Vorfällen und Kommunikation darüber. Ressourcen fließen in kartierte und gemessene Risiken.
    2. 06Fortfahren oder nicht (MANAGE 1.1)Gate · Unabhängige PrüfinstanzEs wird festgestellt, ob das System seine Zwecke und Ziele erfüllt und ob fortgefahren werden soll. Das Rahmenwerk legt keine Schwellenwerte fest.
    3. 07EinsatzentscheidungEntscheidung · Unabhängiger GutachterDie Organisation, der das System gehört, entscheidet, ob und unter welchen Bedingungen es eingesetzt wird.
    4. 08Überwachung nach dem Einsatz und VorfälleModellPläne zur Überwachung nach dem Einsatz werden umgesetzt. Vorfälle und Fehler werden mit den relevanten KI-Akteuren geteilt, einschließlich betroffener Gemeinschaften.
  5. 05 Aufzeichnung

    1. 09Verzeichnis der KI-SystemeDatensatzGOVERN 1.6 verlangt Mechanismen zur Inventarisierung von KI-Systemen. Eine Modellkarte (Model Card) ist gängige Praxis und wird im Rahmenwerk nicht genannt.

Neutrale Übersicht über einen veröffentlichten externen Standard oder eine veröffentlichte Methode, wiedergegeben von der herausgebenden Stelle. Kein Betriebsnachweis. Nexus führt keinen der dargestellten Schritte durch, zertifiziert oder genehmigt ihn. Ein Gate oder eine Entscheidung liegt bei der Partei, die die Quelle nennt. Die Maßnahmen bilden nicht zwingend eine geordnete Abfolge von Schritten. Der EU AI Act ist in diesem Ablauf nicht abgebildet.

05In der Arbeit zu systemischen Risiken

Fast emulators, fragile extrapolation.

Maschinelles Lernen beschleunigt die Risikoanalyse: Emulatoren aufwendiger physikalischer Modelle, Klassifikation von Bildmaterial, Vorhersagen aus großen Datensätzen. Seine Schwäche ist die Extrapolation: Ein Modell, das auf dem historischen Klima oder historischen Märkten trainiert wurde, kann gerade unter den beispiellosen Bedingungen versagen, um die es beim systemisches Risiko geht.

  • Die Leistung außerhalb der Trainingsverteilung testen, nicht nur an zurückgehaltenen Stichproben aus demselben Zeitraum.
  • Herkunft und Lizenz der Trainingsdaten angeben.
  • Wo vorhanden, eine physikalische oder mechanistische Prüfung beibehalten.
  • Anwendungen zu KI und autonome Systeme und Labore.
07Treuhänderschaft

Wer diese Seite pflegt.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08Quellen

Where this page’s references lead.

Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.

09Fragen

Fragen und Antworten.

Warum beherbergt eine einzige Institution jede Methodenseite?
GCRI beherbergt die STEM Commons, damit jede Methode eine kanonische Beschreibung hat. Plattformen verlinken darauf, statt sie zu wiederholen, was die Definitionen konsistent hält.
Wie schlage ich eine Korrektur an einer Methodenseite vor?
Schreiben an das Formular für Integritätsbedenken mit Angabe der Passage und der Begründung.
BerichteBeitragen

Evidenz von dieser Seite aus beitragen.

Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.

GCRI
Das Global Centre for Risk and Innovation

Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.

Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.