Skip to content

GCRI · Felder im gesamten Konsortium

Künstliche Intelligenz

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

02Drei Mandate

Das Feld, auf drei Arten betrachtet.

03Die systemische Frage

Vom Modellversagen zur systemischen Wirkung.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

SchichtTypisches RisikoLeistungsbewertung
ModellRobustheit, Verzerrung, MissbrauchspotenzialEvaluierungen und Red Teaming
SystemIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
InstitutionUnklare Verantwortlichkeit, fehlende Reaktion auf VorfälleAudit des Managementsystems (ISO/IEC 42001)
ÖkosystemHomogeneity, concentration, correlated failureMarkt- und Abhängigkeitsanalyse
04Rahmenwerke

Risikorahmenwerke und Recht.

Rahmenwerk oder GremiumWas es regelt oder bereitstellt
NIST AI RMF and its generative AI profileFunktionen Steuern, Erfassen, Messen und Handhaben
ISO/IEC 42001 und ISO/IEC 23894AI management systems and AI risk management guidance
EU-KI-VerordnungRisikoabgestufte Pflichten, die stufenweise gelten; aktuelle Termine für jede Pflicht prüfen
OECD-KI-Grundsätze und UNESCO-Empfehlung zur Ethik der Künstlichen IntelligenzIntergovernmental principles
05Kopplungen

Wo sich KI-Risiko niederschlägt.

Die Wissenschaft stützt sich auf KI und autonome Systeme; die Methoden beginnen bei der KI-Absicherung.

BerichteBeitragen

Evidenz von dieser Seite aus beitragen.

Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.

GCRI
Das Global Centre for Risk and Innovation

Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.

Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.