GCRI · Felder im gesamten Konsortium
Künstliche Intelligenz
AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.
Artificial intelligence in six parts.
Das Feld, auf drei Arten betrachtet.
Wissenschaft und Evidenz
Künstliche Intelligenz und autonome Systeme, Zukunft der Arbeit und Kompetenzen.
Vom Modellversagen zur systemischen Wirkung.
Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.
| Schicht | Typisches Risiko | Leistungsbewertung |
|---|---|---|
| Modell | Robustheit, Verzerrung, Missbrauchspotenzial | Evaluierungen und Red Teaming |
| System | Integration errors, over-reliance, data leakage | Impact assessment, human oversight design |
| Institution | Unklare Verantwortlichkeit, fehlende Reaktion auf Vorfälle | Audit des Managementsystems (ISO/IEC 42001) |
| Ökosystem | Homogeneity, concentration, correlated failure | Markt- und Abhängigkeitsanalyse |
Risikorahmenwerke und Recht.
| Rahmenwerk oder Gremium | Was es regelt oder bereitstellt |
|---|---|
| NIST AI RMF and its generative AI profile | Funktionen Steuern, Erfassen, Messen und Handhaben |
| ISO/IEC 42001 und ISO/IEC 23894 | AI management systems and AI risk management guidance |
| EU-KI-Verordnung | Risikoabgestufte Pflichten, die stufenweise gelten; aktuelle Termine für jede Pflicht prüfen |
| OECD-KI-Grundsätze und UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz | Intergovernmental principles |
Wo sich KI-Risiko niederschlägt.
- Rechenleistung: Konzentration von Fähigkeiten und Energiebedarf.
- Arbeit: Aufgabenexposition und Transition.
- Informationsintegrität: synthetische Inhalte und Vertrauen.
- Finanzstabilität: Modellrisiko und Herdenverhalten.
Die Wissenschaft stützt sich auf KI und autonome Systeme; die Methoden beginnen bei der KI-Absicherung.
Die Methoden hinter dem Fachgebiet.
- Künstliche Intelligenz und maschinelles Lernen
- Engineering für KI-Evaluierung und -Assurance
- Hochleistungs-, Cloud- und Edge-Computing
- Wahrscheinlichkeit und Statistik
- Cybersicherheit und Kryptografie
- Sozial- und Verhaltenswissenschaften
- Robotik und Automatisierung
- Volkswirtschaft und Entwicklungsökonomie
- Ökonometrie
- Politik-, Institutionen- und Entscheidungswissenschaft
- Systemtechnik
- Digitale Identität und öffentliche digitale Systeme
- Unsicherheitsquantifizierung und Modellvalidierung
Where this page’s references lead.
Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.
- NIST AI Risk Management Framework
- ISO/IEC 42001:2023 Künstliche Intelligenz, Managementsystem (ISO)
- EU-Verordnung über künstliche Intelligenz, Anwendungszeitplan (Europäische Kommission)
- OECD-Grundsätze für KI
- UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz
- Internationaler Bericht zur KI-Sicherheit
Fragen und Antworten.
Warum betreibt das GCRI Feld-Gateways?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.