GCRI · Künstliche Intelligenz und autonome Systeme
Überblick über das Feld
KI und autonome Systeme als Risikofeld untersuchen, wie sich gelernte Modelle, Software-Agenten und Roboter in der realen Welt verhalten, wie sich ihr Verhalten messen lässt und wie sich ihre Ausfälle auf die Institutionen, Infrastrukturen und Leben auswirken, die von ihnen abhängen. Diese Seite definiert das Fachgebiet, erklärt, warum es für die Gesellschaft wichtig ist, legt dar, was Fachleute untersuchen, und zeigt, wie es mit anderen Risiken zusammenhängt.
- MINT-Methoden
- 7
- Kanonische Methoden, die dieses Feld anwendet
- Themen
- 8
- Themenseiten im Fachgebiet
- Partner
- 3
- Plattformen in gemeinsamen Feldern im gesamten Netz
- Berichtsreihen
- 2
- Reports-Reihen, zu denen es beiträgt
Von Algorithmen zu eingesetzten Systemen.
Modelle und Daten
Wie Trainingsdaten, Zielfunktionen und Architekturen das Verhalten prägen, einschließlich der Fehlermodi.
Evaluierung und Aufsicht
Wie Systeme getestet, überwacht und unter wirksamer menschlicher Kontrolle gehalten werden.
Autonomie in der Welt
Wie Wahrnehmung, Planung und Steuerung in Robotern und Fahrzeugen zusammenwirken.
Das Fachgebiet verbindet künstliche Intelligenz und maschinelles Lernen, die Methoden, mit denen Systeme aus Daten lernen, mit KI-Evaluierung und KI-Prüftechnik, der Ingenieursdisziplin ihres Testens und ihrer Absicherung. Es erstreckt sich auf Robotik und Automatisierung, wo KI physische Maschinen steuert, sowie auf Hochleistungs-, Cloud- und Edge-Computing, die Infrastruktur, die Modelle trainiert und betreibt.
Als Risikofeld definiert es sich über Folgen: was geschieht, wenn ein Modell schlecht generalisiert, wenn ein Agent ein Werkzeug missbraucht, wenn ein Roboter seine Umgebung falsch deutet oder wenn viele Systeme denselben Fehler teilen. Sozial- und Verhaltenswissenschaften gehört zum Fachgebiet, weil die Wirkungen von KI davon abhängen, wie Menschen sie nutzen, ihr vertrauen und sie anfechten.
Überblick über das Fachgebiet.
Die Ansicht, die ein Team nutzen würde, um dieses Thema zu verfolgen: seine Messgrößen, Zustände und Entscheidungen. Namen sind Beispiele, Werte sind illustrativ.
KI wird zur Infrastruktur.
- KI entwickelt sich von beratenden Werkzeugen zu Systeme , die handeln, durch Software-Agenten und physische Autonomie.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- Eine kleine Zahl von Modellanbietern, Cloud-Plattformen und Chip-Lieferketten trägt viele Anwendungen.
- Die Evaluierungswissenschaft hinkt den Fähigkeiten hinterher, sodass Aussagen über Sicherheit und Leistung oft schwer zu prüfen sind.
Die zentralen Fragen.
- 01
Messung
Messen Evaluierungen, was sie zu messen beanspruchen, und lassen sich Ergebnisse verallgemeinern? Siehe Modellevaluierung.
- 02
Maßnahme
Wie sollten Befugnisse an Systeme delegiert werden, die handeln? Siehe Agentische Systeme und Autonome physische Systeme.
- 03
Sicherheit
Wie können Modelle angegriffen werden, und wie kann KI Cyberangriff und -abwehr verändern? Siehe KI und Cybersicherheit.
- 04
Nutzen
Wie verändert KI Wissenschaft und öffentliche Dienste? Siehe KI in der Wissenschaft sowie KI und öffentliche Dienste.
- 05
Grundlagen und Wirkungen
Wovon hängt KI ab, und wen betrifft sie? Siehe Rechenleistung und Energie sowie Auswirkungen auf Arbeit und Gesellschaft.
Wie KI andere Risiken berührt.
KI ist mit Cybersicherheit, Energie, Arbeitsmärkten, Finanzen und öffentlichem Vertrauen verbunden. Abhängigkeiten und Folgen erläutert diese Verbindungen. Die Governance wird über KI und digitale Governance beim Global Risks Forum (GRF) zusammengeführt, und das Modellrisiko im Finanzsektor wird über AI and Financial Model Risk bei der Global Risks Alliance (GRA) untersucht.
Seiten in Feldüberblick.
Fragen und Antworten.
Ist dieses Fachgebiet dasselbe wie KI-Ethik?
Auf welche Methoden stützt sich das Fachgebiet?
Umfasst das Fachgebiet militärische KI?
Evidenz von dieser Seite aus beitragen.
Berichte is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOffene HinterlegungHinterlegen und bei der Community einreichenVeröffentlichen Sie Ihren eigenen Eintrag auf Zenodo mit Ihrer ORCID iD und reichen Sie ihn dort bei der Reports-Community ein. Kuratorinnen und Kuratoren prüfen ihn; der DOI bleibt bei Ihnen.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.