GCRI · Künstliche Intelligenz und autonome Systeme
KI-Cybersicherheit
AI and cybersecurity meet in three ways: AI Systeme can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
Eine Kaskade durch voneinander abhängige Netze.
A Gefahren-Fußabdruck erfasst die gemeinsam gelegenen Anlagen in jeder Ebene; Fragmentierung, Abhängigkeit zwischen Ebenen und Überlastung der Überlebenden breiten den Ausfall dann aus. Die 3D-Ansicht trennt die Ebenen nach Tiefe. Lehrmodell mit angegebenen illustrativen Werten, keine Vorhersage.
Steuerung
- Anlagen je Ebene
- 18
- Gefahrenausdehnung
- 8 % der Fläche
- Vermögenswerte, die von einer anderen Ebene abhängen
- 60%
- Reservekapazität (Toleranz)
- 30%
Messwerte
- Von der Gefahr getroffene Anlagen
- 7%
- Noch funktionierende Anlagen
- 50%
- Verstärkung des Anfangsschadens
- 6.8 times
- Schritte bis zur Abwicklung
- 3
Zahlen, Methoden und Quellen
| Schritt | Funktionierende Rechenzentren (%) | Funktionierende Netze (%) | Stromversorgung in Betrieb (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
Methoden
- Voneinander abhängige Netze Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Überlastkaskaden Motter and Lai (2002), Physical Review E 66
- Zwischenzentralitätslast Brandes (2001), Journal of Mathematical Sociology 25
- Mehrschichtige Netzwerke Kivela and others (2014), Journal of Complex Networks 2
- Infrastrukturabhängigkeiten Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Unsicherheitsfächer (Parameter-Monte-Carlo) Spiegelhalter, Pearson und Short (2011), Visualising uncertainty about the future, Science 333
- Sensitivität mit jeweils einem Faktor (Tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Daten
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Hauptstraßen Natural Earth
- Eisenbahnen Natural Earth
- Seehäfen Natural Earth
- Flughäfen Natural Earth
- Siedlungsflächen Natural Earth
- Nachtlichter heute Nacht, Ausfälle (VIIRS-Tag/Nacht-Band) NASA/NOAA VIIRS (Suomi NPP) · Register nasa.gibs.context-live-layers
- Naturereignisse (NASA EONET) NASA EONET · Register nasa.eonet.events
Über die sechs Säulen, unter Leitung von Nexus Consortium
- Experimente Labore
- Erstellt in Künstliche Intelligenz und autonome Systeme in Foundry
- Getestet am Künstliche Intelligenz und autonome Systeme in Universe
- Kodifiziert in Digitales, Cyber und KI in Standards
- Veröffentlicht in Künstliche Intelligenz und autonome Systeme in Reports
- Gelehrt in Fakultät für Technologie und digitale Systeme in der Akademie
AI changes cyber risk in every domain’s control systems.
Findings are designed for the Reihe Exponential Technology. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
Das Modell, seine Annahmen, seine Daten und seine Unsicherheit in der Form, in der eine Wissenschaftlerin oder ein Ingenieur sie prüfen würde. Die Strukturen folgen veröffentlichten Methoden. Die dargestellten Werte sind illustrativ, keine Befunde.
Systemmodell
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
Was gemessen wird und wie gut.
Jeder Indikator trägt seine Einheit, seinen Rhythmus, die Art der zugrunde liegenden Quelle und die Evidenzkennzeichnung, die ein Wert tragen würde. Es werden keine Werte gezeigt: Ein Programm liefert sie unter seiner eigenen Autorität.
| Indikator | Einheit | Takt | Quellentyp | Kennzeichnung |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | monatlich | Vulnerability databases | BERICHTET |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | BEOBACHTET |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | DEKLARIERT |
| AI-related security incidents | count by technique | jährlich | Incident reports | BERICHTET |
| Time to detect AI system compromise | hours | per incident | Incident response records | BEOBACHTET |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | BERICHTET |
Woher die Evidenz stammt.
Benannte öffentliche Datensätze und institutionelle Aufzeichnungen, jeweils mit ihrer Lizenzklasse. Quellen auf Vereinbarungsbasis werden nur zu ihren Bedingungen genutzt und niemals weiterveröffentlicht.
| Quelle | Was es liefert | Lizenzklasse |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI Systeme, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Wer entscheidet und wozu die Evidenz dient.
Studio Künstliche Intelligenz und autonome System prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Wer entscheidet | Die Frage | Evidenz, der diese Seite dient |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| Entwickler | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Ergebnisse, die dieses Thema hervorbringt
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining Cybersicherheit und Kryptografie and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Threat modelling
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
Wie es untersucht wird und was die Methoden nicht sagen können.
- 01Cybersicherheit und KryptografieBedrohungsmodellierung von KI-Anwendungen · Integrität der Modell-Lieferkette · Tests der Abwehr von Injection-AngriffenHier angewandt
- 02Engineering für KI-Evaluierung und -AssuranceAssurance Cases für KI-Systeme · Strukturiertes Red Teaming · Überwachung nach dem EinsatzHier angewandt
- 03Künstliche Intelligenz und maschinelles LernenAnalyse von Verteilungsverschiebungen · Feinabstimmung für einen bestimmten Einsatz · InterpretierbarkeitsmethodenHier angewandt
- 04Hochleistungs-, Cloud- und Edge-ComputingZugang zu Rechenleistung für öffentliche Forschung · Energiemessung von ArbeitslastenHier angewandt
Where this page’s references lead.
Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.
Fragen und Antworten.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
Evidenz von dieser Seite aus beitragen.
Berichte is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOffene HinterlegungHinterlegen und bei der Community einreichenVeröffentlichen Sie Ihren eigenen Eintrag auf Zenodo mit Ihrer ORCID iD und reichen Sie ihn dort bei der Reports-Community ein. Kuratorinnen und Kuratoren prüfen ihn; der DOI bleibt bei Ihnen.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.