GCRI · زیرەکی دەستکرد و سیستەمە خۆسەرەکان
ئاسایشی سایبەریی زیرەکی دەستکرد
AI and cybersecurity meet in three ways: AI سیستەمە can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
زنجیرەی کاریگەرییەک بە تۆڕە پشتبەستوو بە یەکترەکاندا.
A شوێنپێی مەترسیدەر موڵکی هاوشوێن لە هەموو چینەکاندا لەناو دەبات؛ پاشان پارچەپارچەبوون، پشتبەستنی نێوان چینەکان و بارزۆری ڕزگاربووان شکستەکە بڵاو دەکەنەوە. بینینی 3D چینەکان بە قووڵایی جیا دەکاتەوە. مۆدێلی فێرکاری بە بەهای نموونەیی ڕاگەیەندراو، نەک پێشبینی.
کۆنترۆڵەکان
- موڵک بۆ هەر چینێک
- 18
- شوێنپێی مەترسیدەر
- 8% ی ناوچەکە
- موڵکی پشتبەستوو بە چینێکی دیکە
- 60%
- توانای یەدەگ (ڕێژەی قبووڵکردن)
- 30%
خوێندنەوەکان
- موڵکی کەوتووە بەر مەترسیدەر
- 7%
- موڵکی هێشتا کارکەر
- 50%
- زیادبوونی زیانی سەرەتایی
- 6.8 times
- هەنگاوەکانی یەکلاکردنەوە
- 3
ژمارە، ڕێگا و سەرچاوەکان
| هەنگاو | ناوەندی داتای کارکەر (%) | تۆڕی کارکەر (%) | هێزی کارکەر (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
میتۆدەکان
- تۆڕە پشتبەستوو بە یەکترەکان Buldyrev و ئەوانی دیکە (2010)، Catastrophic cascade of failures in interdependent networks، Nature 464
- زنجیرەی بارزۆری Motter و Lai (2002)، Physical Review E 66
- بارگرانی ناوەندێتی نێوانی Brandes (2001)، Journal of Mathematical Sociology 25
- تۆڕە فرە چینەکان Kivela و ئەوانی دیکە (2014)، Journal of Complex Networks 2
- پشتبەستنی ژێرخانەکان بە یەکتر Rinaldi، Peerenboom و Kelly (2001)، IEEE Control Systems 21(6)
- پەنجەی نادڵنیایی (مۆنتی کارلۆی پارامیتەر) Spiegelhalter, Pearson و Short (2011)، Visualising uncertainty about the future، Science 333
- هەستیاریی یەک-یەک (تۆرناد) Saltelli و ئەوانی دیکە (2008)، Global Sensitivity Analysis: The Primer، Wiley
داتا
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- ڕێگا سەرەکییەکان Natural Earth
- هێڵی شەمەندەفەر Natural Earth
- بەندەرە دەریاییەکان Natural Earth
- فڕۆکەخانەکان Natural Earth
- بەرینی شارەکان Natural Earth
- ڕووناکی شەو ئەمشەو، پچڕانەکان (VIIRS Day/Night Band) NASA/NOAA VIIRS (Suomi NPP) · register nasa.gibs.context-live-layers
- ڕووداوە سروشتییەکان (NASA EONET) NASA EONET · register nasa.eonet.events
لە ناو شەش کۆڵەکەکەدا، بە سەرپەرشتیی Nexus Consortium
- تاقیکردنەوەکان Labs
- تێدا دروستکراوە زیرەکی دەستکرد و سیستەمە خۆسەرەکان لە Foundry
- تاقیکراوەتەوە لە زیرەکی دەستکرد و سیستەمە خۆسەرەکان لە Universe
- کۆدکراوە لە دیجیتاڵ، سایبەر و AI لە Standards
- بڵاوکراوەتەوە لە زیرەکی دەستکرد و سیستەمە خۆسەرەکان لە Reports
- فێرکراو لە کۆلێژی تەکنەلۆجیا و سیستەمە دیجیتاڵییەکان لە Academy
AI changes cyber risk in every domain’s control systems.
Findings are designed for the زنجیرەی Exponential Technology. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
مۆدێلەکە، گریمانەکانی، داتاکانی و نادڵنیاییەکەی، بەو شێوەیەی زانا یان ئەندازیارێک دەیپشکنێت. پێکهاتەکان ڕێگا بڵاوکراوەکان دەگرنەبەر. بەهاکانی کێشراو نموونەییە، نەک دۆزینەوە.
مۆدێلی سیستەم
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
What is measured, and how well.
Each indicator carries its unit, its cadence, the kind of source behind it and the evidence label a value would carry. No values are shown: a programme supplies them under its own authority.
| Indicator | Unit | Cadence | Source type | ناونیشان |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | monthly | Vulnerability databases | REPORTED |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | چاودێریکراو |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | DECLARED |
| AI-related security incidents | count by technique | annual | Incident reports | REPORTED |
| Time to detect AI system compromise | hours | per incident | Incident response records | چاودێریکراو |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | REPORTED |
Where the evidence comes from.
Named public datasets and institutional records, each with its licence class. Sources by agreement are used only under their terms and never republished.
| سەرچاوە | What it gives | Licence class |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI سیستەمە, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Who decides, and what the evidence serves.
زیرەکی دەستکرد و سیستەم prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| کێ بڕیار دەدات | The question | Evidence this page serves |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| گەشەپێدەران | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Outputs this topic produces
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining ئاسایشی سایبەری و نهێنینووسی and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Threat modelling
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
How it is studied, and what the methods cannot say.
- 01ئاسایشی سایبەری و کریپتۆگرافیThreat modelling AI applications · Model supply chain integrity · Injection defence testingApplied here
- 02ئەندازیاری هەڵسەنگاندن و دڵنیایی لە زیرەکی دەستکردAssurance cases for AI systems · Structured red teaming · Post-deployment monitoringApplied here
- 03زیرەکی دەستکرد و فێربوونی ماشێنDistribution shift analysis · Fine-tuning for a specific use · Interpretability methodsApplied here
- 04کۆمپیوتەری کارایی بەرز، هەور و لێوارCompute access for public research · Energy measurement of workloadsApplied here
Where this page’s references lead.
ئەو لەش و بەڵگەنامانەی ئەم لاپەڕەیەیان لەگەڵ دەخوێنرێتەوە. دۆخ و وەشانەکان دەگۆڕێن؛ هەر بەستەرێک دەچێتە لای لەشی دەرکەر.
پرسیار و وەڵام.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
لەم لاپەڕەیەوە بەڵگە پێشکەش بکە.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- ئیمەیڵدەروازەی GW-GCRIلەم لاپەڕەیەوە بینێرەبەڵگە، ڕاستکردنەوە، بابەت، ڕێگا، پێداچوونەوە، وەرگێڕان یان تێکردنی پڕۆفایل. بە نیشانەی ئەم لاپەڕەیە دەگات، بۆ ئەوەی دەستکاریکەری خاوەنەکەی وەریبگرێت.
- Zenodoتەکیەی کراوەدایبنێ و بیدە بە کۆمەڵگاتۆماری خۆت لە Zenodo بە ORCID iD ی خۆت بڵاو بکەرەوە، پاشان لەوێ بیدە بە کۆمەڵگای Reports. سەرپەرشتیارەکان پێداچوونەوەی بۆ دەکەن؛ DOI هەر هی تۆیە.
- ReportsGCRIهەموو ڕێگاکانی بەشداری ببینەجۆرەکانی بەشداری، هەریەکە چۆن پێداچوونەوەی بۆ دەکرێت، چ ناوبردنێک وەردەگریت، مۆڵەتەکە و ئەوەی هەرگیز وەرناگیرێت.
هەرگیز داتای کەسی، وردەکاریی هەستیاری ژێرخان یان هیچ شتێک مەنێرە کە مافی بڵاوکردنەوەت نییە. بەشدارییەک پێش بەکارهێنان پێداچوونەوەی بۆ دەکرێت؛ ناردنی ماف نابەخشێت بە نووسەرایەتی یان بەڕێوەبردنی ڕاگەیاندن، و پاڵپشتی دارایی هەرگیز دۆزینەوەیەک ناکڕێت.
ڕێگایەک، کۆمەڵە داتایەک یان پرسیارێک بهێنە.
زانیاری و پرسیار ئەمڕۆ کراوەن. پرسیارێک ژمارەی ئاماژەی پێدەدرێت و هەنگاوی دواتر دیاری دەکات؛ داواکاری، پارەدان، تەرخانکردنی کۆمپیوتەر و تۆمارکردن تەنیا کاتێک دەکرێنەوە کە تیم، مەرج و توانای پێداچوونەوەیان هەبێت.
بەڵگەنامە یاساییەکان.
نەخشە، داتا و وێنەکانی ئەم ماڵپەڕە بۆ ناوەڕۆک و زانیاریی گشتی پیشان دراون. ئامۆژگاری، پێشبینی یان ئاگادارکردنەوە نین؛ سنوورەکانی زانیارییەکە لە ڕەتکردنەوەی بەرپرسیارێتی و ئاگاداریی داتادا دەستنیشان کراون.