Skip to content

GCRI · زیرەکی دەستکرد و سیستەمە خۆسەرەکان

Cybersecurity for AI systems

Cybersecurity and cryptography protect AI سیستەمە and the data they use. In this field the focus is threats specific to AI, such as prompt injection, poisoning and model theft, alongside conventional security of the software and infrastructure around models.

پرسیارێک بنێرە Back to STEM foundation of Artificial Intelligence and Autonomous Systems
01تۆمارکردن

Cybersecurity for AI systems on the record.

Method recordSTEM method
  1. ڕێگائاسایشی سایبەری و کریپتۆگرافی
  3. Applied inزیرەکی دەستکرد و سیستەم
  4. داتا3 inputs
  6. Canonical pageSTEM Commons
02Application

What cybersecurity and cryptography does here.

Cybersecurity and cryptography protect information سیستەمە and data from unauthorised access, disruption and manipulation. They address threats that can spread rapidly across interconnected digital and physical systems. In artificial intelligence and data and compute, cybersecurity analysis identifies how a single compromise can propagate across sectors that share software, vendors or networks. It informs resilience requirements and cyber insurance. The canonical description is on STEM Commons.

Threat modelling AI applications

Data flows, trust boundaries and tools of an AI application are mapped to identify where untrusted inputs could manipulate the model or where data could leak.

Model supply chain integrity

Provenance of datasets and model weights is recorded and verified with signatures and hashes before use.

Injection defence testing

Applications are tested with suites of injection attempts, and the success rate is tracked as defences change.

03چاودێری

Security assessment.

The screen a team would use to follow this method: its measures, states and decisions. Names are examples and values are illustrative.

Security assessment

AI and autonomous systems · Cybersecurity for AI systems · Run R-5953

Two high findingsGCRI · زیرەکی دەستکرد و سیستەمە خۆسەرەکان

دۆزینەوەکان

Weak key rotationIdentity serviceبەرزPR.AAکراوە
Unpatched gatewayEdgeبەرزPR.PSFixing
Logging gapAPI ی پارەدانناوەندDE.CMکراوە
Stale accountsڕێبەرکەمPR.AAClosed

Method card

ڕێگا
ئاسایشی سایبەری و کریپتۆگرافی
Framework
فەرمانەکانی CSF 2.0
سنوور
54 assets
ناونیشان
مۆدێلکراو

Control coverage by function

Security assessment: the screen’s structure, terms and states for AI and autonomous systems.ناو و بەهای نموونەیی؛ دیزاینێکە، نەک تۆمار یان سیستەمی ڕاستەوخۆ.
04داتا

What the method consumes.

Datasets and records used by cybersecurity and cryptography on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

داتاڕۆڵناونیشان
MITRE ATLAS techniquesThreat catalogueREPORTED
Vulnerability databasesKnown flawsREPORTED
Security test resultsDefence performanceچاودێریکراو
05ئەنجامدەر

زنجیرەی کاریگەرییەک بە تۆڕە پشتبەستوو بە یەکترەکاندا.

A شوێنپێی مەترسیدەر موڵکی هاوشوێن لە هەموو چینەکاندا لەناو دەبات؛ پاشان پارچەپارچەبوون، پشتبەستنی نێوان چینەکان و بارزۆری ڕزگاربووان شکستەکە بڵاو دەکەنەوە. بینینی 3D چینەکان بە قووڵایی جیا دەکاتەوە. مۆدێلی فێرکاری بە بەهای نموونەیی ڕاگەیەندراو، نەک پێشبینی.

کۆنترۆڵەکان

موڵک بۆ هەر چینێک
18
شوێنپێی مەترسیدەر
8% ی ناوچەکە
موڵکی پشتبەستوو بە چینێکی دیکە
60%
توانای یەدەگ (ڕێژەی قبووڵکردن)
30%

خوێندنەوەکان

موڵکی کەوتووە بەر مەترسیدەر
2%
موڵکی هێشتا کارکەر
72%
زیادبوونی زیانی سەرەتایی
15.0 times
هەنگاوەکانی یەکلاکردنەوە
3
ژمارە، ڕێگا و سەرچاوەکان
هەنگاوناوەندی داتای کارکەر (%)تۆڕی کارکەر (%)هێزی کارکەر (%)
094100100
18967100
27267100
3726778

میتۆدەکان

  1. تۆڕە پشتبەستوو بە یەکترەکان Buldyrev و ئەوانی دیکە (2010)، Catastrophic cascade of failures in interdependent networks، Nature 464
  2. زنجیرەی بارزۆری Motter و Lai (2002)، Physical Review E 66
  3. بارگرانی ناوەندێتی نێوانی Brandes (2001)، Journal of Mathematical Sociology 25
  4. تۆڕە فرە چینەکان Kivela و ئەوانی دیکە (2014)، Journal of Complex Networks 2
  5. پشتبەستنی ژێرخانەکان بە یەکتر Rinaldi، Peerenboom و Kelly (2001)، IEEE Control Systems 21(6)
  6. پەنجەی نادڵنیایی (مۆنتی کارلۆی پارامیتەر) Spiegelhalter, Pearson و Short (2011)، Visualising uncertainty about the future، Science 333
  7. هەستیاریی یەک-یەک (تۆرناد) Saltelli و ئەوانی دیکە (2008)، Global Sensitivity Analysis: The Primer، Wiley

داتا

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • ڕێگا سەرەکییەکان Natural Earth
  • هێڵی شەمەندەفەر Natural Earth
  • بەندەرە دەریاییەکان Natural Earth
  • فڕۆکەخانەکان Natural Earth
  • بەرینی شارەکان Natural Earth
  • ڕووناکی شەو ئەمشەو، پچڕانەکان (VIIRS Day/Night Band) NASA/NOAA VIIRS (Suomi NPP) · register nasa.gibs.context-live-layers
  • ڕووداوە سروشتییەکان (NASA EONET) NASA EONET · register nasa.eonet.events
زنجیرەی کاریگەرییەک بە تۆڕە پشتبەستوو بە یەکترەکاندا. مۆدێلی فێرکاریی نموونەیی: لەسەر ئەو بەهایانە کار دەکات کە کۆنترۆڵەکان دایاندەنێن، نەک داتای پێوراو. ڕێگاکان: تۆڕە پشتبەستوو بە یەکترەکان (Buldyrev و ئەوانی دیکە (2010)، Catastrophic cascade of failures in interdependent networks، Nature 464)؛ زنجیرەی بارزۆری (Motter و Lai (2002)، Physical Review E 66)؛ بارگرانی ناوەندێتی نێوانی (Brandes (2001)، Journal of Mathematical Sociology 25).

لە ناو شەش کۆڵەکەکەدا، بە سەرپەرشتیی Nexus Consortium

06پشتڕاستکردنەوە

How results are checked.

Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.

بپشکنەHow it is done
Threat model reviewThreat models are reviewed when the application or its tools change
Provenance verificationModel artefacts are checked against signed records
Regression testingSecurity tests are rerun after each update

Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.

07ڕێگا و بەڵگە

How Cybersecurity for AI systems is modelled, measured and tested.

مۆدێلەکە، گریمانەکانی، داتاکانی و نادڵنیاییەکەی، بەو شێوەیەی زانا یان ئەندازیارێک دەیپشکنێت. پێکهاتەکان ڕێگا بڵاوکراوەکان دەگرنەبەر. بەهاکانی کێشراو نموونەییە، نەک دۆزینەوە.

مۆدێل، هاوکێشەکان و گریمانەکان

The model structure used for Cybersecurity for AI systems, the assumptions it makes and how each is tested.

مەترسیی توخمی iRi = f(Hi, Ei, Vi, Ci)مەترسیدەر، ڕووبەڕووبوون، لاوازی و توانای مامەڵەکردن
زیانی ساڵانەی چاوەڕوانکراوEAL = ∑k pk · Lkبەسەر ڕووداوەکانی k بە ئەگەری ساڵانەی pk
سیستەمە هاوبەستەکانxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
گریمانەبۆچی دروست دەکرێتچۆن تاقی دەکرێتەوە
مەترسیدەر و ڕووبەڕووبوون لە ناو پێشهاتێکدا سەربەخۆنئینتێگراڵی زیان بە ئاسانی دەهێڵێتەوەبەراورد بکە لەگەڵ گونجاندنی کۆپیولا لەسەر تۆمارە هاوبەشەکان
هاوبەستییەکان لە نزیک خاڵی کارکردن هێڵینڕێگە دەدات شۆکەکان بڵاو ببنەوە لە Aلە دەرەوەی مەودای هێڵیی شڵەژێنە و بەراورد بکە
چەمکەکانی لاوازی لە شوێنێکەوە بۆ شوێنێکی تر دەگوازرێنەوەچەمکی ناوخۆیی بە دەگمەن بەردەستەلەگەڵ زیانە چاودێریکراوەکان پشتڕاستی بکەرەوە کە هەن
تێکردنەکان
کۆمەڵە داتای وەشانکراو لەگەڵ ڕەسەنایەتی
دەرچووەکان
دابەشبوون، نەک یەک ژمارە
کۆد
بڵاوکراوەتەوە لەگەڵ کارتی مۆدێل و تاقیکردنەوەکان
بەرهەمهێنانەوە
هەمان داتا، کۆد، ژینگە و تۆو
فۆرمۆلەکردنی مەترسی و دۆخ-بۆشایی ستاندارد؛ ئەو گریمانانەی لیست کراون ئاسایین بۆ ڕێگاکە، بۆ پێداچوونەوە ڕاگەیەندراون، نەک ئەنجام.
پرەنسیپە ڕێنماییەکانی FAIR · GO FAIR و FORCE11W3C PROV · World Wide Web Consortiumڕێنمایی بۆ مامەڵەی یەکسان لەگەڵ نادڵنیاییەکان · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
08Connections

Topics that rely on this method.

09Stewardship

Who maintains the method.

ئاسایشی سایبەری و خۆڕاگریی دیجیتاڵ stewards cybersecurity and cryptography for the Consortium and reviews how it is applied across platforms.

Canonical page: Cybersecurity and cryptography

10پەیوەست

ئەو شوێنانەی ئەم لاپەڕەیە لە ناو کۆنسۆرتیۆم بۆیان دەبات.

11پرسیارەکان

پرسیار و وەڵام.

What are the limits of cybersecurity and cryptography in this field?
Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.
How are results checked?
Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.
Are the values on this page real?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Where else is this method applied?
ئەو canonical method page lists every platform that applies it.
Reportsبەشداربە

لەم لاپەڕەیەوە بەڵگە پێشکەش بکە.

Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRIزیرەکی دەستکرد و سیستەمە خۆسەرەکانتەکنەلۆجیای ئێکسپۆنێنشیاڵبەڵگەی Labs

هەرگیز داتای کەسی، وردەکاریی هەستیاری ژێرخان یان هیچ شتێک مەنێرە کە مافی بڵاوکردنەوەت نییە. بەشدارییەک پێش بەکارهێنان پێداچوونەوەی بۆ دەکرێت؛ ناردنی ماف نابەخشێت بە نووسەرایەتی یان بەڕێوەبردنی ڕاگەیاندن، و پاڵپشتی دارایی هەرگیز دۆزینەوەیەک ناکڕێت.

زیرەکی دەستکرد و سیستەمە خۆسەرەکان

ڕێگایەک، کۆمەڵە داتایەک یان پرسیارێک بهێنە.

زانیاری و پرسیار ئەمڕۆ کراوەن. پرسیارێک ژمارەی ئاماژەی پێدەدرێت و هەنگاوی دواتر دیاری دەکات؛ داواکاری، پارەدان، تەرخانکردنی کۆمپیوتەر و تۆمارکردن تەنیا کاتێک دەکرێنەوە کە تیم، مەرج و توانای پێداچوونەوەیان هەبێت.

ڕێگایەک پێشنیار بکە بینینی هەموو ڕێگاکانی پەیوەندی
یاسایی

نەخشە، داتا و وێنەکانی ئەم ماڵپەڕە بۆ ناوەڕۆک و زانیاریی گشتی پیشان دراون. ئامۆژگاری، پێشبینی یان ئاگادارکردنەوە نین؛ سنوورەکانی زانیارییەکە لە ڕەتکردنەوەی بەرپرسیارێتی و ئاگاداریی داتادا دەستنیشان کراون.