Skip to content

GCRI · कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ

AI प्रणालियों के लिए साइबर सुरक्षा

Cybersecurity and cryptography protect AI प्रणालियाँ and the data they use. In this field the focus is threats specific to AI, such as prompt injection, poisoning and model theft, alongside conventional security of the software and infrastructure around models.

पूछताछ करें Back to STEM foundation of Artificial Intelligence and Autonomous Systems
01रजिस्टर करें

Cybersecurity for AI systems on the record.

पद्धति अभिलेखSTEM पद्धति
  1. पद्धतिसाइबर सुरक्षा और क्रिप्टोग्राफ़ी
  3. इनमें लागूकृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
  4. डेटा3 inputs
  6. प्रामाणिक पृष्ठSTEM कॉमन्स
02आवेदन

What cybersecurity and cryptography does here.

Cybersecurity and cryptography protect information प्रणालियाँ and data from unauthorised access, disruption and manipulation. They address threats that can spread rapidly across interconnected digital and physical systems. In artificial intelligence and data and compute, cybersecurity analysis identifies how a single compromise can propagate across sectors that share software, vendors or networks. It informs resilience requirements and cyber insurance. The canonical description is on STEM Commons.

Threat modelling AI applications

Data flows, trust boundaries and tools of an AI application are mapped to identify where untrusted inputs could manipulate the model or where data could leak.

Model supply chain integrity

Provenance of datasets and model weights is recorded and verified with signatures and hashes before use.

Injection defence testing

Applications are tested with suites of injection attempts, and the success rate is tracked as defences change.

03निगरानी करें

Security assessment.

वह स्क्रीन जिसका उपयोग कोई टीम इस पद्धति का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।

Security assessment

AI and autonomous systems · Cybersecurity for AI systems · Run R-5953

Two high findingsGCRI · कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ

निष्कर्ष

Weak key rotationIdentity serviceउच्चPR.AAखोलें
Unpatched gatewayEdgeउच्चPR.PSFixing
Logging gapभुगतान APIमध्यमDE.CMखोलें
Stale accountsनिर्देशिकानिम्नPR.AAबंद

पद्धति कार्ड

पद्धति
साइबर सुरक्षा और क्रिप्टोग्राफ़ी
ढाँचा
CSF 2.0 कार्य
दायरा
54 assets
लेबल
मॉडल-आधारित

Control coverage by function

Security assessment: the screen’s structure, terms and states for AI and autonomous systems.उदाहरण नाम और दृष्टांत मान; एक डिज़ाइन, कोई अभिलेख या चालू प्रणाली नहीं।
04डेटा

पद्धति क्या उपभोग करती है।

Datasets and records used by cybersecurity and cryptography on this platform, with the role each plays and the label its values carry. Sources are listed in स्रोत रजिस्टर.

डेटाभूमिकालेबल
MITRE ATLAS techniquesThreat catalogueरिपोर्ट किया गया
Vulnerability databasesKnown flawsरिपोर्ट किया गया
Security test resultsDefence performanceप्रेक्षित
05सिम्युलेटर

परस्पर निर्भर नेटवर्कों में एक शृंखला।

A संकट पदचिह्न हर परत में सह-स्थित परिसंपत्तियों को नष्ट कर देता है; फिर विखंडन, परतों के बीच निर्भरता और बचे हुओं का अधिभार विफलता फैलाते हैं। 3D दृश्य परतों को गहराई से अलग करता है। बताए गए उदाहरणात्मक मानों वाला शिक्षण मॉडल, पूर्वानुमान नहीं।

नियंत्रण

प्रति परत परिसंपत्तियाँ
18
संकट पदचिह्न
क्षेत्रफल का 8%
दूसरी परत पर निर्भर परिसंपत्तियाँ
60%
अतिरिक्त क्षमता (सहनशीलता)
30%

पाठ्यांक

संकट से प्रभावित परिसंपत्तियाँ
2%
अब भी काम कर रही परिसंपत्तियाँ
72%
प्रारंभिक क्षति का प्रवर्धन
15.0 times
स्थिर होने के चरण
3
संख्याएँ, विधियाँ और स्रोत
चरणकाम कर रहे डेटा केंद्र (%)काम कर रहे नेटवर्क (%)कार्यरत बिजली (%)
094100100
18967100
27267100
3726778

पद्धतियाँ

  1. परस्पर निर्भर नेटवर्क Buldyrev और अन्य (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
  2. अधिभार कैस्केड Motter and Lai (2002), Physical Review E 66
  3. मध्यवर्तिता भार Brandes (2001), Journal of Mathematical Sociology 25
  4. बहुस्तरीय नेटवर्क Kivela and others (2014), Journal of Complex Networks 2
  5. अवसंरचना परस्पर निर्भरताएँ Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
  6. अनिश्चितता पंखा (प्राचल मोंटे कार्लो) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
  7. एक-एक करके संवेदनशीलता (टॉरनेडो) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

डेटा

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • प्रमुख सड़कें Natural Earth
  • रेलवे Natural Earth
  • समुद्री बंदरगाह Natural Earth
  • हवाई अड्डे Natural Earth
  • शहरी विस्तार Natural Earth
  • आज रात की रात्रि रोशनी, बिजली कटौती (VIIRS दिन/रात बैंड) NASA/NOAA VIIRS (Suomi NPP) · रजिस्टर nasa.gibs.context-live-layers
  • प्राकृतिक घटनाएँ (NASA EONET) NASA EONET · रजिस्टर nasa.eonet.events
परस्पर निर्भर नेटवर्कों से गुज़रता शृंखला-प्रभाव। दृष्टांत के लिए शिक्षण मॉडल: यह मापे गए डेटा पर नहीं, नियंत्रणों से तय मानों पर चलता है। पद्धतियाँ: परस्पर निर्भर नेटवर्क (Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464); अतिभार शृंखला-प्रभाव (Motter and Lai (2002), Physical Review E 66); मध्यस्थता भार (Brandes (2001), Journal of Mathematical Sociology 25)।

छह स्तंभों में, Nexus Consortium के नेतृत्व में

06सत्यापन

परिणामों की जाँच कैसे होती है।

Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.

जाँचेंयह कैसे किया जाता है
Threat model reviewThreat models are reviewed when the application or its tools change
Provenance verificationModel artefacts are checked against signed records
Regression testingSecurity tests are rerun after each update

Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.

07पद्धतियाँ और साक्ष्य

How Cybersecurity for AI systems is modelled, measured and tested.

मॉडल, उसकी मान्यताएँ, उसका डेटा और उसकी अनिश्चितता, उस रूप में जिसे कोई वैज्ञानिक या अभियंता जाँचेगा। संरचनाएँ प्रकाशित पद्धतियों का अनुसरण करती हैं। लिए गए मान उदाहरणात्मक हैं, निष्कर्ष नहीं।

मॉडल, समीकरण और मान्यताएँ

The model structure used for Cybersecurity for AI systems, the assumptions it makes and how each is tested.

तत्व i का जोखिमRi = f(Hi, Ei, Vi, Ci)संकट, जोखिम-संपर्क, भेद्यता और सामना करने की क्षमता
अपेक्षित वार्षिक हानिEAL = ∑k pk · Lkवार्षिक प्रायिकता pk
युग्मित प्रणालियाँxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
धारणायह क्यों बनाया जाता हैइसका परीक्षण कैसे होता है
एक घटना के भीतर संकट और जोखिम-संपर्क स्वतंत्र हैंनुकसान समाकलन को हल करने योग्य रखता हैसंयुक्त अभिलेखों पर कोपुला फ़िट से तुलना करें
संचालन बिंदु के पास युग्मन रैखिक हैंझटकों को A के माध्यम से फैलने देता हैरैखिक सीमा से आगे विक्षोभ दें और तुलना करें
भेद्यता वक्र स्थानों के बीच स्थानांतरित होते हैंस्थानीय वक्र शायद ही कभी उपलब्ध होते हैंजहाँ प्रेक्षित हानियाँ मौजूद हों, उनके विरुद्ध सत्यापन करें
इनपुट
उद्गम के साथ संस्करणबद्ध डेटासेट
परिणाम
वितरण, कभी एकल संख्याएँ नहीं
Code
मॉडल कार्ड और परीक्षणों के साथ जारी
पुनरुत्पादन
वही डेटा, कोड, परिवेश और सीड
मानक जोखिम और अवस्था-समष्टि सूत्रीकरण; सूचीबद्ध धारणाएँ पद्धति की विशिष्ट धारणाएँ हैं, समीक्षा के लिए बताई गई, परिणाम नहीं।
FAIR मार्गदर्शक सिद्धांत · GO FAIR और FORCE11W3C PROV · World Wide Web Consortiumअनिश्चितताओं के सुसंगत उपचार पर मार्गदर्शन · IPCCCEOS विश्लेषण-योग्य डेटा · Committee on Earth Observation Satellites
08संबंध

इस पद्धति पर निर्भर विषय।

09प्रबंधकत्व

पद्धति का रखरखाव कौन करता है।

साइबर सुरक्षा और डिजिटल लचीलापन stewards cybersecurity and cryptography for the Consortium and reviews how it is applied across platforms.

Canonical page: Cybersecurity and cryptography

10जुड़ा हुआ

यह पृष्ठ पूरे कंसोर्टियम में कहाँ ले जाता है।

11प्रश्न

प्रश्न और उत्तर।

What are the limits of cybersecurity and cryptography in this field?
Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.
परिणामों की जाँच कैसे होती है?
Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.
क्या इस पृष्ठ के मान वास्तविक हैं?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
यह पद्धति और कहाँ लागू होती है?
समाज को चलाने वाली प्रामाणिक पद्धति पृष्ठ उसे लागू करने वाले हर प्लेटफ़ॉर्म को सूचीबद्ध करता है।
रिपोर्टयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

रिपोर्ट is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRIकृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँघातांकीय प्रौद्योगिकीLabs साक्ष्य

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ

कोई विधि, डेटासेट या प्रश्न लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

एक पद्धति प्रस्तावित करें सभी संपर्क मार्ग देखें
विधिक

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।