Skip to content

GCRI · 인공지능과 자율 시스템

AI 시스템을 위한 사이버보안

Cybersecurity and cryptography protect AI 시스템 and the data they use. In this field the focus is threats specific to AI, such as prompt injection, poisoning and model theft, alongside conventional security of the software and infrastructure around models.

문의하기 Back to STEM foundation of Artificial Intelligence and Autonomous Systems
01등록

Cybersecurity for AI systems on the record.

방법 기록STEM 방법
  1. 방법사이버보안 및 암호학
  3. 적용 분야인공지능과 자율 시스템
  4. 데이터3 inputs
  6. 정본 페이지STEM 공유지
02신청서

What cybersecurity and cryptography does here.

Cybersecurity and cryptography protect information 시스템 and data from unauthorised access, disruption and manipulation. They address threats that can spread rapidly across interconnected digital and physical systems. In artificial intelligence and data and compute, cybersecurity analysis identifies how a single compromise can propagate across sectors that share software, vendors or networks. It informs resilience requirements and cyber insurance. The canonical description is on STEM Commons.

Threat modelling AI applications

Data flows, trust boundaries and tools of an AI application are mapped to identify where untrusted inputs could manipulate the model or where data could leak.

Model supply chain integrity

Provenance of datasets and model weights is recorded and verified with signatures and hashes before use.

Injection defence testing

Applications are tested with suites of injection attempts, and the success rate is tracked as defences change.

03모니터링

Security assessment.

팀이 이 방법을 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.

Security assessment

AI and autonomous systems · Cybersecurity for AI systems · Run R-5953

Two high findingsGCRI · 인공지능과 자율 시스템

조사 결과

Weak key rotationIdentity service높음PR.AA열기
Unpatched gatewayEdge높음PR.PSFixing
Logging gap결제 API보통DE.CM열기
Stale accounts명부낮음PR.AA종결

방법 카드

방법
사이버보안 및 암호학
프레임워크
CSF 2.0 기능
범위
54 assets
라벨
모형 산출

Control coverage by function

Security assessment: the screen’s structure, terms and states for AI and autonomous systems.예시 이름과 예시 값으로, 실제 기록이나 운영 중인 시스템이 아닌 설계안입니다.
04데이터

방법이 사용하는 입력.

Datasets and records used by cybersecurity and cryptography on this platform, with the role each plays and the label its values carry. Sources are listed in 출처 등록부.

데이터역할라벨
MITRE ATLAS techniquesThreat catalogue보고됨
Vulnerability databasesKnown flaws보고됨
Security test resultsDefence performance관측
05시뮬레이터

상호 의존하는 네트워크를 통한 연쇄.

A 재해 영향 범위 은 모든 층에서 같은 곳에 있는 자산을 무너뜨리고, 이어서 분절, 층 간 의존과 남은 자산의 과부하가 장애를 퍼뜨립니다. 3D 보기는 층을 깊이로 분리합니다. 예시 값을 밝힌 교육용 모델이며 예측이 아닙니다.

통제 수단

레이어별 자산
18
재해 영향 범위
면적의 8%
다른 레이어에 의존하는 자산
60%
예비 용량(허용치)
30%

판독값

재해의 타격을 받은 자산
2%
여전히 작동하는 자산
72%
초기 피해의 증폭
15.0 times
정착까지의 단계
3
수치, 방법과 출처
단계작동 중인 데이터센터(%)작동 중인 네트워크(%)전력 작동(%)
094100100
18967100
27267100
3726778

방법

  1. 상호의존 네트워크 Buldyrev 외(2010), Catastrophic cascade of failures in interdependent networks, Nature 464
  2. 과부하 캐스케이드 Motter and Lai (2002), Physical Review E 66
  3. 매개 부하 Brandes (2001), Journal of Mathematical Sociology 25
  4. 다층 네트워크 Kivela and others (2014), Journal of Complex Networks 2
  5. 인프라 상호 의존성 Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
  6. 불확실성 팬(매개변수 몬테카를로) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
  7. 단일 요인 민감도(토네이도) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

데이터

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • 주요 도로 Natural Earth
  • 철도 Natural Earth
  • 항구 Natural Earth
  • 공항 Natural Earth
  • 도시 범위 Natural Earth
  • 오늘 밤 야간 조명, 정전(VIIRS 주야간 밴드) NASA/NOAA VIIRS(Suomi NPP) · 등록 nasa.gibs.context-live-layers
  • 자연 사건(NASA EONET) NASA EONET · 등록 nasa.eonet.events
상호 의존적인 네트워크를 통한 연쇄 반응. 예시용 교육 모형으로, 측정 데이터가 아니라 조절 장치로 설정한 값에 따라 작동합니다. 방법: 상호 의존 네트워크(Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464), 과부하 연쇄(Motter and Lai (2002), Physical Review E 66), 매개 중심성 부하(Brandes (2001), Journal of Mathematical Sociology 25).

여섯 기둥 전반에 걸쳐, Nexus Consortium 주도

06검증

결과가 점검되는 방식.

Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.

점검수행 방식
Threat model reviewThreat models are reviewed when the application or its tools change
Provenance verificationModel artefacts are checked against signed records
Regression testingSecurity tests are rerun after each update

Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.

07방법과 근거

How Cybersecurity for AI systems is modelled, measured and tested.

모형, 그 가정, 데이터, 불확실성을 과학자나 엔지니어가 확인할 형태로 제시합니다. 구조는 발행된 방법을 따릅니다. 제시된 값은 예시이며 결과가 아닙니다.

모형, 방정식 및 가정

The model structure used for Cybersecurity for AI systems, the assumptions it makes and how each is tested.

요소 i의 리스크Ri = f(Hi, Ei, Vi, Ci)재해, 노출, 취약성, 대처 역량
연간 기대 손실EAL = ∑k pk · Lk연간 확률이 pk
결합 시스템xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
가정만드는 이유시험 방법
한 사건 안에서 재해와 노출은 서로 독립적임손실 적분을 다루기 쉽게 유지함결합 기록에 적합한 코퓰러와 비교
결합은 운전점 근처에서 선형이다충격이 A를 통해 전파되게 함선형 범위를 넘어 섭동을 주고 비교하십시오
취약성 곡선은 장소 간에 옮겨 쓸 수 있다지역 곡선은 거의 없다관측된 손실이 있는 곳에서는 이에 대해 검증
투입 자료
출처 정보가 있는 버전 관리 데이터세트
산출물
분포이며 결코 단일 숫자가 아님
코드
모델 카드 및 시험과 함께 공개
재현
같은 데이터, 코드, 환경과 시드
표준 리스크 및 상태공간 정식화로, 나열된 가정은 해당 방법에 일반적인 것이며 검토를 위해 명시한 것으로 결과가 아닙니다.
FAIR 지침 원칙 · GO FAIR와 FORCE11W3C PROV · 월드 와이드 웹 컨소시엄불확실성의 일관된 처리에 관한 지침 · IPCCCEOS 분석 준비 데이터(Analysis Ready Data) · 지구관측위성위원회
08연결

이 방법에 의존하는 주제.

09스튜어드십

방법을 유지하는 주체.

사이버보안과 디지털 회복력 stewards cybersecurity and cryptography for the Consortium and reviews how it is applied across platforms.

Canonical page: Cybersecurity and cryptography

10연결됨

이 페이지가 컨소시엄 전체에서 어디로 이어지는지.

11질문

질문과 답변.

What are the limits of cybersecurity and cryptography in this field?
Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.
결과는 어떻게 점검됩니까?
Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.
이 페이지의 값은 실제입니까?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
이 방법은 다른 어디에 적용됩니까?
사회를 움직이는 정본 방법 페이지 는 이를 적용하는 모든 플랫폼을 나열합니다.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

보고서 is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRI인공지능과 자율 시스템기하급수 기술Labs 근거

개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.

인공지능과 자율 시스템

방법, 데이터세트 또는 질문을 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.

방법 제안 모든 연락 경로 보기
법률

이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.