Skip to content

GCRI · 컨소시엄 전반의 분야

인공지능

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

02세 가지 위임 사항

세 가지 관점으로 본 분야.

03시스템적 질문

From model failure to systemic effect.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

레이어Typical risk평가
모델링견고성, 편향, 오용 가능성Evaluations and red teaming
시스템Integration errors, over-reliance, data leakage영향 평가, 인간의 감독 설계
기관Unclear accountability, missing incident responseManagement system audit (ISO/IEC 42001)
생태계Homogeneity, concentration, correlated failure시장 및 의존성 분석
04프레임워크

리스크 프레임워크와 법률.

프레임워크 또는 기구규율하거나 공급하는 것
NIST AI RMF and its generative AI profile거버넌스, 매핑, 측정, 관리 기능
ISO/IEC 42001 및 ISO/IEC 23894AI management systems and AI risk management guidance
EU AI ActRisk-tiered obligations applied in stages; check current dates for each obligation
OECD AI Principles and UNESCO Recommendation on the Ethics of AIIntergovernmental principles
05연계

Where AI risk lands.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

07출처

Where this page’s references lead.

이 페이지를 읽을 때 기준이 되는 기구와 문서. 상태와 판은 바뀌며, 각 링크는 발행 기구로 연결됩니다.

08질문

질문과 답변.

GCRI는 왜 현장 게이트웨이를 운영합니까?
GCRI hosts the shared references of the Consortium, including the STEM Commons and the field gateways, so each field has one place that links all three institutions’ work.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.

GCRI
글로벌 리스크 혁신 센터(Global Centre for Risk and Innovation)

방법, 데이터세트 또는 질문을 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.