Skip to content

GCRI · 기술

인공지능과 머신러닝

인공지능과 머신러닝은 데이터에서 패턴을 학습하여 분류, 예측 또는 산출물 생성을 수행하는 알고리즘을 개발합니다. 재해 탐지, 예보, 의사결정 지원에 점점 더 많이 쓰이며, 그 자체가 리스크의 원천이기도 합니다. 인공지능 및 자율 시스템 분야가 Nexus Consortium을 위해 이 페이지를 관리합니다.

02방법

What artificial intelligence and machine learning covers.

  1. 01

    핵심 방법

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    데이터와 계측 장비

    labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.

  3. 03

    검증

    모형은 공간, 시간, 집단 구조를 고려한 보류 데이터로 평가됩니다. 정확도와 함께 강건성, 보정, 공정성을 시험합니다.

  4. 04

    한계

    배치 조건이 학습 데이터와 다르면 성능이 떨어집니다. 모형은 편향을 내재할 수 있으며 희귀 사건에서 명확한 경고 없이 실패할 수 있습니다.

  5. 05

    리스크 의사결정에서의 사용

    Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.

03참고 실무

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

참조 번호정하는 것
NIST AI RMFAI 시스템
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)Reporting of prediction models, including machine-learning extensions
04절차

프로세스가 진행되는 방식.

Process explorer · Process

Artificial intelligence and machine learning: AI risk management (NIST)

9 steps5 stages1 gate

절차

Artificial intelligence and machine learning: AI risk management (NIST)

AI RMF Core에는 GOVERN, MAP, MEASURE, MANAGE의 네 가지 기능이 있으며 GOVERN은 전 영역에 걸쳐 적용됩니다. 여기에 그려진 순서는 일반적인 해석 중 하나일 뿐 점검표가 아닙니다.

  1. 01 거버넌스

    1. 01GOVERN: 정책, 역할, 책임성단계 · 독립 검토자GOVERN은 범분야 기능입니다. AI 리스크 관리 전반에 스며들어 다른 기능을 가능하게 합니다.
  2. 02 Map

    1. 02MAP: 맥락과 의도된 용도데이터셋MAP 기능은 AI 시스템과 관련된 리스크를 구조화하기 위한 맥락을 설정하며, 여기에는 의도된 목적과 사람에 대한 영향이 포함됩니다.
  3. 03 측정

    1. 03측정: 신뢰할 수 있는 특성 평가모델링AI 시스템 은 신뢰할 수 있는 특성에 대해 평가됩니다. 배포 전과 운영 중에 정기적으로 시험해야 합니다.
    2. 04MEASURE: 식별된 리스크를 시간에 따라 추적모델링예상하지 못한 리스크와 새롭게 나타나는 리스크를 포함하여, 식별된 AI 리스크를 시간에 따라 추적하는 체계가 마련되어 있습니다.
  4. 04 관리

    1. 05MANAGE: 리스크 처리단계리스크 대응 계획은 사고에 대한 대응, 사고로부터의 복구, 사고에 관한 소통을 포함합니다. 자원은 파악되고 측정된 리스크에 배분됩니다.
    2. 06진행 여부 (MANAGE 1.1)관문 · 독립 검토자시스템이 목적과 목표를 충족하는지, 그리고 계속 진행할지 여부를 판단합니다. 이 프레임워크는 임계값을 정하지 않습니다.
    3. 07배포 결정결정 · 독립 검토자시스템을 소유한 조직이 배포 여부와 그 조건을 결정합니다.
    4. 08배포 후 모니터링과 사고모델링배포 후 모니터링 계획이 이행됩니다. 사고와 오류는 영향을 받는 커뮤니티를 포함한 관련 AI 행위자와 공유됩니다.
  5. 05 기록

    1. 09AI 시스템 목록데이터셋GOVERN 1.6은 AI 시스템의 목록을 작성하는 체계를 요구합니다. 모델 카드는 일반적인 관행이며, 프레임워크에는 명시되어 있지 않습니다.

발행 기관이 공개한 외부 표준이나 방법을 중립적으로 요약한 개요입니다. 운영 기록이 아닙니다. Nexus는 표시된 어떤 단계도 수행, 인증 또는 승인하지 않습니다. 관문이나 결정은 출처가 명시한 당사자에게 속합니다. 조치들이 반드시 순서가 정해진 단계인 것은 아닙니다. EU AI 법은 이 흐름에 표시되지 않습니다.

05체계적 리스크 분석에서

Fast emulators, fragile extrapolation.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

  • Test performance out of distribution, not only on held-out samples from the same period.
  • 학습 데이터의 출처 이력과 라이선스를 보고하십시오.
  • Keep a physical or mechanistic check where one exists.
  • Applications on AI and Autonomous Systems and Labs.
07스튜어드십

이 페이지의 관리 주체.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08출처

Where this page’s references lead.

이 페이지를 읽을 때 기준이 되는 기구와 문서. 상태와 판은 바뀌며, 각 링크는 발행 기구로 연결됩니다.

09질문

질문과 답변.

왜 한 기관이 모든 방법 페이지를 호스팅합니까?
GCRI는 각 방법에 하나의 표준 설명이 있도록 STEM Commons를 운영합니다. 플랫폼은 이를 반복하지 않고 연결하므로 정의가 일관되게 유지됩니다.
방법 페이지의 정정을 어떻게 제안합니까?
보낼 곳 무결성 우려 접수 양식 으로 보내 주십시오.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.

GCRI
글로벌 리스크 혁신 센터(Global Centre for Risk and Innovation)

방법, 데이터세트 또는 질문을 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.