인공지능과 머신러닝을 여섯 부분으로 다룹니다.
What artificial intelligence and machine learning covers.
- 01
핵심 방법
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
데이터와 계측 장비
labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.
- 03
검증
모형은 공간, 시간, 집단 구조를 고려한 보류 데이터로 평가됩니다. 정확도와 함께 강건성, 보정, 공정성을 시험합니다.
- 04
한계
배치 조건이 학습 데이터와 다르면 성능이 떨어집니다. 모형은 편향을 내재할 수 있으며 희귀 사건에서 명확한 경고 없이 실패할 수 있습니다.
- 05
리스크 의사결정에서의 사용
Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| 참조 번호 | 정하는 것 |
|---|---|
| NIST AI RMF | AI 시스템 |
| ISO/IEC 42001 | AI management systems |
| TRIPOD (EQUATOR) | Reporting of prediction models, including machine-learning extensions |
프로세스가 진행되는 방식.
Process explorer · Process
Artificial intelligence and machine learning: AI risk management (NIST)
9 steps·5 stages·1 gate
절차
Artificial intelligence and machine learning: AI risk management (NIST)
AI RMF Core에는 GOVERN, MAP, MEASURE, MANAGE의 네 가지 기능이 있으며 GOVERN은 전 영역에 걸쳐 적용됩니다. 여기에 그려진 순서는 일반적인 해석 중 하나일 뿐 점검표가 아닙니다.
01 거버넌스
- 01GOVERN: 정책, 역할, 책임성단계 · 독립 검토자GOVERN은 범분야 기능입니다. AI 리스크 관리 전반에 스며들어 다른 기능을 가능하게 합니다.
02 Map
- 02MAP: 맥락과 의도된 용도데이터셋MAP 기능은 AI 시스템과 관련된 리스크를 구조화하기 위한 맥락을 설정하며, 여기에는 의도된 목적과 사람에 대한 영향이 포함됩니다.
03 측정
- 03측정: 신뢰할 수 있는 특성 평가모델링AI 시스템 은 신뢰할 수 있는 특성에 대해 평가됩니다. 배포 전과 운영 중에 정기적으로 시험해야 합니다.
- 04MEASURE: 식별된 리스크를 시간에 따라 추적모델링예상하지 못한 리스크와 새롭게 나타나는 리스크를 포함하여, 식별된 AI 리스크를 시간에 따라 추적하는 체계가 마련되어 있습니다.
04 관리
- 05MANAGE: 리스크 처리단계리스크 대응 계획은 사고에 대한 대응, 사고로부터의 복구, 사고에 관한 소통을 포함합니다. 자원은 파악되고 측정된 리스크에 배분됩니다.
- 06진행 여부 (MANAGE 1.1)관문 · 독립 검토자시스템이 목적과 목표를 충족하는지, 그리고 계속 진행할지 여부를 판단합니다. 이 프레임워크는 임계값을 정하지 않습니다.
- 07배포 결정결정 · 독립 검토자시스템을 소유한 조직이 배포 여부와 그 조건을 결정합니다.
- 08배포 후 모니터링과 사고모델링배포 후 모니터링 계획이 이행됩니다. 사고와 오류는 영향을 받는 커뮤니티를 포함한 관련 AI 행위자와 공유됩니다.
05 기록
- 09AI 시스템 목록데이터셋GOVERN 1.6은 AI 시스템의 목록을 작성하는 체계를 요구합니다. 모델 카드는 일반적인 관행이며, 프레임워크에는 명시되어 있지 않습니다.
발행 기관이 공개한 외부 표준이나 방법을 중립적으로 요약한 개요입니다. 운영 기록이 아닙니다. Nexus는 표시된 어떤 단계도 수행, 인증 또는 승인하지 않습니다. 관문이나 결정은 출처가 명시한 당사자에게 속합니다. 조치들이 반드시 순서가 정해진 단계인 것은 아닙니다. EU AI 법은 이 흐름에 표시되지 않습니다.
Fast emulators, fragile extrapolation.
Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.
- Test performance out of distribution, not only on held-out samples from the same period.
- 학습 데이터의 출처 이력과 라이선스를 보고하십시오.
- Keep a physical or mechanistic check where one exists.
- Applications on AI and Autonomous Systems and Labs.
이 페이지의 관리 주체.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
이 페이지를 읽을 때 기준이 되는 기구와 문서. 상태와 판은 바뀌며, 각 링크는 발행 기구로 연결됩니다.
질문과 답변.
왜 한 기관이 모든 방법 페이지를 호스팅합니까?
방법 페이지의 정정을 어떻게 제안합니까?
이 페이지에서 증거를 기여하십시오.
Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.
- 이메일게이트웨이 GW-GCRI이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 보고서GCRI모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
방법, 데이터세트 또는 질문을 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률 문서.
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.