人工知能と機械学習を 6 部構成で解説する。
What artificial intelligence and machine learning covers.
- 01
中核となる手法
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
データと計測器
labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.
- 03
検証
モデルは、空間、時間、グループの構造を考慮した検証用データで評価されます。正確さとともに、頑健性、較正、公平性も検証されます。
- 04
限界
導入時の条件が学習データと異なると、性能は低下します。モデルはバイアスを内包することがあり、希少な事象では明確な警告なしに失敗することがあります。
- 05
リスク判断での利用
機械学習は、相互に連結した システム全体で検知と予測を拡大できます。自動化された出力が重大な意思決定の根拠となる場合には、機械学習自体の失敗の様式も考慮しなければなりません。
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| 参照番号 | 定めていること |
|---|---|
| NIST AI RMF | AI システム |
| ISO/IEC 42001 | AI マネジメントシステム |
| TRIPOD (EQUATOR) | 機械学習拡張を含む、予測モデルの報告 |
プロセスの進め方。
Process explorer · Process
人工知能と機械学習: AI リスク管理(NIST)
9 steps·5 stages·1 gate
プロセス
人工知能と機械学習: AI リスク管理(NIST)
AI RMF コアには、GOVERN、MAP、MEASURE、MANAGE の 4 つの機能があり、GOVERN は横断的である。図に示した順序は一般的な読み方の一例であり、チェックリストではない。
01 ガバナンス
- 01GOVERN: 方針、役割、説明責任手順 · 独立レビュー担当者GOVERN は分野横断的な機能である。AI リスク管理の全体に浸透し、他の機能を可能にする。
02 Map
- 02MAP:文脈と意図された用途データセットMAP 機能は、意図された目的や人々への影響を含め、AI システムに関連するリスクを捉えるための文脈を確立する。
03 測定
- 03MEASURE:信頼性に関わる特性を評価するモデル化するAI システム は、信頼性に関わる特性について評価されます。展開前に、また運用中も定期的にテストされるべきです。
- 04MEASURE: 特定されたリスクを経時的に追跡するモデル化する特定済みの AI リスクを、想定外のリスクや創発的なリスクも含めて、時間の経過に沿って追跡する仕組みが整備されています。
04 管理
- 05MANAGE: リスクを処理するステップリスク対応 計画は、インシデントへの対応、インシデントからの復旧、インシデントに関するコミュニケーションを対象とします。リソースは、特定され測定されたリスクに配分されます。
- 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
- 07展開の判断決定 · 独立レビュー担当者システムを所有する組織が、展開するかどうか、またどのような条件で展開するかを決定します。
- 08展開後のモニタリングとインシデントモデル化する展開後モニタリング計画が実施されます。インシデントとエラーは、影響を受けるコミュニティを含む関係する AI アクターと共有されます。
05 記録
- 09AI システムの一覧データセットGOVERN 1.6 は、AI システムの一覧を作成する仕組みを求めている。モデルカードは一般的な慣行であるが、同フレームワークには明記されていない。
発行機関が公表した外部の標準または手法の中立的な概要です。運用の記録ではありません。Nexus は、示された手順のいずれも実施、認証、承認しません。ゲートや決定は、出典に記載された当事者に属します。これらの行動は、必ずしも順序立った手順ではありません。EU AI Act は、このフローには含まれていません。
Fast emulators, fragile extrapolation.
機械学習は リスク分析を高速化します。高コストな物理モデルのエミュレータ、画像の分類、大規模データセットからの予測などです。その弱点は外挿です。過去の気候や過去の市場で学習したモデルは、 システミック・リスク が対象とする前例のない状況でまさに機能しないおそれがあります。
- Test performance out of distribution, not only on held-out samples from the same period.
- Report training data provenance and licence.
- Keep a physical or mechanistic check where one exists.
- Applications on AI and Autonomous Systems and Labs.
このページを維持する者。
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
このページの読解の基準となる機関と文書。状態と版は変わります。各リンクは発行機関へ移動します。
質問と回答。
なぜ一つの機関がすべての手法ページを掲載するのですか?
手法のページの訂正を提案するにはどうすればよいですか。
このページからエビデンスを提供する。
Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。
- メールゲートウェイ GW-GCRIこのページから送信するエビデンス、訂正、事例、手法、レビュー、翻訳、プロファイルへの入力。このページのタグが付いて届くため、担当の編集者が受け取ります。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 報告書GCRI貢献のすべての方法を見る貢献の種類、それぞれの審査方法、受け取るクレジット、ライセンス、決して受け付けないもの。
個人データ、重要インフラの機微な詳細、共有する権利のないものは決して送らないでください。寄稿は利用前にレビューされます。送付によって著作者としての権利や編集上の権利が生じることはなく、スポンサーシップで調査結果を買うことは決してできません。
手法、データセット、または問いを持ち込んでください。
情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。
法的文書。
このサイトの地図、データ、図表は、背景と一般的な情報として示すものです。助言、予報、警報ではありません。情報の限界は免責事項とデータに関する注意事項に記載しています。