Skip to content

GCRI · テクノロジー

人工知能と機械学習

人工知能と機械学習は、データからパターンを学習して分類、予測または出力生成を行うアルゴリズムを開発する。ハザードの検知、予報、意思決定支援にますます利用されており、それ自体がリスクの源でもある。人工知能・自律 システム は、Nexus Consortium のために本ページのスチュワードを務める。

02手法

What artificial intelligence and machine learning covers.

  1. 01

    中核となる手法

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    データと計測器

    labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.

  3. 03

    検証

    モデルは、空間、時間、グループの構造を考慮した検証用データで評価されます。正確さとともに、頑健性、較正、公平性も検証されます。

  4. 04

    限界

    導入時の条件が学習データと異なると、性能は低下します。モデルはバイアスを内包することがあり、希少な事象では明確な警告なしに失敗することがあります。

  5. 05

    リスク判断での利用

    機械学習は、相互に連結した システム全体で検知と予測を拡大できます。自動化された出力が重大な意思決定の根拠となる場合には、機械学習自体の失敗の様式も考慮しなければなりません。

03参照の実務

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

参照番号定めていること
NIST AI RMFAI システム
ISO/IEC 42001AI マネジメントシステム
TRIPOD (EQUATOR)機械学習拡張を含む、予測モデルの報告
04プロセス

プロセスの進め方。

Process explorer · Process

人工知能と機械学習: AI リスク管理(NIST)

9 steps5 stages1 gate

プロセス

人工知能と機械学習: AI リスク管理(NIST)

AI RMF コアには、GOVERN、MAP、MEASURE、MANAGE の 4 つの機能があり、GOVERN は横断的である。図に示した順序は一般的な読み方の一例であり、チェックリストではない。

  1. 01 ガバナンス

    1. 01GOVERN: 方針、役割、説明責任手順 · 独立レビュー担当者GOVERN は分野横断的な機能である。AI リスク管理の全体に浸透し、他の機能を可能にする。
  2. 02 Map

    1. 02MAP:文脈と意図された用途データセットMAP 機能は、意図された目的や人々への影響を含め、AI システムに関連するリスクを捉えるための文脈を確立する。
  3. 03 測定

    1. 03MEASURE:信頼性に関わる特性を評価するモデル化するAI システム は、信頼性に関わる特性について評価されます。展開前に、また運用中も定期的にテストされるべきです。
    2. 04MEASURE: 特定されたリスクを経時的に追跡するモデル化する特定済みの AI リスクを、想定外のリスクや創発的なリスクも含めて、時間の経過に沿って追跡する仕組みが整備されています。
  4. 04 管理

    1. 05MANAGE: リスクを処理するステップリスク対応 計画は、インシデントへの対応、インシデントからの復旧、インシデントに関するコミュニケーションを対象とします。リソースは、特定され測定されたリスクに配分されます。
    2. 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07展開の判断決定 · 独立レビュー担当者システムを所有する組織が、展開するかどうか、またどのような条件で展開するかを決定します。
    4. 08展開後のモニタリングとインシデントモデル化する展開後モニタリング計画が実施されます。インシデントとエラーは、影響を受けるコミュニティを含む関係する AI アクターと共有されます。
  5. 05 記録

    1. 09AI システムの一覧データセットGOVERN 1.6 は、AI システムの一覧を作成する仕組みを求めている。モデルカードは一般的な慣行であるが、同フレームワークには明記されていない。

発行機関が公表した外部の標準または手法の中立的な概要です。運用の記録ではありません。Nexus は、示された手順のいずれも実施、認証、承認しません。ゲートや決定は、出典に記載された当事者に属します。これらの行動は、必ずしも順序立った手順ではありません。EU AI Act は、このフローには含まれていません。

05システミックリスクの業務において

Fast emulators, fragile extrapolation.

機械学習は リスク分析を高速化します。高コストな物理モデルのエミュレータ、画像の分類、大規模データセットからの予測などです。その弱点は外挿です。過去の気候や過去の市場で学習したモデルは、 システミック・リスク が対象とする前例のない状況でまさに機能しないおそれがあります。

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Report training data provenance and licence.
  • Keep a physical or mechanistic check where one exists.
  • Applications on AI and Autonomous Systems and Labs.
07スチュワードシップ

このページを維持する者。

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08出典

Where this page’s references lead.

このページの読解の基準となる機関と文書。状態と版は変わります。各リンクは発行機関へ移動します。

09質問

質問と回答。

なぜ一つの機関がすべての手法ページを掲載するのですか?
GCRI は、各手法が一つの正規の説明を持つよう STEM Commons を運営しています。プラットフォームはそれを繰り返すのではなくリンクし、定義の一貫性を保ちます。
手法のページの訂正を提案するにはどうすればよいですか。
宛先 誠実性に関する懸念のフォーム からご連絡ください。
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

GCRI
グローバル・リスク・イノベーション・センター(Global Centre for Risk and Innovation)

手法、データセット、または問いを持ち込んでください。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。