Skip to content

GCRI · Foundry

Foundry の AI と機械学習

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02申請

人工知能と機械学習がここで果たす役割。

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

受領記録付きの範囲限定エージェント

エージェントは、宣言されたツールセット、データクラス、予算、およびポリシーゲートで強制されるキルスイッチの下で分析を実行し、すべての行動についてレビュー担当者向けの受領記録が作成されます。

03監視

モデルの学習。

この手法を追跡するためにチームが使う画面:その指標、状態、決定。名前は例であり、値はイメージです。

モデルの学習

Foundry · Foundry の AI と機械学習 · 実行 R-6794

1 つの切り口でのドリフトGCRI・Foundry

切り口別の評価

すべて0.830.025712合格
地域 A0.740.051098審査
地域 B0.760.05458審査
希少クラス0.640.07160基準未満

手法カード

手法
人工知能と機械学習
分割
時間ベース、リークなし
特徴
22
ラベル
モデル化

集団の安定性

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04データ

手法が使用するもの。

このプラットフォームで人工知能と機械学習が用いるデータセットと記録。それぞれが果たす役割と、その値に付くラベルを示します。出典は 出典の登録簿.

データ役割ラベル
Labelled training sets教師あり学習報告値
衛星画像アーカイブInputs to classification観測
ホールドアウトおよび分布外のテストセット評価観測
評価およびレッドチームの記録昇格の決定報告値
学習データのデータシートOrigin, consent and licence申告済み
05手法とエビデンス

How AI and machine learning at Foundry is modelled, measured and tested.

モデル、その仮定、データ、不確実性を、科学者やエンジニアが確認する形で示します。構造は公表された手法に従っています。描かれた値は例示であり、知見ではありません。

モデル、方程式、仮定

Foundry で AI と機械学習に用いるモデル構造、その前提、および各前提をどのように検証するか。

要素 i のリスクRi = f(Hi, Ei, Vi, Ci)ハザード、エクスポージャー、脆弱性、対処能力
年間期待損失EAL = ∑k pk · Lkover events k with annual probability pk
結合システムxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
仮定作られる理由検証の方法
一つの事象の中では、ハザードとエクスポージャーは独立している損失の積分を扱いやすく保つ同時記録に当てはめたコピュラと比較
結合は動作点の近くで線形であるショックを A を通じて伝播させる線形範囲を超えて摂動を与えて比較する
脆弱性曲線は場所を越えて適用できる地域固有の曲線はめったに得られない観測された損失がある場合はそれに照らして検証
入力
来歴付きのバージョン管理されたデータセット
成果物
分布であり、単一の数値ではない
コード
モデルカードと試験とともに公開
再現
同じデータ、コード、環境、シード
標準的なリスクおよび状態空間の定式化です。挙げた前提はこの手法に典型的なもので、審査のために示しており、結果ではありません。
FAIR 原則・GO FAIR と FORCE11W3C PROV・World Wide Web Consortium不確実性の一貫した扱いに関するガイダンス・IPCCCEOS 解析即応データ・地球観測衛星委員会
06検証

結果の確認方法。

モデルは、空間、時間、グループの構造を考慮した検証用データで評価されます。正確さとともに、頑健性、較正、公平性も検証されます。

確認実施方法
空間および時間のホールドアウトリークを防ぐため、テストデータは空間的にも時間的にも訓練データから分離されている
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
ドリフト監視使用中の入力分布と出力分布を検証時のものと比較し、乖離が生じた場合は審査を開始します
敵対的テストモデルとエージェントは、本番昇格前にプロンプトインジェクションと悪用に対するテストを受ける

導入時の条件が学習データと異なると、性能は低下します。モデルはバイアスを内包することがあり、希少な事象では明確な警告なしに失敗することがあります。

07プロセス

プロセスの進め方。

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

プロセス

AI and machine learning at Foundry: AI risk management (NIST)

AI RMF コアには、GOVERN、MAP、MEASURE、MANAGE の 4 つの機能があり、GOVERN は横断的である。図に示した順序は一般的な読み方の一例であり、チェックリストではない。

  1. 01 ガバナンス

    1. 01GOVERN: 方針、役割、説明責任ステップ · モデル・スチュワードGOVERN は分野横断的な機能である。AI リスク管理の全体に浸透し、他の機能を可能にする。
  2. 02 Map

    1. 02MAP:文脈と意図された用途データセットMAP 機能は、意図された目的や人々への影響を含め、AI システムに関連するリスクを捉えるための文脈を確立する。
  3. 03 測定

    1. 03MEASURE:信頼性に関わる特性を評価するモデル化するAI システム は、信頼性に関わる特性について評価されます。展開前に、また運用中も定期的にテストされるべきです。
    2. 04MEASURE: 特定されたリスクを経時的に追跡するモデル化する特定済みの AI リスクを、想定外のリスクや創発的なリスクも含めて、時間の経過に沿って追跡する仕組みが整備されています。
  4. 04 管理

    1. 05MANAGE: リスクを処理するステップリスク対応 計画は、インシデントへの対応、インシデントからの復旧、インシデントに関するコミュニケーションを対象とします。リソースは、特定され測定されたリスクに配分されます。
    2. 06Proceed or not (MANAGE 1.1)Gate · Model stewardA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07展開の判断決定 · モデル・スチュワードシステムを所有する組織が、展開するかどうか、またどのような条件で展開するかを決定します。
    4. 08展開後のモニタリングとインシデントモデル化する展開後モニタリング計画が実施されます。インシデントとエラーは、影響を受けるコミュニティを含む関係する AI アクターと共有されます。
  5. 05 記録

    1. 09AI システムの一覧データセットGOVERN 1.6 は、AI システムの一覧を作成する仕組みを求めている。モデルカードは一般的な慣行であるが、同フレームワークには明記されていない。

発行機関が公表した外部の標準または手法の中立的な概要です。運用の記録ではありません。Nexus は、示された手順のいずれも実施、認証、承認しません。ゲートや決定は、出典に記載された当事者に属します。これらの行動は、必ずしも順序立った手順ではありません。EU AI Act は、このフローには含まれていません。

09スチュワードシップ

手法を維持する者。

人工知能と自律システム は、コンソーシアムのために人工知能と機械学習のスチュワードを務め、プラットフォーム全体でのその適用をレビューします。

11質問

質問と回答。

この分野における人工知能と機械学習の限界は何ですか?
導入時の条件が学習データと異なると、性能は低下します。モデルはバイアスを内包することがあり、希少な事象では明確な警告なしに失敗することがあります。
結果はどのように確認されますか?
モデルは、空間、時間、グループの構造を考慮した検証用データで評価されます。正確さとともに、頑健性、較正、公平性も検証されます。
このページの値は実際のものですか?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
この手法は他にどこで適用されていますか?
社会を動かし続ける 正式な手法のページ には、それを適用するすべてのプラットフォームが掲載されています。
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

GCRI地域ミッションで最も多く使われる Foundry のFoundry の構築と準備度
地域ミッションで最も多く使われる Foundry の

手法、データセット、または問いを持ち込んでください。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.