Skip to content

GCRI · コンソーシアム全体の分野

人工知能

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

023 つのマンデート

3 つの視点から見た分野。

03システミックな問い

From model failure to systemic effect.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

レイヤーTypical risk評価
モデル化するRobustness, bias, capability for misuseEvaluations and red teaming
システム統合上の誤り、過度の依存、データ漏えい影響評価、 人間による監督 の設計
機関Unclear accountability, missing incident responseManagement system audit (ISO/IEC 42001)
エコシステムHomogeneity, concentration, correlated failure市場と依存関係の分析
04枠組み

Risk frameworks and law.

枠組または機関所管または提供する内容
NIST AI RMF と生成AIプロファイル統治、マッピング、測定、管理の各機能
ISO/IEC 42001 と ISO/IEC 23894AI management systems and AI risk management guidance
EU AI 法リスク段階に応じた義務を段階的に適用。各義務の現行の期日をご確認ください
OECD AI Principles and UNESCO Recommendation on the Ethics of AIIntergovernmental principles
05連動

AI リスクが及ぶ先。

The science sits on AI and Autonomous Systems; methods start from AI assurance.

08質問

質問と回答。

GCRI がフィールド・ゲートウェイをホストするのはなぜですか。
GCRI hosts the shared references of the Consortium, including the STEM Commons and the field gateways, so each field has one place that links all three institutions’ work.
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

GCRI
グローバル・リスク・イノベーション・センター(Global Centre for Risk and Innovation)

手法、データセット、または問いを持ち込んでください。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。