GCRI · コンソーシアム全体の分野
人工知能
AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.
Artificial intelligence in six parts.
3 つの視点から見た分野。
From model failure to systemic effect.
Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.
| レイヤー | Typical risk | 評価 |
|---|---|---|
| モデル化する | Robustness, bias, capability for misuse | Evaluations and red teaming |
| システム | 統合上の誤り、過度の依存、データ漏えい | 影響評価、 人間による監督 の設計 |
| 機関 | Unclear accountability, missing incident response | Management system audit (ISO/IEC 42001) |
| エコシステム | Homogeneity, concentration, correlated failure | 市場と依存関係の分析 |
Risk frameworks and law.
| 枠組または機関 | 所管または提供する内容 |
|---|---|
| NIST AI RMF と生成AIプロファイル | 統治、マッピング、測定、管理の各機能 |
| ISO/IEC 42001 と ISO/IEC 23894 | AI management systems and AI risk management guidance |
| EU AI 法 | リスク段階に応じた義務を段階的に適用。各義務の現行の期日をご確認ください |
| OECD AI Principles and UNESCO Recommendation on the Ethics of AI | Intergovernmental principles |
AI リスクが及ぶ先。
- Compute: capability concentration and energy demand.
- 作業: 業務のエクスポージャーと移行。
- Information integrity: synthetic content and trust.
- 金融安定: モデル・リスク と群集行動。
The science sits on AI and Autonomous Systems; methods start from AI assurance.
Where this page’s references lead.
このページの読解の基準となる機関と文書。状態と版は変わります。各リンクは発行機関へ移動します。
質問と回答。
GCRI がフィールド・ゲートウェイをホストするのはなぜですか。
このページからエビデンスを提供する。
Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。
- メールゲートウェイ GW-GCRIこのページから送信するエビデンス、訂正、事例、手法、レビュー、翻訳、プロファイルへの入力。このページのタグが付いて届くため、担当の編集者が受け取ります。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 報告書GCRI貢献のすべての方法を見る貢献の種類、それぞれの審査方法、受け取るクレジット、ライセンス、決して受け付けないもの。
個人データ、重要インフラの機微な詳細、共有する権利のないものは決して送らないでください。寄稿は利用前にレビューされます。送付によって著作者としての権利や編集上の権利が生じることはなく、スポンサーシップで調査結果を買うことは決してできません。
手法、データセット、または問いを持ち込んでください。
情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。
法的文書。
このサイトの地図、データ、図表は、背景と一般的な情報として示すものです。助言、予報、警報ではありません。情報の限界は免責事項とデータに関する注意事項に記載しています。