GCRI · 人工知能と自律システム
分野の概要
リスク分野としての AI と自律 システム は、学習済みモデル、ソフトウェア・エージェント、ロボットが現実世界でどのように振る舞うか、その振る舞いをどのように測定できるか、そしてその障害が、それらに依存する機関、インフラ、生活にどのように波及するかを研究します。このページでは、分野を定義し、それが社会にとってなぜ重要かを説明し、専門家が何を研究しているかを示し、他のリスクとのつながりを示します。
- STEM の手法
- 7
- この分野が応用する正規の手法
- トピック
- 8
- この分野の主題ページ
- カウンターパート
- 3
- ネットワーク内で分野を共有するプラットフォーム
- 報告書シリーズ
- 2
- 参加している Reports シリーズ
アルゴリズムから導入されたシステムまで。
モデルとデータ
学習データ、目的関数、アーキテクチャが、故障モードを含めて振る舞いをどのように形づくるか。
世界における自律性
ロボットと車両において、感知、計画、制御がどのように相互作用するか。
この分野は、システムがデータから学習する手法である 人工知能と機械学習と、それを試験し保証する工学分野である AI の評価と保証工学を組み合わせます。さらに、AI が物理的な機械を制御する ロボティクスと自動化、そしてモデルを学習させ実行するインフラである高性能・クラウド・エッジ・コンピューティングにまで及びます。
リスク分野としては、結果によって定義されます。モデルがうまく汎化しないとき、エージェントがツールを誤用するとき、ロボットが環境を読み違えるとき、あるいは多くのシステムが同じ欠陥を共有するときに何が起こるかです。AI の影響は人々がそれをどう使い、信頼し、異議を唱えるかに左右されるため、 社会・行動科学 もこの分野の一部です。
分野の概要。
このテーマを追跡するためにチームが使う画面：その指標、状態、決定。名前は例であり、値はイメージです。
AI はインフラになりつつあります。
- AI は、ソフトウェア・エージェントと物理的な自律性を通じて、助言ツールから行動する システム へと移行しつつあります。
- Public services increasingly use automated systems in decisions about people’s rights and access.
- 少数のモデル提供者、クラウド・プラットフォーム、チップのサプライチェーンが、多くのアプリケーションを支えています。
- 評価の科学は能力の進歩に遅れをとっているため、安全性と性能に関する主張は確認が難しいことが少なくありません。
中核となる問い。
- 01
測定
評価は主張どおりのものを測定しているのか、そして結果は一般化できるのか。 モデル評価.
- 02
対応
行動する システム に、権限をどのように委任すべきか。 エージェント型システム および自律型物理システムを参照してください。
- 03
セキュリティ
モデルはどのように攻撃されうるのか、そして AI はサイバー攻撃と防御をどのように変えうるか。 AI とサイバーセキュリティ.
- 04
活用
AI は科学と公共サービスをどのように変えるか。 科学における AI および AI と公共サービスを参照してください。
- 05
基礎と効果
AI は何に依存し、誰に影響を及ぼすか。 計算資源とエネルギー および労働と社会への影響を参照してください。
AI が他のリスクにどう関わるか。
AI は、サイバーセキュリティ、エネルギー、労働市場、金融、公共の信頼とつながっています。 依存関係と影響 でそのつながりを説明しています。ガバナンスはグローバル・リスク・フォーラム（Global Risks Forum、GRF）の AI とデジタル・ガバナンス を通じて招集され、金融部門の モデル・リスク はグローバル・リスク・アライアンス（Global Risks Alliance、GRA）の AIと金融モデル・リスクを通じて研究されています。
分野の概要のページ。
質問と回答。
この分野は AI 倫理と同じですか？
この分野はどの手法に依拠していますか？
この分野は軍事 AI を対象としていますか？
このページからエビデンスを提供する。
報告書 is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- メールゲートウェイ GW-GCRIこのページから送信するエビデンス、訂正、事例、手法、レビュー、翻訳、プロファイルへの入力。このページのタグが付いて届くため、担当の編集者が受け取ります。
- Zenodoオープンな寄託寄託してコミュニティに提出するORCID iD を使って Zenodo に自分の記録を公開し、そこから Reports コミュニティに提出してください。キュレーターが審査し、DOI は引き続きあなたのものです。
- 報告書GCRI貢献のすべての方法を見る貢献の種類、それぞれの審査方法、受け取るクレジット、ライセンス、決して受け付けないもの。
個人データ、重要インフラの機微な詳細、共有する権利のないものは決して送らないでください。寄稿は利用前にレビューされます。送付によって著作者としての権利や編集上の権利が生じることはなく、スポンサーシップで調査結果を買うことは決してできません。
手法、データセット、または問いを持ち込んでください。
情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。
法的文書。
このサイトの地図、データ、図表は、背景と一般的な情報として示すものです。助言、予報、警報ではありません。情報の限界は免責事項とデータに関する注意事項に記載しています。