Skip to content

GCRI · Reports

フロンティア技術のリスク評価

Frontier technology reports cover fields that change faster than the publication cycle: artificial intelligence, synthetic biology, quantum computing, advanced materials and space systems. Evidence arrives as preprints, benchmarks, patents and company announcements, and is often superseded within months. This page sets out how fast-moving evidence is assessed, versioned and reviewed, how claims are separated from demonstrated capability, and how information hazards are handled before publication.

01登録

Frontier technology risk assessment on the record.

02質問

先端技術のリスク評価:リスクはどのように進展するか。

Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

メカニズム

Evidence ages quickly

能力評価は、審査される時点ですでに古くなっていることがあります。日付付きのエビデンス期間とバージョン管理された更新がなければ、読者はもはや成り立たない技術像に基づいて行動するおそれがあります。

メカニズム

Preprints and announcements

最先端分野のエビデンスの多くは査読を経ていません。プレプリント、技術ブログ、ベンダーの主張などです。こうした主張を明示せずに繰り返すと、宣伝が見かけ上の合意にすり替わります。

メカニズム

Benchmark fragility

Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.

メカニズム

情報ハザード

一部の技術的詳細は、公開すると危害を可能にするおそれがあります。公開前のデュアルユース審査では、開示の価値と悪用のリスクを比較衡量し、何をなぜ非公開としたかを、内容を明かさずに記録します。

03監視

シリーズ制作デスク。

このテーマを追跡するためにチームが使う画面:その指標、状態、決定。名前は例であり、値はイメージです。

シリーズ制作デスク

Frontier technology risk assessment · Annual synthesis · Edition 3

計画の裏付けとなるデータ確認GCRI・Reports

制作中の版

年次の総括グローバルデータ確認83W18
国別プロファイル 7国査読98W38
水の見通し部門別起草中46W13
方法論ノート 4手法公開済み100完了

データ確認、年次統合

追跡された値(%)83 of 100 requiredラベル付与率(%)必要数 100 のうち 90示された不確実性、%必要な 100 件のうち 86 件

版のパイプライン

  1. 概要理事会
  2. 草案著者
  3. データ確認すべての値
  4. 査読2 回のラウンド
  5. 編集決定
  6. リリースDOI
  7. 訂正バージョン管理
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
045 つの分野において

テクノロジー版は、各分野への影響をたどる。

05手法とエビデンス

How frontier technology risk assessment is modelled, measured and tested.

モデル、その仮定、データ、不確実性を、科学者やエンジニアが確認する形で示します。構造は公表された手法に従っています。描かれた値は例示であり、知見ではありません。

モデル、方程式、仮定

The model structure used for frontier technology risk assessment, the assumptions it makes and how each is tested.

要素 i のリスクRi = f(Hi, Ei, Vi, Ci)ハザード、エクスポージャー、脆弱性、対処能力
年間期待損失EAL = ∑k pk · Lkover events k with annual probability pk
結合システムxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
仮定作られる理由検証の方法
一つの事象の中では、ハザードとエクスポージャーは独立している損失の積分を扱いやすく保つ同時記録に当てはめたコピュラと比較
結合は動作点の近くで線形であるショックを A を通じて伝播させる線形範囲を超えて摂動を与えて比較する
脆弱性曲線は場所を越えて適用できる地域固有の曲線はめったに得られない観測された損失がある場合はそれに照らして検証
入力
来歴付きのバージョン管理されたデータセット
成果物
分布であり、単一の数値ではない
コード
モデルカードと試験とともに公開
再現
同じデータ、コード、環境、シード
標準的なリスクおよび状態空間の定式化です。挙げた前提はこの手法に典型的なもので、審査のために示しており、結果ではありません。
FAIR 原則・GO FAIR と FORCE11W3C PROV・World Wide Web Consortium不確実性の一貫した扱いに関するガイダンス・IPCCCEOS 解析即応データ・地球観測衛星委員会
06指標

何を、どの程度うまく測定しているか。

各指標には、その単位、更新頻度、背後にある出典の種類、値が持つことになるエビデンスのラベルが付いています。値は表示しません:プログラムが自らの権限のもとで値を提供します。

指標単位周期出典の種類ラベル
引用されたエビデンスに占めるプレプリントの割合参照の割合(%)バージョンごと参照メタデータ観測
公表時点における引用エビデンスの年齢の中央値か月バージョンごと参照メタデータ観測
報告書の版と版の間の間隔か月バージョンごと版の履歴公表統計
実証状況でラベル付けされた主張能力に関する記述の割合(パーセント)バージョンごと編集監査報告値
査読後に刊行された、引用済みのプレプリントpercent of cited preprints四半期ごとPreprint to publication links観測
Dual-use review completed可否を、審査者の役割とともに記載バージョンごとレビュー記録申告済み
07出典

エビデンスの出所。

名前の明示された公開データセットと機関の記録。それぞれにライセンス区分があります。合意に基づく出典は、その条件のもとでのみ使用し、再公開することはありません。

出典提供するものライセンス区分
arXivコンピュータ科学、物理学、定量生物学および関連分野のプレプリントMetadata CC0, licence per paper
bioRxiv and medRxivPreprints in the life and health sciences with links to later publicationsLicence per preprint
OpenAlex出版、引用、プレプリントから論文へのリンクCC0
WIPO PATENTSCOPE技術追跡のための国際および国内の特許出願検索は無料、条件は WIPO に準拠
レンズLinked scholarly and patent records無料で利用可能、条件は Lens ごとに定める
OECD.AI 政策観測所各国の AI 政策、取り組み、指標利用は無料、条件は OECD に準拠
08決定

誰が決め、エビデンスが何に役立つか。

Reports はエビデンスを準備します。以下の決定は、記載された当局がそれぞれの規則に基づいて行うものであり、プラットフォームが行うことは決してありません。

誰が決定するか質問このページが提供するエビデンス
科学技術イノベーション省どの技術がいま、ガバナンス上の注意、投資、モニタリングを必要としているか実証状況別の主張登録簿(日付付きのエビデンス期間を含む)
Standards bodies and technical committees試験、安全性、相互運用性の標準が必要な場面Documented gaps between claimed and demonstrated capability
研究助成機関とセキュリティ審査委員会Whether research areas carry dual-use concerns that need oversightDual-use review records and the categories of hazard identified
Journal and series editorsWhen a report must be updated or marked as supersededEvidence age, preprint status changes and version intervals

このトピックが生み出す成果物

  • Versioned technology reports with dated evidence windows
  • Claim registers separating demonstrated, reported and projected capability
  • Living updates that show what changed between versions
  • 非公開とした詳細の根拠を明記した、デュアルユース審査の記録
09中核となる問い

シリーズが問うこと。

Fast-moving technologies outpace the evidence and institutions that govern them. Claims about their capabilities and risks range from careful to wildly speculative. Readers need analysis that separates demonstrated capability from projection, explains the mechanisms by which a technology could create or reduce risk, and states how quickly conclusions may age.

  • この技術は現在、どのような条件の下で何を実証的に示すことができ、何がなお予測にとどまっているのか。
  • Through which mechanisms could it create new risks, such as misuse, failure, concentration or loss of control?
  • How could it reduce existing risks, and what would need to be true for that benefit to materialise?
  • どのようなガバナンス、安全、セキュリティ対策が開発されており、その効果についてどのようなエビデンスがあるか。
10対象範囲

シリーズが扱う範囲。

このシリーズは、技術を能力、リスク、ガバナンスの観点から読み解きます。

機能

実証されたものと主張されたもの

性能のエビデンスは情報源別に表示され、ベンダーの主張は「Institution-reported」と表示されます。

リスク

Mechanisms of harm

Accidents, misuse, systemic dependence and security effects, analysed with the relevant specialist platforms.

ガバナンス

Responses

標準、安全実務および政策上の選択肢を、特定の製品を推奨することなく記述する。

Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.

11版の作成方法

版の作成方法とその限界。

  1. 01

    Technical literature

    Peer-reviewed and preprint research, with preprints labelled as such.

  2. 02

    Benchmarks and tests

    Published benchmarks and tests, with their limits; Labs results appear only from completed protocols.

  3. 03

    専門家の意見聴取

    時期と影響に関する構造化された判断。「専門家判断」と表示し、パネルの構成を説明します。

  4. 04

    有効期間

    Each edition states when its findings should be reviewed, because technical facts change quickly.

12手法

どのように研究され、手法が言えないことは何か。

  1. 不確実性の定量化とモデル検証評価における較正された表現 · エビデンスの確実性の評価ここでの適用
  2. データエンジニアリング、相互運用性、データ・スチュワードシップJATS XML による構造化出版 · 記録全体にわたる永続識別子ここでの適用
  3. 確率と統計異質性を明示したメタ分析 · 小規模研究バイアスと出版バイアスここでの適用
13Where this page’s references

Where this page’s references lead.

このページの読解の基準となる機関と文書。状態と版は変わります。各リンクは発行機関へ移動します。

14質問

質問と回答。

査読を受けていないプレプリントが引用されるのはなぜですか。
変化の速い分野では、エビデンスがまずそこに現れるためです。プレプリントはその旨を明示し、引用されたプレプリントがその後に公刊、改訂、撤回された場合は、報告書に記録されます。
リビング・レポートとは何ですか。
エビデンスの変化に応じてバージョンごとに更新される報告書。各バージョンには日付と識別子が付されてアーカイブされ、追加、改訂、削除された内容を示す変更履歴が添えられます。
What does dual-use review decide?
Whether specific technical detail should be generalised or withheld because it could enable serious harm. The decision and its basis are recorded; the hazardous detail is not.
Does the series endorse technologies or vendors?
いいえ。能力とリスクに関するエビデンスを記述するものであり、製品、ベンダー、投資を推奨することは一切ない。
このシリーズは誇大宣伝をどのように扱いますか。
主張を情報源の種類別に表示し、実証された能力と予測を区別し、不確実性を明記することによって。
デュアルユースのリスクは公開の場で議論されているか。
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
How quickly are editions updated?
各版には見直し時点が明記されます。エビデンスに重要な変更があった場合は、黙って修正するのではなく、新しいバージョンとして公表します。
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

GCRI報告書グローバル・システムのリスクとレジリエンス国のシステム・リスクとレジリエンス国別季報
報告書

手法、データセット、または問いを持ち込んでください。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。