Skip to content

GCRI · Reports

前沿技术风险评估

前沿技术报告涵盖变化速度超过出版周期的领域:人工智能、合成生物学、量子计算、先进材料和航天 系统。证据以预印本、基准测试、专利和企业公告的形式出现,往往在数月内即被取代。本页说明如何评估、版本化和审阅快速变化的证据,如何区分主张与已验证的能力,以及在发布前如何处理信息危害。

01登记

有据可查的前沿技术风险评估。

02问题

前沿技术风险评估:风险如何发展。

指数级发展的技术。下方档案说明风险如何发展、衡量什么、数据来自何处、如何建模以及由谁决定。

机制

证据迅速过时

A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.

机制

预印本和公告

许多前沿证据未经评审:预印本、技术博客和供应商的说法。不加标注地重复这些说法,会把推广变成表面上的共识。

机制

基准脆弱性

Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.

机制

信息危害

某些技术细节一旦公布可能被用于造成危害。发布前的两用性审查会权衡披露的价值与滥用的风险,并记录哪些内容被扣留及其原因,同时不泄露这些内容。

03监测

系列制作台。

团队跟踪该主题时会使用的界面:其指标、状态与决策。名称为示例,数值仅作示意。

系列制作台

前沿技术风险评估 · 年度综述 · 第 3 版

Data check behind planGCRI · Reports

制作中的版本

年度综述全球数据核查83W18
国家概况 7国家同行评审98W38
水资源展望行业类起草中46W13
方法说明 4方法已发布100已完成

数据核查,年度综合

已追溯的数值,%83 of 100 required已附标签,%须达 100 项中的 90 项所述不确定性,%要求 100 项,已满足 86 项

版本流程

  1. 大纲理事会
  2. 草稿作者
  3. 数据核查每一个值
  4. 同行评审两轮
  5. 编辑决定
  6. 发布DOI
  7. 更正有版本管理
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
04在五个领域中

技术版本会追踪对各领域的影响。

05方法与证据

前沿技术风险评估如何建模、衡量和测试。

模型、其假设、数据和不确定性,以科学家或工程师会核查的形式呈现。结构遵循已发表的方法。所取数值仅为示意,不是研究发现。

模型、方程与假设

用于前沿技术风险评估的模型结构、其所作假设,以及每项假设的检验方式。

要素 i 的风险Ri = f(Hi, Ei, Vi, Ci)危害、风险暴露、脆弱性和应对能力
预期年度损失EAL = ∑k pk · Lkover events k with annual probability pk
耦合系统xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
假设为何制作如何检验
在一次事件中,危害与暴露相互独立使损失积分保持可计算与基于联合记录拟合的 copula 进行比较
耦合在工作点附近是线性的让冲击通过 A 传播在线性范围之外施加扰动并比较
脆弱性曲线可以在不同地点之间迁移使用很少有本地曲线可用在有观测损失的地方据此进行验证
输入
带溯源信息的版本化数据集
成果
分布,绝不是单一数字
代码
连同模型卡和测试一起发布
复现
相同的数据、代码、环境和随机种子
标准的风险与状态空间表述;所列假设是该方法的典型假设,供审查之用,并非结果。
FAIR 指导原则 · GO FAIR 和 FORCE11W3C PROV · 万维网联盟关于一致处理不确定性的指南 · IPCCCEOS 分析就绪数据 · 地球观测卫星委员会
06指标

衡量什么,以及衡量得如何。

每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。

指标单位节奏来源类型标签
所引证据中预印本的占比占参考文献的百分比每个版本参考元数据观测
发布时所引证据的年龄中位数月每个版本参考元数据观测
报告版本之间的间隔月每个版本版本历史已发布统计
按示范状态标注的主张能力声明的百分比每个版本编辑审核已报告
经评审后正式发表的被引预印本被引用预印本的百分比每季度预印本与正式出版物之间的链接观测
Dual-use review completed是或否,并注明审查人角色每个版本审查记录已声明
07来源

证据来自何处。

具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。

来源它提供什么许可类别
arXiv计算机科学、物理学、定量生物学及相关领域的预印本元数据采用 CC0,许可按论文而定
bioRxiv and medRxiv生命与健康科学预印本,附后续发表文献的链接每份预印本的许可
OpenAlex出版、引用及预印本与文章之间的链接CC0
WIPO PATENTSCOPE用于技术跟踪的国际和国家专利申请可免费检索,条款依据 WIPO
视角关联的学术与专利记录免费使用,条款依各 Lens 而定
OECD.AI 政策观察站各国人工智能政策、举措和指标可免费使用,条款依据 OECD
08决定

由谁决定,以及证据服务于什么。

Reports 负责准备证据。以下决定由所列机构依据其自身规则作出,绝不由平台作出。

谁来决定问题本页面服务的证据
科学、技术和创新部门哪些技术当前需要治理关注、投资或监测按演示状态分类的主张登记册,附有注明日期的证据窗口
标准机构和技术委员会需要测试、安全或互操作性标准的领域所宣称能力与已证明能力之间有记录的差距
研究资助方和安全审查小组Whether research areas carry dual-use concerns that need oversightDual-use review records and the categories of hazard identified
Journal and series editorsWhen a report must be updated or marked as superseded证据年龄、预印本状态变化和版本间隔

该主题产生的产出

  • 带有注明日期的证据窗口的版本化技术报告
  • Claim registers separating demonstrated, reported and projected capability
  • Living updates that show what changed between versions
  • 双重用途审查记录,说明任何被保留细节的依据
09核心问题

该系列提出的要求。

Fast-moving technologies outpace the evidence and institutions that govern them. Claims about their capabilities and risks range from careful to wildly speculative. Readers need analysis that separates demonstrated capability from projection, explains the mechanisms by which a technology could create or reduce risk, and states how quickly conclusions may age.

  • 该技术目前能够切实做到什么,需要满足哪些条件,哪些仍属预测?
  • 它可能通过哪些机制产生新的风险,例如滥用、失效、集中或 失控?
  • 它如何降低现有风险,要使这一益处得以实现,还须满足哪些条件?
  • 正在制定哪些治理、安全和保障措施,关于其效果有哪些证据?
10范围

该系列涵盖的内容。

该系列从能力、风险和治理的角度解读技术。

能力

已证明与仅声称

绩效证据按来源标注;供应商的说法标注为“机构自报”。

风险

损害机制

事故、滥用、系统性依赖和安全影响,借助相关专业平台进行分析。

治理

Responses

标准、安全实践和政策选项,在不为任何产品背书的前提下加以说明。

技术分析在追随机制而非头条时最为有用。通用技术通过采用它的 系统 改变风险:嵌入电网运行的人工智能模型、能够破解广泛使用的公钥密码的量子计算机、降低病原体操作门槛的生物技术工具。因此,每个版本都将该技术与研究受影响系统的专业平台配对,并指明其结论会发生变化的条件。

11版本如何构建

版本如何构建,及其局限。

  1. 01

    技术文献

    经同行评审的研究和预印本研究,预印本会明确标注。

  2. 02

    Benchmarks and tests

    已发布的基准和测试及其局限; 实验室 的结果仅来自已完成的协议。

  3. 03

    专家意见征询

    对时间线和影响作出的结构化判断,标注为专家判断,并说明其专家小组的构成。

  4. 04

    有效期

    Each edition states when its findings should be reviewed, because technical facts change quickly.

12方法

如何研究,以及方法无法说明的内容。

  1. 不确定性量化与模型验证评估中的校准用语 · 证据确定性评级在此应用
  2. 数据工程、互操作性与数据管护以 JATS XML 进行结构化出版 · 贯穿记录的永久标识符在此应用
  3. 概率与统计注明异质性的荟萃分析 · 小样本研究偏倚与发表偏倚在此应用
13Where this page’s references

Where this page’s references lead.

阅读本页时所对照的机构和文件。状态和版本会变化;每个链接都指向发布机构。

14问题

问题与解答。

预印本未经审查,为何仍被引用?
Because in fast-moving fields the evidence appears there first. They are labelled as preprints, and the report records when a cited preprint is later published, revised or withdrawn.
什么是动态报告?
报告随证据变化而分版本更新,每个版本均注明日期、编号并存档,并附变更记录,说明新增、修订或删除的内容。
What does dual-use review decide?
具体技术细节是否应因可能造成严重危害而予以概括化处理或不予披露。决定及其依据会被记录;危险细节则不记录。
该系列是否认可任何技术或供应商?
不。它说明有关能力和风险的证据,从不为产品、供应商或投资背书。
该系列如何应对炒作?
通过按来源类型标注主张、将已证明的能力与预测区分开来,并说明不确定性。
两用风险是否得到公开讨论?
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
版本多久更新一次?
Each edition states a review point. Material changes in evidence lead to a new version rather than silent edits.
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

GCRI报告全球系统风险与韧性国家系统风险与韧性国家季报
报告

带来一种方法、一个数据集或一个问题。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。