前沿技术风险评估:风险如何发展。
指数级发展的技术。下方档案说明风险如何发展、衡量什么、数据来自何处、如何建模以及由谁决定。
证据迅速过时
A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.
预印本和公告
许多前沿证据未经评审:预印本、技术博客和供应商的说法。不加标注地重复这些说法,会把推广变成表面上的共识。
基准脆弱性
Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.
信息危害
某些技术细节一旦公布可能被用于造成危害。发布前的两用性审查会权衡披露的价值与滥用的风险,并记录哪些内容被扣留及其原因,同时不泄露这些内容。
系列制作台。
团队跟踪该主题时会使用的界面:其指标、状态与决策。名称为示例,数值仅作示意。
系列制作台
前沿技术风险评估 · 年度综述 · 第 3 版
制作中的版本
| 年度综述 | 全球 | 数据核查 | 83 | W18 |
| 国家概况 7 | 国家 | 同行评审 | 98 | W38 |
| 水资源展望 | 行业类 | 起草中 | 46 | W13 |
| 方法说明 4 | 方法 | 已发布 | 100 | 已完成 |
数据核查,年度综合
版本流程
- 大纲理事会
- 草稿作者
- 数据核查每一个值
- 同行评审两轮
- 编辑决定
- 发布DOI
- 更正有版本管理
技术版本会追踪对各领域的影响。
Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.
- Status updates with sources.
- 对主张的更正。
前沿技术风险评估如何建模、衡量和测试。
模型、其假设、数据和不确定性,以科学家或工程师会核查的形式呈现。结构遵循已发表的方法。所取数值仅为示意,不是研究发现。
模型、方程与假设
用于前沿技术风险评估的模型结构、其所作假设,以及每项假设的检验方式。
Ri = f(Hi, Ei, Vi, Ci)危害、风险暴露、脆弱性和应对能力EAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| 假设 | 为何制作 | 如何检验 |
|---|---|---|
| 在一次事件中,危害与暴露相互独立 | 使损失积分保持可计算 | 与基于联合记录拟合的 copula 进行比较 |
| 耦合在工作点附近是线性的 | 让冲击通过 A 传播 | 在线性范围之外施加扰动并比较 |
| 脆弱性曲线可以在不同地点之间迁移使用 | 很少有本地曲线可用 | 在有观测损失的地方据此进行验证 |
- 输入
- 带溯源信息的版本化数据集
- 成果
- 分布,绝不是单一数字
- 代码
- 连同模型卡和测试一起发布
- 复现
- 相同的数据、代码、环境和随机种子
衡量什么,以及衡量得如何。
每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。
| 指标 | 单位 | 节奏 | 来源类型 | 标签 |
|---|---|---|---|---|
| 所引证据中预印本的占比 | 占参考文献的百分比 | 每个版本 | 参考元数据 | 观测 |
| 发布时所引证据的年龄中位数 | 月 | 每个版本 | 参考元数据 | 观测 |
| 报告版本之间的间隔 | 月 | 每个版本 | 版本历史 | 已发布统计 |
| 按示范状态标注的主张 | 能力声明的百分比 | 每个版本 | 编辑审核 | 已报告 |
| 经评审后正式发表的被引预印本 | 被引用预印本的百分比 | 每季度 | 预印本与正式出版物之间的链接 | 观测 |
| Dual-use review completed | 是或否,并注明审查人角色 | 每个版本 | 审查记录 | 已声明 |
证据来自何处。
具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。
| 来源 | 它提供什么 | 许可类别 |
|---|---|---|
| arXiv | 计算机科学、物理学、定量生物学及相关领域的预印本 | 元数据采用 CC0,许可按论文而定 |
| bioRxiv and medRxiv | 生命与健康科学预印本,附后续发表文献的链接 | 每份预印本的许可 |
| OpenAlex | 出版、引用及预印本与文章之间的链接 | CC0 |
| WIPO PATENTSCOPE | 用于技术跟踪的国际和国家专利申请 | 可免费检索,条款依据 WIPO |
| 视角 | 关联的学术与专利记录 | 免费使用,条款依各 Lens 而定 |
| OECD.AI 政策观察站 | 各国人工智能政策、举措和指标 | 可免费使用,条款依据 OECD |
由谁决定,以及证据服务于什么。
Reports 负责准备证据。以下决定由所列机构依据其自身规则作出,绝不由平台作出。
| 谁来决定 | 问题 | 本页面服务的证据 |
|---|---|---|
| 科学、技术和创新部门 | 哪些技术当前需要治理关注、投资或监测 | 按演示状态分类的主张登记册,附有注明日期的证据窗口 |
| 标准机构和技术委员会 | 需要测试、安全或互操作性标准的领域 | 所宣称能力与已证明能力之间有记录的差距 |
| 研究资助方和安全审查小组 | Whether research areas carry dual-use concerns that need oversight | Dual-use review records and the categories of hazard identified |
| Journal and series editors | When a report must be updated or marked as superseded | 证据年龄、预印本状态变化和版本间隔 |
该主题产生的产出
- 带有注明日期的证据窗口的版本化技术报告
- Claim registers separating demonstrated, reported and projected capability
- Living updates that show what changed between versions
- 双重用途审查记录,说明任何被保留细节的依据
该系列提出的要求。
Fast-moving technologies outpace the evidence and institutions that govern them. Claims about their capabilities and risks range from careful to wildly speculative. Readers need analysis that separates demonstrated capability from projection, explains the mechanisms by which a technology could create or reduce risk, and states how quickly conclusions may age.
- 该技术目前能够切实做到什么,需要满足哪些条件,哪些仍属预测?
- 它可能通过哪些机制产生新的风险,例如滥用、失效、集中或 失控?
- 它如何降低现有风险,要使这一益处得以实现,还须满足哪些条件?
- 正在制定哪些治理、安全和保障措施,关于其效果有哪些证据?
该系列涵盖的内容。
该系列从能力、风险和治理的角度解读技术。
已证明与仅声称
绩效证据按来源标注;供应商的说法标注为“机构自报”。
损害机制
事故、滥用、系统性依赖和安全影响,借助相关专业平台进行分析。
Responses
标准、安全实践和政策选项,在不为任何产品背书的前提下加以说明。
技术分析在追随机制而非头条时最为有用。通用技术通过采用它的 系统 改变风险:嵌入电网运行的人工智能模型、能够破解广泛使用的公钥密码的量子计算机、降低病原体操作门槛的生物技术工具。因此,每个版本都将该技术与研究受影响系统的专业平台配对,并指明其结论会发生变化的条件。
版本如何构建,及其局限。
- 01
技术文献
经同行评审的研究和预印本研究,预印本会明确标注。
- 02
Benchmarks and tests
已发布的基准和测试及其局限; 实验室 的结果仅来自已完成的协议。
- 03
专家意见征询
对时间线和影响作出的结构化判断,标注为专家判断,并说明其专家小组的构成。
- 04
有效期
Each edition states when its findings should be reviewed, because technical facts change quickly.
Where this page’s references lead.
阅读本页时所对照的机构和文件。状态和版本会变化;每个链接都指向发布机构。
问题与解答。
预印本未经审查,为何仍被引用?
什么是动态报告?
What does dual-use review decide?
该系列是否认可任何技术或供应商?
该系列如何应对炒作?
两用风险是否得到公开讨论?
版本多久更新一次?
从本页贡献证据。
Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。
- 电子邮件网关 GW-GCRI从本页发送证据、更正、案例、方法、审查、翻译或概况投稿。它会带上本页标签送达,由负责的编辑接收。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 报告GCRI查看所有贡献方式贡献类型、各自的评审方式、您获得的署名、许可协议,以及绝不接受的内容。
切勿发送个人数据、敏感基础设施细节或您无权分享的任何内容。贡献在使用前会经过审查;发送贡献不赋予署名权或编辑权,赞助也绝不能换取研究结论。
法律文件。
本网站上的地图、数据和图表仅作为背景和一般信息展示。它们不是建议、预测或预警;信息的局限见免责声明和数据说明。