Distribution shift analysis
Model performance is compared between training data and deployment data to detect shifts in inputs or labels that reduce accuracy, with monitoring set up to catch drift.
GCRI · 人工智能与自主系统
机器学习行为
Artificial intelligence and machine learning is the technology this platform stewards for the network. Here it is studied as a technology whose behaviour must be understood: how models learn from data, generalise, fail outside their training distribution and are adapted to specific uses.
02申请
人工智能与机器学习在此处的作用。
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and data and compute, machine learning can scale detection and forecasting across interconnected 系统. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on STEM Commons.
Fine-tuning for a specific use
General models are adapted to a narrow task with curated data, and the adapted model is evaluated for both task performance and retained safety behaviour.
Interpretability methods
Feature attribution and probing methods are used to examine which inputs drive a model’s outputs, with their limits as explanations stated.
03模拟器
集体行为的阈值模型。
每个主体在足够多的联系人行动后才行动；平均阈值或早期行动者的微小变化，决定该行为是停留在局部还是在整个人群中级联扩散。这是带有说明性取值的教学模型，不是预测。
控制措施
- 平均阈值（邻居比例）
- 18%
- 阈值的离散度
- 8 分
- 早期行动者
- 2.0% 的人口
- 人均接触数
- 8
读数
- 说明最终是谁采取了行动
- 100%
- 全球级联
- 是
- 结算步数
- 10
数字、方法与来源
| 步骤 | 已采取行动的比例（%） |
|---|---|
| 0 | 2.3 |
| 1 | 6.5 |
| 2 | 16.0 |
| 3 | 28.5 |
| 4 | 47.0 |
| 5 | 65.3 |
| 6 | 80.3 |
| 7 | 93.0 |
| 8 | 99.3 |
| 9 | 100.0 |
| 10 | 100.0 |
方法
- 集体行为的阈值模型 Granovetter（1978），American Journal of Sociology 83
- 随机网络上的全局级联 Watts (2002), PNAS 99
- 复杂传染 Centola and Macy (2007), American Journal of Sociology 113
- 单因素敏感性（龙卷风图） Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
数据
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
贯穿六大支柱，由 Nexus Consortium 牵头
| 数据 | 角色 | 标签 |
|---|---|---|
| Training and validation datasets with documentation | Model development | 已声明 |
| Deployment input logs | Shift detection | 观测 |
| Benchmark suites | 比较 | 已报告 |
05方法与证据
How machine learning behaviour is modelled, measured and tested.
模型、其假设、数据和不确定性，以科学家或工程师会核查的形式呈现。结构遵循已发表的方法。所取数值仅为示意，不是研究发现。
模型、方程与假设
The model structure used for machine learning behaviour, the assumptions it makes and how each is tested.
要素 i 的风险
Ri = f(Hi, Ei, Vi, Ci)危害、风险暴露、脆弱性和应对能力预期年度损失
EAL = ∑k pk · Lk对年概率为 pk耦合系统
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| 假设 | 为何制作 | 如何检验 |
|---|---|---|
| 在一次事件中，危害与暴露相互独立 | 使损失积分保持可计算 | 与基于联合记录拟合的 copula 进行比较 |
| 耦合在工作点附近是线性的 | 让冲击通过 A 传播 | 在线性范围之外施加扰动并比较 |
| 脆弱性曲线可以在不同地点之间迁移使用 | 很少有本地曲线可用 | 在有观测损失的地方据此进行验证 |
- 输入
- 带溯源信息的版本化数据集
- 成果
- 分布，绝不是单一数字
- 代码
- 连同模型卡和测试一起发布
- 复现
- 相同的数据、代码、环境和随机种子
FAIR 指导原则 · GO FAIR 和 FORCE11W3C PROV · 万维网联盟关于一致处理不确定性的指南 · IPCCCEOS 分析就绪数据 · 地球观测卫星委员会
06验证
结果如何核查。
模型在尊重空间、时间与群体结构的留出数据上进行评估。在测试准确性的同时，也测试稳健性、校准与公平性。
| 核查 | 如何开展 |
|---|---|
| Held-out evaluation | Models are evaluated on data not used for training or tuning |
| Dataset documentation | Training data carry datasheets on origin, consent and limits |
| Drift monitoring | Deployed models are monitored for input and performance drift |
当部署条件与训练数据不同时，性能会下降。模型可能固化偏见，并在罕见事件上毫无明显预警地失效。
09问题
问题与解答。
在该领域，人工智能与机器学习有哪些局限？
当部署条件与训练数据不同时，性能会下降。模型可能固化偏见，并在罕见事件上毫无明显预警地失效。
结果如何核查？
模型在尊重空间、时间与群体结构的留出数据上进行评估。在测试准确性的同时，也测试稳健性、校准与公平性。
本页面上的数值是真实的吗？
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
该方法还应用于何处？
维持社会运转的 规范方法页面 列出应用该方法的每个平台。
报告贡献
从本页贡献证据。
报告 is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRI人工智能与自主系统指数级技术Labs 证据
- 电子邮件网关 GW-GCRI从本页发送证据、更正、案例、方法、审查、翻译或概况投稿。它会带上本页标签送达，由负责的编辑接收。
- Zenodo开放存缴存缴并提交到社区用您的 ORCID iD 在 Zenodo 上发布您自己的记录，然后提交到那里的 Reports 社区。由策展人审核；DOI 仍归您所有。
- 报告GCRI查看所有贡献方式贡献类型、各自的评审方式、您获得的署名、许可协议，以及绝不接受的内容。
切勿发送个人数据、敏感基础设施细节或您无权分享的任何内容。贡献在使用前会经过审查；发送贡献不赋予署名权或编辑权，赞助也绝不能换取研究结论。
法律
法律文件。
本网站上的地图、数据和图表仅作为背景和一般信息展示。它们不是建议、预测或预警；信息的局限见免责声明和数据说明。