Skip to content

GCRI · 技术

人工智能与机器学习

人工智能和机器学习开发从数据中学习模式的算法,用于分类、预测或生成输出。它们越来越多地用于危害检测、预报和决策支持,其本身也是风险来源。人工智能与自主 系统 为 Nexus Consortium 负责管理本页。

02方法

What artificial intelligence and machine learning covers.

  1. 01

    核心方法

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    数据与工具

    带标注的训练数据集;传感器和图像档案;文本语料库;模拟输出;基准测试套件。

  3. 03

    验证

    模型在尊重空间、时间与群体结构的留出数据上进行评估。在测试准确性的同时,也测试稳健性、校准与公平性。

  4. 04

    局限

    当部署条件与训练数据不同时,性能会下降。模型可能固化偏见,并在罕见事件上毫无明显预警地失效。

  5. 05

    在风险决策中的使用

    机器学习可以在相互关联的 系统中扩大检测和预测的规模。当自动化输出为重大决策提供依据时,必须权衡其自身的失效模式。

03参考实践

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

编号它规定了什么
NIST AI RMF人工智能 系统
ISO/IEC 42001AI 管理体系
TRIPOD (EQUATOR)预测模型的报告规范,包括机器学习扩展
04流程

流程如何运行。

Process explorer · Process

人工智能与机器学习:人工智能风险管理(NIST)

9 steps5 stages1 gate

流程

人工智能与机器学习:人工智能风险管理(NIST)

AI RMF 核心包含四项职能:GOVERN、MAP、MEASURE 和 MANAGE,其中 GOVERN 贯穿其他各项;图中所示顺序只是一种常见的解读方式,并非检查清单。

  1. 01 治理

    1. 01GOVERN:政策、角色与问责步骤 · 独立审查员GOVERN 是贯穿各环节的职能。它渗透于人工智能风险管理的全过程,并为其他职能提供支撑。
  2. 02 Map

    1. 02MAP:背景和预期用途数据集MAP 职能建立背景,以界定与人工智能系统相关的风险,包括预期目的和对人的影响。
  3. 03 衡量

    1. 03衡量:评估可信特性建模AI 系统 需评估其可信特性。应在部署前以及运行期间定期对其进行测试。
    2. 04MEASURE:随时间跟踪已识别的风险建模已建立随时间跟踪已识别人工智能风险的机制,包括未预见的和新出现的风险。
  4. 04 管理

    1. 05MANAGE:处置风险步骤风险处置 计划涵盖事件的响应、恢复和沟通。资源将投向已绘制和已衡量的风险。
    2. 06是否继续(MANAGE 1.1)关口 · 独立评审员判定系统是否满足其目的和目标,以及是否继续推进。该框架未设定阈值。
    3. 07部署决策决定 · 独立审查员拥有该系统的组织决定是否部署以及在何种条件下部署。
    4. 08部署后监测与事件建模部署后监测计划已实施。事件和错误将与相关人工智能参与方共享,包括受影响的社区。
  5. 05 记录

    1. 09人工智能系统清单数据集GOVERN 1.6 要求建立 AI 系统清单编制机制。模型卡是常见做法,框架中并未提及。

对已发布的外部标准或方法的中立概述,内容来自其发布机构。并非运行记录。Nexus 不执行、认证或批准所示的任何步骤。关卡或决定归属于来源所指明的一方。这些行动不一定构成有先后顺序的步骤。本流程图未纳入欧盟《人工智能法案》。

05在系统性风险工作中

Fast emulators, fragile extrapolation.

机器学习加快了 风险分析:为昂贵的物理模型构建模拟器、对影像进行分类、基于大型数据集开展预测。其弱点在于外推:基于历史气候或历史市场训练的模型,可能恰恰在 系统性风险 所关注的前所未有的条件下失效。

  • Test performance out of distribution, not only on held-out samples from the same period.
  • 报告训练数据的来源追溯和许可。
  • 凡存在物理或机理检验之处,都应保留。
  • 在 人工智能与自主系统 与 实验室.
07管理责任

谁维护本页面。

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08来源

Where this page’s references lead.

阅读本页时所对照的机构和文件。状态和版本会变化;每个链接都指向发布机构。

09问题

问题与解答。

为什么由一个机构托管所有方法页面?
GCRI 托管 STEM Commons,使每种方法都有唯一的规范描述。各平台链接到该描述而不重复,从而保持定义一致。
如何对方法页面提出更正建议?
发送至 诚信关切表单 。
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

GCRI
全球风险与创新中心(The Global Centre for Risk and Innovation)

带来一种方法、一个数据集或一个问题。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。