Skip to content

GCRI · Foundry

安全关键软件工程

软件与安全关键 系统 工程在软件故障可能影响到具有现实后果的决策时,采用严格的实践。在这一领域,它意味着默认故障关闭、经过验证的构建、已知组件、经过测试的恢复,以及说明哪些已被证明、哪些尚未证明的保证案例。

01登记

Safety-critical software engineering on the record.

方法记录STEM 方法
  1. 方法软件与安全关键 系统 工程
  2. 应用于区域任务最常用的 Foundry
  3. 规范页面STEM 公共资源
02申请

软件和安全关键系统工程在此发挥的作用。

软件与安全关键 系统 工程研究其故障可能造成伤害、生命损失或重大中断的软件。它将严格的流程应用于控制系统、医疗、航空和基础设施软件。在数据与计算以及方法与建模领域,安全关键软件实践可降低软件故障在实体基础设施中连锁扩散的可能性。它为互联系统中自动化控制的保证要求提供依据。权威说明见 STEM Commons.

故障关闭式政策关卡

每项具有实质影响的请求都将依据身份、授权、目的和数据类别进行评估;若不存在明确决定,闸门即予拒绝,并记录该拒绝。

构建来源追溯与物料清单

发布版本由受控流水线构建,该流水线签署来源追溯证明并生成软件物料清单,因此已部署的制品可以追溯到其源头和组成部分。

保证案例

关于系统的主张,例如租户隔离或紧急停止开关的有效性,须在结构化论证中依据证据加以论证,并说明缺口和剩余风险,而不是假定其不存在。

03方法与证据

安全关键软件工程如何建模、度量和测试。

模型、其假设、数据和不确定性,以科学家或工程师会核查的形式呈现。结构遵循已发表的方法。所取数值仅为示意,不是研究发现。

模型、方程与假设

用于安全关键型软件工程的模型结构、其所作假设以及各项假设的检验方式。

要素 i 的风险Ri = f(Hi, Ei, Vi, Ci)危害、风险暴露、脆弱性和应对能力
预期年度损失EAL = ∑k pk · Lkover events k with annual probability pk
耦合系统xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
假设为何制作如何检验
在一次事件中,危害与暴露相互独立使损失积分保持可计算与基于联合记录拟合的 copula 进行比较
耦合在工作点附近是线性的让冲击通过 A 传播在线性范围之外施加扰动并比较
脆弱性曲线可以在不同地点之间迁移使用很少有本地曲线可用在有观测损失的地方据此进行验证
输入
带溯源信息的版本化数据集
成果
分布,绝不是单一数字
代码
连同模型卡和测试一起发布
复现
相同的数据、代码、环境和随机种子
标准的风险与状态空间表述;所列假设是该方法的典型假设,供审查之用,并非结果。
FAIR 指导原则 · GO FAIR 和 FORCE11W3C PROV · 万维网联盟关于一致处理不确定性的指南 · IPCCCEOS 分析就绪数据 · 地球观测卫星委员会
04数据

该方法使用的输入。

本平台上软件和安全关键 系统 工程所使用的数据集和记录,包括各自的作用及其数值所带的标签。来源列于 来源登记册.

数据角色标签
Source repositories and review recordsChange history and approval观测
测试覆盖率和变异测试结果Verification depth观测
软件物料清单组件清单观测
Vulnerability advisories组件的风险暴露已报告
事件与故障日志失效分析观测
05流程

流程如何运行。

Process explorer · Process

Safety-critical software engineering: Risk management process

8 个步骤5 个阶段

流程

Safety-critical software engineering: Risk management process

ISO 31000:2018 规定了一个迭代的风险管理流程,从范围、背景与准则,到评估与处置,再到监测、审查与报告。

  1. 01 界定

    1. 01Scope, context and criteriaDataset · Project ownerThe frame for the process: the scope, the external and internal context, and the risk criteria. Later steps are read against this frame.
  2. 02 风险评估

    1. 04Risk identificationStep · Project ownerThe first part of risk assessment. Risk is usually expressed by risk sources, potential events, their consequences and likelihood.
    2. 05Risk analysisModel · Project ownerThe second part of risk assessment. It considers consequences and likelihood of the identified risks, with guidelines, not a formula.
    3. 06Risk evaluationStep · Project ownerThe last part of risk assessment. Results of the analysis are compared with the risk criteria to see where more action is needed.
  3. 03 处置

    1. 07Risk treatmentStep · Project ownerTreatment options are selected, then plans are prepared and implemented. Residual risk is documented and goes to monitoring and review.
  4. 04 贯穿整个流程

    1. 02Communication and consultationStep · Project ownerCommunication and consultation with stakeholders is its own process element. The standard draws it alongside the others, not in sequence.
    2. 03Monitoring and reviewStep · Project ownerMonitoring and review take place at every stage. New experience, knowledge and analysis can revise elements, actions and controls.
  5. 05 记录与报告

    1. 08记录与报告记录 · 项目负责人过程及其结果均予以记录和报告。在所读条款中,该标准并未指明报告的接收方。

依据公开来源对某一外部标准或方法的概述。它描述的是该框架的内容,而非任何运行记录。它并不表明 Nexus 或任何合作伙伴执行、认证或批准某一步骤。关口是该方法的一个步骤,绝不是 Nexus 的批准。

06验证

结果如何核查。

软件通过评审、按既定覆盖标准开展的测试以及在适当情况下的形式化证明进行验证。独立评估对安全论证进行审查。

核查如何开展
默认拒绝测试对于没有明确政策决定的请求,将进行测试,以确认其默认拒绝(失败即关闭)
Provenance verificationDeployed artefacts are checked against signed attestations before they run
Fault injection有意使依赖项失效,以测试恢复和隔离
Independent assessmentThe assurance case is reviewed by an assessor outside the development team

与不确定环境交互的复杂软件无法被穷尽测试。更新和第三方组件会带来新的失效路径。

08管理责任

由谁维护该方法。

网络安全与数字韧性 负责统筹联合体的软件和安全关键 系统 工程,并审查其在各平台上的应用情况。

10问题

问题与解答。

在这一领域,软件和安全关键系统工程有哪些局限?
与不确定环境交互的复杂软件无法被穷尽测试。更新和第三方组件会带来新的失效路径。
结果如何核查?
软件通过评审、按既定覆盖标准开展的测试以及在适当情况下的形式化证明进行验证。独立评估对安全论证进行审查。
本页面上的数值是真实的吗?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
该方法还应用于何处?
维持社会运转的 规范方法页面 列出应用该方法的每个平台。
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

GCRI区域任务最常用的 FoundryFoundry 构建与准备度
区域任务最常用的 Foundry

带来一种方法、一个数据集或一个问题。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.