Skip to content

GCRI · Foundry

Инженерия программного обеспечения, критичного для безопасности

Software and safety-critical systems engineering applies rigorous practice where a software fault could reach a decision with real consequences. In this field it means fail-closed defaults, verified builds, known components, tested recovery, and an assurance case that states what has and has not been shown.

01Реестр

Safety-critical software engineering on the record.

Запись о методеSTEM-метод
  1. МетодПрограммная и системы инженерия
  2. Applied inFoundry
  3. Canonical pageSTEM Commons
02Заявка

What software and safety-critical systems engineering does here.

Software and safety-critical systems engineering develops software whose failure could cause harm, loss of life or major disruption. It applies rigorous processes to control-system, medical, aviation and infrastructure software. In data and compute and methods and modelling, safety-critical software practice limits the chance that a software fault cascades through physical infrastructure. It informs assurance requirements for automated control in interconnected systems. The canonical description is on the STEM Commons.

Fail-closed policy gates

Каждый значимый запрос оценивается по идентичности, мандату, цели и классу данных; если явного решения нет, шлюз отказывает, а отказ регистрируется.

Build provenance and bills of materials

Releases are built by a controlled pipeline that signs provenance attestations and produces a software bill of materials, so a deployed artefact can be traced to its source and components.

Assurance cases

Claims about a system, such as tenant isolation or kill-switch effectiveness, are argued from evidence in a structured case, with gaps and residual risks stated rather than assumed away.

03Методы и доказательная база

Как моделируется, измеряется и проверяется разработка программного обеспечения, критически важного для безопасности.

Модель, её допущения, данные и неопределённость в том виде, в каком их проверил бы учёный или инженер. Структуры следуют опубликованным методам. Показанные значения являются иллюстративными, а не результатами.

Модель, уравнения и допущения

The model structure used for safety-critical software engineering, the assumptions it makes and how each is tested.

Риск элемента iRi = f(Hi, Ei, Vi, Ci)опасность, подверженность, уязвимость и потенциал реагирования
Ожидаемый годовой ущербEAL = ∑k pk · Lkover events k with annual probability pk
Связанные системыxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
ДопущениеЗачем это создаётсяКак это проверяется
В пределах события опасность и подверженность независимыДелает интеграл убытков вычислимымСравнить с подгонкой копулы по совместным записям
Вблизи рабочей точки связи линейныПозволяет потрясениям распространяться через AВыйдите за пределы линейного диапазона и сравните
Кривые уязвимости переносятся между местамиМестные кривые редко доступныПроверять по наблюдаемым убыткам там, где они есть
Исходные данные
версионированные наборы данных с указанием происхождения
Результаты
распределения, а не отдельные числа
Код
выпускается вместе с карточкой модели и тестами
Воспроизведение
те же данные, код, среда и начальное значение
Стандартные формулировки риска и пространства состояний; перечисленные допущения типичны для метода и приведены для рецензирования, а не как результаты.
Руководящие принципы FAIR · GO FAIR и FORCE11W3C PROV · Консорциум Всемирной паутиныРуководство по единообразному учёту неопределённостей · МГЭИКCEOS Analysis Ready Data · Комитет по спутникам наблюдения Земли
04Данные

Что потребляет метод.

Наборы данных и записи, используемые в программной инженерии и инженерии системы , критичных для безопасности, на этой платформе, с указанием роли каждого из них и метки, которую несут его значения. Источники перечислены в реестре источников.

ДанныеРольМетка
Source repositories and review recordsChange history and approvalНАБЛЮДАЕМО
Test coverage and mutation resultsVerification depthНАБЛЮДАЕМО
Спецификации состава программного обеспеченияComponent inventoryНАБЛЮДАЕМО
Vulnerability advisoriesПодверженность компонентовСООБЩЕНО
Incident and fault logsАнализ отказовНАБЛЮДАЕМО
05Процесс

Как устроен процесс.

Process explorer · Process

Safety-critical software engineering: Risk management process

8 шагов5 этапов

Процесс

Safety-critical software engineering: Risk management process

ISO 31000:2018 устанавливает итеративный процесс управления рисками: от области применения, контекста и критериев через оценку и обработку риска к мониторингу, рецензированию и отчётности.

  1. 01 Постановка

    1. 01Scope, context and criteriaDataset · Project ownerThe frame for the process: the scope, the external and internal context, and the risk criteria. Later steps are read against this frame.
  2. 02 Оценка риска

    1. 04Risk identificationStep · Project ownerThe first part of risk assessment. Risk is usually expressed by risk sources, potential events, their consequences and likelihood.
    2. 05Risk analysisModel · Project ownerThe second part of risk assessment. It considers consequences and likelihood of the identified risks, with guidelines, not a formula.
    3. 06Risk evaluationStep · Project ownerThe last part of risk assessment. Results of the analysis are compared with the risk criteria to see where more action is needed.
  3. 03 Обработка риска

    1. 07Risk treatmentStep · Project ownerTreatment options are selected, then plans are prepared and implemented. Residual risk is documented and goes to monitoring and review.
  4. 04 На всех этапах процесса

    1. 02Communication and consultationStep · Project ownerCommunication and consultation with stakeholders is its own process element. The standard draws it alongside the others, not in sequence.
    2. 03Monitoring and reviewStep · Project ownerMonitoring and review take place at every stage. New experience, knowledge and analysis can revise elements, actions and controls.
  5. 05 Запись и отчёт

    1. 08Recording and reportingRecord · Project ownerThe process and its outcomes are documented and reported. The standard does not name who receives the report in the clauses read.

Описание внешнего стандарта или метода по его публичным источникам. Оно описывает, что говорит рамочная основа, а не запись о каком-либо прогоне. Оно не показывает, что Nexus или какой-либо партнёр выполняет, сертифицирует или утверждает какой-либо шаг. Этап является шагом метода и никогда не является утверждением Nexus.

06Валидация

Как проверяются результаты.

Программное обеспечение проверяется посредством рецензирования, тестирования по заданным критериям покрытия и, где это оправдано, формальных доказательств. Независимая оценка рассматривает обоснование безопасности.

ПроверкаКак это делается
Deny-by-default testsRequests without an explicit policy decision are tested to confirm they fail closed
Provenance verificationDeployed artefacts are checked against signed attestations before they run
Внедрение неисправностейDependencies are failed deliberately to test recovery and isolation
Independent assessmentThe assurance case is reviewed by an assessor outside the development team

Сложное программное обеспечение, взаимодействующее с неопределённой средой, невозможно протестировать исчерпывающе. Обновления и компоненты сторонних разработчиков создают новые пути отказа.

08Ведение и сопровождение

Кто ведёт метод.

«Кибербезопасность и цифровая устойчивость» ведёт и сопровождает программную инженерию и инженерию системы , критичных для безопасности, для Консорциума и проверяет, как она применяется на всех платформах.

10Вопросы

Вопросы и ответы.

Каковы пределы программной инженерии и инженерии систем, критичных для безопасности, в этой области?
Сложное программное обеспечение, взаимодействующее с неопределённой средой, невозможно протестировать исчерпывающе. Обновления и компоненты сторонних разработчиков создают новые пути отказа.
Как проверяются результаты?
Программное обеспечение проверяется посредством рецензирования, тестирования по заданным критериям покрытия и, где это оправдано, формальных доказательств. Независимая оценка рассматривает обоснование безопасности.
Значения на этой странице реальные?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Где ещё применяется этот метод?
Observatory Каноническая страница метода перечисляет все применяющие его платформы.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

GCRIFoundryFoundry Build and Readiness
Foundry

Предложите метод, набор данных или вопрос.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.