Skip to content

GCRI · 엔지니어링

AI 평가 및 보증 공학

AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.

02방법

What aI evaluation and assurance engineering covers.

  1. 01

    핵심 방법

    capability and safety evaluation; red teaming; robustness and adversarial testing; bias and fairness assessment; assurance case development; post-deployment monitoring.

  2. 02

    데이터와 계측 장비

    평가 벤치마크, 사고 보고서, 모델 문서, 배포 로그, 사람 피드백 기록.

  3. 03

    검증

    Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.

  4. 04

    한계

    벤치마크는 실제 사용 환경이나 새로운 역량을 반영하지 못할 수 있습니다. 범용 시스템은 동작 범위가 열려 있어 완전한 시험이 어렵습니다.

  5. 05

    리스크 의사결정에서의 사용

    AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure.

03참고 실무

AI assurance draws on risk frameworks, management systems and evaluation practice.

참조 번호정하는 것
NIST AI RMFMeasure and manage functions
ISO/IEC 42001AI management system
EU AI Act conformity requirementsObligations for high-risk systems, applied in stages
OECD AI 사고 모니터Record of reported AI incidents
04절차

프로세스가 진행되는 방식.

Process explorer · Process

AI evaluation and assurance engineering: AI risk management (NIST)

9 steps5 stages1 gate

절차

AI evaluation and assurance engineering: AI risk management (NIST)

AI RMF Core에는 GOVERN, MAP, MEASURE, MANAGE의 네 가지 기능이 있으며 GOVERN은 전 영역에 걸쳐 적용됩니다. 여기에 그려진 순서는 일반적인 해석 중 하나일 뿐 점검표가 아닙니다.

  1. 01 거버넌스

    1. 01GOVERN: policies, roles and accountabilityStep · the Global Centre for Risk and Innovation (GCRI) technical officeGOVERN is a cross-cutting function. It is infused throughout AI risk management and enables the other functions.
  2. 02 Map

    1. 02MAP: 맥락과 의도된 용도데이터셋MAP 기능은 AI 시스템과 관련된 리스크를 구조화하기 위한 맥락을 설정하며, 여기에는 의도된 목적과 사람에 대한 영향이 포함됩니다.
  3. 03 측정

    1. 03측정: 신뢰할 수 있는 특성 평가모델링AI 시스템 은 신뢰할 수 있는 특성에 대해 평가됩니다. 배포 전과 운영 중에 정기적으로 시험해야 합니다.
    2. 04MEASURE: 식별된 리스크를 시간에 따라 추적모델링예상하지 못한 리스크와 새롭게 나타나는 리스크를 포함하여, 식별된 AI 리스크를 시간에 따라 추적하는 체계가 마련되어 있습니다.
  4. 04 관리

    1. 05MANAGE: 리스크 처리단계리스크 대응 계획은 사고에 대한 대응, 사고로부터의 복구, 사고에 관한 소통을 포함합니다. 자원은 파악되고 측정된 리스크에 배분됩니다.
    2. 06진행 여부 (MANAGE 1.1)관문 · GCRI 기술 사무국시스템이 목적과 목표를 충족하는지, 그리고 계속 진행할지 여부를 판단합니다. 이 프레임워크는 임계값을 정하지 않습니다.
    3. 07배포 결정결정 · GCRI 기술 사무소시스템을 소유한 조직이 배포 여부와 그 조건을 결정합니다.
    4. 08배포 후 모니터링과 사고모델링배포 후 모니터링 계획이 이행됩니다. 사고와 오류는 영향을 받는 커뮤니티를 포함한 관련 AI 행위자와 공유됩니다.
  5. 05 기록

    1. 09AI 시스템 목록데이터셋GOVERN 1.6은 AI 시스템의 목록을 작성하는 체계를 요구합니다. 모델 카드는 일반적인 관행이며, 프레임워크에는 명시되어 있지 않습니다.

발행 기관이 공개한 외부 표준이나 방법을 중립적으로 요약한 개요입니다. 운영 기록이 아닙니다. Nexus는 표시된 어떤 단계도 수행, 인증 또는 승인하지 않습니다. 관문이나 결정은 출처가 명시한 당사자에게 속합니다. 조치들이 반드시 순서가 정해진 단계인 것은 아닙니다. EU AI 법은 이 흐름에 표시되지 않습니다.

05체계적 리스크 분석에서

Evidence that an AI system is fit for its use.

보증은 평가, 레드팀 운영, 모니터링, 사고 기록을 근거로 정의된 용도에서 시스템이 허용 가능한 수준으로 안전하다는 논거를 구축합니다. 시스템 리스크 에서는 사용 맥락이 가장 중요합니다. 같은 모델이 초안 작성에는 허용되어도 환자 분류에는 허용되지 않을 수 있습니다.

  • Define the use context before evaluating.
  • Monitor after deployment; capability and use drift.
  • Record incidents and near misses.
  • Applications on AI and Autonomous Systems.
07스튜어드십

이 페이지의 관리 주체.

Artificial Intelligence and Autonomous Systems stewards aI evaluation and assurance engineering: it keeps this description current and reviews how the method is applied across the platforms.

08출처

Where this page’s references lead.

이 페이지를 읽을 때 기준이 되는 기구와 문서. 상태와 판은 바뀌며, 각 링크는 발행 기구로 연결됩니다.

09질문

질문과 답변.

왜 한 기관이 모든 방법 페이지를 호스팅합니까?
GCRI는 각 방법에 하나의 표준 설명이 있도록 STEM Commons를 운영합니다. 플랫폼은 이를 반복하지 않고 연결하므로 정의가 일관되게 유지됩니다.
방법 페이지의 정정을 어떻게 제안합니까?
보낼 곳 무결성 우려 접수 양식 으로 보내 주십시오.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.

GCRI
글로벌 리스크 혁신 센터(Global Centre for Risk and Innovation)

방법, 데이터세트 또는 질문을 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.