Skip to content

GCRI · Foundry

Foundry의 AI와 머신러닝

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02신청서

인공지능과 머신러닝이 이곳에서 하는 일.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

영수 기록이 남는 범위 한정 에이전트

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03모니터링

모형 학습.

팀이 이 방법을 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.

모형 학습

Foundry · AI and machine learning at Foundry · Run R-6794

Drift on one sliceGCRI · Foundry

단면별 평가

전체0.830.025712통과
지역 A0.740.051098검토
지역 B0.760.05458검토
희소 범주0.640.07160기준 미달

방법 카드

방법
인공지능과 머신러닝
분할
시간 기반, 누출 없음
특징
22
라벨
모형 산출

모집단 안정성

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04데이터

방법이 사용하는 입력.

이 플랫폼에서 인공지능과 머신러닝이 사용하는 데이터셋과 기록으로, 각각의 역할과 그 값에 붙는 표시를 함께 보여 줍니다. 출처는 출처 등록부.

데이터역할라벨
라벨링된 학습 데이터셋지도 학습보고됨
Satellite image archivesInputs to classification관측
Held-out and out-of-distribution test sets평가관측
Evaluation and red-team recordsPromotion decisions보고됨
학습 데이터용 데이터시트Origin, consent and licence신고됨
05방법과 근거

Foundry의 AI 및 머신러닝이 어떻게 모델링되고, 측정되고, 시험되는지.

모형, 그 가정, 데이터, 불확실성을 과학자나 엔지니어가 확인할 형태로 제시합니다. 구조는 발행된 방법을 따릅니다. 제시된 값은 예시이며 결과가 아닙니다.

모형, 방정식 및 가정

The model structure used for AI and machine learning at Foundry, the assumptions it makes and how each is tested.

요소 i의 리스크Ri = f(Hi, Ei, Vi, Ci)재해, 노출, 취약성, 대처 역량
연간 기대 손실EAL = ∑k pk · Lkover events k with annual probability pk
결합 시스템xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
가정만드는 이유시험 방법
한 사건 안에서 재해와 노출은 서로 독립적임손실 적분을 다루기 쉽게 유지함결합 기록에 적합한 코퓰러와 비교
결합은 운전점 근처에서 선형이다충격이 A를 통해 전파되게 함선형 범위를 넘어 섭동을 주고 비교하십시오
취약성 곡선은 장소 간에 옮겨 쓸 수 있다지역 곡선은 거의 없다관측된 손실이 있는 곳에서는 이에 대해 검증
투입 자료
출처 정보가 있는 버전 관리 데이터세트
산출물
분포이며 결코 단일 숫자가 아님
코드
모델 카드 및 시험과 함께 공개
재현
같은 데이터, 코드, 환경과 시드
표준 리스크 및 상태공간 정식화로, 나열된 가정은 해당 방법에 일반적인 것이며 검토를 위해 명시한 것으로 결과가 아닙니다.
FAIR 지침 원칙 · GO FAIR와 FORCE11W3C PROV · 월드 와이드 웹 컨소시엄불확실성의 일관된 처리에 관한 지침 · IPCCCEOS 분석 준비 데이터(Analysis Ready Data) · 지구관측위성위원회
06검증

결과가 점검되는 방식.

모형은 공간, 시간, 집단 구조를 고려한 보류 데이터로 평가됩니다. 정확도와 함께 강건성, 보정, 공정성을 시험합니다.

점검수행 방식
공간 및 시간 홀드아웃Test data are separated in space and time from training data to prevent leakage
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
드리프트 모니터링Input and output distributions in use are compared with those at validation, and divergence triggers review
적대적 테스트Models and agents are tested against prompt injection and misuse before promotion

배치 조건이 학습 데이터와 다르면 성능이 떨어집니다. 모형은 편향을 내재할 수 있으며 희귀 사건에서 명확한 경고 없이 실패할 수 있습니다.

07절차

프로세스가 진행되는 방식.

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

절차

AI and machine learning at Foundry: AI risk management (NIST)

AI RMF Core에는 GOVERN, MAP, MEASURE, MANAGE의 네 가지 기능이 있으며 GOVERN은 전 영역에 걸쳐 적용됩니다. 여기에 그려진 순서는 일반적인 해석 중 하나일 뿐 점검표가 아닙니다.

  1. 01 거버넌스

    1. 01GOVERN: 정책, 역할, 책임성단계 · 모델 관리자GOVERN은 범분야 기능입니다. AI 리스크 관리 전반에 스며들어 다른 기능을 가능하게 합니다.
  2. 02 Map

    1. 02MAP: 맥락과 의도된 용도데이터셋MAP 기능은 AI 시스템과 관련된 리스크를 구조화하기 위한 맥락을 설정하며, 여기에는 의도된 목적과 사람에 대한 영향이 포함됩니다.
  3. 03 측정

    1. 03측정: 신뢰할 수 있는 특성 평가모델링AI 시스템 은 신뢰할 수 있는 특성에 대해 평가됩니다. 배포 전과 운영 중에 정기적으로 시험해야 합니다.
    2. 04MEASURE: 식별된 리스크를 시간에 따라 추적모델링예상하지 못한 리스크와 새롭게 나타나는 리스크를 포함하여, 식별된 AI 리스크를 시간에 따라 추적하는 체계가 마련되어 있습니다.
  4. 04 관리

    1. 05MANAGE: 리스크 처리단계리스크 대응 계획은 사고에 대한 대응, 사고로부터의 복구, 사고에 관한 소통을 포함합니다. 자원은 파악되고 측정된 리스크에 배분됩니다.
    2. 06Proceed or not (MANAGE 1.1)Gate · Model stewardA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07배포 결정의사결정 · 모델 관리자시스템을 소유한 조직이 배포 여부와 그 조건을 결정합니다.
    4. 08배포 후 모니터링과 사고모델링배포 후 모니터링 계획이 이행됩니다. 사고와 오류는 영향을 받는 커뮤니티를 포함한 관련 AI 행위자와 공유됩니다.
  5. 05 기록

    1. 09AI 시스템 목록데이터셋GOVERN 1.6은 AI 시스템의 목록을 작성하는 체계를 요구합니다. 모델 카드는 일반적인 관행이며, 프레임워크에는 명시되어 있지 않습니다.

발행 기관이 공개한 외부 표준이나 방법을 중립적으로 요약한 개요입니다. 운영 기록이 아닙니다. Nexus는 표시된 어떤 단계도 수행, 인증 또는 승인하지 않습니다. 관문이나 결정은 출처가 명시한 당사자에게 속합니다. 조치들이 반드시 순서가 정해진 단계인 것은 아닙니다. EU AI 법은 이 흐름에 표시되지 않습니다.

09스튜어드십

방법을 유지하는 주체.

인공지능과 자율 시스템 은 컨소시엄을 위해 인공지능과 머신러닝을 관리하며, 플랫폼 전반에서의 적용 방식을 검토합니다.

10연결됨

이 페이지가 컨소시엄 전체에서 어디로 이어지는지.

11질문

질문과 답변.

이 분야에서 인공지능과 머신러닝의 한계는 무엇입니까?
배치 조건이 학습 데이터와 다르면 성능이 떨어집니다. 모형은 편향을 내재할 수 있으며 희귀 사건에서 명확한 경고 없이 실패할 수 있습니다.
결과는 어떻게 점검됩니까?
모형은 공간, 시간, 집단 구조를 고려한 보류 데이터로 평가됩니다. 정확도와 함께 강건성, 보정, 공정성을 시험합니다.
이 페이지의 값은 실제입니까?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
이 방법은 다른 어디에 적용됩니까?
사회를 움직이는 정본 방법 페이지 는 이를 적용하는 모든 플랫폼을 나열합니다.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.

GCRI지역 임무에서 가장 많이 사용하는 FoundryFoundry 구축과 준비도
지역 임무에서 가장 많이 사용하는 Foundry

방법, 데이터세트 또는 질문을 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.