Validation at the ingest boundary
Each incoming batch is checked against its declared schema, units and code lists before it is accepted. Failures are quarantined with a reason, and the original is retained unchanged beside the standardised record.
GCRI · Foundry
Foundry의 데이터 엔지니어링
Data engineering decides whether evidence from different sectors can be combined at all. In this field it covers ingestion, validation, standardisation, provenance and stewardship: source passports, schemas and ontologies, frozen data cuts, and lineage that lets a correction reach every product built on the corrected source.
02신청서
What data engineering, interoperability and stewardship does here.
Data engineering, interoperability and stewardship cover the pipelines, standards and governance that make data usable and trustworthy. They determine whether information from different sectors can be combined for joint 위험 평가. In data and compute and methods and modelling, sound data engineering allows hazard, exposure and financial data to be linked consistently. It supports transparent and repeatable analysis of interconnected risk. The canonical description is on STEM Commons.
Frozen data cuts for reproducible products
Indices and loss estimates are computed from versioned, immutable snapshots, so a product can be re-run months later from exactly the data that produced it.
Correction impact through lineage
When a source owner issues a correction, the lineage graph lists every derived table, map and index that depends on it, and those products are marked stale until recomputed.
03방법과 근거
How Data engineering at Foundry is modelled, measured and tested.
모형, 그 가정, 데이터, 불확실성을 과학자나 엔지니어가 확인할 형태로 제시합니다. 구조는 발행된 방법을 따릅니다. 제시된 값은 예시이며 결과가 아닙니다.
모형, 방정식 및 가정
The model structure used for Data engineering at Foundry, the assumptions it makes and how each is tested.
요소 i의 리스크
Ri = f(Hi, Ei, Vi, Ci)재해, 노출, 취약성, 대처 역량연간 기대 손실
EAL = ∑k pk · Lk연간 확률이 pk결합 시스템
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| 가정 | 만드는 이유 | 시험 방법 |
|---|---|---|
| 한 사건 안에서 재해와 노출은 서로 독립적임 | 손실 적분을 다루기 쉽게 유지함 | 결합 기록에 적합한 코퓰러와 비교 |
| 결합은 운전점 근처에서 선형이다 | 충격이 A를 통해 전파되게 함 | 선형 범위를 넘어 섭동을 주고 비교하십시오 |
| 취약성 곡선은 장소 간에 옮겨 쓸 수 있다 | 지역 곡선은 거의 없다 | 관측된 손실이 있는 곳에서는 이에 대해 검증 |
- 투입 자료
- 출처 정보가 있는 버전 관리 데이터세트
- 산출물
- 분포이며 결코 단일 숫자가 아님
- 코드
- 모델 카드 및 시험과 함께 공개
- 재현
- 같은 데이터, 코드, 환경과 시드
FAIR 지침 원칙 · GO FAIR와 FORCE11W3C PROV · 월드 와이드 웹 컨소시엄불확실성의 일관된 처리에 관한 지침 · IPCCCEOS 분석 준비 데이터(Analysis Ready Data) · 지구관측위성위원회
04데이터
방법이 사용하는 입력.
Datasets and records used by data engineering, interoperability and stewardship on this platform, with the role each plays and the label its values carry. Sources are listed in 출처 등록부.
| 데이터 | 역할 | 라벨 |
|---|---|---|
| Source passports | Owner, licence, cadence, authority class and limits | 신고됨 |
| Schemas and ontology shapes | Validation at ingest | 신고됨 |
| Pipeline run logs | Lineage and failure analysis | 관측 |
| Published statistics and registers | Authoritative reference values | 공표 통계 |
| Catalogue metadata in DCAT and STAC | Discovery and reuse | 신고됨 |
05절차
프로세스가 진행되는 방식.
Process explorer · Process
Data engineering at Foundry: Build, sign and accept
10 steps·4단계·관문 2개
절차
Data engineering at Foundry: Build, sign and accept
승인된 임무는 주기 프로젝트가 됩니다. 구축물은 고정, 검증, 서명되며, Global Risks Forum(GRF)은 훈련용 인수를 기록할 뿐 배치를 허가하지 않습니다.
01 요청과 출처
- 01승인된 미션이 주기 프로젝트가 됨기록 · 유니버스 에서 Foundry로승인된 미션은 결정 사안을 갖춘 주기 프로젝트가 됩니다.
- 02데이터 출처와 자원의 자격 확인단계 · Global Centre for Risk and Innovation (GCRI)GCRI는 데이터 출처와 자원 제안의 자격을 확인하고 시나리오 모형을 구축합니다. 제안은 배정이 아닙니다.
02 구축과 검증
- 03출처 스냅숏기록 · NXS-FAC (청사진, 빌드, 서명)스냅숏은 커밋, 의존성, 생성기 버전을 고정합니다.
- 04빌드 계약기록 · NXS-FAC(청사진, 빌드, 서명)빌드 계약은 산출물 종류, 환경, 재현성 범위를 명시합니다.
- 05통합과 구축모형 · GCRIGCRI는 소프트웨어와 데이터를 통합하고, 빌드에 서명하며, 보안과 상호운용성을 시험합니다.
- 06검증 도구 모음게이트 · NXS-FAC(청사진, 빌드, 서명)필수 점검과 권고 점검은 구분됩니다. 재현성에는 고정된 입력, 명시된 비결정성, 독립적 재빌드가 필요합니다.
03 서명과 승인
- 07정확한 산출물에 서명단계 · NXS-FAC(청사진, 빌드, 서명)NXS-FAC는 빌드하고, 증명하며, 범위가 지정된 서명자 신원을 통해 서명을 요청합니다. 키 자료는 보유하지 않습니다.
- 08패키지 승인단계 · NXS-NXQ (소프트웨어, 모형, 역량 생애주기)NXS-NXQ는 서명된 패키지를 받고, 과제, 데이터 등급, 평가 도구 모음, 만료일을 묶는 승인 근거를 보관합니다.
04 수락
- 09핵심 빌드 보고서기록 · GCRI핵심 빌드 보고서는 진행 또는 중단 기록입니다. Universe가 핵심을 조립하고 훈련에 관한 결정을 보유합니다.
- 10G3 · 구축 결과물 연습용으로 수락관문 · Global Risks ForumGRF는 빌드가 훈련용으로 수락되었는지 기록합니다. 서명된 빌드나 릴리스 후보는 운영 환경 배치 허가가 아닙니다.
프로그램 연도 · NXS-FAC · UniverseDesigned programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The record order follows the Builds and Releases room lists of NXS-FAC.
06검증
결과가 점검되는 방식.
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source 시스템 confirms completeness.
| 점검 | 수행 방식 |
|---|---|
| Reconciliation with the source | Row counts, totals and keys are compared with the source system after each load |
| Schema and unit validation | Records are tested against shapes, controlled vocabularies and CF or SI units before acceptance |
| Lineage audit | A sample of published figures is traced back to the original records and the transformation steps are re-run |
| Licence check | Every source and derived product carries a licence that permits its intended use |
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
08스튜어드십
방법을 유지하는 주체.
데이터와 컴퓨팅 stewards data engineering, interoperability and stewardship for the Consortium and reviews how it is applied across platforms.
09연결됨
이 페이지가 컨소시엄 전체에서 어디로 이어지는지.
10질문
질문과 답변.
What are the limits of data engineering, interoperability and stewardship in this field?
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
결과는 어떻게 점검됩니까?
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systems confirms completeness.
이 페이지의 값은 실제입니까?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
이 방법은 다른 어디에 적용됩니까?
사회를 움직이는 정본 방법 페이지 는 이를 적용하는 모든 플랫폼을 나열합니다.
보고서기여하기
이 페이지에서 증거를 기여하십시오.
보고서 is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIFoundryFoundry 구축과 준비도
- 이메일게이트웨이 GW-GCRI이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- Zenodo개방형 예치기탁하고 커뮤니티에 제출하기ORCID iD로 Zenodo에 직접 기록을 게시한 뒤, 그곳의 Reports 커뮤니티에 제출하십시오. 큐레이터가 검토하며, DOI는 귀하의 것으로 남습니다.
- 보고서GCRI모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
Foundry
방법, 데이터세트 또는 질문을 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률
법률 문서.
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.