Validation at the ingest boundary
Each incoming batch is checked against its declared schema, units and code lists before it is accepted. Failures are quarantined with a reason, and the original is retained unchanged beside the standardised record.
GCRI · Foundry
Foundry'de veri mühendisliği
Data engineering decides whether evidence from different sectors can be combined at all. In this field it covers ingestion, validation, standardisation, provenance and stewardship: source passports, schemas and ontologies, frozen data cuts, and lineage that lets a correction reach every product built on the corrected source.
01Sicil
Data engineering at Foundry on the record.
Yöntem kaydıSTEM yöntemi
- YöntemVeri mühendisliği, birlikte çalışabilirlik ve veri yönetimi
- SorumluVeri ve Hesaplama
- Uygulandığı yerFoundry
- Veri5 girdi
- Kontroller4 doğrulama adımı
- Kanonik sayfaSTEM Commons
02Başvuru
What data engineering, interoperability and stewardship does here.
Data engineering, interoperability and stewardship cover the pipelines, standards and governance that make data usable and trustworthy. They determine whether information from different sectors can be combined for joint risk değerlendirmesi. In data and compute and methods and modelling, sound data engineering allows hazard, exposure and financial data to be linked consistently. It supports transparent and repeatable analysis of interconnected risk. The canonical description is on STEM Commons'a.
Frozen data cuts for reproducible products
Indices and loss estimates are computed from versioned, immutable snapshots, so a product can be re-run months later from exactly the data that produced it.
Correction impact through lineage
When a source owner issues a correction, the lineage graph lists every derived table, map and index that depends on it, and those products are marked stale until recomputed.
03Yöntemler ve kanıt
How Data engineering at Foundry is modelled, measured and tested.
Model, varsayımları, verileri ve belirsizliği, bir bilim insanının veya mühendisin kontrol edeceği biçimde. Yapılar yayımlanmış yöntemleri izler. Çizilen değerler bulgu değil, açıklayıcıdır.
Model, denklemler ve varsayımlar
The model structure used for Data engineering at Foundry, the assumptions it makes and how each is tested.
i öğesinin riski
Ri = f(Hi, Ei, Vi, Ci)tehlike, maruziyet, kırılganlık ve başa çıkma kapasitesiBeklenen yıllık kayıp
EAL = ∑k pk · Lkyıllık olasılığı pkBağlı sistemler
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Varsayım | Neden yapıldığı | Nasıl sınanır |
|---|---|---|
| Bir olay içinde tehlike ve maruziyet bağımsızdır | Kayıp integralini çözülebilir tutar | Ortak kayıtlara uydurulmuş bir kopula ile karşılaştırın |
| Bağlantılar çalışma noktası yakınında doğrusaldır | Şokların A üzerinden yayılmasına izin verir | Doğrusal aralığın ötesine itin ve karşılaştırın |
| Kırılganlık eğrileri yerler arasında aktarılabilir | Yerel eğriler nadiren mevcuttur | Mevcut olduğunda gözlemlenen kayıplarla doğrulayın |
- Girdiler
- kaynağı belgelenmiş, sürümlü veri setleri
- Çıktılar
- dağılımlar, asla tek sayılar değil
- Kod
- model kartı ve testlerle birlikte yayımlanır
- Yeniden üretim
- aynı veri, kod, ortam ve tohum değeri
FAIR yol gösterici ilkeleri · GO FAIR ve FORCE11W3C PROV · World Wide Web ConsortiumBelirsizliklerin tutarlı ele alınmasına ilişkin kılavuz · IPCCCEOS Analysis Ready Data · Yer Gözlem Uyduları Komitesi
04Veri
Yöntemin tükettikleri.
Datasets and records used by data engineering, interoperability and stewardship on this platform, with the role each plays and the label its values carry. Sources are listed in kaynak sicilinde.
| Veri | Rol | Etiket |
|---|---|---|
| Source passports | Owner, licence, cadence, authority class and limits | BEYAN EDİLDİ |
| Schemas and ontology shapes | Validation at ingest | BEYAN EDİLDİ |
| Pipeline run logs | Lineage and failure analysis | GÖZLENEN |
| Published statistics and registers | Authoritative reference values | Yayımlanmış istatistikler |
| Catalogue metadata in DCAT and STAC | Discovery and reuse | BEYAN EDİLDİ |
05Süreç
Sürecin nasıl işlediği.
Process explorer · Process
Data engineering at Foundry: Build, sign and accept
10 steps·4 aşama·2 kapı
Süreç
Data engineering at Foundry: Build, sign and accept
Kabul edilen bir görev bir döngü projesine dönüşür; derleme sabitlenir, doğrulanır ve imzalanır ve Global Risks Forum (GRF) kullanıma alma izni olarak değil, tatbikat için kabul olarak kaydeder.
01 Talep ve kaynaklar
- 01Kabul edilen görev bir döngü projesine dönüşürKayıt · Evren 'ten Foundry'yeKabul edilen bir görev, bir karar vakasıyla birlikte bir döngü projesine dönüşür.
- 02Veri kaynaklarını ve kaynakları nitelendirinAdım · Global Centre for Risk and Innovation (GCRI)GCRI veri kaynaklarını ve kaynak tekliflerini nitelendirir ve senaryo modellerini oluşturur. Bir teklif bir tahsis değildir.
02 Oluşturun ve doğrulayın
- 03Kaynak anlık görüntüsüKayıt · NXS-FAC (taslaklar, yapılar ve imzalama)Anlık görüntü; commit'i, bağımlılıkları ve üreteç sürümlerini sabitler.
- 04Derleme sözleşmesiKayıt · NXS-FAC (taslaklar, yapılar ve imzalama)Derleme sözleşmesi, çıktı türünü, ortamı ve tekrarlanabilirlik kapsamını beyan eder.
- 05Entegre edin ve oluşturunModel · GCRIGCRI yazılım ve verileri entegre eder, derlemeleri imzalar ve güvenlik ile birlikte çalışabilirliği test eder.
- 06Doğrulama paketiGeçit · NXS-FAC (taslaklar, yapılar ve imzalama)Zorunlu ve tavsiye niteliğindeki kontroller ayrı tutulur. Tekrarlanabilirlik, sabitlenmiş girdiler, beyan edilmiş belirlenimsizlik ve bağımsız yeniden derlemeler gerektirir.
03 İmzalayın ve kabul edin
- 07Tam olarak o çıktıyı imzalayınAdım · NXS-FAC (taslaklar, yapılar ve imzalama)NXS-FAC derler, onaylar ve kapsamı sınırlı bir imzacı kimliği aracılığıyla imza ister. Anahtar materyali tutmaz.
- 08Paket kabulüAdım · NXS-NXQ (yazılım, modeller ve yetenek yaşam döngüsü)NXS-NXQ imzalı paketi alır ve görevi, veri sınıfını, değerlendirme paketini ve sona erme tarihini bağlayan kabul kanıtını saklar.
04 Kabul edin
- 09Temel Geliştirme RaporuKayıt · GCRIÇekirdek Oluşturma Raporu, devam veya durdurma kaydıdır. Universe Çekirdeği bir araya getirir ve tatbikat kararını elinde tutar.
- 10G3 · Yapım tatbikat için kabul edildiGeçit · The Global Risks ForumGRF derlemenin tatbikat için kabul edilip edilmediğini kaydeder. İmzalı bir derleme veya sürüm adayı, üretime alma izni değildir.
Program yılı · NXS-FAC · UniverseDesigned programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The record order follows the Builds and Releases room lists of NXS-FAC.
06Doğrulama
Sonuçlar nasıl kontrol edilir.
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source sistemleri confirms completeness.
| Kontrol edin | Nasıl yapıldığı |
|---|---|
| Reconciliation with the source | Row counts, totals and keys are compared with the source system after each load |
| Schema and unit validation | Records are tested against shapes, controlled vocabularies and CF or SI units before acceptance |
| Lineage audit | A sample of published figures is traced back to the original records and the transformation steps are re-run |
| Licence check | Every source and derived product carries a licence that permits its intended use |
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
08Sorumlu yönetim
Yöntemi kimin sürdürdüğü.
Veri ve Hesaplama stewards data engineering, interoperability and stewardship for the Consortium and reviews how it is applied across platforms.
09Bağlı
Bu sayfanın Konsorsiyum genelinde nereye götürdüğü.
10Sorular
Sorular ve yanıtlar.
What are the limits of data engineering, interoperability and stewardship in this field?
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
Sonuçlar nasıl kontrol edilir?
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systems confirms completeness.
Bu sayfadaki değerler gerçek mi?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Bu yöntem başka nerede uygulanıyor?
Toplumları ayakta tutan Kanonik yöntem sayfası onu uygulayan tüm platformları listeler.
RaporlarKatkıda bulunun
Bu sayfadan kanıt katkısında bulunun.
Raporlar is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIFoundryFoundry Yapım ve Hazırlık
- E-postaGW-GCRI geçidiBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoAçık depoDepolayın ve topluluğa gönderinKendi kaydınızı ORCID iD'nizle Zenodo'da yayımlayın, ardından orada Reports topluluğuna gönderin. Küratörler inceler; DOI sizde kalır.
- RaporlarGCRIKatkıda bulunmanın tüm yollarını görünKatkı türleri, her birinin nasıl incelendiği, alacağınız atıf, lisans ve asla kabul edilmeyenler.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Foundry
Bir yöntem, bir veri seti ya da bir soru getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuk
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.