Validation at the ingest boundary
Each incoming batch is checked against its declared schema, units and code lists before it is accepted. Failures are quarantined with a reason, and the original is retained unchanged beside the standardised record.
GCRI · Foundry
مهندسی داده در Foundry
Data engineering decides whether evidence from different sectors can be combined at all. In this field it covers ingestion, validation, standardisation, provenance and stewardship: source passports, schemas and ontologies, frozen data cuts, and lineage that lets a correction reach every product built on the corrected source.
01ثبت‌خانه
Data engineering at Foundry on the record.
Method recordSTEM method
- روشمهندسی داده، هم‌کنشی‌پذیری و تولیت
- متولیداده و محاسبات
- Applied inFoundry
- داده5 inputs
- Checks4 validation steps
- Canonical pageSTEM Commons
02Application
What data engineering, interoperability and stewardship does here.
Data engineering, interoperability and stewardship cover the pipelines, standards and governance that make data usable and trustworthy. They determine whether information from different sectors can be combined for joint ارزیابی ریسک. In data and compute and methods and modelling, sound data engineering allows hazard, exposure and financial data to be linked consistently. It supports transparent and repeatable analysis of interconnected risk. The canonical description is on STEM Commons.
Frozen data cuts for reproducible products
Indices and loss estimates are computed from versioned, immutable snapshots, so a product can be re-run months later from exactly the data that produced it.
Correction impact through lineage
When a source owner issues a correction, the lineage graph lists every derived table, map and index that depends on it, and those products are marked stale until recomputed.
03روش‌ها و شواهد
How Data engineering at Foundry is modelled, measured and tested.
مدل، مفروضات، داده‌ها و عدم قطعیت آن، به شکلی که دانشمند یا مهندس بررسی می‌کند. ساختارها از روش‌های منتشرشده پیروی می‌کنند. مقادیر ترسیم‌شده تبیینی‌اند، نه یافته.
مدل، معادلات و مفروضات
The model structure used for Data engineering at Foundry, the assumptions it makes and how each is tested.
ریسک عنصر i
Ri = f(Hi, Ei, Vi, Ci)مخاطره، مواجهه، آسیب‌پذیری و ظرفیت مقابلهزیان سالانهٔ مورد انتظار
EAL = ∑k pk · Lkبر رویدادهای k با احتمال سالانهٔ pkسامانه‌های جفت‌شده
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| فرض | چرا ساخته می‌شود | چگونه آزموده می‌شود |
|---|---|---|
| مخاطره و مواجهه در یک رویداد مستقل‌اند | انتگرال زیان را تحت‌کنترل نگه می‌دارد | مقایسه با برازش مفصل بر سوابق مشترک |
| جفت‌شدگی‌ها نزدیک نقطهٔ کار خطی‌اند | اجازه می‌دهد شوک‌ها از طریق A منتشر شوند | فراتر از دامنهٔ خطی آشفته کنید و مقایسه کنید |
| منحنی‌های آسیب‌پذیری میان مکان‌ها منتقل می‌شوند | منحنی‌های محلی به‌ندرت در دسترس‌اند | اعتبارسنجی در برابر زیان‌های مشاهده‌شده در جاهایی که وجود دارند |
- ورودی‌ها
- مجموعه‌داده‌های نسخه‌دار با خاستگاه
- خروجی‌ها
- توزیع‌ها، هرگز تک‌رقم‌ها
- کد
- منتشرشده با کارت مدل و آزمون‌ها
- بازتولید
- همان داده، کد، محیط و بذر
اصول راهنمای FAIR · GO FAIR و FORCE11W3C PROV · کنسرسیوم وب جهانیGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
04داده
What the method consumes.
Datasets and records used by data engineering, interoperability and stewardship on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.
| داده | نقش | برچسب |
|---|---|---|
| Source passports | Owner, licence, cadence, authority class and limits | DECLARED |
| Schemas and ontology shapes | Validation at ingest | DECLARED |
| Pipeline run logs | Lineage and failure analysis | مشاهده‌شده |
| Published statistics and registers | Authoritative reference values | آمارهای منتشرشده |
| Catalogue metadata in DCAT and STAC | Discovery and reuse | DECLARED |
05فرایند
نحوهٔ اجرای فرایند.
Process explorer · Process
Data engineering at Foundry: Build, sign and accept
10 steps·4 مرحله·2 دروازه
فرایند
Data engineering at Foundry: Build, sign and accept
An admitted mission becomes a cycle project; the build is pinned, verified and signed, and the Global Risks Forum (GRF) records acceptance for exercise, not permission to deploy.
01 Request and sources
- 01Admitted mission becomes a cycle projectسابقه · جهان to FoundryAn admitted mission becomes a cycle project with a decision case.
- 02Qualify data sources and resourcesStep · the Global Centre for Risk and Innovation (GCRI)GCRI qualifies data sources and resource offers and builds the scenario models. An offer is not an allocation.
02 Build and verify
- 03Source snapshotسابقه · NXS-FAC (blueprints, builds and signing)The snapshot pins the commit, dependencies and generator versions.
- 04Build contractRecord · NXS-FAC (blueprints, builds and signing)The build contract declares the artefact kind, environment and reproducibility envelope.
- 05Integrate and buildModel · GCRIGCRI integrates software and data, signs builds, and tests security and interoperability.
- 06Verification suiteGate · NXS-FAC (blueprints, builds and signing)Required and advisory checks stay separate. Reproducibility needs pinned inputs, declared nondeterminism and independent rebuilds.
03 Sign and admit
- 07Sign the exact artefactStep · NXS-FAC (blueprints, builds and signing)NXS-FAC builds, attests and requests a signature via a scoped signer identity. It holds no key material.
- 08Package admissionگام · NXS-NXQ (software, models and capability lifecycle)NXS-NXQ receives the signed package and keeps admission evidence that binds the task, data class, evaluation suite and expiration.
04 Accept
- 09گزارش ساخت هستهسابقه · GCRIThe Core Build Report is the go or no-go record. Universe assembles the Core and holds the decision for the exercise.
- 10G3 · ساخت برای تمرین پذیرفته شددروازه · The Global Risks ForumGRF records whether the build is accepted for exercise. A signed build or release candidate is not permission to deploy to production.
سال برنامه · NXS-FAC · UniverseDesigned programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The record order follows the Builds and Releases room lists of NXS-FAC.
06اعتبارسنجی
How results are checked.
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source سامانه‌ها confirms completeness.
| بررسی | How it is done |
|---|---|
| Reconciliation with the source | Row counts, totals and keys are compared with the source system after each load |
| Schema and unit validation | Records are tested against shapes, controlled vocabularies and CF or SI units before acceptance |
| Lineage audit | A sample of published figures is traced back to the original records and the transformation steps are re-run |
| Licence check | Every source and derived product carries a licence that permits its intended use |
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
07Connections
Topics that rely on this method.
08تولیت
Who maintains the method.
داده و محاسبات stewards data engineering, interoperability and stewardship for the Consortium and reviews how it is applied across platforms.
09متصل
جایی که این صفحه در سراسر کنسرسیوم به آن می‌رسد.
10پرسش‌ها
پرسش و پاسخ.
What are the limits of data engineering, interoperability and stewardship in this field?
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
How are results checked?
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systems confirms completeness.
Are the values on this page real?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Where else is this method applied?
رصدخانهٔ canonical method page lists every platform that applies it.
گزارش‌هامشارکت
شواهد را از همین صفحه ارسال کنید.
گزارش‌ها is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIFoundryساخت و آمادگی Foundry
- ایمیلدرگاه GW-GCRIاز همین صفحه ارسال کنیدشواهد، یک اصلاحیه، یک مورد، یک روش، یک داوری، یک ترجمه یا ورودی نمایه. با برچسب این صفحه می‌رسد تا ویراستار مسئول آن را دریافت کند.
- Zenodoسپردهٔ بازآن را واگذار کنید و به جامعه ارائه دهیدسابقهٔ خود را با شناسهٔ ORCID خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. گزینشگران آن را داوری می‌کنند؛ DOI از آنِ شما میماند.
- گزارش‌هاGCRIهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز داده شخصی، جزئیات حساس زیرساخت یا چیزی را که حق اشتراکش را ندارید نفرستید. هر مشارکت پیش از استفاده داوری می‌شود؛ ارسال آن حق مؤلفی یا ویرایشی نمی‌دهد و حمایت مالی هرگز یافته‌ای را نمی‌خرد.
Foundry
یک روش، یک مجموعه‌داده یا یک پرسش بیاورید.
اطلاعات و درخواست‌ها امروز باز است. هر درخواست یک شمارهٔ پیگیری می‌گیرد و گام بعدی را مشخص می‌کند؛ درخواست‌های عضویت، پرداخت‌ها، تخصیص رایانش و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت داوری آن‌ها فراهم باشد.
حقوقی
اسناد حقوقی.
نقشه‌ها، داده‌ها و ارقام این سایت برای زمینه و اطلاعات عمومی نشان داده می‌شوند. توصیه، پیش‌بینی یا هشدار نیستند؛ حدود این اطلاعات در سلب مسئولیت‌ها و اعلامیه‌های داده بیان شده است.