Validation at the ingest boundary
Each incoming batch is checked against its declared schema, units and code lists before it is accepted. Failures are quarantined with a reason, and the original is retained unchanged beside the standardised record.
GCRI · Foundry
Ingegneria dei dati presso Foundry
Data engineering decides whether evidence from different sectors can be combined at all. In this field it covers ingestion, validation, standardisation, provenance and stewardship: source passports, schemas and ontologies, frozen data cuts, and lineage that lets a correction reach every product built on the corrected source.
01Registrare
Data engineering at Foundry on the record.
Registro del metodoMetodo STEM
- MetodoIngegneria, interoperabilità e gestione responsabile dei dati
- CustodeDati e calcolo
- Applicato inFoundry
- Dati5 input
- Verifiche4 fasi di validazione
- Pagina canonicaBeni comuni STEM
02Domanda di adesione
What data engineering, interoperability and stewardship does here.
Data engineering, interoperability and stewardship cover the pipelines, standards and governance that make data usable and trustworthy. They determine whether information from different sectors can be combined for joint valutazione del rischio. In data and compute and methods and modelling, sound data engineering allows hazard, exposure and financial data to be linked consistently. It supports transparent and repeatable analysis of interconnected risk. The canonical description is on gli STEM Commons.
Frozen data cuts for reproducible products
Indices and loss estimates are computed from versioned, immutable snapshots, so a product can be re-run months later from exactly the data that produced it.
Correction impact through lineage
When a source owner issues a correction, the lineage graph lists every derived table, map and index that depends on it, and those products are marked stale until recomputed.
03Metodi ed evidenze
How Data engineering at Foundry is modelled, measured and tested.
Il modello, le sue ipotesi, i suoi dati e la sua incertezza, nella forma in cui uno scienziato o un ingegnere li verificherebbe. Le strutture seguono metodi pubblicati. I valori rappresentati sono illustrativi, non risultati.
Modello, equazioni e ipotesi
The model structure used for Data engineering at Foundry, the assumptions it makes and how each is tested.
Rischio dell'elemento i
Ri = f(Hi, Ei, Vi, Ci)pericolo, esposizione, vulnerabilità e capacità di rispostaPerdita annua attesa
EAL = ∑k pk · Lksu eventi k con probabilità annua pkSistemi accoppiati
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Ipotesi | Perché è realizzato | Come viene testato |
|---|---|---|
| Pericolo ed esposizione sono indipendenti all'interno di un evento | Mantiene trattabile l'integrale delle perdite | Confrontare con un adattamento di copula su registrazioni congiunte |
| Gli accoppiamenti sono lineari vicino al punto di funzionamento | Consente agli shock di propagarsi attraverso A | Perturbare oltre l'intervallo lineare e confrontare |
| Le curve di vulnerabilità si trasferiscono da un luogo all'altro | Le curve locali sono raramente disponibili | Validare rispetto alle perdite osservate, dove esistono |
- Input
- set di dati versionati con provenienza
- Risultati
- distribuzioni, mai valori singoli
- Codice
- pubblicato con la scheda del modello e i test
- Riproduzione
- stessi dati, codice, ambiente e seed
Principi guida FAIR · GO FAIR e FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Comitato sui satelliti per l'osservazione della Terra
04Dati
Cosa utilizza il metodo.
Datasets and records used by data engineering, interoperability and stewardship on this platform, with the role each plays and the label its values carry. Sources are listed in registro delle fonti.
| Dati | Ruolo | Etichetta |
|---|---|---|
| Source passports | Owner, licence, cadence, authority class and limits | DICHIARATO |
| Schemas and ontology shapes | Validation at ingest | DICHIARATO |
| Pipeline run logs | Lineage and failure analysis | OSSERVATO |
| Published statistics and registers | Authoritative reference values | Statistiche pubblicate |
| Catalogue metadata in DCAT and STAC | Discovery and reuse | DICHIARATO |
05Processo
Come si svolge il processo.
Process explorer · Process
Data engineering at Foundry: Build, sign and accept
10 steps·4 fasi·2 gate
Processo
Data engineering at Foundry: Build, sign and accept
Una missione ammessa diventa un progetto di ciclo; la build è fissata, verificata e firmata, e il Global Risks Forum (GRF) registra l'accettazione per l'esercitazione, non l'autorizzazione all'impiego.
01 Richiesta e fonti
- 01La missione ammessa diventa un progetto del cicloRegistro · Universo a FoundryUna missione ammessa diventa un progetto del ciclo con un caso decisionale.
- 02Qualificare fonti di dati e risorseFase · il Global Centre for Risk and Innovation (GCRI)Il GCRI qualifica le fonti di dati e le offerte di risorse e costruisce i modelli di scenario. Un'offerta non è un'allocazione.
02 Costruire e verificare
- 03Istantanea della fonteRegistro · NXS-FAC (progetti, build e firma)L'istantanea fissa il commit, le dipendenze e le versioni del generatore.
- 04Contratto di buildRegistro · NXS-FAC (progetti, build e firma)Il contratto di build dichiara il tipo di artefatto, l'ambiente e il perimetro di riproducibilità.
- 05Integrare e costruireModello · GCRIIl GCRI integra software e dati, firma le build e testa sicurezza e interoperabilità.
- 06Suite di verificaGate · NXS-FAC (progetti, build e firma)I controlli obbligatori e consultivi restano separati. La riproducibilità richiede input fissati, non determinismo dichiarato e ricostruzioni indipendenti.
03 Firmare e ammettere
- 07Firmare l'artefatto esattoFase · NXS-FAC (progetti, build e firma)NXS-FAC costruisce, attesta e richiede una firma tramite un'identità di firma delimitata. Non detiene alcun materiale crittografico.
- 08Ammissione dei pacchettiFase · NXS-NXQ (ciclo di vita di software, modelli e capacità)NXS-NXQ riceve il pacchetto firmato e conserva le evidenze di ammissione che vincolano compito, classe di dati, suite di valutazione e scadenza.
04 Accettare
- 09Rapporto di costruzione principaleRegistro · GCRIIl Core Build Report è il registro della decisione di procedere o meno. Universe assembla il Core e detiene la decisione per l'esercitazione.
- 10G3 · Build accettata per l'esercitazioneGate · Il Global Risks ForumIl GRF registra se la build è accettata per l'esercitazione. Una build firmata o una release candidate non costituisce autorizzazione all'impiego in produzione.
L'anno di programma · NXS-FAC · UniverseDesigned programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The record order follows the Builds and Releases room lists of NXS-FAC.
06Validazione
Come vengono verificati i risultati.
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source sistemi confirms completeness.
| Verifica | Come si fa |
|---|---|
| Reconciliation with the source | Row counts, totals and keys are compared with the source system after each load |
| Schema and unit validation | Records are tested against shapes, controlled vocabularies and CF or SI units before acceptance |
| Lineage audit | A sample of published figures is traced back to the original records and the transformation steps are re-run |
| Licence check | Every source and derived product carries a licence that permits its intended use |
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
07Collegamenti
Argomenti che si basano su questo metodo.
08Custodia
Chi mantiene il metodo.
Dati e calcolo stewards data engineering, interoperability and stewardship for the Consortium and reviews how it is applied across platforms.
09Connesso
Dove porta questa pagina nel Consorzio.
10Domande
Domande e risposte.
What are the limits of data engineering, interoperability and stewardship in this field?
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
Come vengono verificati i risultati?
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systems confirms completeness.
I valori di questa pagina sono reali?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Dove altro viene applicato questo metodo?
RapportiContribuisci
Contribuisci con evidenze da questa pagina.
Rapporti is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIFoundryCostruzione e prontezza di Foundry
- E-mailPortale GW-GCRIInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoDeposito apertoDepositalo e invialo alla comunitàPubblica il tuo registro su Zenodo con il tuo ORCID iD, poi invialo alla comunità Reports. I curatori lo esaminano; il DOI resta tuo.
- RapportiGCRIVedi tutti i modi per contribuireI tipi di contributo, come viene revisionato ciascuno, il riconoscimento che ricevi, la licenza e ciò che non è mai accettato.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Foundry
Porta un metodo, un set di dati o una domanda.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Note legali
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.