Validation at the ingest boundary
Each incoming batch is checked against its declared schema, units and code lists before it is accepted. Failures are quarantined with a reason, and the original is retained unchanged beside the standardised record.
GCRI · Foundry
Ingénierie des données à Foundry
Data engineering decides whether evidence from different sectors can be combined at all. In this field it covers ingestion, validation, standardisation, provenance and stewardship: source passports, schemas and ontologies, frozen data cuts, and lineage that lets a correction reach every product built on the corrected source.
01Registre
Data engineering at Foundry on the record.
Fiche de la méthodeMéthode STIM
- MéthodeIngénierie, interopérabilité et intendance des données
- GarantDonnées et calcul
- Appliqué dansFoundry
- Données5 entrées
- Vérifications4 étapes de validation
- Page canoniqueCommons STIM
02Candidature
What data engineering, interoperability and stewardship does here.
Data engineering, interoperability and stewardship cover the pipelines, standards and governance that make data usable and trustworthy. They determine whether information from different sectors can be combined for joint évaluation des risques. In data and compute and methods and modelling, sound data engineering allows hazard, exposure and financial data to be linked consistently. It supports transparent and repeatable analysis of interconnected risk. The canonical description is on les STEM Commons.
Frozen data cuts for reproducible products
Indices and loss estimates are computed from versioned, immutable snapshots, so a product can be re-run months later from exactly the data that produced it.
Correction impact through lineage
When a source owner issues a correction, the lineage graph lists every derived table, map and index that depends on it, and those products are marked stale until recomputed.
03Méthodes et preuves
How Data engineering at Foundry is modelled, measured and tested.
Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.
Modèle, équations et hypothèses
The model structure used for Data engineering at Foundry, the assumptions it makes and how each is tested.
Risque de l'élément i
Ri = f(Hi, Ei, Vi, Ci)aléa, exposition, vulnérabilité et capacité à faire facePerte annuelle attendue
EAL = ∑k pk · Lksur les événements k de probabilité annuelle pkSystèmes couplés
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Hypothèse | Pourquoi il est réalisé | Comment il est testé |
|---|---|---|
| Aléa et exposition sont indépendants au sein d'un événement | Garde l'intégrale des pertes calculable | Comparer avec un ajustement de copule sur des relevés conjoints |
| Les couplages sont linéaires près du point de fonctionnement | Laisse les chocs se propager à travers A | Perturber au-delà de la plage linéaire et comparer |
| Les courbes de vulnérabilité se transposent d'un lieu à l'autre | Les courbes locales sont rarement disponibles | Valider par rapport aux pertes observées lorsqu'elles existent |
- Entrées
- jeux de données versionnés avec provenance
- Productions
- des distributions, jamais des nombres isolés
- Code
- publié avec la fiche de modèle et les tests
- Reproduction
- mêmes données, code, environnement et graine
Principes directeurs FAIR · GO FAIR et FORCE11W3C PROV · World Wide Web ConsortiumOrientations sur le traitement cohérent des incertitudes · GIECCEOS Analysis Ready Data · Comité sur les satellites d'observation de la Terre
04Données
Ce que consomme la méthode.
Datasets and records used by data engineering, interoperability and stewardship on this platform, with the role each plays and the label its values carry. Sources are listed in le registre des sources.
| Données | Rôle | Étiquette |
|---|---|---|
| Source passports | Owner, licence, cadence, authority class and limits | DÉCLARÉ |
| Schemas and ontology shapes | Validation at ingest | DÉCLARÉ |
| Pipeline run logs | Lineage and failure analysis | OBSERVÉ |
| Published statistics and registers | Authoritative reference values | Statistiques publiées |
| Catalogue metadata in DCAT and STAC | Discovery and reuse | DÉCLARÉ |
05Processus
Comment le processus se déroule.
Process explorer · Process
Data engineering at Foundry: Build, sign and accept
10 steps·4 étapes·2 points de contrôle
Processus
Data engineering at Foundry: Build, sign and accept
Une mission admise devient un projet de cycle ; la construction est figée, vérifiée et signée, et le Global Risks Forum (GRF) consigne l'acceptation pour l'exercice, et non une autorisation de déploiement.
01 Demande et sources
- 01Une mission admise devient un projet de cycleEnregistrement · Univers à FoundryUne mission admise devient un projet de cycle doté d'un dossier de décision.
- 02Qualifier les sources de données et les ressourcesÉtape · le Global Centre for Risk and Innovation (GCRI)Le GCRI qualifie les sources de données et les offres de ressources et construit les modèles de scénarios. Une offre n'est pas une allocation.
02 Construire et vérifier
- 03Instantané de la sourceEnregistrement · NXS-FAC (plans, constructions et signature)L'instantané fige le commit, les dépendances et les versions du générateur.
- 04Contrat de constructionRegistre · NXS-FAC (plans, constructions et signature)Le contrat de construction déclare le type d'artefact, l'environnement et l'enveloppe de reproductibilité.
- 05Intégrer et construireModèle · GCRILe GCRI intègre les logiciels et les données, signe les constructions et teste la sécurité et l'interopérabilité.
- 06Suite de vérificationPorte · NXS-FAC (plans, constructions et signature)Les vérifications obligatoires et consultatives restent distinctes. La reproductibilité exige des entrées figées, un non-déterminisme déclaré et des reconstructions indépendantes.
03 Signer et admettre
- 07Signer l'artefact exactÉtape · NXS-FAC (plans, constructions et signature)NXS-FAC construit, atteste et demande une signature via une identité de signataire à portée limitée. Il ne détient aucun élément de clé.
- 08Admission des paquetsÉtape · NXS-NXQ (cycle de vie des logiciels, des modèles et des capacités)NXS-NXQ reçoit le paquet signé et conserve les preuves d'admission qui lient la tâche, la catégorie de données, la suite d'évaluation et l'expiration.
04 Accepter
- 09Rapport de construction du socleEnregistrement · GCRILe rapport de construction du Core est le registre de la décision de lancement. Universe assemble le Core et détient la décision relative à l'exercice.
- 10G3 · Construction acceptée pour l'exerciceJalon · le Global Risks ForumLe GRF consigne si la construction est acceptée pour l'exercice. Une construction signée ou une version candidate ne vaut pas autorisation de déploiement en production.
L'année du programme · NXS-FAC · UniverseDesigned programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The record order follows the Builds and Releases room lists of NXS-FAC.
06Validation
Comment les résultats sont vérifiés.
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systèmes confirms completeness.
| Vérifier | Comment c'est fait |
|---|---|
| Reconciliation with the source | Row counts, totals and keys are compared with the source system after each load |
| Schema and unit validation | Records are tested against shapes, controlled vocabularies and CF or SI units before acceptance |
| Lineage audit | A sample of published figures is traced back to the original records and the transformation steps are re-run |
| Licence check | Every source and derived product carries a licence that permits its intended use |
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
08Intendance
Qui tient à jour la méthode.
Données et calcul stewards data engineering, interoperability and stewardship for the Consortium and reviews how it is applied across platforms.
09Connecté
Où mène cette page à travers le Consortium.
10Questions
Questions et réponses.
What are the limits of data engineering, interoperability and stewardship in this field?
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
Comment les résultats sont-ils vérifiés ?
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systems confirms completeness.
Les valeurs de cette page sont-elles réelles ?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Où d'autre cette méthode est-elle appliquée ?
Le page canonique de la méthode liste toutes les plateformes qui l'appliquent.
RapportsContribuer
Apportez des éléments de preuve depuis cette page.
Rapports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIFoundryConstruction et préparation Foundry
- E-mailPasserelle GW-GCRIL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoDépôt ouvertLe déposer et le soumettre à la communautéPubliez votre propre fiche sur Zenodo avec votre identifiant ORCID, puis soumettez-la à la communauté Reports qui s'y trouve. Des curateurs l'examinent ; le DOI reste le vôtre.
- RapportsGCRIVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Foundry
Apportez une méthode, un jeu de données ou une question.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Juridique
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.