Validation at the ingest boundary
Each incoming batch is checked against its declared schema, units and code lists before it is accepted. Failures are quarantined with a reason, and the original is retained unchanged beside the standardised record.
GCRI · Foundry
Datentechnik bei Foundry
Data engineering decides whether evidence from different sectors can be combined at all. In this field it covers ingestion, validation, standardisation, provenance and stewardship: source passports, schemas and ontologies, frozen data cuts, and lineage that lets a correction reach every product built on the corrected source.
01Registrieren
Data engineering at Foundry on the record.
MethodennachweisMINT-Methode
- MethodeDatentechnik, Interoperabilität und Datenverantwortung
- SachwalterDaten und Rechenleistung
- Angewandt inFoundry
- Daten5 Eingaben
- Prüfungen4 Validierungsschritte
- Kanonische SeiteMINT-Commons
02Antrag
What data engineering, interoperability and stewardship does here.
Data engineering, interoperability and stewardship cover the pipelines, standards and governance that make data usable and trustworthy. They determine whether information from different sectors can be combined for joint Risikobewertung. In data and compute and methods and modelling, sound data engineering allows hazard, exposure and financial data to be linked consistently. It supports transparent and repeatable analysis of interconnected risk. The canonical description is on die STEM Commons.
Frozen data cuts for reproducible products
Indices and loss estimates are computed from versioned, immutable snapshots, so a product can be re-run months later from exactly the data that produced it.
Correction impact through lineage
When a source owner issues a correction, the lineage graph lists every derived table, map and index that depends on it, and those products are marked stale until recomputed.
03Methoden und Evidenz
How Data engineering at Foundry is modelled, measured and tested.
Das Modell, seine Annahmen, seine Daten und seine Unsicherheit in der Form, in der eine Wissenschaftlerin oder ein Ingenieur sie prüfen würde. Die Strukturen folgen veröffentlichten Methoden. Die dargestellten Werte sind illustrativ, keine Befunde.
Modell, Gleichungen und Annahmen
The model structure used for Data engineering at Foundry, the assumptions it makes and how each is tested.
Risiko des Elements i
Ri = f(Hi, Ei, Vi, Ci)Gefahr, Exposition, Verwundbarkeit und BewältigungskapazitätErwarteter jährlicher Schaden
EAL = ∑k pk · Lküber Ereignisse k mit jährlicher Wahrscheinlichkeit pkGekoppelte Systeme
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Annahme | Warum es entsteht | Wie es geprüft wird |
|---|---|---|
| Gefahr und Exposition sind innerhalb eines Ereignisses unabhängig | Hält das Schadensintegral berechenbar | Mit einer Copula-Anpassung an gemeinsamen Aufzeichnungen vergleichen |
| Kopplungen sind nahe dem Arbeitspunkt linear | Lässt Schocks sich über A ausbreiten | Über den linearen Bereich hinaus stören und vergleichen |
| Vulnerabilitätskurven lassen sich zwischen Orten übertragen | Lokale Kurven sind selten verfügbar | Anhand beobachteter Schäden validieren, wo es sie gibt |
- Eingaben
- versionierte Datensätze mit Herkunftsnachweis
- Ergebnisse
- Verteilungen, nie einzelne Zahlen
- Code
- mit Modellkarte und Tests veröffentlicht
- Reproduktion
- gleiche Daten, Code, Umgebung und Seed
FAIR-Leitprinzipien · GO FAIR und FORCE11W3C PROV · World Wide Web ConsortiumHinweise zur einheitlichen Behandlung von Unsicherheiten · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
04Daten
Was die Methode verwendet.
Datasets and records used by data engineering, interoperability and stewardship on this platform, with the role each plays and the label its values carry. Sources are listed in dem Quellenregister.
| Daten | Rolle | Kennzeichnung |
|---|---|---|
| Source passports | Owner, licence, cadence, authority class and limits | DEKLARIERT |
| Schemas and ontology shapes | Validation at ingest | DEKLARIERT |
| Pipeline run logs | Lineage and failure analysis | BEOBACHTET |
| Published statistics and registers | Authoritative reference values | Veröffentlichte Statistiken |
| Catalogue metadata in DCAT and STAC | Discovery and reuse | DEKLARIERT |
05Verfahren
Wie der Prozess abläuft.
Process explorer · Process
Data engineering at Foundry: Build, sign and accept
10 steps·4 Stufen·2 Gates
Verfahren
Data engineering at Foundry: Build, sign and accept
Eine zugelassene Mission wird zu einem Zyklusprojekt; der Build wird festgeschrieben, verifiziert und signiert, und das Global Risks Forum (GRF) dokumentiert die Abnahme für Übungen, nicht die Erlaubnis zum Einsatz.
01 Anfrage und Quellen
- 01Zugelassene Mission wird zu einem ZyklusprojektEintrag · Universum an FoundryEine zugelassene Mission wird zu einem Zyklusprojekt mit einem Entscheidungsfall.
- 02Datenquellen und Ressourcen qualifizierenSchritt · das Global Centre for Risk and Innovation (GCRI)Das GCRI qualifiziert Datenquellen und Ressourcenangebote und baut die Szenariomodelle. Ein Angebot ist keine Zuteilung.
02 Bauen und verifizieren
- 03Quellen-SnapshotEintrag · NXS-FAC (Blaupausen, Builds und Signierung)Der Snapshot legt Commit, Abhängigkeiten und Generatorversionen fest.
- 04Build-VertragNachweis · NXS-FAC (Blaupausen, Builds und Signierung)Der Build-Vertrag legt Artefaktart, Umgebung und Reproduzierbarkeitsrahmen fest.
- 05Integrieren und bauenModell · GCRIDas GCRI integriert Software und Daten, signiert Builds und testet Sicherheit und Interoperabilität.
- 06VerifikationssuiteGate · NXS-FAC (Blaupausen, Builds und Signierung)Verpflichtende und beratende Prüfungen bleiben getrennt. Reproduzierbarkeit erfordert festgelegte Eingaben, deklarierten Nichtdeterminismus und unabhängige Neuerstellungen.
03 Signieren und zulassen
- 07Das exakte Artefakt signierenSchritt · NXS-FAC (Blaupausen, Builds und Signierung)NXS-FAC baut, bestätigt und fordert eine Signatur über eine begrenzte Signiereridentität an. Es hält kein Schlüsselmaterial.
- 08PaketzulassungSchritt · NXS-NXQ (Lebenszyklus von Software, Modellen und Fähigkeiten)NXS-NXQ erhält das signierte Paket und bewahrt Zulassungsevidenz auf, die Aufgabe, Datenklasse, Evaluierungssuite und Ablaufdatum bindet.
04 Annehmen
- 09Bericht zum KernaufbauEintrag · GCRIDer Core Build Report ist der Go-/No-Go-Nachweis. Universe stellt den Core zusammen und hält die Entscheidung für die Übung.
- 10G3 · Aufbau für die Übung abgenommenMeilenstein · The Global Risks ForumDas GRF erfasst, ob der Build für die Übung angenommen wird. Ein signierter Build oder Release Candidate ist keine Erlaubnis zum Einsatz in der Produktion.
Das Programmjahr · NXS-FAC · UniverseDesigned programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The record order follows the Builds and Releases room lists of NXS-FAC.
06Validierung
Wie Ergebnisse geprüft werden.
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source Systeme confirms completeness.
| Prüfen | Wie es gemacht wird |
|---|---|
| Reconciliation with the source | Row counts, totals and keys are compared with the source system after each load |
| Schema and unit validation | Records are tested against shapes, controlled vocabularies and CF or SI units before acceptance |
| Lineage audit | A sample of published figures is traced back to the original records and the transformation steps are re-run |
| Licence check | Every source and derived product carries a licence that permits its intended use |
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
07Verbindungen
Themen, die sich auf diese Methode stützen.
08Treuhänderschaft
Wer die Methode pflegt.
Daten und Rechenleistung stewards data engineering, interoperability and stewardship for the Consortium and reviews how it is applied across platforms.
09Verbunden
Wohin diese Seite im Konsortium führt.
10Fragen
Fragen und Antworten.
What are the limits of data engineering, interoperability and stewardship in this field?
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
Wie werden Ergebnisse geprüft?
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systems confirms completeness.
Sind die Werte auf dieser Seite echt?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Wo wird diese Methode sonst angewandt?
BerichteBeitragen
Evidenz von dieser Seite aus beitragen.
Berichte is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIFoundryFoundry-Aufbau und Einsatzbereitschaft
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOffene HinterlegungHinterlegen und bei der Community einreichenVeröffentlichen Sie Ihren eigenen Eintrag auf Zenodo mit Ihrer ORCID iD und reichen Sie ihn dort bei der Reports-Community ein. Kuratorinnen und Kuratoren prüfen ihn; der DOI bleibt bei Ihnen.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Foundry
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliches
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.