Validation at the ingest boundary
Each incoming batch is checked against its declared schema, units and code lists before it is accepted. Failures are quarantined with a reason, and the original is retained unchanged beside the standardised record.
GCRI · Foundry
Ingeniería de datos en Foundry
Data engineering decides whether evidence from different sectors can be combined at all. In this field it covers ingestion, validation, standardisation, provenance and stewardship: source passports, schemas and ontologies, frozen data cuts, and lineage that lets a correction reach every product built on the corrected source.
01Registro
Data engineering at Foundry on the record.
Registro del métodoMétodo CTIM
- MétodoIngeniería, interoperabilidad y custodia de datos
- CustodioDatos y computación
- Se aplica enFoundry
- Datos5 datos de entrada
- Comprobaciones4 pasos de validación
- Página canónicaProcomún CTIM
02Solicitud
What data engineering, interoperability and stewardship does here.
Data engineering, interoperability and stewardship cover the pipelines, standards and governance that make data usable and trustworthy. They determine whether information from different sectors can be combined for joint evaluación de riesgos. In data and compute and methods and modelling, sound data engineering allows hazard, exposure and financial data to be linked consistently. It supports transparent and repeatable analysis of interconnected risk. The canonical description is on STEM Commons.
Frozen data cuts for reproducible products
Indices and loss estimates are computed from versioned, immutable snapshots, so a product can be re-run months later from exactly the data that produced it.
Correction impact through lineage
When a source owner issues a correction, the lineage graph lists every derived table, map and index that depends on it, and those products are marked stale until recomputed.
03Métodos y evidencia
How Data engineering at Foundry is modelled, measured and tested.
El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.
Modelo, ecuaciones y supuestos
The model structure used for Data engineering at Foundry, the assumptions it makes and how each is tested.
Riesgo del elemento i
Ri = f(Hi, Ei, Vi, Ci)amenaza, exposición, vulnerabilidad y capacidad de afrontamientoPérdida anual esperada
EAL = ∑k pk · Lksobre los eventos k con probabilidad anual pkSistemas acoplados
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Supuesto | Por qué se hace | Cómo se prueba |
|---|---|---|
| La amenaza y la exposición son independientes dentro de un evento | Mantiene manejable la integral de pérdidas | Comparar con un ajuste de cópula sobre registros conjuntos |
| Los acoplamientos son lineales cerca del punto de operación | Permite que las perturbaciones se propaguen a través de A | Perturbar más allá del rango lineal y comparar |
| Las curvas de vulnerabilidad se transfieren entre lugares | Las curvas locales rara vez están disponibles | Validar frente a las pérdidas observadas cuando existan |
- Entradas
- conjuntos de datos versionados con procedencia
- Resultados
- distribuciones, nunca cifras únicas
- Código
- publicado con la ficha de modelo y las pruebas
- Reproducción
- mismos datos, código, entorno y semilla
Principios rectores FAIR · GO FAIR y FORCE11W3C PROV · World Wide Web ConsortiumOrientación para un tratamiento coherente de las incertidumbres · IPCCCEOS Analysis Ready Data · Comité sobre Satélites de Observación de la Tierra
04Datos
Lo que consume el método.
Datasets and records used by data engineering, interoperability and stewardship on this platform, with the role each plays and the label its values carry. Sources are listed in el registro de fuentes.
| Datos | Función | Etiqueta |
|---|---|---|
| Source passports | Owner, licence, cadence, authority class and limits | DECLARADO |
| Schemas and ontology shapes | Validation at ingest | DECLARADO |
| Pipeline run logs | Lineage and failure analysis | OBSERVADO |
| Published statistics and registers | Authoritative reference values | Estadísticas publicadas |
| Catalogue metadata in DCAT and STAC | Discovery and reuse | DECLARADO |
05Proceso
Cómo funciona el proceso.
Process explorer · Process
Data engineering at Foundry: Build, sign and accept
10 steps·4 etapas·2 puntos de control
Proceso
Data engineering at Foundry: Build, sign and accept
Una misión admitida se convierte en un proyecto de ciclo; la compilación se fija, se verifica y se firma, y el Global Risks Forum (GRF) registra la aceptación para ejercicios, no un permiso de despliegue.
01 Solicitud y fuentes
- 01Una misión admitida se convierte en un proyecto del cicloRegistro · Universo a FoundryUna misión admitida se convierte en un proyecto del ciclo con un caso de decisión.
- 02Validar las fuentes de datos y los recursosPaso · el Global Centre for Risk and Innovation (GCRI)El GCRI valida las fuentes de datos y las ofertas de recursos y construye los modelos de escenarios. Una oferta no es una asignación.
02 Compilar y verificar
- 03Instantánea de las fuentesRegistro · NXS-FAC (planos, compilaciones y firma)La instantánea fija el commit, las dependencias y las versiones del generador.
- 04Contrato de compilaciónRegistro · NXS-FAC (planos, compilaciones y firma)El contrato de compilación declara el tipo de artefacto, el entorno y el margen de reproducibilidad.
- 05Integrar y compilarModelo · GCRIEl GCRI integra el software y los datos, firma las compilaciones y prueba la seguridad y la interoperabilidad.
- 06Conjunto de verificaciónPuerta · NXS-FAC (planos, compilaciones y firma)Las comprobaciones obligatorias y las recomendadas se mantienen separadas. La reproducibilidad exige datos de entrada fijados, un no determinismo declarado y recompilaciones independientes.
03 Firmar y admitir
- 07Firmar el artefacto exactoPaso · NXS-FAC (planos, compilaciones y firma)NXS-FAC compila, atesta y solicita una firma mediante una identidad de firmante de alcance limitado. No posee material de claves.
- 08Admisión de paquetesPaso · NXS-NXQ (ciclo de vida del software, los modelos y las capacidades)NXS-NXQ recibe el paquete firmado y conserva la evidencia de admisión que vincula la tarea, la clase de datos, el conjunto de evaluación y la fecha de caducidad.
04 Aceptar
- 09Informe de construcción del CoreRegistro · GCRIEl informe de compilación del núcleo es el registro para decidir si se continúa o no. Universe ensambla el núcleo y ostenta la decisión sobre el ejercicio.
- 10G3 · Construcción aceptada para el ejercicioPuerta · El Global Risks ForumEl GRF registra si la compilación se acepta para el ejercicio. Una compilación firmada o una versión candidata no constituye una autorización de despliegue en producción.
El año del programa · NXS-FAC · UniverseDesigned programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The record order follows the Builds and Releases room lists of NXS-FAC.
06Validación
Cómo se verifican los resultados.
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source sistemas confirms completeness.
| Verificación | Cómo se hace |
|---|---|
| Reconciliation with the source | Row counts, totals and keys are compared with the source system after each load |
| Schema and unit validation | Records are tested against shapes, controlled vocabularies and CF or SI units before acceptance |
| Lineage audit | A sample of published figures is traced back to the original records and the transformation steps are re-run |
| Licence check | Every source and derived product carries a licence that permits its intended use |
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
08Custodia responsable
Quién mantiene el método.
Datos y computación stewards data engineering, interoperability and stewardship for the Consortium and reviews how it is applied across platforms.
09Conectado
Adónde lleva esta página en todo el Consorcio.
10Preguntas
Preguntas y respuestas.
What are the limits of data engineering, interoperability and stewardship in this field?
Incompatible standards, missing metadata and restrictive licences block integration. Legacy systems and undocumented transformations introduce silent errors.
¿Cómo se verifican los resultados?
Pipelines are tested with automated quality checks, schema validation and lineage audits. Reconciliation against source systems confirms completeness.
¿Son reales los valores de esta página?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
¿Dónde más se aplica este método?
La página canónica del método enumera todas las plataformas que lo aplican.
serie ReportsContribuir
Aporte evidencia desde esta página.
serie Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIFoundryConstrucción y preparación de Foundry
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Foundry
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Legal
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.