GCRI · Data and Compute
Reproducible pipelines
A result can be trusted when others can rerun the same analysis on the same data and get the same answer, and when they can trace each number to its source. Reproducible pipelines combine versioned data and code, recorded environments, workflow systems and provenance. This page sets out why analyses fail to reproduce, how reproducibility is engineered and checked, and what evidence serves the researchers, publishers and agencies that depend on it.
کام کیسے چلتا ہے۔
Data platform and pipelines
Reproducible pipelines · Public data platform · Catalogue v9
Datasets
| Flood extents | کھلا | Complete | ہاں | شائع شدہ |
| Health facility list | کھلا | Complete | ہاں | شائع شدہ |
| Mobility traces | Restricted | Partial | لاگو نہیں | Rights review |
| Household survey | Restricted | Complete | ہاں | Access by request |
Pipeline checks
Fig.Data platform and pipelines: example names and illustrative values, not a record or a live system.
Reproducible pipelines: how the risk develops.
Pipelines, models and experiment provenance. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Environments drift
Software libraries, operating systems and hardware change. An analysis that ran last year may give different results, or none, without a recorded environment.
Data versions change
Datasets are corrected and updated. Unless the exact version used is recorded, results cannot be traced or rerun.
Manual steps break chains
Steps done by hand in spreadsheets or interactive sessions are not recorded and cannot be repeated exactly.
Provenance links results to sources
Recording which inputs, code and parameters produced each output lets errors be traced and corrections propagate.
Connected activity in the contiguous United States.
Night lights, population density and true-colour imagery over the contiguous United States, from NASA GIBS. Each layer carries its own date.
انٹرایکٹو نقشے کے لیے JavaScript درکار ہے؛ پرتوں کی فہرست اور ماخذات نیچے دیے گئے ہیں۔
پرتیں 3
Connected activity, for this page
کی بورڈ، جب نقشہ فوکس میں ہو
زوم کرنے کے لیے Ctrl یا ⌘ دبا کر اسکرول کریں
تازہ ترین دستیاب
NASA GIBS / EOSDIS · ASTER GDEM (METI، NASA) · Blue Marble (NASA) · © OpenStreetMap کے معاونین (ODbL) · Natural Earth
NASA کی تازہ ترین تصاویر لوڈ ہو رہی ہیں۔
منتقل کرنے کے لیے گھسیٹیں۔ زوم کے لیے Ctrl یا ⌘ کے ساتھ اسکرول کریں، چٹکی لیں یا بٹن استعمال کریں؛ پوائنٹر کے نیچے اقدار کے لیے ہوور کریں؛ ری سیٹ خطے پر واپس لے جاتا ہے۔
Connected activity, framed on the contiguous United States.Satellite and model products as NASA publishes them, each with its own date. They are indicators, not assessments of any place.
Data: NASA GIBS · ASTER GDEM · Blue Marble · © OpenStreetMap contributors · Natural Earth · NASA EONET · NASA HLS S30Sources and licences
- ہم NASA کی Global Imagery Browse Services (GIBS) کی خدمات سے فراہم کردہ تصاویر کے استعمال کا اعتراف کرتے ہیں، جو NASA کے Earth Science Data and Information System (ESDIS) کا حصہ ہے۔ رنگ شائع شدہ رنگی نقشے سے دوبارہ بنائے گئے؛ جہاں دکھائی گئی ہیں، اقدار کا مسدس خانوں میں اوسط لیا گیا (ترمیم شدہ)۔ NASA کا کھلا ڈیٹا
- ہم NASA کی Global Imagery Browse Services (GIBS) کی خدمات سے فراہم کردہ تصاویر کے استعمال کا اعتراف کرتے ہیں، جو NASA کے Earth Science Data and Information System (ESDIS) کا حصہ ہے۔ رنگ شائع شدہ رنگی نقشے سے دوبارہ بنائے گئے؛ جہاں دکھائی گئی ہیں، اقدار کا مسدس خانوں میں اوسط لیا گیا (ترمیم شدہ)۔ NASA کا کھلا ڈیٹا
- VIIRS Black Marble رات کی روشنیاں، NASA Goddard Space Flight Center؛ تقسیم کار NASA Level-1 and Atmosphere Archive and Distribution System (LAADS DAAC)؛ تصاویر بذریعہ NASA GIBS۔ رنگ شائع شدہ رنگی نقشے سے دوبارہ بنائے گئے؛ جہاں دکھائی گئی ہیں، اقدار کا مسدس خانوں میں اوسط لیا گیا (ترمیم شدہ)۔ NASA کا کھلا ڈیٹا
- Center for International Earth Science Information Network (CIESIN), Columbia University. 2018. Gridded Population of the World, Version 4 (GPWv4): Population Density, Revision 11. NASA Socioeconomic Data and Applications Center (SEDAC). Licensed under CC BY 4.0. Colours redrawn from the published colour map; values averaged into hexagonal cells where shown (modified). doi:10.7927/H49C6VHW. CC BY 4.0
- VIIRS کی تقریباً حقیقی وقت کی مصنوعات (سیلاب، زمینی سطح کا درجہ حرارت، برف کا احاطہ، درست شدہ انعکاس)، NASA LANCE؛ تصاویر بذریعہ NASA GIBS۔ رنگ شائع شدہ رنگی نقشے سے دوبارہ بنائے گئے؛ جہاں دکھائی گئی ہیں، اقدار کا مسدس خانوں میں اوسط لیا گیا (ترمیم شدہ)۔ NASA کا کھلا ڈیٹا
- MODIS زمینی مصنوعات (نباتاتی اشاریے، مجموعی بنیادی پیداوار، زمینی احاطہ)، NASA LP DAAC اور LANCE؛ تصاویر بذریعہ NASA GIBS۔ رنگ شائع شدہ رنگی نقشے سے دوبارہ بنائے گئے؛ جہاں دکھائی گئی ہیں، اقدار کا مسدس خانوں میں اوسط لیا گیا (ترمیم شدہ)۔ NASA کا کھلا ڈیٹا
- ASTER GDEM، METI اور NASA کی پروڈکٹ ہے (ASTER Global Digital Elevation Model V003، NASA LP DAAC)؛ تصاویر بذریعہ NASA GIBS۔ رنگ شائع شدہ رنگی نقشے سے دوبارہ بنائے گئے؛ جہاں دکھائی گئی ہیں، اقدار کا مسدس خانوں میں اوسط لیا گیا (ترمیم شدہ)۔ حوالہ: NASA/METI/AIST/Japan Spacesystems and U.S./Japan ASTER Science Team (2019)۔ ASTER Global Digital Elevation Model V003۔ doi:10.5067/ASTER/ASTGTM.003. NASA کا کھلا ڈیٹا
- Natural Earth کے ساتھ تیار کردہ۔ مفت ویکٹر اور راسٹر نقشہ ڈیٹا @ naturalearthdata.com۔ عوامی ملکیت
- © OpenStreetMap contributors (ODbL), via NASA GIBS (coastlines, boundaries, roads and place names). Colours redrawn from the published colour map; values averaged into hexagonal cells where shown (modified). ODbL
- Blue Marble، NASA Earth Observatory؛ تصاویر بذریعہ NASA GIBS۔ رنگ شائع شدہ رنگی نقشے سے دوبارہ بنائے گئے؛ جہاں دکھائی گئی ہیں، اقدار کا مسدس خانوں میں اوسط لیا گیا (ترمیم شدہ)۔ NASA کا کھلا ڈیٹا
- گلوب اور ہموار نقشے پر سیاق و سباق: NASA GIBS کی حوالہ جاتی پرتوں سے ساحلی لکیریں، سرحدیں، سڑکیں اور مقامات کے نام (OpenStreetMap ڈیٹا، ODbL، © OpenStreetMap کے معاونین)؛ اختیاری بنیاد کے طور پر Blue Marble تصاویر؛ ASTER GDEM بلندی کے رنگی اشاریے سے 3D زمینی سطح اور بلندی کی ریڈنگ (5 m سے 200 m کی جماعتیں، وضاحت کے لیے مبالغہ آمیز)۔ سرحدیں شائع شدہ صورت میں کھینچی گئی ہیں اور کسی علاقے کے بارے میں کوئی موقف ظاہر نہیں کرتیں۔
- براہ راست واقعات: NASA Earth Observatory Natural Event Tracker (EONET)؛ واقعات اشاریاتی ہیں اور اپنے اصل ماخذ کے لنکس برقرار رکھتے ہیں۔
- Observed (EO): NASA HLS S30 (contains modified Copernicus Sentinel data 2026). We acknowledge the use of imagery provided by services from NASA's Global Imagery Browse Services (GIBS), part of NASA's Earth Science Data and Information System (ESDIS).
- NASA GIBS: ہم NASA کی Global Imagery Browse Services (GIBS) کی خدمات سے فراہم کردہ تصاویر کے استعمال کا اعتراف کرتے ہیں، جو NASA کے Earth Science Data and Information System (ESDIS) کا حصہ ہے۔
- اختیاری پرتیں (پرتوں کی فہرست میں 5 ماخذات: براہ راست، پیش گوئی، مشاہدہ شدہ اور سیاق) فعال ہونے پر اپنے فراہم کنندہ کا حوالہ نقشے پر اور یہاں درج کرتی ہیں؛ پیش گوئیاں ماڈل کا نتیجہ ہیں اور اخذ شدہ اشاریے تخمینے ہیں۔
پرتیں اور تاریخیں
- رات کی روشنیاں، یومیہ: VIIRS Black Marble (VNP46A2)، NASA LAADS DAAC · 12 اکتوبر 2026
- Population density, 2020: Population: CIESIN, Columbia University, Gridded Population of the World v4.11 (2018), NASA SEDAC, CC BY 4.0 · static
- حقیقی رنگ: VIIRS NOAA-20 درست شدہ انعکاس، NASA LANCE · 13 اکتوبر 2026
- زمینی احاطے کی قسم (IGBP)، سالانہ: MODIS Terra اور Aqua زمینی احاطہ (MCD12Q1)، NASA LP DAAC · 2024
- بہتر نباتاتی اشاریہ، مسلسل 8 دن: MODIS Terra EVI، NASA LANCE · 13 اکتوبر 2026
- Vegetation greenness (NDVI), rolling 8 days: MODIS Terra NDVI, NASA LANCE · 13 Oct 2026
Reproducible pipelines let each domain's results be checked.
Pipeline methods are designed for the Methods and Technical series. FAIR principles for research software (2022) and PROV-O (2013) guide practice; lineage would follow NS-3b of the proposed Nexus Standards.
- Reproducibility audits.
- Pipeline templates with tests.
Model reproducible pipelines as a system. Run the cascade.
Assembled from the Nexus Standards area profile Digital, telecom and platforms: the hazards it names, the systems and sectors that carry the loss, the controls that dampen it and the data that observe it. Choose the components, pick an initiating hazard and step through the cascade. The Map view places the run on an example geography with open data. Every coupling weight is a stated assumption you can change. A teaching model, not a forecast, an assessment or a certification. To model a place of your own choosing, open the full System Builder.
خطرات
- Sea-ice loss
- Coastal erosion (set off downstream)
- Biodiversity loss (set off downstream)
- Arctic winter sea-ice collapse (set off downstream)
- Polar vortex disruption (set off downstream)
نظام اور باہمی ربط
- Digital, telecom and platforms
- Energy utilities and grids Coupling
- Media and information Coupling
- Finance, insurance and capital markets Coupling
- Defence and civil protection Coupling
کنٹرولز
NS-0آئین اور اصولNS-9سیاقی UNIs (تعیناتیاں، مثالیں، پروگرام کی مثالیں)NS-11تصدیق اور نگرانی (شواہد، تصدیق نامے، zero-trust مطابقت کا مشاہدہ)NS-12سافٹ ویئر، ماڈل اور AI/ML دستاویزات (رسدی زنجیر، ماڈل کارڈز، ڈیٹا سیٹ شیٹس)NRS-H86خطرات کا خاندان: ٹیلی کام اور ڈیٹا سینٹر کی ناکامی (NHS-1 infra.digital)NRS-H54خطرات کا خاندان: سگنل اور پلیٹ فارم میں خلل (NHS-1 cyber.platform)NRS-H93خطرات کا خاندان: شناخت، اعتماد اور خفیہ نگاری کی ناکامی (NHS-1 cyber.identity)NRS-H94خطرات کا خاندان: نظامی سائبر واقعات (NHS-1 cyber.systemic-cyber)NRS-T8سافٹ ویئر اور سپلائی چین کی سالمیت کا خطرہNRS-X6سائبر اور ڈیجیٹل سلامتی کا خطرہ
مشاہدہ
- ITU DataHub ICT indicators (listed for reference)
- World Development Indicators (listed for reference)
- WMO Alert Hub and Register of Alerting Authorities (listed for reference)
- Proportion of population covered by a mobile network, by technology
- Fixed broadband subscriptions per 100 inhabitants, by speed
- Individuals using the Internet (% of population)
- Number of people per 100,000 that are covered by early warning information through local governments or through national dissemination mechanisms
مثالی جغرافیہ
- North America: 243 hexagonal cells
- آج رات کی روشنیاں، بندشیں (VIIRS Day/Night Band)، NASA GIBS
- Vegetation disturbance alerts, 30 m (OPERA DIST-ALERT), NASA GIBS
What is measured, and how well.
Each indicator carries its unit, its cadence, the kind of source behind it and the evidence label a value would carry. No values are shown: a programme supplies them under its own authority.
| Indicator | Unit | Cadence | Source type | لیبل |
|---|---|---|---|---|
| Published analyses with code and data available | percent of outputs | per audit | Publication audits | مشاہدہ شدہ |
| Analyses rerun successfully by a third party | percent of attempted reruns | per audit | Reproduction studies | مشاہدہ شدہ |
| Datasets with persistent identifiers | percent of datasets | annual | Repository metadata | مشاہدہ شدہ |
| Pipelines with recorded environments | percent of production pipelines | per assessment | Pipeline repositories | DECLARED |
| Corrections issued after reproduction checks | count | annual | Correction logs | مشاہدہ شدہ |
| Software archived with identifiers | count | annual | Software archive records | مشاہدہ شدہ |
How reproducible pipelines is modelled, measured and tested.
The model, its assumptions, its data and its uncertainty, in the form a scientist or engineer would check. Structures follow published methods. The values drawn are illustrative, not findings.
Datasets and provenance
The data classes behind reproducible pipelines and what is recorded about each before it is used.
| Data class | Provenance recorded | Resolution stated | Licence checked |
|---|---|---|---|
| Satellite imagery, optical and radar | sensor, processing level, acquisition date | pixel size and revisit | per scene |
| Reanalysis and climate model output | model, experiment, member, version | grid and time step | per release |
| In-situ sensors and gauges | station, instrument, calibration record | point and sampling rate | per network |
| Population and asset exposure | method, vintage, input sources | cell size and unit | per release |
| Boundaries and reference geography | producer, edition, date | scale | per edition |
- نسب
- W3C PROV record from source to figure
- اصول
- FAIR: findable, accessible, interoperable, reusable
- Gaps
- shown as missing, never filled silently
Where the evidence comes from.
Named public datasets and institutional records, each with its licence class. Sources by agreement are used only under their terms and never republished.
| ماخذ | What it gives | Licence class |
|---|---|---|
| DataCite and Crossref metadata | Persistent identifiers for data, software and publications | Open, CC0 metadata |
| Software Heritage archive | Archived source code with intrinsic identifiers | Open, archive terms |
| Zenodo and institutional repositories | Deposited data and code with identifiers | Open, licence per record |
| W3C PROV standard | A model for representing provenance | Open standard, W3C terms |
| Reproducibility studies in published literature | Measured reproduction rates in fields | Licence per publication |
Who decides, and what the evidence serves.
Data and Compute prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| کون فیصلہ کرتا ہے | The question | Evidence this page serves |
|---|---|---|
| Research teams and analysts | How to structure pipelines so results can be rerun | Checklists; pipeline templates |
| Publishers and report editors | What reproducibility evidence to require | Audit methods |
| Funders and agencies | Whether to fund archiving and reproducibility support | Reproduction rate evidence |
Outputs this topic produces
- Reproducibility checklists for analyses and reports
- Pipeline templates with versioned data, code and environments
- Provenance recording designs
- Audit methods for reproduction of published results
What experts ask about reproducibility.
- Can this result be regenerated from recorded inputs, or does it depend on undocumented steps?
- Which exact version of the data, code and model produced it?
- If an error is found upstream, which downstream results are affected?
- Will the pipeline still run in years, after software and hardware have changed?
- Can a reviewer without the original team understand what each step does and why?
- Are random seeds, model weights and configuration choices recorded with each result?
Why results become irreproducible.
Irreproducibility is rarely deliberate. It accumulates through small, reasonable shortcuts made under deadline pressure, each harmless alone. The cost appears later, when a result is questioned, a correction is needed or a team member leaves.
Software drift
Libraries and dependencies change, so the same code produces different results or stops running.
Moving inputs
Datasets are updated in place without versioning, so the original input cannot be recovered.
Manual steps
Undocumented manual cleaning or parameter choices cannot be repeated by others.
How pipelines are made reproducible.
- 01
Version control
Tracking code, configuration and, where possible, data versions. Limits: large datasets need specialised tools.
- 02
Containerised environments
Packaging software dependencies so they can be rebuilt. Limits: containers themselves depend on underlying systems that change.
- 03
Workflow systems and provenance
Tools that run pipelines and record each step, studied under data engineering, interoperability and stewardship. Limits: adoption requires effort and discipline.
- 04
Numerical reproducibility
On parallel and accelerated hardware, floating-point results can differ slightly between runs, a matter for computing specialists. Limits: exact bitwise reproducibility is sometimes impractical, so tolerances must be stated.
How it is studied, and what the methods cannot say.
- 01Data engineering, interoperability and stewardshipFAIR data assessment · Interoperable catalogues · Data quality pipelinesApplied here
- 02High-performance, cloud and edge computingWorkload characterisation · Porting codes to new architectures · Hybrid cloud and HPC workflowsApplied here
- 03Optimisation and operations researchJob scheduling policies · Carbon-aware workload shifting · Capacity planningApplied here
اس صفحے کے حوالے کہاں لے جاتے ہیں۔
وہ ادارے اور دستاویزات جن کے تناظر میں یہ صفحہ پڑھا جاتا ہے۔ حیثیت اور ایڈیشن بدلتے رہتے ہیں؛ ہر لنک جاری کرنے والے ادارے تک جاتا ہے۔
سوالات و جوابات۔
What is the difference between reproducibility and replicability?
What is a persistent identifier?
What is data provenance?
Is reproducibility the same as correctness?
Why can results differ on different hardware?
Does the platform review other teams' pipelines?
اس صفحے سے شواہد فراہم کریں۔
Reports is the Consortium's quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- EmailGateway GW-GCRISend it from this pageEvidence, a correction, a case, a method, a review, a translation or profile input. It arrives tagged with this page, so the editor who owns it receives it.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- رپورٹیںGCRIتعاون کے تمام طریقے دیکھیںتعاون کی اقسام، ہر ایک کا جائزہ کیسے لیا جاتا ہے، آپ کو کیا اعتراف ملتا ہے، لائسنس، اور کیا کبھی قبول نہیں کیا جاتا۔
کبھی بھی ذاتی ڈیٹا، حساس بنیادی ڈھانچے کی تفصیل یا کوئی ایسی چیز نہ بھیجیں جسے شیئر کرنے کا آپ کو حق نہ ہو۔ ہر شراکت استعمال سے پہلے جانچی جاتی ہے؛ اسے بھیجنے سے کوئی تصنیفی یا ادارتی حق حاصل نہیں ہوتا، اور سرپرستی کبھی کوئی نتیجہ نہیں خریدتی۔
Bring a method, a dataset or a question.
معلومات اور استفسارات آج کھلے ہیں۔ استفسار کو ایک حوالہ نمبر ملتا ہے اور اگلے مرحلے کی نشاندہی ہوتی ہے؛ درخواستیں، ادائیگیاں، کمپیوٹنگ کی تخصیص اور رجسٹریشن صرف اس وقت کھلتی ہیں جب ان کی ٹیم، شرائط اور جائزے کی استعداد موجود ہو۔
قانونی دستاویزات۔
اس سائٹ کے نقشے، ڈیٹا اور اشکال سیاق اور عمومی معلومات کے لیے دکھائے جاتے ہیں۔ یہ مشورہ، پیش گوئیاں یا انتباہات نہیں؛ معلومات کی حدود دستبرداریوں اور ڈیٹا سے متعلق اطلاعات میں بیان کی گئی ہیں۔