GCRI · Labs
الذكاء الاصطناعي في سير العمل العلمي
Machine learning now enters science at every step: screening literature, designing experiments, analysing images and sequences, emulating simulations and drafting text. Each use can speed discovery and each can introduce errors that look like findings. This page sets out how models are evaluated for scientific use, where leakage, benchmark overfitting and silent drift arise, and what evidence editors, funders and regulators need before they rely on a model-assisted result.
كيف يسير العمل.
Testbed operations
AI in scientific workflows · Field lab coast · Campaign 5
Sensor deployment
خط ساحلي توضيحي
Sensors
| S-01 tide | 94 | 0.0 | Nominal |
| S-04 salinity | 76 | 0.4 | Recalibrate |
| S-07 wave | 95 | 0.1 | Nominal |
Sensor vs reference
الشكلTestbed operations: example names and illustrative values, not a record or a live system.
AI in scientific workflows: how the risk develops.
Model evaluation and scientific assistance. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Leakage inflates performance
When information from the test set reaches training, through duplicates, shared patients, neighbouring sites or preprocessing fitted on all the data, a model appears more accurate than it is. Leakage has been documented in many fields that adopted machine learning.
Benchmarks get overfitted
Repeated tuning against the same public benchmark selects models that fit its quirks. Gains on a leaderboard can vanish on new data, and contamination of training corpora with benchmark items makes scores hard to interpret.
Drift and distribution shift
Instruments, protocols, populations and software change. A model validated on last year’s data or another lab’s scanner can degrade without any visible error. Monitoring after deployment is part of the evaluation, not an extra.
Generated text and fabricated sources
Language models can produce fluent text, citations and code that are wrong. Unchecked, these errors enter manuscripts, peer reviews and proposals, and spread through citation. Disclosure and verification policies exist because such errors are hard to see.
How AI in scientific workflows is modelled, measured and tested.
النموذج وافتراضاته وبياناته وعدم اليقين فيه، بالصورة التي يفحصها بها عالم أو مهندس. وتتبع البنى أساليب منشورة. والقيم المرسومة توضيحية، وليست نتائج.
النموذج والمعادلات والافتراضات
The model structure used for AI in scientific workflows, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)الخطر والتعرّض وقابلية التأثر والقدرة على المواجهةEAL = ∑k pk · Lkعلى الأحداث k ذات الاحتمال السنوي pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| افتراض | لماذا أُعدّ | كيف يُختبر |
|---|---|---|
| الخطر والتعرّض مستقلان داخل الحدث الواحد | يُبقي تكامل الخسارة قابلًا للحساب | قارن بمطابقة دالة ربط (copula) على السجلات المشتركة |
| تكون الروابط خطية قرب نقطة التشغيل | يسمح بانتشار الصدمات عبر A | ادفع خارج النطاق الخطي وقارن |
| منحنيات الهشاشة قابلة للنقل بين الأماكن | نادرًا ما تتوافر المنحنيات المحلية | التحقق مقابل الخسائر المرصودة حيثما وُجدت |
- المدخلات
- مجموعات بيانات ذات إصدارات ومزودة ببيان المصدر
- المخرجات
- توزيعات، لا أرقام منفردة أبدا
- الرمز
- يُصدر مع بطاقة النموذج والاختبارات
- إعادة الإنتاج
- البيانات نفسها والشيفرة نفسها والبيئة نفسها والبذرة نفسها
AI in scientific workflows changes each domain’s methods.
Findings feed the سلسلة الأساليب والتقنية. AI use follows NIST’s AI RMF and is disclosed; models carry NS-12 cards under the proposed Nexus Standards.
- Workflow evaluations.
- Disclosed AI use cases.
ما الذي يُقاس، ومدى جودة قياسه.
يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.
| المؤشر | الوحدة | وتيرة الإصدار | نوع المصدر | الوسم |
|---|---|---|---|---|
| Held-out evaluation design stated | percent of model-based studies | سنوي | Audit against the REFORMS checklist | مرصود |
| Code and model weights available | percent of studies with runnable code and weights | سنوي | Repository and article audit | مرصود |
| External validation | percent of models tested on data from another site or period | سنوي | Literature review | مُقدَّر |
| خطأ المعايرة | expected calibration error, dimensionless | per model | Held-out evaluation | مرصود |
| Performance gap under shift | difference in the primary metric between internal and external test sets | per model | Validation reports | مرصود |
| AI use disclosure | percent of submissions with a disclosure statement | سنوي | Journal submission records | مُعلَن |
| Contamination checks reported | percent of benchmark evaluation reports | سنوي | Evaluation reports | مُبلَّغ عنه |
من أين تأتي الأدلة.
مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.
| المصدر | ما يقدّمه | فئة الترخيص |
|---|---|---|
| OpenML | Datasets, tasks and evaluation runs with standardised splits | Open, CC BY |
| Hugging Face Hub model and dataset cards | Documented models and datasets with stated training data and limitations | Licence per model or dataset |
| MLCommons benchmarks | Shared benchmarks and measurement rules for model performance | Open, Apache 2.0 |
| AI Incident Database (Responsible AI Collaborative) | Reported failures and harms of deployed AI النظم | مفتوح، مع الإسناد |
| Software Heritage | Archived source code with persistent intrinsic identifiers | Open archive, licence per repository |
| arXiv metadata | Preprints across physics, computing and quantitative biology | Metadata CC0; licence per paper |
| Zenodo (CERN) | Citable deposits of code, models, data and evaluation outputs | Open, licence per record |
من يقرر، وما الذي تخدمه الأدلة.
Labs prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| من يقرر | السؤال | الأدلة التي تخدمها هذه الصفحة |
|---|---|---|
| Journal editors and reviewers | Whether a model-based claim rests on an evaluation that excludes leakage and tests generalisation | REFORMS or TRIPOD+AI checklist, split design, external validation, code availability |
| ممولو البحوث | Whether applicants and reviewers may use generative AI, and on what disclosure terms | Funder policy, disclosure records, documented verification of generated content |
| Medicines and device regulators | Whether an AI component in a medical product is validated for its intended use | Prespecified evaluation, external validation, predetermined change control plan |
| Research integrity offices | Whether an allegation involving fabricated or generated content is substantiated | Provenance of text, data and code; version history; tool logs |
المخرجات التي يُنتجها هذا الموضوع
- Evaluation protocols that fix splits, metrics and baselines before training
- Model cards and datasheets with intended use, limits and known failure modes
- Leakage and contamination audits of model-assisted studies
- Reproducible pipelines with code, weights, environment and data versions archived
What experts ask about AI in research.
- What task is the model doing, and what is it compared against?
- Was the model evaluated on data independent of the data it was trained or tuned on?
- How does performance change when conditions shift away from the training data?
- Can the output be checked by a person or a simpler method, and is it?
- Which steps of the workflow were assisted, and is that disclosed in the result?
Where AI helps and where it misleads.
Machine learning models learn statistical regularities from data. They can be very effective where those regularities are stable and data are plentiful, for example classifying land cover from satellite imagery or emulating a climate model to explore many scenarios. They are weaker where data are sparse, where the system changes over time or where rare events matter most, which describes much of risk science.
Common failure modes are well understood: leakage, where information from the test set reaches training; انزياح التوزيع, where conditions in use differ from those in training; shortcut learning, where a model relies on a spurious cue; and overconfident outputs without calibrated uncertainty. Generative models add the risk of fluent but fabricated content, including citations and code that looks correct but is not.
Workflow effects matter as much as model accuracy. When a tool is used at several stages, small errors can accumulate, and reviewers may give automated outputs more trust than they deserve.
How AI tools are evaluated.
- 01
Held-out and out-of-distribution tests
Evaluation on data separated by time, place or source. This is the minimum for any claim of generalisation.
- 02
Baselines
Comparison with simple statistical methods and expert judgement. A complex model that does not beat a simple baseline is not adding value.
- 03
Calibration and uncertainty
Checks that stated confidence matches observed accuracy, using قياس عدم اليقين.
- 04
Provenance and disclosure
A record of which model, version and prompts or settings were used at each step, so the workflow can be re-run or audited.
Benchmark scores rarely transfer directly to a new research setting, and a model’s behaviour can change between versions. Evaluation is repeated when either the task or the model changes.
كيف يُدرس، وما لا تستطيع المناهج قوله.
- 01الذكاء الاصطناعي وتعلم الآلةالفرز بمساعدة الآلة للمراجعات المنهجية · النماذج البديلة لتوجيه التجاربمُطبَّق هنا
- 02تقدير عدم اليقين والتحقق من صحة النماذجموازنات عدم اليقين في القياس · تحليل الحساسية لنماذج المحاكاةمُطبَّق هنا
- 03الاحتمالات والإحصاءتخطيط حجم العينة والقوة الإحصائية · التحليل التلوي مع تقييم الانحيازمُطبَّق هنا
- 04الاستدلال السببي وتقييم الأثرالتجارب الرائدة العشوائية والطرح المتدرج · التقييم شبه التجريبي للبرامجمُطبَّق هنا
- 05هندسة النظمتتبع المتطلبات حتى التحقق · مراجعات الجاهزية عند بوابات المراحلمُطبَّق هنا
Where this page’s references lead.
الهيئات والوثائق التي تُقرأ هذه الصفحة في ضوئها. وتتغير الحالات والإصدارات؛ ويقود كل رابط إلى الهيئة المُصدِرة.
أسئلة وأجوبة.
What is data leakage?
Is a high benchmark score enough to publish a method?
Can a generative AI tool be listed as an author?
Why publish model weights and code?
Does Labs use generative AI to write findings?
Can Labs evaluate a commercial AI model?
Why compare with simple baselines?
ساهم بأدلة من هذه الصفحة.
التقارير is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- البريد الإلكترونيالبوابة GW-GCRIأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- التقاريرGCRIاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
قدّم منهجية أو مجموعة بيانات أو سؤالا.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.