GCRI · هوش مصنوعی و سامانه‌های خودمختار
هوش مصنوعی در علم
Machine learning now predicts protein structures, emulates weather and climate models, screens materials and helps analyse vast datasets. It can speed discovery, and it can also produce results that are hard to reproduce, overfit or rest on data leakage. This page sets out how AI is used in science, where it fails, how its results are checked, and what evidence serves the researchers, funders and journals involved.
AI in science in seven parts.
- 01The questionAI in science: how the risk develops
- 02در سراسر حوزه‌هاAI changes how each domain’s science is done
- 03نشانگرهاWhat is measured, and how well
- 04منابعWhere the evidence comes from
- 05تصمیم‌هاWho decides, and what the evidence serves
- 06Core questionsWhat scientists ask about AI in research
- 07MechanismsHow discovery and error both scale
AI in science: how the risk develops.
Discovery and reproducibility. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Learning from data replaces some simulation
Models trained on simulations or observations can emulate expensive calculations quickly. They are reliable within the range of their training data and uncertain outside it.
Leakage inflates results
When information from the test set reaches training, through duplicates, time overlap or preprocessing, reported accuracy overstates real performance. Leakage is a known cause of irreproducible ML science.
Openness enables checking
Results can be verified only when code, data, models and settings are shared. Proprietary models and data limit independent checks.
Scientists stay accountable
AI can suggest hypotheses and draft text, but researchers remain responsible for methods, interpretation and integrity. Journals and funders are setting rules for AI use.
ثبت‌خانهٔ مدل.
The screen a team would use to follow this subject: its measures, states and decisions. Names are examples and values are illustrative.
ثبت‌خانهٔ مدل
AI in science · Model registry · Release gate
مدل‌ها
| M-489 triage assistant | خدمات عمومی | بالا | 20 of 24 suites | مسدود |
| M-530 flood nowcast | علم | متوسط | 12 of 12 | منتشرشد |
| M-079 document search | داخلی | پایین | 8 of 8 | منتشرشد |
| M-881 agent planner | عامل‌محور | بالا | 11 of 16 | در حال ارزیابی |
کارت مدل
- کاربرد مورد نظر
- پشتیبانی غربالگری، انسان تصمیم می‌گیرد
- خارج از دامنه
- تصمیم‌های صلاحیت
- محدودیت‌های شناخته‌شده
- دقت کمتر در موارد نادر
- مالک
- مالک مدل
سیاههٔ رخداد
- D-19INCارجاع ساختگی در چکیده
- D-8MITزمین‌گذاری بازیابی افزوده شد
- D-3INCتزریق فرمان از طریق پروندهٔ بارگذاری‌شده
- D-1MITمجوز ابزار محدودتر شد
Evaluation scores
vs release threshold
AI changes how each domain’s science is done.
- آبپیوستگیML models now rival process models in some prediction tasks.What to watchBenchmarks against process models
- سلامتپیوستگیAI supports protein and pathogen research, raising dual-use questions.What to watchBiosecurity review of tools
- تنوع زیستیپیوستگیAutomated species identification scales monitoring.What to watchIdentification accuracy by region
Studies of AI in science are designed for the مجموعهٔ روش‌ها و فنی. Reproducibility requires code, data and model versions, recorded under NS-12 of the proposed Nexus Standards.
- Replications of AI-based results.
- Benchmarks with documented data.
How AI in science is modelled, measured and tested.
مدل، مفروضات، داده‌ها و عدم قطعیت آن، به شکلی که دانشمند یا مهندس بررسی می‌کند. ساختارها از روش‌های منتشرشده پیروی می‌کنند. مقادیر ترسیم‌شده تبیینی‌اند، نه یافته.
مدل، معادلات و مفروضات
The model structure used for AI in science, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)مخاطره، مواجهه، آسیب‌پذیری و ظرفیت مقابلهEAL = ∑k pk · Lkبر رویدادهای k با احتمال سالانهٔ pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| فرض | چرا ساخته می‌شود | چگونه آزموده می‌شود |
|---|---|---|
| مخاطره و مواجهه در یک رویداد مستقل‌اند | انتگرال زیان را تحت‌کنترل نگه می‌دارد | مقایسه با برازش مفصل بر سوابق مشترک |
| جفت‌شدگی‌ها نزدیک نقطهٔ کار خطی‌اند | اجازه می‌دهد شوک‌ها از طریق A منتشر شوند | فراتر از دامنهٔ خطی آشفته کنید و مقایسه کنید |
| منحنی‌های آسیب‌پذیری میان مکان‌ها منتقل می‌شوند | منحنی‌های محلی به‌ندرت در دسترس‌اند | اعتبارسنجی در برابر زیان‌های مشاهده‌شده در جاهایی که وجود دارند |
- ورودی‌ها
- مجموعه‌داده‌های نسخه‌دار با خاستگاه
- خروجی‌ها
- توزیع‌ها، هرگز تک‌رقم‌ها
- کد
- منتشرشده با کارت مدل و آزمون‌ها
- بازتولید
- همان داده، کد، محیط و بذر
What is measured, and how well.
Each indicator carries its unit, its cadence, the kind of source behind it and the evidence label a value would carry. No values are shown: a programme supplies them under its own authority.
| Indicator | Unit | دورهٔ تکرار | Source type | برچسب |
|---|---|---|---|---|
| Studies sharing code and data | percent of published ML studies | per review | Publication audits | مشاهده‌شده |
| Leakage issues identified in reviews | count by type | per review | Reproducibility studies | گزارش‌شده |
| Out-of-distribution performance | error on held-out regimes | per evaluation | ارزیابی مدل | مشاهده‌شده |
| Emulator error against reference simulation | error metric | per evaluation | Validation runs | مشاهده‌شده |
| Journals with AI use policies | count | annual | Publisher policies | DECLARED |
| Compute used for scientific model training | floating point operations | per model | Model documentation | برآوردشده |
Where the evidence comes from.
Named public datasets and institutional records, each with its licence class. Sources by agreement are used only under their terms and never republished.
| منبع | What it gives | Licence class |
|---|---|---|
| Protein Data Bank and AlphaFold Protein Structure Database | Experimental and predicted protein structures | Open, CC0 and CC BY 4.0 respectively |
| WeatherBench and related benchmarks | Standard evaluation of data-driven weather models | Open, licence per benchmark (to check) |
| Princeton reproducibility studies on ML-based science | Survey of leakage and reproducibility failures | Licence per publication |
| Materials Project | Computed materials properties for screening | Open, CC BY 4.0 |
| Publisher and funder policies on AI use | Rules on authorship, disclosure and review | Public, terms per publisher |
Who decides, and what the evidence serves.
هوش مصنوعی و سامانه‌ها prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| چه کسی تصمیم می‌گیرد | The question | Evidence this page serves |
|---|---|---|
| Research teams | Whether an ML result is robust enough to publish | Leakage checklists; validation protocols |
| Journals and reviewers | What evidence to require for ML-based claims | Reporting guidance; reproducibility evidence |
| Research funders | How to fund open models, data and compute for science | Openness and compute evidence |
Outputs this topic produces
- Leakage and reproducibility checklists for ML studies
- Validation protocols for scientific emulators
- Guidance on reporting AI use in research
- Case studies of AI in specific sciences
What scientists ask about AI in research.
- Does the AI-assisted result hold when tested independently, by experiment or observation?
- Is the model, data and code available so others can reproduce it?
- Has data leakage between training and evaluation inflated reported performance?
- Does the model extrapolate beyond the conditions its training data covered?
How discovery and error both scale.
Machine learning finds patterns in large datasets faster than people can, and surrogate models can emulate expensive simulations, allowing many more scenarios to be explored. In fields with good data and clear validation, such as structural biology, the gains have been substantial.
The risks are equally systematic. Leakage between training and test data has produced inflated results across many disciplines. Models trained on past data may not respect physical laws when extrapolating. Generative سامانه‌ها can fabricate plausible references or data. And when models and data are proprietary, results cannot be checked.
Keeping AI-assisted science reproducible.
- 01
Reporting standards
Checklists covering data splits, leakage checks, baselines and uncertainty. Standards help only if journals and reviewers enforce them.
- 02
Physics-informed and hybrid models
Combining learned components with known physical constraints, using هوش مصنوعی و یادگیری ماشین and high-performance, cloud and edge computing. Constraints reduce but do not remove extrapolation risk.
- 03
Uncertainty estimation
Ensembles and Bayesian methods from احتمال و آمار to flag predictions the model is unsure of. Uncertainty estimates can themselves be miscalibrated.
- 04
Open artefacts
Publishing code, data and model weights where rights allow, so others can reproduce and challenge results.
How it is studied, and what the methods cannot say.
- 01هوش مصنوعی و یادگیری ماشینDistribution shift analysis · Fine-tuning for a specific use · Interpretability methodsApplied here
- 02احتمال و آمارUncertainty on benchmark scores · Calibration assessment · Audit samplingApplied here
- 03محاسبات با عملکرد بالا، ابری و لبه‌ایCompute access for public research · Energy measurement of workloadsApplied here
- 04مهندسی ارزیابی و اطمینان‌بخشی هوش مصنوعیAssurance cases for AI systems · Structured red teaming · Post-deployment monitoringApplied here
Where this page’s references lead.
نهادها و اسنادی که این صفحه بر پایهٔ آن‌ها خوانده می‌شود. وضعیت و ویراست‌ها تغییر می‌کنند؛ هر پیوند به نهاد صادرکننده می‌رود.
پرسش و پاسخ.
What is data leakage in machine learning?
Can AI replace scientific simulation?
How should AI use in research be reported?
Can AI replace experiments?
What is data leakage?
Does the platform review scientific papers?
Are AI-generated hypotheses credited?
شواهد را از همین صفحه ارسال کنید.
گزارش‌ها is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- ایمیلدرگاه GW-GCRIاز همین صفحه ارسال کنیدشواهد، یک اصلاحیه، یک مورد، یک روش، یک داوری، یک ترجمه یا ورودی نمایه. با برچسب این صفحه میرسد تا ویراستار مسئول آن را دریافت کند.
- Zenodoسپردهٔ بازآن را واگذار کنید و به جامعه ارائه دهیدسابقهٔ خود را با شناسهٔ ORCID خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. گزینشگران آن را داوری می‌کنند؛ DOI از آنِ شما میماند.
- گزارش‌هاGCRIهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز داده شخصی، جزئیات حساس زیرساخت یا چیزی را که حق اشتراکش را ندارید نفرستید. هر مشارکت پیش از استفاده داوری می‌شود؛ ارسال آن حق مؤلفی یا ویرایشی نمی‌دهد و حمایت مالی هرگز یافته‌ای را نمی‌خرد.
یک روش، یک مجموعه‌داده یا یک پرسش بیاورید.
اطلاعات و درخواست‌ها امروز باز است. هر درخواست یک شمارهٔ پیگیری می‌گیرد و گام بعدی را مشخص می‌کند؛ درخواست‌های عضویت، پرداخت‌ها، تخصیص رایانش و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت داوری آن‌ها فراهم باشد.
اسناد حقوقی.
نقشه‌ها، داده‌ها و ارقام این سایت برای زمینه و اطلاعات عمومی نشان داده می‌شوند. توصیه، پیش‌بینی یا هشدار نیستند؛ حدود این اطلاعات در سلب مسئولیت‌ها و اعلامیه‌های داده بیان شده است.