GCRI · Inteligência artificial e sistemas autônomos
A IA na ciência
Machine learning now predicts protein structures, emulates weather and climate models, screens materials and helps analyse vast datasets. It can speed discovery, and it can also produce results that are hard to reproduce, overfit or rest on data leakage. This page sets out how AI is used in science, where it fails, how its results are checked, and what evidence serves the researchers, funders and journals involved.
AI in science in seven parts.
- 01A perguntaAI in science: how the risk develops
- 02Em todos os domíniosAI changes how each domain’s science is done
- 03IndicadoresO que é medido e com que qualidade
- 04FontesDe onde vêm as evidências
- 05DecisõesQuem decide, e a que servem as evidências
- 06Questões centraisWhat scientists ask about AI in research
- 07MecanismosHow discovery and error both scale
AI in science: how the risk develops.
Discovery and reproducibility. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Learning from data replaces some simulation
Models trained on simulations or observations can emulate expensive calculations quickly. They are reliable within the range of their training data and uncertain outside it.
Leakage inflates results
When information from the test set reaches training, through duplicates, time overlap or preprocessing, reported accuracy overstates real performance. Leakage is a known cause of irreproducible ML science.
Openness enables checking
Results can be verified only when code, data, models and settings are shared. Proprietary models and data limit independent checks.
Scientists stay accountable
AI can suggest hypotheses and draft text, but researchers remain responsible for methods, interpretation and integrity. Journals and funders are setting rules for AI use.
Registro de modelos.
A tela que uma equipe usaria para acompanhar esta matéria: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.
Registo de modelos
AI in science · Model registry · Release gate
Modelos
| M-489 triage assistant | Serviço público | Elevado | 20 of 24 suites | Bloqueado |
| M-530 flood nowcast | Ciência | Médio | 12 de 12 | Lançado |
| M-079 document search | Interno | Baixo | 8 of 8 | Lançado |
| M-881 agent planner | Agêntico | Elevado | 11 of 16 | Avaliando |
Ficha do modelo
- Uso previsto
- apoio à triagem, decisão humana
- Fora do âmbito
- decisões de elegibilidade
- Limites conhecidos
- menor precisão em casos raros
- Proprietário
- Responsável pelo modelo
Registo de incidentes
- D-19INCCitação alucinada no resumo
- D-8MITAncoragem de recuperação adicionada
- D-3INCInjeção de prompt por arquivo enviado
- D-1MITPermissão da ferramenta reduzida
Evaluation scores
vs release threshold
AI changes how each domain’s science is done.
- ÁguaAcoplamentoML models now rival process models in some prediction tasks.What to watchBenchmarks against process models
- SaúdeAcoplamentoAI supports protein and pathogen research, raising dual-use questions.What to watchBiosecurity review of tools
- BiodiversidadeAcoplamentoAutomated species identification scales monitoring.What to watchIdentification accuracy by region
Studies of AI in science are designed for the série Methods and Technical. Reproducibility requires code, data and model versions, recorded under NS-12 of the proposed Nexus Standards.
- Replications of AI-based results.
- Benchmarks with documented data.
How AI in science is modelled, measured and tested.
O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.
Modelo, equações e pressupostos
The model structure used for AI in science, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)ameaça, exposição, vulnerabilidade e capacidade de enfrentamentoEAL = ∑k pk · Lksobre os eventos k com probabilidade anual pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Pressuposto | Porque é feito | Como é testado |
|---|---|---|
| A ameaça e a exposição são independentes dentro de um evento | Mantém tratável o integral de perdas | Comparar com um ajuste de cópula sobre registros conjuntos |
| Os acoplamentos são lineares perto do ponto de funcionamento | Permite que os choques se propaguem através de A | Perturbar para além do intervalo linear e comparar |
| As curvas de vulnerabilidade transferem-se entre lugares | As curvas locais raramente estão disponíveis | Validar face às perdas observadas quando existam |
- Entradas
- conjuntos de dados versionados com proveniência
- Resultados
- distribuições, nunca números isolados
- Código
- publicado com a ficha de modelo e os testes
- Reprodução
- mesmos dados, código, ambiente e semente
O que é medido e com que qualidade.
Cada indicador leva sua unidade, sua periodicidade, o tipo de fonte por trás dele e a etiqueta de evidência que um valor levaria. Nenhum valor é mostrado: um programa os fornece sob sua própria autoridade.
| Indicador | Unidade | Cadência | Tipo de fonte | Rótulo |
|---|---|---|---|---|
| Studies sharing code and data | percent of published ML studies | por revisão | Publication audits | OBSERVADO |
| Leakage issues identified in reviews | count by type | por revisão | Reproducibility studies | REPORTADO |
| Out-of-distribution performance | error on held-out regimes | per evaluation | Avaliação de modelos | OBSERVADO |
| Emulator error against reference simulation | error metric | per evaluation | Validation runs | OBSERVADO |
| Journals with AI use policies | contagem | anual | Publisher policies | DECLARADO |
| Compute used for scientific model training | floating point operations | per model | Model documentation | ESTIMADO |
De onde vêm as evidências.
Conjuntos de dados públicos nomeados e registros institucionais, cada um com sua classe de licença. As fontes obtidas por acordo só são usadas nos seus termos e nunca são republicadas.
| Fonte | O que oferece | Classe de licença |
|---|---|---|
| Protein Data Bank and AlphaFold Protein Structure Database | Experimental and predicted protein structures | Open, CC0 and CC BY 4.0 respectively |
| WeatherBench and related benchmarks | Standard evaluation of data-driven weather models | Open, licence per benchmark (to check) |
| Princeton reproducibility studies on ML-based science | Survey of leakage and reproducibility failures | Licence per publication |
| Materials Project | Computed materials properties for screening | Aberto, CC BY 4.0 |
| Publisher and funder policies on AI use | Rules on authorship, disclosure and review | Public, terms per publisher |
Quem decide, e a que servem as evidências.
Estúdio de Inteligência artificial e sistemas prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Quem decide | A pergunta | Evidências a que esta página serve |
|---|---|---|
| Research teams | Whether an ML result is robust enough to publish | Leakage checklists; validation protocols |
| Journals and reviewers | What evidence to require for ML-based claims | Reporting guidance; reproducibility evidence |
| Financiadores de pesquisa | How to fund open models, data and compute for science | Openness and compute evidence |
Produtos que este tema gera
- Leakage and reproducibility checklists for ML studies
- Validation protocols for scientific emulators
- Guidance on reporting AI use in research
- Case studies of AI in specific sciences
What scientists ask about AI in research.
- Does the AI-assisted result hold when tested independently, by experiment or observation?
- Is the model, data and code available so others can reproduce it?
- Has data leakage between training and evaluation inflated reported performance?
- Does the model extrapolate beyond the conditions its training data covered?
How discovery and error both scale.
Machine learning finds patterns in large datasets faster than people can, and surrogate models can emulate expensive simulations, allowing many more scenarios to be explored. In fields with good data and clear validation, such as structural biology, the gains have been substantial.
The risks are equally systematic. Leakage between training and test data has produced inflated results across many disciplines. Models trained on past data may not respect physical laws when extrapolating. Generative sistemas can fabricate plausible references or data. And when models and data are proprietary, results cannot be checked.
Keeping AI-assisted science reproducible.
- 01
Reporting standards
Checklists covering data splits, leakage checks, baselines and uncertainty. Standards help only if journals and reviewers enforce them.
- 02
Physics-informed and hybrid models
Combining learned components with known physical constraints, using inteligência artificial e aprendizagem automática and high-performance, cloud and edge computing. Constraints reduce but do not remove extrapolation risk.
- 03
Uncertainty estimation
Ensembles and Bayesian methods from probabilidade e estatística to flag predictions the model is unsure of. Uncertainty estimates can themselves be miscalibrated.
- 04
Open artefacts
Publishing code, data and model weights where rights allow, so others can reproduce and challenge results.
Como é estudado e o que os métodos não podem dizer.
- 01Inteligência artificial e aprendizado de máquinaAnálise de mudança de distribuição · Ajuste fino para um uso específico · Métodos de interpretabilidadeAplicado aqui
- 02Probabilidade e estatísticaIncerteza das pontuações de benchmark · Avaliação da calibração · Amostragem de auditoriaAplicado aqui
- 03Computação de alto desempenho, em nuvem e de bordaAcesso à computação para a pesquisa pública · Medição da energia das cargas de trabalhoAplicado aqui
- 04Engenharia de avaliação e garantia de IACasos de garantia para sistemas de IA · Red teaming estruturado · Monitoramento pós-implantaçãoAplicado aqui
Where this page’s references lead.
Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.
Perguntas e respostas.
What is data leakage in machine learning?
Can AI replace scientific simulation?
How should AI use in research be reported?
Can AI replace experiments?
What is data leakage?
Does the platform review scientific papers?
Are AI-generated hypotheses credited?
Contribua com evidências a partir desta página.
Relatórios is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoDepósito abertoDeposite-o e envie à comunidadePublique seu próprio registro no Zenodo com seu ORCID iD e depois envie-o à comunidade Reports ali. Os curadores o revisam; o DOI continua sendo seu.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.