GCRI · Inteligencia artificial y sistemas autónomos
La IA en la ciencia
Machine learning now predicts protein structures, emulates weather and climate models, screens materials and helps analyse vast datasets. It can speed discovery, and it can also produce results that are hard to reproduce, overfit or rest on data leakage. This page sets out how AI is used in science, where it fails, how its results are checked, and what evidence serves the researchers, funders and journals involved.
AI in science in seven parts.
- 01La preguntaAI in science: how the risk develops
- 02En todos los dominiosAI changes how each domain’s science is done
- 03IndicadoresQué se mide y con qué calidad
- 04FuentesDe dónde proviene la evidencia
- 05DecisionesQuién decide y a qué sirve la evidencia
- 06Cuestiones centralesWhat scientists ask about AI in research
- 07MecanismosHow discovery and error both scale
AI in science: how the risk develops.
Discovery and reproducibility. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Learning from data replaces some simulation
Models trained on simulations or observations can emulate expensive calculations quickly. They are reliable within the range of their training data and uncertain outside it.
Leakage inflates results
When information from the test set reaches training, through duplicates, time overlap or preprocessing, reported accuracy overstates real performance. Leakage is a known cause of irreproducible ML science.
Openness enables checking
Results can be verified only when code, data, models and settings are shared. Proprietary models and data limit independent checks.
Scientists stay accountable
AI can suggest hypotheses and draft text, but researchers remain responsible for methods, interpretation and integrity. Journals and funders are setting rules for AI use.
Registro de modelos.
La pantalla que utilizaría un equipo para seguir esta materia: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Registro de modelos
AI in science · Model registry · Release gate
Modelos
| M-489 triage assistant | Servicio público | Alto | 20 of 24 suites | Bloqueado |
| M-530 flood nowcast | Ciencia | Medio | 12 de 12 | Publicado |
| M-079 document search | Interno | Bajo | 8 of 8 | Publicado |
| M-881 agent planner | Agéntico | Alto | 11 of 16 | En evaluación |
Ficha del modelo
- Uso previsto
- apoyo al triaje, decide una persona
- Fuera de alcance
- decisiones de elegibilidad
- Límites conocidos
- menor precisión en casos raros
- Propietario
- Propietario del modelo
Registro de incidentes
- D-19INCCita alucinada en el resumen
- D-8MITFundamentación de la recuperación añadida
- D-3INCInyección de instrucciones mediante un archivo cargado
- D-1MITPermiso de herramienta restringido
Evaluation scores
vs release threshold
AI changes how each domain’s science is done.
- AguaAcoplamientoML models now rival process models in some prediction tasks.What to watchBenchmarks against process models
- SaludAcoplamientoAI supports protein and pathogen research, raising dual-use questions.What to watchBiosecurity review of tools
- BiodiversidadAcoplamientoAutomated species identification scales monitoring.What to watchIdentification accuracy by region
Studies of AI in science are designed for the serie Methods and Technical. Reproducibility requires code, data and model versions, recorded under NS-12 of the proposed Nexus Standards.
- Replications of AI-based results.
- Benchmarks with documented data.
How AI in science is modelled, measured and tested.
El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.
Modelo, ecuaciones y supuestos
The model structure used for AI in science, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)amenaza, exposición, vulnerabilidad y capacidad de afrontamientoEAL = ∑k pk · Lksobre los eventos k con probabilidad anual pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Supuesto | Por qué se hace | Cómo se prueba |
|---|---|---|
| La amenaza y la exposición son independientes dentro de un evento | Mantiene manejable la integral de pérdidas | Comparar con un ajuste de cópula sobre registros conjuntos |
| Los acoplamientos son lineales cerca del punto de operación | Permite que las perturbaciones se propaguen a través de A | Perturbar más allá del rango lineal y comparar |
| Las curvas de vulnerabilidad se transfieren entre lugares | Las curvas locales rara vez están disponibles | Validar frente a las pérdidas observadas cuando existan |
- Entradas
- conjuntos de datos versionados con procedencia
- Resultados
- distribuciones, nunca cifras únicas
- Código
- publicado con la ficha de modelo y las pruebas
- Reproducción
- mismos datos, código, entorno y semilla
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Studies sharing code and data | percent of published ML studies | por revisión | Publication audits | OBSERVADO |
| Leakage issues identified in reviews | count by type | por revisión | Reproducibility studies | NOTIFICADO |
| Out-of-distribution performance | error on held-out regimes | per evaluation | Evaluación de modelos | OBSERVADO |
| Emulator error against reference simulation | error metric | per evaluation | Validation runs | OBSERVADO |
| Journals with AI use policies | recuento | anual | Publisher policies | DECLARADO |
| Compute used for scientific model training | floating point operations | per model | Model documentation | ESTIMADO |
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| Protein Data Bank and AlphaFold Protein Structure Database | Experimental and predicted protein structures | Open, CC0 and CC BY 4.0 respectively |
| WeatherBench and related benchmarks | Standard evaluation of data-driven weather models | Open, licence per benchmark (to check) |
| Princeton reproducibility studies on ML-based science | Survey of leakage and reproducibility failures | Licence per publication |
| Materials Project | Computed materials properties for screening | Abierta, CC BY 4.0 |
| Publisher and funder policies on AI use | Rules on authorship, disclosure and review | Public, terms per publisher |
Quién decide y a qué sirve la evidencia.
Estudio de Inteligencia artificial y sistemas prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Research teams | Whether an ML result is robust enough to publish | Leakage checklists; validation protocols |
| Journals and reviewers | What evidence to require for ML-based claims | Reporting guidance; reproducibility evidence |
| Financiadores de la investigación | How to fund open models, data and compute for science | Openness and compute evidence |
Productos que genera este tema
- Leakage and reproducibility checklists for ML studies
- Validation protocols for scientific emulators
- Guidance on reporting AI use in research
- Case studies of AI in specific sciences
What scientists ask about AI in research.
- Does the AI-assisted result hold when tested independently, by experiment or observation?
- Is the model, data and code available so others can reproduce it?
- Has data leakage between training and evaluation inflated reported performance?
- Does the model extrapolate beyond the conditions its training data covered?
How discovery and error both scale.
Machine learning finds patterns in large datasets faster than people can, and surrogate models can emulate expensive simulations, allowing many more scenarios to be explored. In fields with good data and clear validation, such as structural biology, the gains have been substantial.
The risks are equally systematic. Leakage between training and test data has produced inflated results across many disciplines. Models trained on past data may not respect physical laws when extrapolating. Generative sistemas can fabricate plausible references or data. And when models and data are proprietary, results cannot be checked.
Keeping AI-assisted science reproducible.
- 01
Reporting standards
Checklists covering data splits, leakage checks, baselines and uncertainty. Standards help only if journals and reviewers enforce them.
- 02
Physics-informed and hybrid models
Combining learned components with known physical constraints, using inteligencia artificial y aprendizaje automático and high-performance, cloud and edge computing. Constraints reduce but do not remove extrapolation risk.
- 03
Uncertainty estimation
Ensembles and Bayesian methods from probabilidad y estadística to flag predictions the model is unsure of. Uncertainty estimates can themselves be miscalibrated.
- 04
Open artefacts
Publishing code, data and model weights where rights allow, so others can reproduce and challenge results.
Cómo se estudia y lo que los métodos no pueden decir.
- 01Inteligencia artificial y aprendizaje automáticoAnálisis del cambio de distribución · Ajuste fino para un uso específico · Métodos de interpretabilidadAplicado aquí
- 02Probabilidad y estadísticaIncertidumbre de las puntuaciones de referencia · Evaluación de la calibración · Muestreo de auditoríaAplicado aquí
- 03Computación de alto rendimiento, en la nube y en el bordeAcceso a computación para la investigación pública · Medición energética de las cargas de trabajoAplicado aquí
- 04Ingeniería de evaluación y garantía de la IACasos de aseguramiento para sistemas de IA · Ejercicios de equipo rojo estructurados · Seguimiento posterior al despliegueAplicado aquí
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Preguntas y respuestas.
What is data leakage in machine learning?
Can AI replace scientific simulation?
How should AI use in research be reported?
Can AI replace experiments?
What is data leakage?
Does the platform review scientific papers?
Are AI-generated hypotheses credited?
Aporte evidencia desde esta página.
serie Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.