GCRI · Inteligencia artificial y sistemas autónomos
Métodos e incertidumbre
The methods Artificial Intelligence and Autonomous sistemas relies on: their equations and assumptions, the data they need, how they are validated and the limits of what they can show.
El orden en que ocurren las cosas.
- 01Borradorfuentes citadas, etiquetas adjuntas
- 02Verificación de la evidenciacada valor trazado
- 03Revisión independienteconflictos declarados
- 04Ediciónpublicado con sus límites
- 05Correcciónuna nueva versión, nunca una edición silenciosa
Los métodos en uso.
- 01Inteligencia artificial y aprendizaje automáticoAnálisis del cambio de distribución · Ajuste fino para un uso específico · Métodos de interpretabilidadAplicado aquí
- 02Ingeniería de evaluación y garantía de la IACasos de aseguramiento para sistemas de IA · Ejercicios de equipo rojo estructurados · Seguimiento posterior al despliegueAplicado aquí
- 03Computación de alto rendimiento, en la nube y en el bordeAcceso a computación para la investigación pública · Medición energética de las cargas de trabajoAplicado aquí
- 04Probabilidad y estadísticaIncertidumbre de las puntuaciones de referencia · Evaluación de la calibración · Muestreo de auditoríaAplicado aquí
- 05Ciberseguridad y criptografíaModelización de amenazas de las aplicaciones de IA · Integridad de la cadena de suministro de modelos · Pruebas de defensa contra la inyecciónAplicado aquí
- 06Ciencias sociales y del comportamientoEstudios de supervisión humana · Investigación con comunidades afectadas · Estudios de adopción en el lugar de trabajoAplicado aquí
- 07Robótica y automatizaciónPruebas basadas en escenarios · Seguridad de los robots colaborativos · Seguimiento del dominio operativoAplicado aquí
Each method, its role in this field and how it is checked.
- Ai MLRole hereArtificial intelligence and machine learning is the technology this platform stewards for the network.Checks appliedHeld-out evaluation; Dataset documentation; Drift monitoring
- Ai assuranceRole hereAI evaluation and assurance engineering is the second method this platform stewards.Checks appliedIndependent review; Evidence currency; Coverage reporting
- ComputingRole hereHigh-performance and cloud computing supply the capacity AI needs.Checks appliedMeasurement boundaries; Reproducible configuration; Provider data verification
- Probability statisticsRole hereProbability and statistics make AI evaluation trustworthy: confidence intervals on scores, significance of differences between models, calibration of predicted probabilities and sampling designs for audits.Checks appliedInterval reporting; Multiple comparisons; Sample size planning
- CiberseguridadRole hereCybersecurity and cryptography protect AI systems and the data they use.Checks appliedThreat model review; Provenance verification; Regression testing
- Ciencias socialesRole hereSocial and behavioural science studies how people use, trust and are affected by AI.Checks appliedEthics review; Pre-registration; Representative sampling
- RobóticaRole hereRobotics and automation bring AI into physical systems.Checks appliedScenario coverage; Simulation validity; Standards conformity
Cómo funciona el proceso.
Process explorer · Process
Methods and uncertainty: PRISMA 2020 review reporting
10 steps·4 etapas
Proceso
Methods and uncertainty: PRISMA 2020 review reporting
PRISMA 2020 es una directriz de comunicación para revisiones sistemáticas; los pasos siguen su lista de verificación, no una secuencia obligatoria, y ningún documento de Nexus la adopta.
01 Plan
- 01Registro y protocoloRegistro · El equipo de revisiónLa directriz pide los datos de registro, el acceso al protocolo y cualquier modificación.
- 02Criterios de admisibilidadRegistro · El equipo de revisiónLa directriz pide los criterios de inclusión y exclusión y cómo se agruparon los estudios.
02 Buscar y seleccionar
- 03Búsqueda: fuentes y estrategiasPaso · El equipo de revisiónLa directriz pide las fuentes de información y las estrategias de búsqueda completas. No fija qué fuentes se utilizan.
- 04Selección de los estudiosPaso · El equipo de revisiónLa directriz pregunta cómo se determinó la admisibilidad de los estudios, incluido cuántos revisores realizaron el cribado. No fija el número de revisores.
- 05Diagrama de flujoRegistroEl diagrama de flujo muestra el número de registros encontrados, el número de estudios incluidos y los motivos de exclusión.
03 Analizar
- 06Recopilación de datosPaso · El equipo de revisiónLa directriz pregunta cómo se recopilaron los datos de los informes y qué elementos de datos se buscaron.
- 07Riesgo de sesgoPaso · El equipo de revisiónLa directriz pide los métodos y herramientas utilizados para evaluar el riesgo de sesgo.
- 08SíntesisModelo · El equipo de revisiónLa directriz pide las medidas del efecto y los métodos de síntesis. No prescribe el metanálisis.
- 09Certeza de la evidenciaPaso · El equipo de revisiónLa directriz pide los métodos utilizados para evaluar la certeza y comunica el resultado por cada desenlace. No nombra ninguna escala de gradación.
04 Informe
- 10Informe de revisiónRegistroLa directriz ayuda a los autores a comunicar por qué se realizó la revisión, qué hicieron y qué encontraron.
serie ReportsOutline of an externally published reporting guideline, not a Nexus process and not a record of operation. PRISMA 2020 mainly covers reviews of intervention effects. No Nexus page names it. Every programme is at service level R0.
Where uncertainty in AI analysis comes from, and how it is shown.
| Fuente | Why it matters here | How it is reported |
|---|---|---|
| Benchmark validity | Benchmarks saturate and leak into training data | Several evaluations, held-out tests, dates stated |
| Capability elicitation | Measured capability depends on prompting and tools | Elicitation effort described |
| Deployment context | Risk depends on use, not only the model | Use-specific assessment |
| Incident data | Reporting is voluntary and uneven | Incident sources and coverage stated |
Evaluation results carry the model version, date and setup; AI capability changes quickly and old results expire.
Cómo se comunica la incertidumbre.
- 01
Explicitar los supuestos
Cada análisis enumera sus supuestos y los datos de los que depende.
- 02
Cuantificar siempre que sea posible
Los rangos y los niveles de confianza se comunican junto con las estimaciones centrales.
- 03
Validar y comparar
Los modelos se contrastan con las observaciones y, cuando es posible, con otros modelos.
- 04
Publicar los límites
Lo que un análisis no puede mostrar se indica junto a lo que sí puede.
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Preguntas y respuestas.
¿Son abiertos los métodos?
Aporte evidencia desde esta página.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.