Skip to content

GCRI · Reports

Evaluación de riesgos de las tecnologías de frontera

Frontier technology reports cover fields that change faster than the publication cycle: artificial intelligence, synthetic biology, quantum computing, advanced materials and space systems. Evidence arrives as preprints, benchmarks, patents and company announcements, and is often superseded within months. This page sets out how fast-moving evidence is assessed, versioned and reviewed, how claims are separated from demonstrated capability, and how information hazards are handled before publication.

01Registro

Evaluación documentada del riesgo de las tecnologías de frontera.

02La pregunta

Evaluación del riesgo de las tecnologías de frontera: cómo se desarrolla el riesgo.

Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mecanismo

Evidence ages quickly

Una evaluación de capacidades puede estar desactualizada cuando se revisa. Sin ventanas de evidencia fechadas y actualizaciones versionadas, los lectores pueden actuar sobre una imagen de una tecnología que ya no es válida.

Mecanismo

Preprints y anuncios

Gran parte de la evidencia de frontera no ha sido revisada: preprints, blogs técnicos y afirmaciones de proveedores. Repetir tales afirmaciones sin etiquetarlas convierte la promoción en un consenso aparente.

Mecanismo

Fragilidad de los puntos de referencia

Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.

Mecanismo

Peligros informativos

Algunos detalles técnicos podrían facilitar un daño si se publicaran. La revisión de doble uso previa a la publicación sopesa el valor de la divulgación frente al uso indebido, y registra qué se retuvo y por qué sin exponerlo.

03Seguimiento

Mesa de producción de la serie.

La pantalla que utilizaría un equipo para seguir esta materia: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.

Mesa de producción de series

Frontier technology risk assessment · Annual synthesis · Edition 3

Data check behind planGCRI · Reports

Ediciones en producción

Síntesis anualMundialVerificación de datos83W18
Perfil de país 7PaísRevisión por pares98W38
Perspectivas hídricasSectorialEn redacción46W13
Nota metodológica 4MétodosPublicado100hecho

Verificación de datos, síntesis anual

Valores trazados, %83 of 100 requiredEtiquetas asignadas, %90 de 100 requeridosIncertidumbre declarada, %86 de 100 requeridos

Canal de producción de la edición

  1. Esquemaórgano
  2. Borradorautores
  3. Verificación de datoscada valor
  4. Revisión por paresdos rondas
  5. Editorialdecision
  6. VersiónDOI
  7. Correccionesversionado
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
04En los cinco dominios

Las ediciones tecnológicas rastrean los efectos en cada dominio.

05Métodos y evidencia

How frontier technology risk assessment is modelled, measured and tested.

El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.

Modelo, ecuaciones y supuestos

La estructura del modelo utilizada para la evaluación del riesgo de las tecnologías de frontera, los supuestos que adopta y cómo se prueba cada uno.

Riesgo del elemento iRi = f(Hi, Ei, Vi, Ci)amenaza, exposición, vulnerabilidad y capacidad de afrontamiento
Pérdida anual esperadaEAL = ∑k pk · Lkover events k with annual probability pk
Sistemas acopladosxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
SupuestoPor qué se haceCómo se prueba
La amenaza y la exposición son independientes dentro de un eventoMantiene manejable la integral de pérdidasComparar con un ajuste de cópula sobre registros conjuntos
Los acoplamientos son lineales cerca del punto de operaciónPermite que las perturbaciones se propaguen a través de APerturbar más allá del rango lineal y comparar
Las curvas de vulnerabilidad se transfieren entre lugaresLas curvas locales rara vez están disponiblesValidar frente a las pérdidas observadas cuando existan
Entradas
conjuntos de datos versionados con procedencia
Resultados
distribuciones, nunca cifras únicas
Código
publicado con la ficha de modelo y las pruebas
Reproducción
mismos datos, código, entorno y semilla
Formulaciones estándar de riesgo y de espacio de estados; los supuestos enumerados son los típicos del método, expuestos para su revisión, no resultados.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indicadores

Qué se mide y con qué calidad.

Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.

IndicadorUnidadCadenciaTipo de fuenteEtiqueta
Proporción de preprints en la evidencia citadaporcentaje de referenciaspor versiónMetadatos de referenciaOBSERVADO
Antigüedad mediana de la evidencia citada en el momento de la publicaciónmesespor versiónMetadatos de referenciaOBSERVADO
Intervalo entre versiones del informemesespor versiónHistorial de versionesEstadísticas publicadas
Afirmaciones etiquetadas según su estado de demostraciónporcentaje de declaraciones de capacidadpor versiónAuditoría editorialNOTIFICADO
Preprints citados publicados posteriormente tras su revisiónpercent of cited preprintstrimestralPreprint to publication linksOBSERVADO
Dual-use review completedsí o no, con el rol del revisorpor versiónRegistro de revisiónDECLARADO
07Fuentes

De dónde procede la evidencia.

Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.

FuenteLo que aportaTipo de licencia
arXivPreprints en informática, física, biología cuantitativa y campos afinesMetadatos CC0, licencia según cada artículo
bioRxiv and medRxivPreprints in the life and health sciences with links to later publicationsLicencia por preprint
OpenAlexPublication, citation and preprint-to-article linksCC0
WIPO PATENTSCOPEInternational and national patent applications for technology trackingBúsqueda gratuita, condiciones según la OMPI
The LensLinked scholarly and patent recordsFree to use, terms per Lens
Observatorio de Políticas de IA de la OCDE (OECD.AI)Políticas, iniciativas e indicadores nacionales de IADe uso libre, condiciones según la OCDE
08Decisiones

Quién decide y a qué sirve la evidencia.

Reports prepara evidencia. Las decisiones que figuran a continuación las toman las autoridades indicadas, con arreglo a sus propias normas, y nunca la plataforma.

Quién decideLa preguntaEvidencia a la que sirve esta página
Ministerios de ciencia, tecnología e innovaciónQué tecnologías requieren ahora atención de gobernanza, inversión o seguimientoRegistros de afirmaciones por estado de demostración, con ventanas de evidencia fechadas
Standards bodies and technical committeesDónde se necesitan normas de ensayo, seguridad o interoperabilidadBrechas documentadas entre la capacidad declarada y la demostrada
Research funders and security review panelsWhether research areas carry dual-use concerns that need oversightRegistros de revisión de doble uso y las categorías de amenaza identificadas
Journal and series editorsCuándo debe actualizarse un informe o marcarse como sustituidoEvidence age, preprint status changes and version intervals

Productos que genera este tema

  • Informes tecnológicos versionados con ventanas de evidencia fechadas
  • Claim registers separating demonstrated, reported and projected capability
  • Living updates that show what changed between versions
  • Registros de revisión de doble uso que indican el fundamento de cualquier detalle omitido
09Cuestiones centrales

Qué se pregunta la serie.

Las tecnologías de rápido avance superan a la evidencia y a las instituciones que las rigen. Las afirmaciones sobre sus capacidades y riesgos van desde lo prudente hasta lo desmesuradamente especulativo. Los lectores necesitan un análisis que distinga la capacidad demostrada de la proyección, explique los mecanismos por los que una tecnología podría crear o reducir riesgo e indique con qué rapidez pueden quedar obsoletas las conclusiones.

  • ¿Qué puede hacer hoy la tecnología de forma demostrable, en qué condiciones y qué sigue siendo proyección?
  • Through which mechanisms could it create new risks, such as misuse, failure, concentration or loss of control?
  • ¿Cómo podría reducir los riesgos existentes y qué tendría que cumplirse para que ese beneficio se materialice?
  • ¿Qué medidas de gobernanza, seguridad y protección se están desarrollando, y qué evidencia existe sobre su efecto?
10Alcance

Qué abarca la serie.

La serie examina la tecnología a través de la capacidad, el riesgo y la gobernanza.

Capacidad

Demostrado frente a declarado

La evidencia de desempeño se etiqueta según la fuente; las afirmaciones de los proveedores se etiquetan como Institution-reported.

Riesgo

Mechanisms of harm

Accidentes, usos indebidos, dependencia sistémica y efectos sobre la seguridad, analizados con las plataformas especializadas pertinentes.

Gobernanza

Respuestas

Normas, prácticas de seguridad y opciones de política, descritas sin respaldar ningún producto.

Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.

11Cómo se elaboran las ediciones

Cómo se elaboran las ediciones y cuáles son sus límites.

  1. 01

    Technical literature

    Peer-reviewed and preprint research, with preprints labelled as such.

  2. 02

    Benchmarks and tests

    Parámetros de referencia y pruebas publicados, con sus límites; los resultados de Laboratorios aparecen solo a partir de protocolos completados.

  3. 03

    Elicitación de expertos

    Juicio estructurado sobre plazos e impactos, etiquetado como juicio experto y con una descripción de su panel.

  4. 04

    Shelf life

    Cada edición indica cuándo deben revisarse sus conclusiones, porque los hechos técnicos cambian con rapidez.

12Métodos

Cómo se estudia y lo que los métodos no pueden decir.

  1. Cuantificación de la incertidumbre y validación de modelosLenguaje calibrado en las evaluaciones · Calificaciones de la certeza de la evidenciaAplicado aquí
  2. Ingeniería, interoperabilidad y custodia de datosPublicación estructurada en JATS XML · Identificadores persistentes en todo el registroAplicado aquí
  3. Probabilidad y estadísticaMetaanálisis con heterogeneidad declarada · Sesgo de estudios pequeños y de publicaciónAplicado aquí
13Where this page’s references

Where this page’s references lead.

Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.

14Preguntas

Preguntas y respuestas.

¿Por qué se citan preprints si no han sido revisados?
Because in fast-moving fields the evidence appears there first. They are labelled as preprints, and the report records when a cited preprint is later published, revised or withdrawn.
¿Qué es un informe vivo?
Un informe actualizado en versiones a medida que cambia la evidencia, con cada versión fechada, identificada y archivada, y un registro de cambios que muestra lo que se añadió, revisó o eliminó.
What does dual-use review decide?
Si un detalle técnico específico debe generalizarse o retenerse porque podría facilitar un daño grave. Se registran la decisión y su fundamento; el detalle peligroso no.
Does the series endorse technologies or vendors?
No. Describe la evidencia sobre capacidades y riesgos y nunca respalda productos, proveedores ni inversiones.
¿Cómo trata la serie el exceso de expectativas?
Etiquetando las afirmaciones por tipo de fuente, separando la capacidad demostrada de la proyección y declarando la incertidumbre.
Are dual-use risks discussed openly?
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
How quickly are editions updated?
Each edition states a review point. Material changes in evidence lead to a new version rather than silent edits.
serie ReportsContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

GCRIserie ReportsRiesgo y resiliencia de los sistemas globalesRiesgo y Resiliencia de los Sistemas NacionalesTrimestral de país
serie Reports

Aporte un método, un conjunto de datos o una pregunta.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.