GCRI · Reports
Evaluación de riesgos de las tecnologías de frontera
Frontier technology reports cover fields that change faster than the publication cycle: artificial intelligence, synthetic biology, quantum computing, advanced materials and space systems. Evidence arrives as preprints, benchmarks, patents and company announcements, and is often superseded within months. This page sets out how fast-moving evidence is assessed, versioned and reviewed, how claims are separated from demonstrated capability, and how information hazards are handled before publication.
Evaluación documentada del riesgo de las tecnologías de frontera.
Evaluación del riesgo de las tecnologías de frontera: cómo se desarrolla el riesgo.
Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Evidence ages quickly
Una evaluación de capacidades puede estar desactualizada cuando se revisa. Sin ventanas de evidencia fechadas y actualizaciones versionadas, los lectores pueden actuar sobre una imagen de una tecnología que ya no es válida.
Preprints y anuncios
Gran parte de la evidencia de frontera no ha sido revisada: preprints, blogs técnicos y afirmaciones de proveedores. Repetir tales afirmaciones sin etiquetarlas convierte la promoción en un consenso aparente.
Fragilidad de los puntos de referencia
Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.
Peligros informativos
Algunos detalles técnicos podrían facilitar un daño si se publicaran. La revisión de doble uso previa a la publicación sopesa el valor de la divulgación frente al uso indebido, y registra qué se retuvo y por qué sin exponerlo.
Mesa de producción de la serie.
La pantalla que utilizaría un equipo para seguir esta materia: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Mesa de producción de series
Frontier technology risk assessment · Annual synthesis · Edition 3
Ediciones en producción
| Síntesis anual | Mundial | Verificación de datos | 83 | W18 |
| Perfil de país 7 | País | Revisión por pares | 98 | W38 |
| Perspectivas hídricas | Sectorial | En redacción | 46 | W13 |
| Nota metodológica 4 | Métodos | Publicado | 100 | hecho |
Verificación de datos, síntesis anual
Canal de producción de la edición
- Esquemaórgano
- Borradorautores
- Verificación de datoscada valor
- Revisión por paresdos rondas
- Editorialdecision
- VersiónDOI
- Correccionesversionado
Las ediciones tecnológicas rastrean los efectos en cada dominio.
Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.
- Status updates with sources.
- Correcciones de afirmaciones.
How frontier technology risk assessment is modelled, measured and tested.
El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.
Modelo, ecuaciones y supuestos
La estructura del modelo utilizada para la evaluación del riesgo de las tecnologías de frontera, los supuestos que adopta y cómo se prueba cada uno.
Ri = f(Hi, Ei, Vi, Ci)amenaza, exposición, vulnerabilidad y capacidad de afrontamientoEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Supuesto | Por qué se hace | Cómo se prueba |
|---|---|---|
| La amenaza y la exposición son independientes dentro de un evento | Mantiene manejable la integral de pérdidas | Comparar con un ajuste de cópula sobre registros conjuntos |
| Los acoplamientos son lineales cerca del punto de operación | Permite que las perturbaciones se propaguen a través de A | Perturbar más allá del rango lineal y comparar |
| Las curvas de vulnerabilidad se transfieren entre lugares | Las curvas locales rara vez están disponibles | Validar frente a las pérdidas observadas cuando existan |
- Entradas
- conjuntos de datos versionados con procedencia
- Resultados
- distribuciones, nunca cifras únicas
- Código
- publicado con la ficha de modelo y las pruebas
- Reproducción
- mismos datos, código, entorno y semilla
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Proporción de preprints en la evidencia citada | porcentaje de referencias | por versión | Metadatos de referencia | OBSERVADO |
| Antigüedad mediana de la evidencia citada en el momento de la publicación | meses | por versión | Metadatos de referencia | OBSERVADO |
| Intervalo entre versiones del informe | meses | por versión | Historial de versiones | Estadísticas publicadas |
| Afirmaciones etiquetadas según su estado de demostración | porcentaje de declaraciones de capacidad | por versión | Auditoría editorial | NOTIFICADO |
| Preprints citados publicados posteriormente tras su revisión | percent of cited preprints | trimestral | Preprint to publication links | OBSERVADO |
| Dual-use review completed | sí o no, con el rol del revisor | por versión | Registro de revisión | DECLARADO |
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| arXiv | Preprints en informática, física, biología cuantitativa y campos afines | Metadatos CC0, licencia según cada artículo |
| bioRxiv and medRxiv | Preprints in the life and health sciences with links to later publications | Licencia por preprint |
| OpenAlex | Publication, citation and preprint-to-article links | CC0 |
| WIPO PATENTSCOPE | International and national patent applications for technology tracking | Búsqueda gratuita, condiciones según la OMPI |
| The Lens | Linked scholarly and patent records | Free to use, terms per Lens |
| Observatorio de Políticas de IA de la OCDE (OECD.AI) | Políticas, iniciativas e indicadores nacionales de IA | De uso libre, condiciones según la OCDE |
Quién decide y a qué sirve la evidencia.
Reports prepara evidencia. Las decisiones que figuran a continuación las toman las autoridades indicadas, con arreglo a sus propias normas, y nunca la plataforma.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Ministerios de ciencia, tecnología e innovación | Qué tecnologías requieren ahora atención de gobernanza, inversión o seguimiento | Registros de afirmaciones por estado de demostración, con ventanas de evidencia fechadas |
| Standards bodies and technical committees | Dónde se necesitan normas de ensayo, seguridad o interoperabilidad | Brechas documentadas entre la capacidad declarada y la demostrada |
| Research funders and security review panels | Whether research areas carry dual-use concerns that need oversight | Registros de revisión de doble uso y las categorías de amenaza identificadas |
| Journal and series editors | Cuándo debe actualizarse un informe o marcarse como sustituido | Evidence age, preprint status changes and version intervals |
Productos que genera este tema
- Informes tecnológicos versionados con ventanas de evidencia fechadas
- Claim registers separating demonstrated, reported and projected capability
- Living updates that show what changed between versions
- Registros de revisión de doble uso que indican el fundamento de cualquier detalle omitido
Qué se pregunta la serie.
Las tecnologías de rápido avance superan a la evidencia y a las instituciones que las rigen. Las afirmaciones sobre sus capacidades y riesgos van desde lo prudente hasta lo desmesuradamente especulativo. Los lectores necesitan un análisis que distinga la capacidad demostrada de la proyección, explique los mecanismos por los que una tecnología podría crear o reducir riesgo e indique con qué rapidez pueden quedar obsoletas las conclusiones.
- ¿Qué puede hacer hoy la tecnología de forma demostrable, en qué condiciones y qué sigue siendo proyección?
- Through which mechanisms could it create new risks, such as misuse, failure, concentration or loss of control?
- ¿Cómo podría reducir los riesgos existentes y qué tendría que cumplirse para que ese beneficio se materialice?
- ¿Qué medidas de gobernanza, seguridad y protección se están desarrollando, y qué evidencia existe sobre su efecto?
Qué abarca la serie.
La serie examina la tecnología a través de la capacidad, el riesgo y la gobernanza.
Demostrado frente a declarado
La evidencia de desempeño se etiqueta según la fuente; las afirmaciones de los proveedores se etiquetan como Institution-reported.
Mechanisms of harm
Accidentes, usos indebidos, dependencia sistémica y efectos sobre la seguridad, analizados con las plataformas especializadas pertinentes.
Respuestas
Normas, prácticas de seguridad y opciones de política, descritas sin respaldar ningún producto.
Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.
Cómo se elaboran las ediciones y cuáles son sus límites.
- 01
Technical literature
Peer-reviewed and preprint research, with preprints labelled as such.
- 02
Benchmarks and tests
Parámetros de referencia y pruebas publicados, con sus límites; los resultados de Laboratorios aparecen solo a partir de protocolos completados.
- 03
Elicitación de expertos
Juicio estructurado sobre plazos e impactos, etiquetado como juicio experto y con una descripción de su panel.
- 04
Shelf life
Cada edición indica cuándo deben revisarse sus conclusiones, porque los hechos técnicos cambian con rapidez.
Cómo se estudia y lo que los métodos no pueden decir.
- 01Cuantificación de la incertidumbre y validación de modelosLenguaje calibrado en las evaluaciones · Calificaciones de la certeza de la evidenciaAplicado aquí
- 02Ingeniería, interoperabilidad y custodia de datosPublicación estructurada en JATS XML · Identificadores persistentes en todo el registroAplicado aquí
- 03Probabilidad y estadísticaMetaanálisis con heterogeneidad declarada · Sesgo de estudios pequeños y de publicaciónAplicado aquí
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Preguntas y respuestas.
¿Por qué se citan preprints si no han sido revisados?
¿Qué es un informe vivo?
What does dual-use review decide?
Does the series endorse technologies or vendors?
¿Cómo trata la serie el exceso de expectativas?
Are dual-use risks discussed openly?
How quickly are editions updated?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.