GCRI · Reports
Évaluation des risques des technologies de pointe
Les rapports sur les technologies de pointe couvrent des domaines qui évoluent plus vite que le cycle de publication : intelligence artificielle, biologie de synthèse, informatique quantique, matériaux avancés et systèmesspatiaux. Les données probantes arrivent sous forme de prépublications, de bancs d'essai, de brevets et d'annonces d'entreprises, et sont souvent dépassées en quelques mois. Cette page expose comment les données probantes à évolution rapide sont évaluées, versionnées et revues, comment les affirmations sont distinguées des capacités démontrées, et comment les risques informationnels sont traités avant publication.
Frontier technology risk assessment on the record.
Évaluation des risques des technologies de pointe : comment le risque se développe.
Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Les données probantes vieillissent vite
A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.
Prépublications et annonces
Une grande partie des données probantes de pointe n'a pas été examinée : prépublications, billets techniques et allégations de fournisseurs. Répéter ces allégations sans les qualifier transforme la promotion en consensus apparent.
Benchmark fragility
Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.
Dangers informationnels
Certains détails techniques pourraient permettre de nuire s'ils étaient publiés. L'examen préalable à la publication, portant sur le double usage, met en balance l'intérêt de la divulgation et le risque de détournement, et consigne ce qui a été retenu et pourquoi, sans l'exposer.
Bureau de production des séries.
L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.
Bureau de production des séries
Frontier technology risk assessment · Annual synthesis · Edition 3
Éditions en production
| Synthèse annuelle | Mondial | Vérification des données | 83 | W18 |
| Profil de pays 7 | Pays | Évaluation par les pairs | 98 | W38 |
| Perspectives hydriques | Sectoriel | Rédaction | 46 | W13 |
| Note méthodologique 4 | Méthodes | Publié | 100 | terminé |
Contrôle des données, synthèse annuelle
Chaîne de production des éditions
- Planconseil
- Brouillonauteurs
- Vérification des donnéeschaque valeur
- Évaluation par les pairsdeux tours
- Éditorialdécision
- VersionDOI
- Rectificatifsversionné
Les éditions technologiques retracent les effets dans chaque domaine.
Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.
- Status updates with sources.
- Corrections to claims.
How frontier technology risk assessment is modelled, measured and tested.
Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.
Modèle, équations et hypothèses
La structure de modèle utilisée pour l'évaluation des risques liés aux technologies de rupture, les hypothèses qu'elle retient et la manière dont chacune est testée.
Ri = f(Hi, Ei, Vi, Ci)aléa, exposition, vulnérabilité et capacité à faire faceEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Hypothèse | Pourquoi il est réalisé | Comment il est testé |
|---|---|---|
| Aléa et exposition sont indépendants au sein d'un événement | Garde l'intégrale des pertes calculable | Comparer avec un ajustement de copule sur des relevés conjoints |
| Les couplages sont linéaires près du point de fonctionnement | Laisse les chocs se propager à travers A | Perturber au-delà de la plage linéaire et comparer |
| Les courbes de vulnérabilité se transposent d'un lieu à l'autre | Les courbes locales sont rarement disponibles | Valider par rapport aux pertes observées lorsqu'elles existent |
- Entrées
- jeux de données versionnés avec provenance
- Productions
- des distributions, jamais des nombres isolés
- Code
- publié avec la fiche de modèle et les tests
- Reproduction
- mêmes données, code, environnement et graine
Ce qui est mesuré, et avec quelle qualité.
Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.
| Indicateur | Unité | Fréquence | Type de source | Étiquette |
|---|---|---|---|---|
| Part de prépublications dans les données probantes citées | pour cent des références | par version | Métadonnées de référence | OBSERVÉ |
| Âge médian des données probantes citées à la publication | mois | par version | Métadonnées de référence | OBSERVÉ |
| Intervalle entre les versions du rapport | mois | par version | Historique des versions | Statistiques publiées |
| Affirmations classées selon leur statut de démonstration | pourcentage des déclarations de capacités | par version | Audit éditorial | DÉCLARÉ |
| Prépublications citées, publiées ultérieurement après évaluation | percent of cited preprints | trimestriel | Liens entre prépublications et publications | OBSERVÉ |
| Dual-use review completed | oui ou non, avec le rôle du relecteur | par version | Dossier de revue | DÉCLARÉ |
D'où proviennent les données probantes.
Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.
| Sources | Ce qu'elle apporte | Catégorie de licence |
|---|---|---|
| arXiv | Prépublications en informatique, physique, biologie quantitative et domaines connexes | Métadonnées CC0, licence propre à chaque article |
| bioRxiv and medRxiv | Preprints in the life and health sciences with links to later publications | Licence par prépublication |
| OpenAlex | Publication, citation and preprint-to-article links | CC0 |
| WIPO PATENTSCOPE | Demandes de brevets internationales et nationales pour le suivi technologique | Recherche gratuite, conditions selon l'OMPI |
| The Lens | Linked scholarly and patent records | Utilisation libre, conditions selon chaque Lens |
| Observatoire des politiques de l'IA de l'OCDE (OECD.AI) | Politiques, initiatives et indicateurs nationaux en matière d'IA | Utilisation libre, conditions selon l'OCDE |
Qui décide, et à quoi servent les données probantes.
Reports prépare les éléments probants. Les décisions ci-dessous sont prises par les autorités désignées, selon leurs propres règles, et jamais par la plateforme.
| Qui décide | La question | Données probantes servies par cette page |
|---|---|---|
| Ministères de la science, de la technologie et de l'innovation | Quelles technologies requièrent dès maintenant une attention en matière de gouvernance, un investissement ou une surveillance | Registres des déclarations par statut de démonstration, avec des fenêtres de données probantes datées |
| Standards bodies and technical committees | Là où des normes d'essai, de sécurité ou d'interopérabilité sont nécessaires | Documented gaps between claimed and demonstrated capability |
| Bailleurs de la recherche et comités d'examen de sécurité | Si des domaines de recherche présentent des préoccupations de double usage nécessitant une surveillance | Registres d'examen à double usage et catégories d'aléas identifiées |
| Rédacteurs en chef de revues et de séries | Quand un rapport doit être mis à jour ou signalé comme remplacé | Ancienneté des données probantes, changements de statut des prépublications et intervalles entre versions |
Résultats que produit ce thème
- Versioned technology reports with dated evidence windows
- Claim registers separating demonstrated, reported and projected capability
- Living updates that show what changed between versions
- Enregistrements d'examen de double usage indiquant le fondement de tout détail retenu
Les questions posées par la série.
Les technologies à évolution rapide devancent les données probantes et les institutions qui les encadrent. Les affirmations sur leurs capacités et leurs risques vont du prudent au très spéculatif. Les lecteurs ont besoin d'analyses qui distinguent la capacité démontrée de la projection, expliquent les mécanismes par lesquels une technologie pourrait créer ou réduire le risque, et indiquent à quelle vitesse les conclusions peuvent vieillir.
- Que peut démontrablement faire cette technologie aujourd'hui, dans quelles conditions, et qu'est-ce qui relève encore de la projection ?
- Par quels mécanismes pourrait-elle créer de nouveaux risques, tels que le détournement, la défaillance, la concentration ou la perte de contrôle?
- How could it reduce existing risks, and what would need to be true for that benefit to materialise?
- Which governance, safety and security measures are being developed, and what evidence exists on their effect?
Ce que couvre la série.
La série aborde la technologie sous l'angle de la capacité, du risque et de la gouvernance.
Démontré ou revendiqué
Evidence of performance is labelled by source; vendor claims are labelled Institution-reported.
Mechanisms of harm
Accidents, usages abusifs, dépendance systémique et effets sur la sécurité, analysés avec les plateformes spécialisées pertinentes.
Responses
Normes, pratiques de sécurité et options de politique publique, décrites sans cautionner aucun produit.
Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.
Comment les éditions sont construites, et leurs limites.
- 01
Technical literature
Peer-reviewed and preprint research, with preprints labelled as such.
- 02
Benchmarks and tests
Évaluations comparatives et tests publiés, avec leurs limites ; les résultats de Laboratoires ne figurent qu'à l'issue de protocoles achevés.
- 03
Élicitation d'experts
Jugement structuré sur les calendriers et les impacts, étiqueté Jugement d'expert, avec description du panel.
- 04
Shelf life
Chaque édition indique quand ses conclusions doivent être réexaminées, car les faits techniques évoluent rapidement.
Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.
- 01Quantification de l'incertitude et validation des modèlesLangage calibré dans les évaluations · Niveaux de certitude des données probantesAppliqué ici
- 02Ingénierie, interopérabilité et intendance des donnéesPublication structurée en JATS XML · Identifiants pérennes dans l'ensemble du registreAppliqué ici
- 03Probabilités et statistiquesMéta-analyse avec hétérogénéité déclarée · Biais des petites études et de publicationAppliqué ici
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
Pourquoi cite-t-on des prépublications si elles ne sont pas évaluées ?
Qu'est-ce qu'un rapport évolutif ?
Que décide l'examen de double usage ?
Does the series endorse technologies or vendors?
Comment la série traite-t-elle l'effet d'annonce ?
Les risques à double usage sont-ils discutés ouvertement ?
How quickly are editions updated?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GCRIL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RapportsGCRIVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Apportez une méthode, un jeu de données ou une question.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.