Skip to content

GCRI · Reports

Évaluation des risques des technologies de pointe

Les rapports sur les technologies de pointe couvrent des domaines qui évoluent plus vite que le cycle de publication : intelligence artificielle, biologie de synthèse, informatique quantique, matériaux avancés et systèmesspatiaux. Les données probantes arrivent sous forme de prépublications, de bancs d'essai, de brevets et d'annonces d'entreprises, et sont souvent dépassées en quelques mois. Cette page expose comment les données probantes à évolution rapide sont évaluées, versionnées et revues, comment les affirmations sont distinguées des capacités démontrées, et comment les risques informationnels sont traités avant publication.

02La question

Évaluation des risques des technologies de pointe : comment le risque se développe.

Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mécanisme

Les données probantes vieillissent vite

A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.

Mécanisme

Prépublications et annonces

Une grande partie des données probantes de pointe n'a pas été examinée : prépublications, billets techniques et allégations de fournisseurs. Répéter ces allégations sans les qualifier transforme la promotion en consensus apparent.

Mécanisme

Benchmark fragility

Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.

Mécanisme

Dangers informationnels

Certains détails techniques pourraient permettre de nuire s'ils étaient publiés. L'examen préalable à la publication, portant sur le double usage, met en balance l'intérêt de la divulgation et le risque de détournement, et consigne ce qui a été retenu et pourquoi, sans l'exposer.

03Suivi

Bureau de production des séries.

L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.

Bureau de production des séries

Frontier technology risk assessment · Annual synthesis · Edition 3

Data check behind planGCRI · Reports

Éditions en production

Synthèse annuelleMondialVérification des données83W18
Profil de pays 7PaysÉvaluation par les pairs98W38
Perspectives hydriquesSectorielRédaction46W13
Note méthodologique 4MéthodesPublié100terminé

Contrôle des données, synthèse annuelle

Valeurs retracées, %83 of 100 requiredÉtiquettes attribuées, %90 sur 100 requisIncertitude indiquée, %86 sur 100 requis

Chaîne de production des éditions

  1. Planconseil
  2. Brouillonauteurs
  3. Vérification des donnéeschaque valeur
  4. Évaluation par les pairsdeux tours
  5. Éditorialdécision
  6. VersionDOI
  7. Rectificatifsversionné
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
04Dans les cinq domaines

Les éditions technologiques retracent les effets dans chaque domaine.

05Méthodes et preuves

How frontier technology risk assessment is modelled, measured and tested.

Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.

Modèle, équations et hypothèses

La structure de modèle utilisée pour l'évaluation des risques liés aux technologies de rupture, les hypothèses qu'elle retient et la manière dont chacune est testée.

Risque de l'élément iRi = f(Hi, Ei, Vi, Ci)aléa, exposition, vulnérabilité et capacité à faire face
Perte annuelle attendueEAL = ∑k pk · Lkover events k with annual probability pk
Systèmes couplésxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
HypothèsePourquoi il est réaliséComment il est testé
Aléa et exposition sont indépendants au sein d'un événementGarde l'intégrale des pertes calculableComparer avec un ajustement de copule sur des relevés conjoints
Les couplages sont linéaires près du point de fonctionnementLaisse les chocs se propager à travers APerturber au-delà de la plage linéaire et comparer
Les courbes de vulnérabilité se transposent d'un lieu à l'autreLes courbes locales sont rarement disponiblesValider par rapport aux pertes observées lorsqu'elles existent
Entrées
jeux de données versionnés avec provenance
Productions
des distributions, jamais des nombres isolés
Code
publié avec la fiche de modèle et les tests
Reproduction
mêmes données, code, environnement et graine
Formulations standard du risque et de l'espace d'états ; les hypothèses énumérées sont typiques de la méthode, énoncées pour examen, et non des résultats.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indicateurs

Ce qui est mesuré, et avec quelle qualité.

Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.

IndicateurUnitéFréquenceType de sourceÉtiquette
Part de prépublications dans les données probantes citéespour cent des référencespar versionMétadonnées de référenceOBSERVÉ
Âge médian des données probantes citées à la publicationmoispar versionMétadonnées de référenceOBSERVÉ
Intervalle entre les versions du rapportmoispar versionHistorique des versionsStatistiques publiées
Affirmations classées selon leur statut de démonstrationpourcentage des déclarations de capacitéspar versionAudit éditorialDÉCLARÉ
Prépublications citées, publiées ultérieurement après évaluationpercent of cited preprintstrimestrielLiens entre prépublications et publicationsOBSERVÉ
Dual-use review completedoui ou non, avec le rôle du relecteurpar versionDossier de revueDÉCLARÉ
07Sources

D'où proviennent les données probantes.

Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.

SourcesCe qu'elle apporteCatégorie de licence
arXivPrépublications en informatique, physique, biologie quantitative et domaines connexesMétadonnées CC0, licence propre à chaque article
bioRxiv and medRxivPreprints in the life and health sciences with links to later publicationsLicence par prépublication
OpenAlexPublication, citation and preprint-to-article linksCC0
WIPO PATENTSCOPEDemandes de brevets internationales et nationales pour le suivi technologiqueRecherche gratuite, conditions selon l'OMPI
The LensLinked scholarly and patent recordsUtilisation libre, conditions selon chaque Lens
Observatoire des politiques de l'IA de l'OCDE (OECD.AI)Politiques, initiatives et indicateurs nationaux en matière d'IAUtilisation libre, conditions selon l'OCDE
08Décisions

Qui décide, et à quoi servent les données probantes.

Reports prépare les éléments probants. Les décisions ci-dessous sont prises par les autorités désignées, selon leurs propres règles, et jamais par la plateforme.

Qui décideLa questionDonnées probantes servies par cette page
Ministères de la science, de la technologie et de l'innovationQuelles technologies requièrent dès maintenant une attention en matière de gouvernance, un investissement ou une surveillanceRegistres des déclarations par statut de démonstration, avec des fenêtres de données probantes datées
Standards bodies and technical committeesLà où des normes d'essai, de sécurité ou d'interopérabilité sont nécessairesDocumented gaps between claimed and demonstrated capability
Bailleurs de la recherche et comités d'examen de sécuritéSi des domaines de recherche présentent des préoccupations de double usage nécessitant une surveillanceRegistres d'examen à double usage et catégories d'aléas identifiées
Rédacteurs en chef de revues et de sériesQuand un rapport doit être mis à jour ou signalé comme remplacéAncienneté des données probantes, changements de statut des prépublications et intervalles entre versions

Résultats que produit ce thème

  • Versioned technology reports with dated evidence windows
  • Claim registers separating demonstrated, reported and projected capability
  • Living updates that show what changed between versions
  • Enregistrements d'examen de double usage indiquant le fondement de tout détail retenu
09Questions essentielles

Les questions posées par la série.

Les technologies à évolution rapide devancent les données probantes et les institutions qui les encadrent. Les affirmations sur leurs capacités et leurs risques vont du prudent au très spéculatif. Les lecteurs ont besoin d'analyses qui distinguent la capacité démontrée de la projection, expliquent les mécanismes par lesquels une technologie pourrait créer ou réduire le risque, et indiquent à quelle vitesse les conclusions peuvent vieillir.

  • Que peut démontrablement faire cette technologie aujourd'hui, dans quelles conditions, et qu'est-ce qui relève encore de la projection ?
  • Par quels mécanismes pourrait-elle créer de nouveaux risques, tels que le détournement, la défaillance, la concentration ou la perte de contrôle?
  • How could it reduce existing risks, and what would need to be true for that benefit to materialise?
  • Which governance, safety and security measures are being developed, and what evidence exists on their effect?
10Périmètre

Ce que couvre la série.

La série aborde la technologie sous l'angle de la capacité, du risque et de la gouvernance.

Capacités

Démontré ou revendiqué

Evidence of performance is labelled by source; vendor claims are labelled Institution-reported.

Risque

Mechanisms of harm

Accidents, usages abusifs, dépendance systémique et effets sur la sécurité, analysés avec les plateformes spécialisées pertinentes.

Gouvernance

Responses

Normes, pratiques de sécurité et options de politique publique, décrites sans cautionner aucun produit.

Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.

11Comment les éditions sont construites

Comment les éditions sont construites, et leurs limites.

  1. 01

    Technical literature

    Peer-reviewed and preprint research, with preprints labelled as such.

  2. 02

    Benchmarks and tests

    Évaluations comparatives et tests publiés, avec leurs limites ; les résultats de Laboratoires ne figurent qu'à l'issue de protocoles achevés.

  3. 03

    Élicitation d'experts

    Jugement structuré sur les calendriers et les impacts, étiqueté Jugement d'expert, avec description du panel.

  4. 04

    Shelf life

    Chaque édition indique quand ses conclusions doivent être réexaminées, car les faits techniques évoluent rapidement.

12Méthodes

Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.

  1. Quantification de l'incertitude et validation des modèlesLangage calibré dans les évaluations · Niveaux de certitude des données probantesAppliqué ici
  2. Ingénierie, interopérabilité et intendance des donnéesPublication structurée en JATS XML · Identifiants pérennes dans l'ensemble du registreAppliqué ici
  3. Probabilités et statistiquesMéta-analyse avec hétérogénéité déclarée · Biais des petites études et de publicationAppliqué ici
13Where this page’s references

Where this page’s references lead.

Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.

14Questions

Questions et réponses.

Pourquoi cite-t-on des prépublications si elles ne sont pas évaluées ?
Because in fast-moving fields the evidence appears there first. They are labelled as preprints, and the report records when a cited preprint is later published, revised or withdrawn.
Qu'est-ce qu'un rapport évolutif ?
Un rapport mis à jour par versions à mesure que les données probantes évoluent, chaque version étant datée, identifiée et archivée, avec un journal des modifications indiquant ce qui a été ajouté, révisé ou supprimé.
Que décide l'examen de double usage ?
Déterminer si un détail technique précis doit être généralisé ou retenu parce qu'il pourrait permettre de causer un préjudice grave. La décision et son fondement sont consignés ; le détail dangereux ne l'est pas.
Does the series endorse technologies or vendors?
Non. Il décrit des données probantes sur les capacités et les risques et ne cautionne jamais de produits, de fournisseurs ni d'investissements.
Comment la série traite-t-elle l'effet d'annonce ?
En qualifiant les affirmations selon le type de source, en distinguant la capacité démontrée de la projection et en énonçant l'incertitude.
Les risques à double usage sont-ils discutés ouvertement ?
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
How quickly are editions updated?
Chaque édition indique une échéance de révision. Les changements importants dans les données probantes donnent lieu à une nouvelle version plutôt qu'à des modifications silencieuses.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

GCRIRapportsRisque et résilience des systèmes mondiauxRisques et résilience des systèmes nationauxTrimestriel pays
Rapports

Apportez une méthode, un jeu de données ou une question.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.