Skip to content

GCRI · Reports

Valutazione dei rischi delle tecnologie di frontiera

Frontier technology reports cover fields that change faster than the publication cycle: artificial intelligence, synthetic biology, quantum computing, advanced materials and space systems. Evidence arrives as preprints, benchmarks, patents and company announcements, and is often superseded within months. This page sets out how fast-moving evidence is assessed, versioned and reviewed, how claims are separated from demonstrated capability, and how information hazards are handled before publication.

01Registrare

Frontier technology risk assessment on the record.

02La domanda

Valutazione del rischio delle tecnologie di frontiera: come si sviluppa il rischio.

Tecnologie a sviluppo esponenziale. Il dossier qui sotto illustra come si sviluppa il rischio, che cosa viene misurato, da dove provengono i dati, come vengono modellati e chi decide.

Meccanismo

Evidence ages quickly

A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.

Meccanismo

Preprint e annunci

Molte evidenze di frontiera non sono sottoposte a revisione: preprint, blog tecnici e dichiarazioni dei fornitori. Ripetere tali affermazioni senza segnalarlo trasforma la promozione in apparente consenso.

Meccanismo

Fragilità dei benchmark

Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.

Meccanismo

Pericoli informativi

Alcuni dettagli tecnici potrebbero consentire danni se pubblicati. La revisione preliminare alla pubblicazione sul duplice uso valuta il valore della divulgazione rispetto all'uso improprio e registra ciò che è stato trattenuto e perché, senza esporlo.

03Monitoraggio

Redazione di produzione delle serie.

La schermata che un gruppo utilizzerebbe per seguire questo tema: misure, stati e decisioni. I nomi sono esempi e i valori sono illustrativi.

Ufficio di produzione delle serie

Frontier technology risk assessment · Annual synthesis · Edition 3

Verifica dei dati alla base del pianoGCRI · Rapporti

Edizioni in produzione

Sintesi annualeGlobaleControllo dei dati83W18
Profilo paese 7PaeseRevisione tra pari98W38
Prospettive idricheSettorialeRedazione46W13
Nota metodologica 4MetodiRilasciato100completato

Verifica dei dati, sintesi annuale

Valori tracciati, %83 of 100 requiredEtichette associate, %90 su 100 richiestiIncertezza dichiarata, %86 su 100 richiesti

Flusso di lavoro dell'edizione

  1. Schemaconsiglio
  2. Bozzaautori
  3. Controllo dei datiogni valore
  4. Revisione tra paridue cicli
  5. Editorialedecisione
  6. RilascioDOI
  7. Correzionicon versioni
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
04Nei cinque domini

Le edizioni tecnologiche tracciano gli effetti in ciascun dominio.

Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.

  • Aggiornamenti di stato con le fonti.
  • Corrections to claims.
05Metodi ed evidenze

How frontier technology risk assessment is modelled, measured and tested.

Il modello, le sue ipotesi, i suoi dati e la sua incertezza, nella forma in cui uno scienziato o un ingegnere li verificherebbe. Le strutture seguono metodi pubblicati. I valori rappresentati sono illustrativi, non risultati.

Modello, equazioni e ipotesi

La struttura del modello usata per la valutazione del rischio delle tecnologie di frontiera, le ipotesi che formula e il modo in cui ciascuna è verificata.

Rischio dell'elemento iRi = f(Hi, Ei, Vi, Ci)pericolo, esposizione, vulnerabilità e capacità di risposta
Perdita annua attesaEAL = ∑k pk · Lkover events k with annual probability pk
Sistemi accoppiatixt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
IpotesiPerché è realizzatoCome viene testato
Pericolo ed esposizione sono indipendenti all'interno di un eventoMantiene trattabile l'integrale delle perditeConfrontare con un adattamento di copula su registrazioni congiunte
Gli accoppiamenti sono lineari vicino al punto di funzionamentoConsente agli shock di propagarsi attraverso APerturbare oltre l'intervallo lineare e confrontare
Le curve di vulnerabilità si trasferiscono da un luogo all'altroLe curve locali sono raramente disponibiliValidare rispetto alle perdite osservate, dove esistono
Input
set di dati versionati con provenienza
Risultati
distribuzioni, mai valori singoli
Codice
pubblicato con la scheda del modello e i test
Riproduzione
stessi dati, codice, ambiente e seed
Formulazioni standard del rischio e dello spazio degli stati; le ipotesi elencate sono tipiche del metodo, dichiarate per la revisione, non risultati.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indicatori

Cosa viene misurato e con quale accuratezza.

Ogni indicatore riporta la sua unità, la sua cadenza, il tipo di fonte su cui si basa e l'etichetta di evidenza che un valore riporterebbe. Non sono mostrati valori: un programma li fornisce sotto la propria autorità.

IndicatoreUnitàCadenzaTipo di fonteEtichetta
Preprint share of cited evidencepercentuale dei riferimentiper versioneMetadati di riferimentoOSSERVATO
Età mediana delle evidenze citate al momento della pubblicazionemesiper versioneMetadati di riferimentoOSSERVATO
Intervallo tra le versioni del rapportomesiper versioneCronologia delle versioniStatistiche pubblicate
Affermazioni etichettate in base allo stato di dimostrazionepercentuale delle dichiarazioni di capacitàper versioneVerifica editorialeRIPORTATO
Preprint citati poi pubblicati dopo la revisionepercentuale di preprint citatitrimestralePreprint to publication linksOSSERVATO
Dual-use review completedsì o no, con il ruolo del revisoreper versioneRegistro della revisioneDICHIARATO
07Fonti

Da dove provengono le evidenze.

Set di dati pubblici e registri istituzionali specifici, ciascuno con la sua classe di licenza. Le fonti soggette ad accordo sono utilizzate solo alle relative condizioni e mai ripubblicate.

FonteCosa fornisceClasse di licenza
arXivPreprint di informatica, fisica, biologia quantitativa e settori affiniMetadati CC0, licenza per ciascun articolo
bioRxiv e medRxivPreprint nelle scienze della vita e della salute con collegamenti alle pubblicazioni successiveLicenza per ciascun preprint
OpenAlexCollegamenti tra pubblicazione, citazione e dal preprint all'articoloCC0
WIPO PATENTSCOPEInternational and national patent applications for technology trackingRicerca gratuita, condizioni secondo l'OMPI
The LensRegistri scientifici e brevettuali collegatiUso libero, termini per ciascun Lens
Osservatorio OECD.AI sulle politichePolitiche, iniziative e indicatori nazionali sull'IAUso libero, condizioni secondo l'OCSE
08Decisioni

Chi decide, e a cosa servono le evidenze.

Reports prepara le evidenze. Le decisioni seguenti sono adottate dalle autorità indicate, secondo le proprie regole, e mai dalla piattaforma.

Chi decideLa domandaEvidenze fornite da questa pagina
Ministeri della scienza, della tecnologia e dell'innovazioneQuali tecnologie richiedono ora attenzione di governance, investimenti o monitoraggioRegistri delle affermazioni per stato di dimostrazione, con finestre di evidenze datate
Standards bodies and technical committeesDove servono standard per collaudo, sicurezza o interoperabilitàDivari documentati tra capacità dichiarata e capacità dimostrata
Research funders and security review panelsWhether research areas carry dual-use concerns that need oversightDual-use review records and the categories of hazard identified
Redattori di riviste e collaneWhen a report must be updated or marked as supersededEvidence age, preprint status changes and version intervals

Output prodotti da questo argomento

  • Rapporti tecnologici versionati con finestre di evidenze datate
  • Claim registers separating demonstrated, reported and projected capability
  • Living updates that show what changed between versions
  • Registrazioni della revisione sul duplice uso che indicano il fondamento di ogni dettaglio non divulgato
09Questioni centrali

Che cosa si chiede la serie.

Le tecnologie in rapida evoluzione superano le evidenze e le istituzioni che le governano. Le affermazioni sulle loro capacità e sui loro rischi vanno dal prudente allo smisuratamente speculativo. I lettori hanno bisogno di analisi che distinguano la capacità dimostrata dalla proiezione, spieghino i meccanismi con cui una tecnologia potrebbe creare o ridurre il rischio e indichino con quale rapidità le conclusioni possono invecchiare.

  • Che cosa può dimostrare oggi la tecnologia, a quali condizioni, e che cosa resta ancora una proiezione?
  • Attraverso quali meccanismi potrebbe creare nuovi rischi, come uso improprio, malfunzionamento, concentrazione o perdita di controllo?
  • How could it reduce existing risks, and what would need to be true for that benefit to materialise?
  • Quali misure di governance, sicurezza e protezione sono in fase di sviluppo, e quali evidenze esistono sul loro effetto?
10Ambito

Che cosa copre la serie.

La serie legge la tecnologia attraverso capacità, rischio e governance.

Capacità

Dimostrato e dichiarato

Evidence of performance is labelled by source; vendor claims are labelled Institution-reported.

Rischio

Meccanismi del danno

Incidenti, uso improprio, dipendenza sistemica ed effetti sulla sicurezza, analizzati con le piattaforme specialistiche pertinenti.

Governance

Risposte

Standard, pratiche di sicurezza e opzioni di policy, descritti senza promuovere alcun prodotto.

L'analisi tecnologica è più utile quando segue i meccanismi anziché i titoli dei giornali. Una tecnologia di uso generale modifica il rischio attraverso i sistemi che la adottano: un modello di IA integrato nella gestione della rete elettrica, un computer quantistico in grado di violare la crittografia a chiave pubblica di uso diffuso, uno strumento biotecnologico che abbassa la barriera per lavorare con i patogeni. Ogni edizione abbina quindi la tecnologia alle piattaforme specialistiche che studiano i sistemi interessati e indica le condizioni in cui le sue conclusioni cambierebbero.

11Come vengono costruite le edizioni

Come sono costruite le edizioni e quali sono i loro limiti.

  1. 01

    Letteratura tecnica

    Peer-reviewed and preprint research, with preprints labelled as such.

  2. 02

    Benchmarks and tests

    Benchmark e test pubblicati, con i loro limiti; i risultati di Laboratori compaiono solo da protocolli completati.

  3. 03

    Raccolta di giudizi di esperti

    Giudizio strutturato su tempistiche e impatti, indicato come giudizio di esperti con la descrizione del relativo panel.

  4. 04

    Durata di validità

    Ogni edizione indica quando le sue conclusioni devono essere riesaminate, perché i fatti tecnici cambiano rapidamente.

12Metodi

Come viene studiato, e cosa i metodi non possono dire.

  1. Quantificazione dell'incertezza e validazione dei modelliLinguaggio calibrato nelle valutazioni · Valutazioni della certezza delle evidenzeApplicato qui
  2. Ingegneria, interoperabilità e gestione responsabile dei datiPubblicazione strutturata in JATS XML · Identificatori persistenti in tutto il registroApplicato qui
  3. Probabilità e statisticaMeta-analisi con eterogeneità dichiarata · Distorsione da studi piccoli e da pubblicazioneApplicato qui
13Where this page’s references

Where this page’s references lead.

Gli organismi e i documenti alla luce dei quali si legge questa pagina. Stato ed edizioni cambiano; ogni link porta all'organismo emittente.

14Domande

Domande e risposte.

Perché si citano i preprint se non sono sottoposti a revisione?
Perché nei campi in rapida evoluzione le evidenze compaiono prima lì. Sono indicati come preprint, e il rapporto registra quando un preprint citato viene poi pubblicato, rivisto o ritirato.
Che cos'è un report vivente?
Un rapporto aggiornato per versioni al mutare delle evidenze, con ciascuna versione datata, identificata e archiviata, e un registro delle modifiche che mostra che cosa è stato aggiunto, rivisto o rimosso.
Che cosa decide la revisione del duplice uso?
Se un dettaglio tecnico specifico debba essere generalizzato o omesso perché potrebbe consentire danni gravi. Si registrano la decisione e la sua motivazione; il dettaglio pericoloso no.
Does the series endorse technologies or vendors?
No. Descrive le evidenze su capacità e rischi e non avalla mai prodotti, fornitori o investimenti.
Come tratta la serie il clamore mediatico?
Etichettando le affermazioni per tipo di fonte, distinguendo la capacità dimostrata dalla proiezione e dichiarando l'incertezza.
I rischi a duplice uso sono discussi apertamente?
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
Con quale rapidità vengono aggiornate le edizioni?
Each edition states a review point. Material changes in evidence lead to a new version rather than silent edits.
RapportiContribuisci

Contribuisci con evidenze da questa pagina.

Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.

GCRIRapportiRischio e resilienza dei sistemi globaliRischio e resilienza dei sistemi nazionaliTrimestrale paese
Rapporti

Porta un metodo, un set di dati o una domanda.

Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.