Skip to content

GCRI · Reports

Risikobewertung von Spitzentechnologien

Berichte zu Spitzentechnologien behandeln Felder, die sich schneller verändern als der Publikationszyklus: künstliche Intelligenz, synthetische Biologie, Quantencomputing, fortgeschrittene Werkstoffe und Raumfahrt- Systeme. Evidenz liegt als Preprints, Benchmarks, Patente und Unternehmensankündigungen vor und wird oft innerhalb weniger Monate überholt. Diese Seite legt dar, wie schnelllebige Evidenz bewertet, versioniert und geprüft wird, wie Behauptungen von nachgewiesener Leistungsfähigkeit getrennt werden und wie Informationsgefahren vor der Veröffentlichung behandelt werden.

01Registrieren

Frontier technology risk assessment on the record.

02Die Frage

Risikobewertung von Frontier-Technologien: wie sich das Risiko entwickelt.

Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mechanismus

Evidenz veraltet schnell

Eine Fähigkeitsbewertung kann veraltet sein, wenn sie geprüft wird. Ohne datierte Evidenzfenster und versionierte Aktualisierungen können Lesende auf ein Bild einer Technologie reagieren, das nicht mehr zutrifft.

Mechanismus

Preprints und Ankündigungen

Ein großer Teil der Evidenz an der Forschungsfront ist nicht begutachtet: Preprints, technische Blogs und Herstelleraussagen. Werden solche Aussagen ohne Kennzeichnung wiederholt, wird aus Werbung ein scheinbarer Konsens.

Mechanismus

Benchmark fragility

Benchmarks sättigen sich, gelangen in Trainingsdaten oder messen enge Fähigkeiten. Berichte , die Benchmark-Werte mit realer Leistungsfähigkeit gleichsetzen, überschätzen die Einsatzreife und unterschätzen Fehlermodi.

Mechanismus

Informationsgefahren

Manche technischen Einzelheiten könnten bei einer Veröffentlichung Schaden ermöglichen. Die Dual-Use-Prüfung vor der Veröffentlichung wägt den Nutzen der Offenlegung gegen den Missbrauch ab und dokumentiert, was zurückgehalten wurde und warum, ohne es preiszugeben.

03Monitoring

Redaktion für Serienproduktion.

Die Ansicht, die ein Team nutzen würde, um dieses Thema zu verfolgen: seine Messgrößen, Zustände und Entscheidungen. Namen sind Beispiele, Werte sind illustrativ.

Serienproduktionsstelle

Frontier technology risk assessment · Annual synthesis · Edition 3

Data check behind planGCRI · Reports

Ausgaben in Produktion

JahressyntheseGlobalDatenprüfung83W18
Länderprofil 7LandBegutachtung durch Fachkollegen98W38
WasserausblickSektoralIn Ausarbeitung46W13
Methodenhinweis 4MethodenFreigegeben100erledigt

Datenprüfung, jährliche Synthese

Rückverfolgte Werte, %83 of 100 requiredZugewiesene Kennzeichnungen, %90 von 100 erforderlichAngegebene Unsicherheit, %86 von 100 erforderlich

Ausgaben-Pipeline

  1. GliederungGremium
  2. EntwurfAutoren
  3. Datenprüfungjeder Wert
  4. Begutachtung durch Fachkollegenzwei Runden
  5. RedaktionBeschluss
  6. VeröffentlichungDOI
  7. Korrekturenversioniert
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
04In den fünf Domänen

Technologieausgaben verfolgen die Auswirkungen in jeder Domäne.

05Methoden und Evidenz

Wie die Risikobewertung von Spitzentechnologien modelliert, gemessen und getestet wird.

Das Modell, seine Annahmen, seine Daten und seine Unsicherheit in der Form, in der eine Wissenschaftlerin oder ein Ingenieur sie prüfen würde. Die Strukturen folgen veröffentlichten Methoden. Die dargestellten Werte sind illustrativ, keine Befunde.

Modell, Gleichungen und Annahmen

Die Modellstruktur für die Risikobewertung von Spitzentechnologien, die zugrunde liegenden Annahmen und wie jede davon getestet wird.

Risiko des Elements iRi = f(Hi, Ei, Vi, Ci)Gefahr, Exposition, Verwundbarkeit und Bewältigungskapazität
Erwarteter jährlicher SchadenEAL = ∑k pk · Lkover events k with annual probability pk
Gekoppelte Systemext+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
AnnahmeWarum es entstehtWie es geprüft wird
Gefahr und Exposition sind innerhalb eines Ereignisses unabhängigHält das Schadensintegral berechenbarMit einer Copula-Anpassung an gemeinsamen Aufzeichnungen vergleichen
Kopplungen sind nahe dem Arbeitspunkt linearLässt Schocks sich über A ausbreitenÜber den linearen Bereich hinaus stören und vergleichen
Vulnerabilitätskurven lassen sich zwischen Orten übertragenLokale Kurven sind selten verfügbarAnhand beobachteter Schäden validieren, wo es sie gibt
Eingaben
versionierte Datensätze mit Herkunftsnachweis
Ergebnisse
Verteilungen, nie einzelne Zahlen
Code
mit Modellkarte und Tests veröffentlicht
Reproduktion
gleiche Daten, Code, Umgebung und Seed
Standardformulierungen für Risiko und Zustandsraum; die aufgeführten Annahmen sind für die Methode typisch und zur Prüfung benannt, keine Ergebnisse.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indikatoren

Was gemessen wird und wie gut.

Jeder Indikator trägt seine Einheit, seinen Rhythmus, die Art der zugrunde liegenden Quelle und die Evidenzkennzeichnung, die ein Wert tragen würde. Es werden keine Werte gezeigt: Ein Programm liefert sie unter seiner eigenen Autorität.

IndikatorEinheitTaktQuellentypKennzeichnung
Anteil von Preprints an der zitierten EvidenzProzent der Referenzenpro VersionReferenzmetadatenBEOBACHTET
Medianes Alter der zitierten Evidenz zum Zeitpunkt der VeröffentlichungMonatepro VersionReferenzmetadatenBEOBACHTET
Intervall zwischen BerichtsversionenMonatepro VersionVersionsverlaufVeröffentlichte Statistiken
Aussagen, gekennzeichnet nach DemonstrationsstatusProzent der Kapazitätserklärungenpro VersionRedaktionelle PrüfungBERICHTET
Zitierte Preprints, die nach der Begutachtung später veröffentlicht wurdenProzent der zitierten PreprintsvierteljährlichVerknüpfungen von Preprint und PublikationBEOBACHTET
Dual-Use-Prüfung abgeschlossenja oder nein, mit Rolle der prüfenden Personpro VersionPrüfprotokollDEKLARIERT
07Quellen

Woher die Evidenz stammt.

Benannte öffentliche Datensätze und institutionelle Aufzeichnungen, jeweils mit ihrer Lizenzklasse. Quellen auf Vereinbarungsbasis werden nur zu ihren Bedingungen genutzt und niemals weiterveröffentlicht.

QuelleWas es liefertLizenzklasse
arXivPreprints in computer science, physics, quantitative biology and related fieldsMetadaten unter CC0, Lizenz je Beitrag
bioRxiv und medRxivPreprints in den Lebens- und Gesundheitswissenschaften mit Verweisen auf spätere VeröffentlichungenLizenz je Preprint
OpenAlexVerknüpfungen zwischen Veröffentlichung, Zitation und Preprint-zu-ArtikelCC0
WIPO PATENTSCOPEInternationale und nationale Patentanmeldungen zur TechnologiebeobachtungKostenlos durchsuchbar, Bedingungen gemäß WIPO
The LensVerknüpfte wissenschaftliche und PatentdatensätzeKostenlos nutzbar, Bedingungen je nach Lens
OECD.AI Policy ObservatoryNationale KI-Politiken, Initiativen und IndikatorenFrei nutzbar, Bedingungen gemäß OECD
08Entscheidungen

Wer entscheidet und wozu die Evidenz dient.

Reports bereitet Evidenz auf. Die nachstehenden Entscheidungen werden von den genannten Behörden nach ihren eigenen Regeln getroffen und niemals von der Plattform.

Wer entscheidetDie FrageEvidenz, der diese Seite dient
Ministerien für Wissenschaft, Technologie und InnovationWelche Technologien jetzt Aufmerksamkeit in der Steuerung, Investitionen oder Beobachtung erfordernAnspruchsregister nach Nachweisstatus, mit datierten Evidenzfenstern
Standards bodies and technical committeesWo Standards für Prüfung, Sicherheit oder Interoperabilität benötigt werdenDocumented gaps between claimed and demonstrated capability
Forschungsförderer und Gremien zur SicherheitsprüfungOb Forschungsbereiche Dual-Use-Bedenken aufweisen, die eine Aufsicht erfordernAufzeichnungen der Dual-Use-Prüfung und die festgestellten Gefahrenkategorien
Herausgeberinnen und Herausgeber von Zeitschriften und ReihenWhen a report must be updated or marked as supersededEvidence age, preprint status changes and version intervals

Ergebnisse, die dieses Thema hervorbringt

  • Versioned technology reports with dated evidence windows
  • Claim registers separating demonstrated, reported and projected capability
  • Fortlaufende Aktualisierungen, die zeigen, was sich zwischen Versionen geändert hat
  • Prüfprotokolle zur Dual-Use-Eignung mit Angabe der Grundlage für jedes zurückgehaltene Detail
09Kernfragen

Was die Serie fragt.

Fast-moving technologies outpace the evidence and institutions that govern them. Claims about their capabilities and risks range from careful to wildly speculative. Readers need analysis that separates demonstrated capability from projection, explains the mechanisms by which a technology could create or reduce risk, and states how quickly conclusions may age.

  • Was kann die Technologie heute nachweislich leisten, unter welchen Bedingungen, und was ist noch Projektion?
  • Durch welche Mechanismen könnte sie neue Risiken schaffen, etwa Missbrauch, Versagen, Konzentration oder Kontrollverlust?
  • How could it reduce existing risks, and what would need to be true for that benefit to materialise?
  • Welche Maßnahmen der Governance, der Sicherheit und der Gefahrenabwehr werden entwickelt, und welche Evidenz gibt es zu ihrer Wirkung?
10Geltungsbereich

Was die Reihe abdeckt.

Die Reihe betrachtet Technologie unter den Gesichtspunkten Fähigkeit, Risiko und Governance.

Fähigkeit

Nachgewiesen versus behauptet

Leistungsnachweise sind nach Quelle gekennzeichnet; Herstellerangaben tragen die Kennzeichnung Von der Institution gemeldet.

Risiko

Mechanisms of harm

Unfälle, Missbrauch, systemische Abhängigkeit und Sicherheitswirkungen, analysiert mit den einschlägigen Fachplattformen.

Governance

Reaktionen

Normen, Sicherheitspraxis und politische Optionen, beschrieben ohne die Befürwortung eines Produkts.

Technologieanalyse ist am nützlichsten, wenn sie Wirkmechanismen folgt statt Schlagzeilen. Eine Allzwecktechnologie verändert das Risiko über die Systeme , die sie übernehmen: ein KI-Modell im Netzbetrieb, ein Quantencomputer, der weit verbreitete Public-Key-Kryptografie brechen kann, ein biotechnologisches Werkzeug, das die Hürde für den Umgang mit Krankheitserregern senkt. Jede Ausgabe stellt die Technologie daher den Fachplattformen gegenüber, die die betroffenen Systeme untersuchen, und benennt die Bedingungen, unter denen sich ihre Schlussfolgerungen ändern würden.

11Wie Ausgaben erstellt werden

Wie Ausgaben erstellt werden, und ihre Grenzen.

  1. 01

    Fachliteratur

    Peer-reviewed and preprint research, with preprints labelled as such.

  2. 02

    Benchmarks und Tests

    Veröffentlichte Benchmarks und Tests mit ihren Grenzen; Ergebnisse von Labore erscheinen nur aus abgeschlossenen Protokollen.

  3. 03

    Expertenbefragung

    Strukturierte Einschätzung zu Zeitplänen und Auswirkungen, gekennzeichnet als Expertenurteil, mit Beschreibung des zugehörigen Gremiums.

  4. 04

    Haltbarkeit

    Jede Ausgabe gibt an, wann ihre Befunde überprüft werden sollten, weil sich technische Fakten schnell ändern.

12Methoden

Wie es untersucht wird und was die Methoden nicht sagen können.

  1. Unsicherheitsquantifizierung und ModellvalidierungKalibrierte Sprache in Bewertungen · Einstufungen der EvidenzsicherheitHier angewandt
  2. Datentechnik, Interoperabilität und DatenverantwortungStrukturiertes Publizieren in JATS XML · Persistente Identifikatoren über den gesamten EintragHier angewandt
  3. Wahrscheinlichkeit und StatistikMetaanalyse mit angegebener Heterogenität · Verzerrung durch kleine Studien und PublikationsbiasHier angewandt
13Where this page’s references

Where this page’s references lead.

Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.

14Fragen

Fragen und Antworten.

Warum werden Preprints zitiert, wenn sie nicht begutachtet sind?
Weil in schnelllebigen Feldern die Evidenz dort zuerst erscheint. Sie sind als Preprints gekennzeichnet, und der Bericht verzeichnet, wann ein zitierter Preprint später veröffentlicht, überarbeitet oder zurückgezogen wird.
Was ist ein lebendiger Bericht?
Ein Bericht, der bei veränderter Evidenz in Versionen aktualisiert wird, wobei jede Version datiert, gekennzeichnet und archiviert ist und ein Änderungsprotokoll zeigt, was hinzugefügt, überarbeitet oder entfernt wurde.
Was entscheidet die Dual-Use-Prüfung?
Ob bestimmte technische Einzelheiten verallgemeinert oder zurückgehalten werden sollten, weil sie schweren Schaden ermöglichen könnten. Die Entscheidung und ihre Begründung werden festgehalten; die gefährlichen Einzelheiten nicht.
Does the series endorse technologies or vendors?
Nein. Sie beschreibt Evidenz zu Fähigkeiten und Risiken und empfiehlt niemals Produkte, Anbieter oder Anlagen.
Wie geht die Reihe mit Hype um?
Indem Aussagen nach Quellentyp gekennzeichnet, nachgewiesene Fähigkeiten von Projektionen getrennt und Unsicherheiten benannt werden.
Werden Dual-Use-Risiken offen diskutiert?
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
Wie schnell werden Ausgaben aktualisiert?
Jede Ausgabe nennt einen Überprüfungszeitpunkt. Wesentliche Änderungen der Evidenz führen zu einer neuen Version statt zu stillen Änderungen.
BerichteBeitragen

Evidenz von dieser Seite aus beitragen.

Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.

GCRIBerichteGlobales Systemrisiko und ResilienzRisiko und Resilienz nationaler SystemeLänder-Quartalsbericht
Berichte

Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.

Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.