GCRI · Reports
Risikobewertung von Spitzentechnologien
Berichte zu Spitzentechnologien behandeln Felder, die sich schneller verändern als der Publikationszyklus: künstliche Intelligenz, synthetische Biologie, Quantencomputing, fortgeschrittene Werkstoffe und Raumfahrt- Systeme. Evidenz liegt als Preprints, Benchmarks, Patente und Unternehmensankündigungen vor und wird oft innerhalb weniger Monate überholt. Diese Seite legt dar, wie schnelllebige Evidenz bewertet, versioniert und geprüft wird, wie Behauptungen von nachgewiesener Leistungsfähigkeit getrennt werden und wie Informationsgefahren vor der Veröffentlichung behandelt werden.
Frontier technology risk assessment on the record.
Risikobewertung von Frontier-Technologien: wie sich das Risiko entwickelt.
Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Evidenz veraltet schnell
Eine Fähigkeitsbewertung kann veraltet sein, wenn sie geprüft wird. Ohne datierte Evidenzfenster und versionierte Aktualisierungen können Lesende auf ein Bild einer Technologie reagieren, das nicht mehr zutrifft.
Preprints und Ankündigungen
Ein großer Teil der Evidenz an der Forschungsfront ist nicht begutachtet: Preprints, technische Blogs und Herstelleraussagen. Werden solche Aussagen ohne Kennzeichnung wiederholt, wird aus Werbung ein scheinbarer Konsens.
Benchmark fragility
Benchmarks sättigen sich, gelangen in Trainingsdaten oder messen enge Fähigkeiten. Berichte , die Benchmark-Werte mit realer Leistungsfähigkeit gleichsetzen, überschätzen die Einsatzreife und unterschätzen Fehlermodi.
Informationsgefahren
Manche technischen Einzelheiten könnten bei einer Veröffentlichung Schaden ermöglichen. Die Dual-Use-Prüfung vor der Veröffentlichung wägt den Nutzen der Offenlegung gegen den Missbrauch ab und dokumentiert, was zurückgehalten wurde und warum, ohne es preiszugeben.
Redaktion für Serienproduktion.
Die Ansicht, die ein Team nutzen würde, um dieses Thema zu verfolgen: seine Messgrößen, Zustände und Entscheidungen. Namen sind Beispiele, Werte sind illustrativ.
Serienproduktionsstelle
Frontier technology risk assessment · Annual synthesis · Edition 3
Ausgaben in Produktion
| Jahressynthese | Global | Datenprüfung | 83 | W18 |
| Länderprofil 7 | Land | Begutachtung durch Fachkollegen | 98 | W38 |
| Wasserausblick | Sektoral | In Ausarbeitung | 46 | W13 |
| Methodenhinweis 4 | Methoden | Freigegeben | 100 | erledigt |
Datenprüfung, jährliche Synthese
Ausgaben-Pipeline
- GliederungGremium
- EntwurfAutoren
- Datenprüfungjeder Wert
- Begutachtung durch Fachkollegenzwei Runden
- RedaktionBeschluss
- VeröffentlichungDOI
- Korrekturenversioniert
Technologieausgaben verfolgen die Auswirkungen in jeder Domäne.
Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.
- Statusmeldungen mit Quellen.
- Korrekturen von Aussagen.
Wie die Risikobewertung von Spitzentechnologien modelliert, gemessen und getestet wird.
Das Modell, seine Annahmen, seine Daten und seine Unsicherheit in der Form, in der eine Wissenschaftlerin oder ein Ingenieur sie prüfen würde. Die Strukturen folgen veröffentlichten Methoden. Die dargestellten Werte sind illustrativ, keine Befunde.
Modell, Gleichungen und Annahmen
Die Modellstruktur für die Risikobewertung von Spitzentechnologien, die zugrunde liegenden Annahmen und wie jede davon getestet wird.
Ri = f(Hi, Ei, Vi, Ci)Gefahr, Exposition, Verwundbarkeit und BewältigungskapazitätEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Annahme | Warum es entsteht | Wie es geprüft wird |
|---|---|---|
| Gefahr und Exposition sind innerhalb eines Ereignisses unabhängig | Hält das Schadensintegral berechenbar | Mit einer Copula-Anpassung an gemeinsamen Aufzeichnungen vergleichen |
| Kopplungen sind nahe dem Arbeitspunkt linear | Lässt Schocks sich über A ausbreiten | Über den linearen Bereich hinaus stören und vergleichen |
| Vulnerabilitätskurven lassen sich zwischen Orten übertragen | Lokale Kurven sind selten verfügbar | Anhand beobachteter Schäden validieren, wo es sie gibt |
- Eingaben
- versionierte Datensätze mit Herkunftsnachweis
- Ergebnisse
- Verteilungen, nie einzelne Zahlen
- Code
- mit Modellkarte und Tests veröffentlicht
- Reproduktion
- gleiche Daten, Code, Umgebung und Seed
Was gemessen wird und wie gut.
Jeder Indikator trägt seine Einheit, seinen Rhythmus, die Art der zugrunde liegenden Quelle und die Evidenzkennzeichnung, die ein Wert tragen würde. Es werden keine Werte gezeigt: Ein Programm liefert sie unter seiner eigenen Autorität.
| Indikator | Einheit | Takt | Quellentyp | Kennzeichnung |
|---|---|---|---|---|
| Anteil von Preprints an der zitierten Evidenz | Prozent der Referenzen | pro Version | Referenzmetadaten | BEOBACHTET |
| Medianes Alter der zitierten Evidenz zum Zeitpunkt der Veröffentlichung | Monate | pro Version | Referenzmetadaten | BEOBACHTET |
| Intervall zwischen Berichtsversionen | Monate | pro Version | Versionsverlauf | Veröffentlichte Statistiken |
| Aussagen, gekennzeichnet nach Demonstrationsstatus | Prozent der Kapazitätserklärungen | pro Version | Redaktionelle Prüfung | BERICHTET |
| Zitierte Preprints, die nach der Begutachtung später veröffentlicht wurden | Prozent der zitierten Preprints | vierteljährlich | Verknüpfungen von Preprint und Publikation | BEOBACHTET |
| Dual-Use-Prüfung abgeschlossen | ja oder nein, mit Rolle der prüfenden Person | pro Version | Prüfprotokoll | DEKLARIERT |
Woher die Evidenz stammt.
Benannte öffentliche Datensätze und institutionelle Aufzeichnungen, jeweils mit ihrer Lizenzklasse. Quellen auf Vereinbarungsbasis werden nur zu ihren Bedingungen genutzt und niemals weiterveröffentlicht.
| Quelle | Was es liefert | Lizenzklasse |
|---|---|---|
| arXiv | Preprints in computer science, physics, quantitative biology and related fields | Metadaten unter CC0, Lizenz je Beitrag |
| bioRxiv und medRxiv | Preprints in den Lebens- und Gesundheitswissenschaften mit Verweisen auf spätere Veröffentlichungen | Lizenz je Preprint |
| OpenAlex | Verknüpfungen zwischen Veröffentlichung, Zitation und Preprint-zu-Artikel | CC0 |
| WIPO PATENTSCOPE | Internationale und nationale Patentanmeldungen zur Technologiebeobachtung | Kostenlos durchsuchbar, Bedingungen gemäß WIPO |
| The Lens | Verknüpfte wissenschaftliche und Patentdatensätze | Kostenlos nutzbar, Bedingungen je nach Lens |
| OECD.AI Policy Observatory | Nationale KI-Politiken, Initiativen und Indikatoren | Frei nutzbar, Bedingungen gemäß OECD |
Wer entscheidet und wozu die Evidenz dient.
Reports bereitet Evidenz auf. Die nachstehenden Entscheidungen werden von den genannten Behörden nach ihren eigenen Regeln getroffen und niemals von der Plattform.
| Wer entscheidet | Die Frage | Evidenz, der diese Seite dient |
|---|---|---|
| Ministerien für Wissenschaft, Technologie und Innovation | Welche Technologien jetzt Aufmerksamkeit in der Steuerung, Investitionen oder Beobachtung erfordern | Anspruchsregister nach Nachweisstatus, mit datierten Evidenzfenstern |
| Standards bodies and technical committees | Wo Standards für Prüfung, Sicherheit oder Interoperabilität benötigt werden | Documented gaps between claimed and demonstrated capability |
| Forschungsförderer und Gremien zur Sicherheitsprüfung | Ob Forschungsbereiche Dual-Use-Bedenken aufweisen, die eine Aufsicht erfordern | Aufzeichnungen der Dual-Use-Prüfung und die festgestellten Gefahrenkategorien |
| Herausgeberinnen und Herausgeber von Zeitschriften und Reihen | When a report must be updated or marked as superseded | Evidence age, preprint status changes and version intervals |
Ergebnisse, die dieses Thema hervorbringt
- Versioned technology reports with dated evidence windows
- Claim registers separating demonstrated, reported and projected capability
- Fortlaufende Aktualisierungen, die zeigen, was sich zwischen Versionen geändert hat
- Prüfprotokolle zur Dual-Use-Eignung mit Angabe der Grundlage für jedes zurückgehaltene Detail
Was die Serie fragt.
Fast-moving technologies outpace the evidence and institutions that govern them. Claims about their capabilities and risks range from careful to wildly speculative. Readers need analysis that separates demonstrated capability from projection, explains the mechanisms by which a technology could create or reduce risk, and states how quickly conclusions may age.
- Was kann die Technologie heute nachweislich leisten, unter welchen Bedingungen, und was ist noch Projektion?
- Durch welche Mechanismen könnte sie neue Risiken schaffen, etwa Missbrauch, Versagen, Konzentration oder Kontrollverlust?
- How could it reduce existing risks, and what would need to be true for that benefit to materialise?
- Welche Maßnahmen der Governance, der Sicherheit und der Gefahrenabwehr werden entwickelt, und welche Evidenz gibt es zu ihrer Wirkung?
Was die Reihe abdeckt.
Die Reihe betrachtet Technologie unter den Gesichtspunkten Fähigkeit, Risiko und Governance.
Nachgewiesen versus behauptet
Leistungsnachweise sind nach Quelle gekennzeichnet; Herstellerangaben tragen die Kennzeichnung Von der Institution gemeldet.
Mechanisms of harm
Unfälle, Missbrauch, systemische Abhängigkeit und Sicherheitswirkungen, analysiert mit den einschlägigen Fachplattformen.
Reaktionen
Normen, Sicherheitspraxis und politische Optionen, beschrieben ohne die Befürwortung eines Produkts.
Technologieanalyse ist am nützlichsten, wenn sie Wirkmechanismen folgt statt Schlagzeilen. Eine Allzwecktechnologie verändert das Risiko über die Systeme , die sie übernehmen: ein KI-Modell im Netzbetrieb, ein Quantencomputer, der weit verbreitete Public-Key-Kryptografie brechen kann, ein biotechnologisches Werkzeug, das die Hürde für den Umgang mit Krankheitserregern senkt. Jede Ausgabe stellt die Technologie daher den Fachplattformen gegenüber, die die betroffenen Systeme untersuchen, und benennt die Bedingungen, unter denen sich ihre Schlussfolgerungen ändern würden.
Wie Ausgaben erstellt werden, und ihre Grenzen.
- 01
Fachliteratur
Peer-reviewed and preprint research, with preprints labelled as such.
- 02
Benchmarks und Tests
Veröffentlichte Benchmarks und Tests mit ihren Grenzen; Ergebnisse von Labore erscheinen nur aus abgeschlossenen Protokollen.
- 03
Expertenbefragung
Strukturierte Einschätzung zu Zeitplänen und Auswirkungen, gekennzeichnet als Expertenurteil, mit Beschreibung des zugehörigen Gremiums.
- 04
Haltbarkeit
Jede Ausgabe gibt an, wann ihre Befunde überprüft werden sollten, weil sich technische Fakten schnell ändern.
Wie es untersucht wird und was die Methoden nicht sagen können.
- 01Unsicherheitsquantifizierung und ModellvalidierungKalibrierte Sprache in Bewertungen · Einstufungen der EvidenzsicherheitHier angewandt
- 02Datentechnik, Interoperabilität und DatenverantwortungStrukturiertes Publizieren in JATS XML · Persistente Identifikatoren über den gesamten EintragHier angewandt
- 03Wahrscheinlichkeit und StatistikMetaanalyse mit angegebener Heterogenität · Verzerrung durch kleine Studien und PublikationsbiasHier angewandt
Where this page’s references lead.
Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.
Fragen und Antworten.
Warum werden Preprints zitiert, wenn sie nicht begutachtet sind?
Was ist ein lebendiger Bericht?
Was entscheidet die Dual-Use-Prüfung?
Does the series endorse technologies or vendors?
Wie geht die Reihe mit Hype um?
Werden Dual-Use-Risiken offen diskutiert?
Wie schnell werden Ausgaben aktualisiert?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.