GCRI · Innovation und technologischer Wandel
Verantwortungsvolle Technologie
Verantwortungsvolle Technologie ist sicher, dient den Menschen gut, belässt folgenreiche Entscheidungen in menschlicher Hand, ist zugänglich und achtet Rechte. Das Global Centre for Risk and Innovation (GCRI) wendet diese Grundsätze in seiner eigenen Arbeit an, auch in Foundry, und untersucht, wie Institutionen sie auf das anwenden, was sie einführen. Die Grundsätze, ihre Anwendung und ihre Grenzen finden Sie unten. Teil von Innovation und technologischem Wandel.
Responsible technology on the record.
- 01InstitutionThe Global Centre for Risk and Innovation (GCRI)
- 02Fünf PrinzipienWas verantwortungsvolle Technologie verlangt
- 03InstrumenteDie Instrumente, die den Grundsätzen ihren Inhalt geben
- 04GCRI’s partApplying the principles inside the programme, and reporting where they fall short
- 05In GCRI’s own workHow the principles apply inside the programme
- 06GrenzenGrundsätze sind kein Zertifikat
- 07SourcesWhere this page’s references lead
What responsible technology asks for.
Erst getestet, dann vertraut
System werden unter kontrollierten Bedingungen mit Abbruchregeln bewertet, bevor sie mit realen Diensten in Berührung kommen.
Menschen entscheiden
Folgenreiche Entscheidungen verbleiben bei verantwortlichen Personen, und Analysen werden nie als die Entscheidung dargestellt.
Datenschutz und Einwilligung
Personenbezogene Daten und geschütztes Wissen werden nur mit Rechtsgrundlage, festgelegtem Zweck und, wo erforderlich, mit Einwilligung verwendet.
- Soziale Ergebnisse: Wer profitiert, wer das Risiko trägt und wer außen vor bleibt, ist Teil jeder Evaluation
- Accessibility: interfaces and outputs are designed so that people with disabilities can use them
Die Instrumente, die den Grundsätzen ihren Inhalt geben.
| Grundsatz | Zugrunde liegendes Instrument | What it requires in practice |
|---|---|---|
| Menschenrechte | Leitprinzipien der Vereinten Nationen für Wirtschaft und Menschenrechte (2011); KI-Konvention des Europarats (2024) | Menschenrechtliche Sorgfaltsprüfung vor und während des Einsatzes |
| Menschliche Aufsicht | Bestimmungen des EU-KI-Gesetzes zur menschlichen Aufsicht über Systeme; UNESCO-Empfehlung (2021) | Eine namentlich benannte Person, die das System verstehen, übersteuern und stoppen kann |
| Risikomanagement | NIST AI RMF 1.0 (2023) and its Generative AI Profile (2024); ISO/IEC 42001:2023 | Dokumentierte Erfassung, Messung und Steuerung von KI-Risiken |
| Barrierefreiheit | WCAG 2.2 (W3C, 2023) | Schnittstellen, die von Menschen mit Behinderungen nutzbar sind und gemeinsam mit ihnen getestet wurden |
| Biosafety und Biosecurity | WHO-Leitlinienrahmen (2022); Biowaffenübereinkommen | Risikobeurteilung von Dual-Use-Forschung vor deren Beginn |
Applying the principles inside the programme, and reporting where they fall short.
GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.
Wie die Grundsätze innerhalb des Programms gelten.
- 01
Evidenzkennzeichnungen
Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.
- 02
Kontrollierte Übungen
Simulated warnings never reach live audiences, and real infrastructure is never an unapproved target.
- 03
Veröffentlichung ist keine Inbetriebnahme
Eine getestete Konfiguration ist keine Genehmigung für ihren Einsatz im Betrieb; diese Entscheidung liegt beim Betreiber oder bei der zuständigen Behörde.
- 04
Correction and challenge
Jede Person kann einen öffentlichen Befund anfechten, wie unter wissenschaftliche und redaktionelle Integrität.
Grundsätze sind kein Zertifikat.
GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.
Where this page’s references lead.
Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.
- UN Guiding Principles on Business and Human Rights (OHCHR, 2011)
- Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225, 2024)
- Verordnung (EU) 2024/1689, das KI-Gesetz
- UNESCO Recommendation on the Ethics of Artificial Intelligence (UNESCO, 2021)
- NIST AI Risk Management Framework 1.0 (NIST AI 100-1, 2023) und das Generative AI Profile (NIST AI 600-1, 2024)
- ISO/IEC 42001:2023 Künstliche Intelligenz, Managementsystem (ISO)
- Web Content Accessibility Guidelines 2.2 (W3C-Empfehlung, 2023)
- WHO Global guidance framework for the responsible use of the life sciences (WHO, 2022)
Fragen und Antworten.
Folgt GCRI einem bestimmten KI-Rahmenwerk?
Can GCRI review my organisation’s AI system?
Was bedeutet menschliche Aufsicht in der Praxis?
How is accessibility handled on GCRI sites?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.