Skip to content

GCRI · Innovation und technologischer Wandel

Verantwortungsvolle Technologie

Verantwortungsvolle Technologie ist sicher, dient den Menschen gut, belässt folgenreiche Entscheidungen in menschlicher Hand, ist zugänglich und achtet Rechte. Das Global Centre for Risk and Innovation (GCRI) wendet diese Grundsätze in seiner eigenen Arbeit an, auch in Foundry, und untersucht, wie Institutionen sie auf das anwenden, was sie einführen. Die Grundsätze, ihre Anwendung und ihre Grenzen finden Sie unten. Teil von Innovation und technologischem Wandel.

02Fünf Prinzipien

What responsible technology asks for.

Sicherheit

Erst getestet, dann vertraut

System werden unter kontrollierten Bedingungen mit Abbruchregeln bewertet, bevor sie mit realen Diensten in Berührung kommen.

Aufsicht

Menschen entscheiden

Folgenreiche Entscheidungen verbleiben bei verantwortlichen Personen, und Analysen werden nie als die Entscheidung dargestellt.

Rechte

Datenschutz und Einwilligung

Personenbezogene Daten und geschütztes Wissen werden nur mit Rechtsgrundlage, festgelegtem Zweck und, wo erforderlich, mit Einwilligung verwendet.

  • Soziale Ergebnisse: Wer profitiert, wer das Risiko trägt und wer außen vor bleibt, ist Teil jeder Evaluation
  • Accessibility: interfaces and outputs are designed so that people with disabilities can use them
03Instrumente

Die Instrumente, die den Grundsätzen ihren Inhalt geben.

GrundsatzZugrunde liegendes InstrumentWhat it requires in practice
MenschenrechteLeitprinzipien der Vereinten Nationen für Wirtschaft und Menschenrechte (2011); KI-Konvention des Europarats (2024)Menschenrechtliche Sorgfaltsprüfung vor und während des Einsatzes
Menschliche AufsichtBestimmungen des EU-KI-Gesetzes zur menschlichen Aufsicht über Systeme; UNESCO-Empfehlung (2021)Eine namentlich benannte Person, die das System verstehen, übersteuern und stoppen kann
RisikomanagementNIST AI RMF 1.0 (2023) and its Generative AI Profile (2024); ISO/IEC 42001:2023Dokumentierte Erfassung, Messung und Steuerung von KI-Risiken
BarrierefreiheitWCAG 2.2 (W3C, 2023)Schnittstellen, die von Menschen mit Behinderungen nutzbar sind und gemeinsam mit ihnen getestet wurden
Biosafety und BiosecurityWHO-Leitlinienrahmen (2022); BiowaffenübereinkommenRisikobeurteilung von Dual-Use-Forschung vor deren Beginn
04GCRI’s part

Applying the principles inside the programme, and reporting where they fall short.

GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.

05In GCRI’s own work

Wie die Grundsätze innerhalb des Programms gelten.

  1. 01

    Evidenzkennzeichnungen

    Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.

  2. 02

    Kontrollierte Übungen

    Simulated warnings never reach live audiences, and real infrastructure is never an unapproved target.

  3. 03

    Veröffentlichung ist keine Inbetriebnahme

    Eine getestete Konfiguration ist keine Genehmigung für ihren Einsatz im Betrieb; diese Entscheidung liegt beim Betreiber oder bei der zuständigen Behörde.

  4. 04

    Correction and challenge

    Jede Person kann einen öffentlichen Befund anfechten, wie unter wissenschaftliche und redaktionelle Integrität.

06Grenzen

Grundsätze sind kein Zertifikat.

GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.

08Fragen

Fragen und Antworten.

Folgt GCRI einem bestimmten KI-Rahmenwerk?
GCRI wendet die Grundsätze dieser Seite in der eigenen Arbeit an und verweist auf anerkannte Rahmenwerke als benannte Referenzen. Es beansprucht keine Konformität mit einem Rahmenwerk ohne Bewertungsnachweis.
Can GCRI review my organisation’s AI system?
Organisationen können über die Wege für Technologieanbieter oder Betreiber eine abgegrenzte Evaluierung vorschlagen. Jede Evaluierung hat einen dokumentierten Plan und wird nie als Zertifizierung dargestellt.
Was bedeutet menschliche Aufsicht in der Praxis?
That a named, accountable person makes consequential decisions, can understand the basis for a system’s output and can stop or override it.
How is accessibility handled on GCRI sites?
Die Websites von GCRI sind darauf ausgelegt, WCAG 2.2 Stufe AA zu erfüllen. Seiten werden getestet, festgestellte Barrieren werden behoben, und jeder kann eine Barriere melden.
BerichteBeitragen

Evidenz von dieser Seite aus beitragen.

Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.

GCRI
Das Global Centre for Risk and Innovation

Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.

Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.