GCRI · Innovation et changement technologique
Technologie responsable
Une technologie responsable est sûre, sert bien les personnes, garde l'humain maître des décisions importantes, est accessible et respecte les droits. Le Global Centre for Risk and Innovation (GCRI) applique ces principes dans ses propres travaux, y compris Foundry, et étudie comment les institutions les appliquent à ce qu'elles adoptent. Les principes, leur application et leurs limites figurent ci-dessous. Fait partie de innovation et changement technologique.
Responsible technology on the record.
- 01InstitutionThe Global Centre for Risk and Innovation (GCRI)
- 02Cinq principesCe que demande une technologie responsable
- 03InstrumentsThe instruments that give the principles their content
- 04GCRI’s partApplying the principles inside the programme, and reporting where they fall short
- 05In GCRI’s own workHow the principles apply inside the programme
- 06LimitesDes principes ne valent pas certification
- 07SourcesWhere this page’s references lead
What responsible technology asks for.
Tested before trusted
systèmes sont évalués dans des conditions contrôlées, avec des règles d'arrêt, avant d'être en contact avec des services réels.
Humans decide
Les décisions importantes restent aux mains de personnes responsables, et l'analyse n'est jamais présentée comme la décision.
Confidentialité et consentement
Personal data and protected knowledge are used only with a lawful basis, a stated purpose and consent where required.
- Résultats sociaux : qui en bénéficie, qui supporte le risque et qui est laissé de côté font partie de chaque évaluation
- Accessibility: interfaces and outputs are designed so that people with disabilities can use them
Les instruments qui donnent leur contenu aux principes.
| Principe | Instrument sur lequel il s'appuie | Ce qu'elle exige en pratique |
|---|---|---|
| Human rights | Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme (2011) ; convention du Conseil de l'Europe sur l'IA (2024) | Human rights due diligence before and during deployment |
| Contrôle humain | Dispositions du règlement européen sur l'IA relatives à la supervision humaine des systèmesà haut risque ; Recommandation de l'UNESCO (2021) | Une personne désignée capable de comprendre le système, de le contourner et de l'arrêter |
| Gestion des risques | NIST AI RMF 1.0 (2023) and its Generative AI Profile (2024); ISO/IEC 42001:2023 | Cartographie, mesure et gestion documentées des risques liés à l'IA |
| Accessibilité | WCAG 2.2 (W3C, 2023) | Des interfaces utilisables par les personnes en situation de handicap, testées avec elles |
| Biosûreté et biosécurité | WHO guidance framework (2022); Biological Weapons Convention | appréciation du risque de la recherche à double usage avant son lancement |
Appliquer les principes au sein du programme et signaler là où ils ne sont pas atteints.
GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.
How the principles apply inside the programme.
- 01
Étiquettes de preuve
Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.
- 02
Exercices contrôlés
Simulated warnings never reach live audiences, and real infrastructure is never an unapproved target.
- 03
Release is not deployment
A tested configuration is not authorisation to use it in operation; that decision belongs to the operator or authority.
- 04
Correction and challenge
Toute personne peut contester une conclusion publique, comme le prévoit l' intégrité scientifique et éditoriale.
Principles are not a certificate.
GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
- UN Guiding Principles on Business and Human Rights (OHCHR, 2011)
- Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit (STCE n° 225, 2024)
- Règlement (UE) 2024/1689, le règlement sur l'intelligence artificielle
- Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle (UNESCO, 2021)
- NIST AI Risk Management Framework 1.0 (NIST AI 100-1, 2023) and the Generative AI Profile (NIST AI 600-1, 2024)
- ISO/IEC 42001:2023 Système de management de l'intelligence artificielle (ISO)
- Web Content Accessibility Guidelines 2.2 (Recommandation du W3C, 2023)
- Cadre mondial d'orientation de l'OMS pour l'utilisation responsable des sciences de la vie (OMS, 2022)
Questions et réponses.
Does GCRI follow a particular AI framework?
Can GCRI review my organisation’s AI system?
Que signifie concrètement le contrôle humain ?
Comment l'accessibilité est-elle traitée sur les sites du GCRI ?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GCRIL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RapportsGCRIVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Apportez une méthode, un jeu de données ou une question.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.