Skip to content

GCRI · Innovation et changement technologique

Technologie responsable

Une technologie responsable est sûre, sert bien les personnes, garde l'humain maître des décisions importantes, est accessible et respecte les droits. Le Global Centre for Risk and Innovation (GCRI) applique ces principes dans ses propres travaux, y compris Foundry, et étudie comment les institutions les appliquent à ce qu'elles adoptent. Les principes, leur application et leurs limites figurent ci-dessous. Fait partie de innovation et changement technologique.

02Cinq principes

What responsible technology asks for.

Sécurité

Tested before trusted

systèmes sont évalués dans des conditions contrôlées, avec des règles d'arrêt, avant d'être en contact avec des services réels.

Contrôle

Humans decide

Les décisions importantes restent aux mains de personnes responsables, et l'analyse n'est jamais présentée comme la décision.

Droits

Confidentialité et consentement

Personal data and protected knowledge are used only with a lawful basis, a stated purpose and consent where required.

  • Résultats sociaux : qui en bénéficie, qui supporte le risque et qui est laissé de côté font partie de chaque évaluation
  • Accessibility: interfaces and outputs are designed so that people with disabilities can use them
03Instruments

Les instruments qui donnent leur contenu aux principes.

PrincipeInstrument sur lequel il s'appuieCe qu'elle exige en pratique
Human rightsPrincipes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme (2011) ; convention du Conseil de l'Europe sur l'IA (2024)Human rights due diligence before and during deployment
Contrôle humainDispositions du règlement européen sur l'IA relatives à la supervision humaine des systèmesà haut risque ; Recommandation de l'UNESCO (2021)Une personne désignée capable de comprendre le système, de le contourner et de l'arrêter
Gestion des risquesNIST AI RMF 1.0 (2023) and its Generative AI Profile (2024); ISO/IEC 42001:2023Cartographie, mesure et gestion documentées des risques liés à l'IA
AccessibilitéWCAG 2.2 (W3C, 2023)Des interfaces utilisables par les personnes en situation de handicap, testées avec elles
Biosûreté et biosécuritéWHO guidance framework (2022); Biological Weapons Conventionappréciation du risque de la recherche à double usage avant son lancement
04GCRI’s part

Appliquer les principes au sein du programme et signaler là où ils ne sont pas atteints.

GCRI applies these instruments to its own systems, including Foundry, and reports gaps it finds in its own practice. Lessons are designed for the Exponential Technology series; AI components used in the programme would carry model cards and dataset sheets under NS-12 of the proposed Nexus Standards. Anyone can report a concern about how a GCRI system treats people, without an account.

05In GCRI’s own work

How the principles apply inside the programme.

  1. 01

    Étiquettes de preuve

    Every result says whether it is observed, modelled, a scenario or expert judgement, so automated outputs cannot pass as observation.

  2. 02

    Exercices contrôlés

    Simulated warnings never reach live audiences, and real infrastructure is never an unapproved target.

  3. 03

    Release is not deployment

    A tested configuration is not authorisation to use it in operation; that decision belongs to the operator or authority.

  4. 04

    Correction and challenge

    Toute personne peut contester une conclusion publique, comme le prévoit l' intégrité scientifique et éditoriale.

06Limites

Principles are not a certificate.

GCRI does not certify that a technology is responsible, safe or compliant with any law or standard. It publishes evaluations with their scope and limits. The Global Risks Forum (GRF) examines how institutions govern AI and digital systems under digital and AI governance. GCRI’s own data handling is under data and privacy responsibilities. See also technology assessment.

08Questions

Questions et réponses.

Does GCRI follow a particular AI framework?
Le GCRI applique les principes de cette page dans ses propres travaux et se réfère à des cadres reconnus à titre de références nommées. Il ne revendique la conformité à aucun cadre sans dossier d'évaluation.
Can GCRI review my organisation’s AI system?
Organisations can propose a scoped evaluation through the technology provider or operator routes. Any evaluation has a documented plan and is never presented as certification.
Que signifie concrètement le contrôle humain ?
That a named, accountable person makes consequential decisions, can understand the basis for a system’s output and can stop or override it.
Comment l'accessibilité est-elle traitée sur les sites du GCRI ?
Les sites du GCRI sont conçus pour respecter le niveau AA des WCAG 2.2. Les pages sont testées, les obstacles constatés sont corrigés et chacun peut signaler un obstacle.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

GCRI
Le Global Centre for Risk and Innovation

Apportez une méthode, un jeu de données ou une question.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.