Skip to content

GCRI · Campaigns

Culture de l'IA responsable

L'intelligence artificielle façonne désormais ce que les gens lisent, les services qu'ils reçoivent et la manière dont les contenus sont produits. La maîtrise responsable de l'IA est une compréhension pratique de ce que font ces systèmes , de leurs défaillances et des droits dont disposent les personnes lorsqu'ils sont utilisés. Elle comprend la reconnaissance des médias synthétiques, l'évaluation des réponses générées et la connaissance des cas où les décisions automatisées peuvent être contestées. Cette page expose comment les malentendus sur l'IA se forment et se diffusent, comment la maîtrise est mesurée, et les décisions qui incombent aux éducateurs, aux régulateurs et aux plateformes.

01Registre

La maîtrise responsable de l'IA, versée au dossier.

02La question

Responsible AI literacy: how the risk develops.

Compréhension pratique des risques liés à l'IA. Le dossier ci-dessous expose comment le risque se développe, ce qui est mesuré, d'où viennent les données, comment elles sont modélisées et qui décide.

Mécanisme

Les capacités sont mal évaluées

Les personnes accordent une confiance excessive aux productions fluides des machines, un phénomène connu sous le nom de biais d'automatisation, et rejettent parfois des outils utiles après un seul échec. Les systèmes conversationnels incitent à leur attribuer une compréhension et des intentions qu'ils n'ont pas, ce qui influe sur le soin avec lequel leurs réponses sont vérifiées.

Mécanisme

La provenance s'estompe

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

Mécanisme

Harms fall unevenly

Les erreurs et les biais des systèmes automatisés touchent surtout les personnes les moins en mesure de les remarquer ou de les contester, comme les demandeurs de prestations, les candidats à un emploi et les locuteurs de langues moins dotées en ressources. Un travail de sensibilisation qui n'atteint que les utilisateurs à l'aise creuse cet écart.

Mécanisme

L'usage devance la compréhension

Les outils sont adoptés au travail, dans les écoles et dans les services publics avant que les utilisateurs, les enseignants ou les agents publics ne partagent un vocabulaire pour en décrire les limites. Les idées fausses se propagent par les conseils entre pairs et les arguments marketing, et s'installent dans la pratique avant que des orientations n'existent.

03Simulateur

Un modèle à seuil du comportement collectif.

Chaque agent agit dès qu'assez de ses contacts l'ont fait ; de petits changements du seuil moyen ou des premiers à agir décident si le comportement reste local ou se propage en cascade dans la population. Modèle pédagogique à valeurs illustratives déclarées, pas une prédiction.

Commandes

Seuil moyen (part des voisins)
18%
Dispersion des seuils
8 points
Premiers à agir
2,0 % des personnes
Contacts par personne
8

Relevés

Part de ceux qui ont fini par agir
100%
Cascade mondiale
Oui
Étapes jusqu'au règlement
8
Chiffres, méthodes et sources
ÉtapePart des personnes ayant agi (%)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

Méthodes

  1. Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Données

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

Un modèle à seuil du comportement collectif. Modèle pédagogique illustratif : il fonctionne avec les valeurs fixées par les commandes, et non avec des données mesurées. Méthodes : modèles à seuil du comportement collectif (Granovetter (1978), American Journal of Sociology 83) ; cascades globales sur des réseaux aléatoires (Watts (2002), PNAS 99) ; contagions complexes (Centola et Macy (2007), American Journal of Sociology 113).
04Dans les cinq domaines

AI literacy matters wherever AI enters a domain’s services.

05Méthodes et preuves

How Responsible AI literacy is modelled, measured and tested.

Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.

Modèle de système

Les couplages entre les systèmes de la maîtrise responsable de l'IA : signes d'influence, une boucle de renforcement et une boucle d'équilibrage, et liens croisés où le stress s'amplifie brusquement.

++−+InformationSociétéCommunautésÉconomieR renforçanteB équilibrage
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indicateurs

Ce qui est mesuré, et avec quelle qualité.

Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.

IndicateurUnitéFréquenceType de sourceÉtiquette
Self-assessed understanding of AIpourcentage des répondantspar vague d'enquêteEurobaromètre et enquêtes nationalesDÉCLARÉ
Accuracy in identifying synthetic mediapercent correct in a controlled taskpar étudeExperimental audience researchOBSERVÉ
Awareness of rights over automated decisionspourcentage des répondantspar vague d'enquêteEnquêtes nationales et de l'UEDÉCLARÉ
Inquiétude face à la difficulté de distinguer le vrai du faux contenu en lignepourcentage des répondantsannuelReuters Institute Digital News ReportDÉCLARÉ
Teachers trained in the use of AIpour cent des enseignantspar cycle d'enquêteOCDE TALIS et ministères de l'éducationStatistiques publiées
Incidents d'IA signalés impliquant de la tromperie ou de l' usurpation d'identitéincidents per monthmensuelAI Incident DatabaseDÉCLARÉ
Mesures de littératie en IA dans les politiques nationalesnombre de mesures par typeannuelBase de données de politiques OECD.AIDÉCLARÉ
07Sources

D'où proviennent les données probantes.

Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.

SourcesCe qu'elle apporteCatégorie de licence
Enquêtes Eurobaromètre sur l'intelligence artificielle et la décennie numériqueConnaissance, attitudes et attentes à l'égard de l'IA dans les États membres de l'UERéutilisation libre avec attribution
Stanford AI IndexAnnual compilation of AI research, deployment, policy and public opinion dataCC BY-ND 4.0
Observatoire des politiques de l'IA de l'OCDE (OECD.AI)Stratégies nationales et mesures de politique en matière d'IA, y compris l'éducation et les compétencesConditions de l'OCDE, libre accès avec attribution
AI Incident DatabaseIncidents signalés de préjudice ou de quasi-préjudice impliquant des systèmesCC BY-SA 4.0
Reuters Institute Digital News ReportPublic comfort with AI in news and concern about false contentFree to read; survey data by request
OECD TALISTeacher training, practice and use of digital toolsConditions de l'OCDE, libre accès avec attribution
Enquêtes du Pew Research Center sur l'IASensibilisation du public à l'IA et attitudes à son égard dans plusieurs paysUtilisation libre avec attribution ; jeux de données sur demande
08Décisions

Qui décide, et à quoi servent les données probantes.

Campaigns prépare les données probantes. Les décisions ci-dessous sont prises par les autorités nommées, selon leurs propres règles, et jamais par la plateforme.

Qui décideLa questionDonnées probantes servies par cette page
Ministries of education and curriculum authoritiesWhich AI competencies students and teachers need, and at which stagesTeacher training data; competency frameworks; tested teaching material
AI and data protection regulatorsHow to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI ActAwareness surveys; incident records; literacy measures in policy
Plateformes en ligne et fournisseurs d'IAComment étiqueter les contenus synthétiques et expliquer les limites du système aux utilisateursResearch on label comprehension; incident patterns; provenance standards
Organes de gestion des électionsHow to prepare voters for synthetic media during electionsRecherche sur les tâches de détection ; journaux de rumeurs ; confiance dans l'information électorale

Résultats que produit ce thème

  • Practical explainers on how generative and predictive systems work and fail
  • Exercices de vérification de la source et de la provenance des médias, avec leurs limites exposées
  • Guides en langage clair sur les droits relatifs aux décisions automatisées en vertu du droit applicable
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09Questions essentielles

Ce que se demandent les experts.

  1. 01

    Que doit comprendre un non-spécialiste ?

    Que les systèmes d'IA apprennent des motifs à partir de données, peuvent se tromper avec assurance et reflètent les limites de ce sur quoi ils ont été entraînés.

  2. 02

    Which risks are practical today?

    Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.

  3. 03

    Comment les personnes peuvent-elles vérifier ce qu'elles voient ?

    Habits of verification: source tracing, provenance signals and asking who benefits from a claim.

  4. 04

    Quels recours existent ?

    Comment les personnes peuvent contester une décision automatisée, corriger les données les concernant ou signaler un usage abusif.

10Mécanismes

Ce qui détermine le résultat.

Les modèles génératifs produisent du texte, des images et de l'audio fluides en prédisant des sorties plausibles, et non en vérifiant les faits. La fluidité inspire confiance, ce qui explique que erreurs et fabrications puissent se propager. Les médias synthétiques réduisent le coût de l' usurpation d'identité et de la production à grande échelle de contenus trompeurs.

Les systèmes de décision automatisée utilisés pour l'octroi de crédits, le recrutement, les prestations ou le maintien de l'ordre peuvent intégrer des schémas historiques présents dans leurs données, et leur raisonnement peut être difficile à expliquer. Les erreurs se répartissent de façon inégale, et les personnes concernées peuvent ignorer qu'un système automatisé est intervenu.

Le débat public oscille entre alarmisme et emballement. Les deux faussent le jugement. Le travail de sensibilisation vise une compréhension nuancée : ce que les systèmes actuels font de manière fiable, là où ils échouent et les garanties qui existent.

11Méthodes et limites

Comment les données probantes sont recueillies, et où elles s'arrêtent.

MéthodeCe qu'il montreSa limite
Enquêtes sur les idées reçuesCommon beliefs about how AI worksLes croyances évoluent rapidement avec les nouveaux outils
Exercices pratiquesWhether people can spot errors or synthetic contentLes compétences de détection ne sont pas toujours transférables à de nouveaux formats
Examen par des expertsAccuracy of claims about capabilitiesCapabilities change between review and reading
Follow-up measuresSi les habitudes de vérification perdurentAttrition et biais d'auto-déclaration
12Méthodes

Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.

  1. Sciences sociales et comportementalesÉtudes des publics avant une campagne · Prétest des supports pour la compréhensionAppliqué ici
  2. Analyse décisionnelle en situation d'incertitudeCommuniquer avant que les données probantes ne soient établies · Choisir les canaux et les publicsAppliqué ici
13Where this page’s references

Where this page’s references lead.

Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.

14Questions

Questions et réponses.

Peut-on apprendre à repérer les deepfakes ?
La formation améliore les performances sur certaines tâches, mais les médias synthétiques de qualité sont souvent indétectables à l'œil ou à l'oreille. Vérifier la source, le contexte et tout enregistrement de provenance est plus fiable que d'examiner le contenu lui-même.
Qu'est-ce que la provenance d'un contenu ?
Enregistrement associé à un fichier image, vidéo ou audio indiquant comment il a été créé et modifié, tel que les Content Credentials de la norme C2PA. L'absence d'enregistrement ne prouve pas qu'un fichier est falsifié.
What rights do people have over automated decisions?
It depends on jurisdiction. In the European Union, data protection law gives rights to information and, in many cases, to human review of decisions based solely on automated processing. Other jurisdictions differ.
Does Campaigns rate AI products?
Non. Il explique en termes généraux comment les systèmes d'IA fonctionnent et échouent, et renvoie aux régulateurs et aux organismes de normalisation dont les évaluations s'appliquent.
Does the platform evaluate or rate AI products?
No. It explains how AI systems work and fail in general terms. It does not test, rate or approve any product.
L'IA est-elle utilisée pour produire le matériel de campagne ?
Where a tool assists, its use is disclosed, and every claim is checked against sources by a named reviewer before publication.
How does the material stay current?
Chaque document explicatif porte une date de révision. Lorsque les capacités ou les règles changent, il est révisé et la modification est consignée comme une nouvelle version.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

GCRICampagnesNote de synthèse sur les preuves
Campagnes

Apportez une méthode, un jeu de données ou une question.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.