GCRI · Campaigns
Culture de l'IA responsable
L'intelligence artificielle façonne désormais ce que les gens lisent, les services qu'ils reçoivent et la manière dont les contenus sont produits. La maîtrise responsable de l'IA est une compréhension pratique de ce que font ces systèmes , de leurs défaillances et des droits dont disposent les personnes lorsqu'ils sont utilisés. Elle comprend la reconnaissance des médias synthétiques, l'évaluation des réponses générées et la connaissance des cas où les décisions automatisées peuvent être contestées. Cette page expose comment les malentendus sur l'IA se forment et se diffusent, comment la maîtrise est mesurée, et les décisions qui incombent aux éducateurs, aux régulateurs et aux plateformes.
La maîtrise responsable de l'IA, versée au dossier.
Responsible AI literacy: how the risk develops.
Compréhension pratique des risques liés à l'IA. Le dossier ci-dessous expose comment le risque se développe, ce qui est mesuré, d'où viennent les données, comment elles sont modélisées et qui décide.
Les capacités sont mal évaluées
Les personnes accordent une confiance excessive aux productions fluides des machines, un phénomène connu sous le nom de biais d'automatisation, et rejettent parfois des outils utiles après un seul échec. Les systèmes conversationnels incitent à leur attribuer une compréhension et des intentions qu'ils n'ont pas, ce qui influe sur le soin avec lequel leurs réponses sont vérifiées.
La provenance s'estompe
Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.
Harms fall unevenly
Les erreurs et les biais des systèmes automatisés touchent surtout les personnes les moins en mesure de les remarquer ou de les contester, comme les demandeurs de prestations, les candidats à un emploi et les locuteurs de langues moins dotées en ressources. Un travail de sensibilisation qui n'atteint que les utilisateurs à l'aise creuse cet écart.
L'usage devance la compréhension
Les outils sont adoptés au travail, dans les écoles et dans les services publics avant que les utilisateurs, les enseignants ou les agents publics ne partagent un vocabulaire pour en décrire les limites. Les idées fausses se propagent par les conseils entre pairs et les arguments marketing, et s'installent dans la pratique avant que des orientations n'existent.
Un modèle à seuil du comportement collectif.
Chaque agent agit dès qu'assez de ses contacts l'ont fait ; de petits changements du seuil moyen ou des premiers à agir décident si le comportement reste local ou se propage en cascade dans la population. Modèle pédagogique à valeurs illustratives déclarées, pas une prédiction.
Commandes
- Seuil moyen (part des voisins)
- 18%
- Dispersion des seuils
- 8 points
- Premiers à agir
- 2,0 % des personnes
- Contacts par personne
- 8
Relevés
- Part de ceux qui ont fini par agir
- 100%
- Cascade mondiale
- Oui
- Étapes jusqu'au règlement
- 8
Chiffres, méthodes et sources
| Étape | Part des personnes ayant agi (%) |
|---|---|
| 0 | 3.3 |
| 1 | 10.0 |
| 2 | 26.3 |
| 3 | 49.3 |
| 4 | 71.0 |
| 5 | 88.5 |
| 6 | 98.8 |
| 7 | 100.0 |
| 8 | 100.0 |
Méthodes
- Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
- Global cascades on random networks Watts (2002), PNAS 99
- Complex contagions Centola and Macy (2007), American Journal of Sociology 113
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Données
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
Sur les six piliers, sous la conduite de Nexus Consortium
- Expériences Laboratoires
- Intégré Campaigns dans Foundry
- Testé à Campaigns dans Universe
- Codifié dans Gouvernance, sécurité et société dans Standards
- Publié dans Campaigns dans Reports
- Enseigné dans Faculté de gouvernance, de politiques publiques et d'affaires internationales à l'Academy
AI literacy matters wherever AI enters a domain’s services.
- HealthIn practiceUnderstanding what clinical AI can and cannot do.What a reader can checkLiteracy measures
- AlimentationEn pratiqueÉvaluer les outils de conseil aux agriculteurs.Ce qu'un lecteur peut vérifierUsage et confiance
- WaterIn practiceUnderstanding automated alerts from utilities.What a reader can checkResponse to alerts
Findings are designed for the Exponential Technology series. UNESCO’s Recommendation on the Ethics of AI (2021) includes AI literacy among its policy areas.
- Curricula and evaluations.
- Accounts of AI tools in daily life.
How Responsible AI literacy is modelled, measured and tested.
Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.
Modèle de système
Les couplages entre les systèmes de la maîtrise responsable de l'IA : signes d'influence, une boucle de renforcement et une boucle d'équilibrage, et liens croisés où le stress s'amplifie brusquement.
Ce qui est mesuré, et avec quelle qualité.
Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.
| Indicateur | Unité | Fréquence | Type de source | Étiquette |
|---|---|---|---|---|
| Self-assessed understanding of AI | pourcentage des répondants | par vague d'enquête | Eurobaromètre et enquêtes nationales | DÉCLARÉ |
| Accuracy in identifying synthetic media | percent correct in a controlled task | par étude | Experimental audience research | OBSERVÉ |
| Awareness of rights over automated decisions | pourcentage des répondants | par vague d'enquête | Enquêtes nationales et de l'UE | DÉCLARÉ |
| Inquiétude face à la difficulté de distinguer le vrai du faux contenu en ligne | pourcentage des répondants | annuel | Reuters Institute Digital News Report | DÉCLARÉ |
| Teachers trained in the use of AI | pour cent des enseignants | par cycle d'enquête | OCDE TALIS et ministères de l'éducation | Statistiques publiées |
| Incidents d'IA signalés impliquant de la tromperie ou de l' usurpation d'identité | incidents per month | mensuel | AI Incident Database | DÉCLARÉ |
| Mesures de littératie en IA dans les politiques nationales | nombre de mesures par type | annuel | Base de données de politiques OECD.AI | DÉCLARÉ |
D'où proviennent les données probantes.
Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.
| Sources | Ce qu'elle apporte | Catégorie de licence |
|---|---|---|
| Enquêtes Eurobaromètre sur l'intelligence artificielle et la décennie numérique | Connaissance, attitudes et attentes à l'égard de l'IA dans les États membres de l'UE | Réutilisation libre avec attribution |
| Stanford AI Index | Annual compilation of AI research, deployment, policy and public opinion data | CC BY-ND 4.0 |
| Observatoire des politiques de l'IA de l'OCDE (OECD.AI) | Stratégies nationales et mesures de politique en matière d'IA, y compris l'éducation et les compétences | Conditions de l'OCDE, libre accès avec attribution |
| AI Incident Database | Incidents signalés de préjudice ou de quasi-préjudice impliquant des systèmes | CC BY-SA 4.0 |
| Reuters Institute Digital News Report | Public comfort with AI in news and concern about false content | Free to read; survey data by request |
| OECD TALIS | Teacher training, practice and use of digital tools | Conditions de l'OCDE, libre accès avec attribution |
| Enquêtes du Pew Research Center sur l'IA | Sensibilisation du public à l'IA et attitudes à son égard dans plusieurs pays | Utilisation libre avec attribution ; jeux de données sur demande |
Qui décide, et à quoi servent les données probantes.
Campaigns prépare les données probantes. Les décisions ci-dessous sont prises par les autorités nommées, selon leurs propres règles, et jamais par la plateforme.
| Qui décide | La question | Données probantes servies par cette page |
|---|---|---|
| Ministries of education and curriculum authorities | Which AI competencies students and teachers need, and at which stages | Teacher training data; competency frameworks; tested teaching material |
| AI and data protection regulators | How to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI Act | Awareness surveys; incident records; literacy measures in policy |
| Plateformes en ligne et fournisseurs d'IA | Comment étiqueter les contenus synthétiques et expliquer les limites du système aux utilisateurs | Research on label comprehension; incident patterns; provenance standards |
| Organes de gestion des élections | How to prepare voters for synthetic media during elections | Recherche sur les tâches de détection ; journaux de rumeurs ; confiance dans l'information électorale |
Résultats que produit ce thème
- Practical explainers on how generative and predictive systems work and fail
- Exercices de vérification de la source et de la provenance des médias, avec leurs limites exposées
- Guides en langage clair sur les droits relatifs aux décisions automatisées en vertu du droit applicable
- Teaching material for educators aligned with UNESCO AI competency frameworks
Ce que se demandent les experts.
- 01
Que doit comprendre un non-spécialiste ?
Que les systèmes d'IA apprennent des motifs à partir de données, peuvent se tromper avec assurance et reflètent les limites de ce sur quoi ils ont été entraînés.
- 02
Which risks are practical today?
Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.
- 03
Comment les personnes peuvent-elles vérifier ce qu'elles voient ?
Habits of verification: source tracing, provenance signals and asking who benefits from a claim.
- 04
Quels recours existent ?
Comment les personnes peuvent contester une décision automatisée, corriger les données les concernant ou signaler un usage abusif.
Ce qui détermine le résultat.
Les modèles génératifs produisent du texte, des images et de l'audio fluides en prédisant des sorties plausibles, et non en vérifiant les faits. La fluidité inspire confiance, ce qui explique que erreurs et fabrications puissent se propager. Les médias synthétiques réduisent le coût de l' usurpation d'identité et de la production à grande échelle de contenus trompeurs.
Les systèmes de décision automatisée utilisés pour l'octroi de crédits, le recrutement, les prestations ou le maintien de l'ordre peuvent intégrer des schémas historiques présents dans leurs données, et leur raisonnement peut être difficile à expliquer. Les erreurs se répartissent de façon inégale, et les personnes concernées peuvent ignorer qu'un système automatisé est intervenu.
Le débat public oscille entre alarmisme et emballement. Les deux faussent le jugement. Le travail de sensibilisation vise une compréhension nuancée : ce que les systèmes actuels font de manière fiable, là où ils échouent et les garanties qui existent.
Comment les données probantes sont recueillies, et où elles s'arrêtent.
| Méthode | Ce qu'il montre | Sa limite |
|---|---|---|
| Enquêtes sur les idées reçues | Common beliefs about how AI works | Les croyances évoluent rapidement avec les nouveaux outils |
| Exercices pratiques | Whether people can spot errors or synthetic content | Les compétences de détection ne sont pas toujours transférables à de nouveaux formats |
| Examen par des experts | Accuracy of claims about capabilities | Capabilities change between review and reading |
| Follow-up measures | Si les habitudes de vérification perdurent | Attrition et biais d'auto-déclaration |
Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
Peut-on apprendre à repérer les deepfakes ?
Qu'est-ce que la provenance d'un contenu ?
What rights do people have over automated decisions?
Does Campaigns rate AI products?
Does the platform evaluate or rate AI products?
L'IA est-elle utilisée pour produire le matériel de campagne ?
How does the material stay current?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GCRIL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RapportsGCRIVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Apportez une méthode, un jeu de données ou une question.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.