GCRI · Campaigns
責任ある AI リテラシー
Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.
Responsible AI literacy on the record.
Responsible AI literacy: how the risk develops.
Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
能力が誤って判断される
人は流暢な機械出力を過度に信頼しがちであり、この傾向は 自動化バイアスと呼ばれます。一方で、一度の失敗で有用なツールを退けてしまうこともあります。対話型の システム は、実際には持たない理解や意図を備えているかのように人に思わせ、その回答がどれだけ慎重に確認されるかに影響します。
来歴が曖昧になる
Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.
Harms fall unevenly
自動化システムにおける誤りやバイアスの影響は、給付の申請者、求職者、リソースの乏しい言語の話者など、それに気づいたり異議を申し立てたりすることが最も難しい人々に最も強く及びます。自信のある利用者にしか届かないリテラシー活動は、この格差を広げてしまいます。
利用が理解を上回る
ツールは、利用者、教員、公務員がその限界を語るための共通の語彙を持つ前に、職場、学校、公共サービスで採用されます。誤解は同僚からの助言や宣伝文句を通じて広まり、指針が整う前に慣行として定着します。
集合行動のしきい値モデル。
各エージェントは、十分な数の接触相手が行動したときに行動します。平均しきい値や初期の行動者のわずかな変化が、その行動が局所にとどまるか集団全体に連鎖するかを決めます。例示的な値を明記した教材用モデルであり、予測ではありません。
管理策
- 平均閾値(近隣の割合)
- 18%
- しきい値のばらつき
- 8 ポイント
- 初期の行動者
- 人口の 2.0%
- 1 人あたりの接触数
- 8
読み取り値
- 最終的に誰が行動したかを共有する
- 100%
- 地球規模のカスケード
- はい
- 決着までのステップ数
- 8
数値、手法、出典
| ステップ | 行動した人の割合(%) |
|---|---|
| 0 | 3.3 |
| 1 | 10.0 |
| 2 | 26.3 |
| 3 | 49.3 |
| 4 | 71.0 |
| 5 | 88.5 |
| 6 | 98.8 |
| 7 | 100.0 |
| 8 | 100.0 |
手法
- 集合行動のしきい値モデル Granovetter(1978)、American Journal of Sociology 83
- Global cascades on random networks Watts (2002), PNAS 99
- Complex contagions Centola and Macy (2007), American Journal of Sociology 113
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
データ
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
6 本の柱を通じて、Nexus Consortium が主導
AI literacy matters wherever AI enters a domain’s services.
Findings are designed for the Exponential Technology series. UNESCO’s Recommendation on the Ethics of AI (2021) includes AI literacy among its policy areas.
- Curricula and evaluations.
- Accounts of AI tools in daily life.
責任ある AI リテラシーをどのようにモデル化し、測定し、検証するか。
モデル、その仮定、データ、不確実性を、科学者やエンジニアが確認する形で示します。構造は公表された手法に従っています。描かれた値は例示であり、知見ではありません。
システム・モデル
The couplings between the systems in Responsible AI literacy: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
何を、どの程度うまく測定しているか。
各指標には、その単位、更新頻度、背後にある出典の種類、値が持つことになるエビデンスのラベルが付いています。値は表示しません:プログラムが自らの権限のもとで値を提供します。
| 指標 | 単位 | 周期 | 出典の種類 | ラベル |
|---|---|---|---|---|
| Self-assessed understanding of AI | 回答者の割合(%) | 調査ラウンドごと | ユーロバロメーターと各国の調査 | 報告値 |
| Accuracy in identifying synthetic media | percent correct in a controlled task | 研究ごと | Experimental audience research | 観測 |
| Awareness of rights over automated decisions | 回答者の割合(%) | 調査ラウンドごと | National and EU surveys | 報告値 |
| Concern about telling real from fake content online | 回答者の割合(%) | 年次 | ロイター研究所デジタル・ニュース・レポート | 報告値 |
| Teachers trained in the use of AI | 教員の割合(パーセント) | 調査サイクルごと | OECD TALIS and education ministries | 公表統計 |
| Reported AI incidents involving deception or impersonation | 月あたりのインシデント数 | 月次 | AI Incident Database | 報告値 |
| AI literacy measures in national policy | 種類別の措置の件数 | 年次 | OECD.AI 政策データベース | 申告済み |
エビデンスの出所。
名前の明示された公開データセットと機関の記録。それぞれにライセンス区分があります。合意に基づく出典は、その条件のもとでのみ使用し、再公開することはありません。
| 出典 | 提供するもの | ライセンス区分 |
|---|---|---|
| 人工知能とデジタル・ディケイドに関するユーロバロメーター調査 | Awareness, attitudes and expectations of AI across EU member states | 帰属表示を条件に自由に再利用可 |
| Stanford AI Index | AI の研究、導入、政策、世論データの年次編纂 | CC BY-ND 4.0 |
| OECD.AI 政策観測所 | 教育とスキルを含む、各国の AI 戦略と政策措置 | OECD の条件、帰属表示により無料 |
| AI Incident Database | AI システム | CC BY-SA 4.0 |
| ロイター研究所デジタル・ニュース・レポート | ニュースにおける AI への社会の許容度と偽情報への懸念 | 閲覧は無料。調査データは請求により提供 |
| OECD TALIS | Teacher training, practice and use of digital tools | OECD の条件、帰属表示により無料 |
| Pew Research Center による AI に関する調査 | Public awareness of and attitudes to AI in several countries | 帰属表示を条件に無償で利用可能。データセットは要請に応じて提供 |
誰が決め、エビデンスが何に役立つか。
Campaigns がエビデンスを準備する。以下の決定は、名指しされた当局が自らの規則に基づいて行うものであり、プラットフォームが行うことはない。
| 誰が決定するか | 質問 | このページが提供するエビデンス |
|---|---|---|
| 教育省およびカリキュラム当局 | Which AI competencies students and teachers need, and at which stages | Teacher training data; competency frameworks; tested teaching material |
| AI およびデータ保護の規制当局 | EU AI 法第 4 条など、AI リテラシーと透明性に関する義務をどのように監督するか | Awareness surveys; incident records; literacy measures in policy |
| オンライン・プラットフォームと AI プロバイダー | 合成コンテンツの表示方法と、システムの限界をユーザーに説明する方法 | ラベル理解に関する研究;インシデントの傾向;来歴の標準 |
| 選挙管理機関 | How to prepare voters for synthetic media during elections | Detection task research; rumour logs; trust in electoral information |
このトピックが生み出す成果物
- Practical explainers on how generative and predictive systems work and fail
- メディアの出典と来歴を確認する演習。その限界も明記
- 適用法のもとでの自動化された意思決定に関する権利について、平易な言葉で説明したガイド
- Teaching material for educators aligned with UNESCO AI competency frameworks
専門家が問うこと。
- 01
専門家でない人は何を理解すべきか。
That AI systems learn patterns from data, can be confidently wrong and reflect the limits of what they were trained on.
- 02
Which risks are practical today?
偽造コンテンツ、 なりすまし、サービスにおける自動化された誤り、プライバシーの喪失、生成された回答への過度の依存。
- 03
How can people check what they see?
Habits of verification: source tracing, provenance signals and asking who benefits from a claim.
- 04
What recourse exists?
人々が自動化された決定に異議を申し立て、自身に関するデータを訂正し、または不正使用を報告する方法。
結果を左右する要因。
生成モデルは、事実を確認するのではなく、もっともらしい出力を予測することで、流暢な文章、画像、音声を生成する。流暢さは信頼を招くため、誤りや捏造が広がりうる。合成メディアは、 なりすまし や、誤解を招く素材を大規模に作成するコストを下げる。
融資、採用、給付又は警察活動で用いられる自動意思決定 システム は、データに含まれる過去のパターンを組み込む可能性があり、その判断根拠は説明しにくいことがある。誤りは不均等に生じ、影響を受ける人々は自動化システムが関与したことを知らない場合がある。
世間の議論は警鐘と誇大宣伝の間で揺れ動いています。どちらも判断を歪めます。リテラシーの取り組みが目指すのは、較正された理解です。すなわち、現在のシステムが確実に行えること、失敗する場面、そして存在する安全対策を理解することです。
エビデンスがどのように集められ、どこで止まるか。
| 手法 | 表示内容 | その限界 |
|---|---|---|
| 誤解に関する調査 | Common beliefs about how AI works | 新しいツールにより信念は急速に変化する |
| Hands-on exercises | 人々が誤りや合成コンテンツを見分けられるかどうか | 検知のスキルは新しい形式にそのまま通用するとは限らない |
| 専門家レビュー | 能力に関する主張の正確性 | Capabilities change between review and reading |
| Follow-up measures | 検証の習慣が定着するかどうか | 脱落と自己申告バイアス |
Where this page’s references lead.
このページの読解の基準となる機関と文書。状態と版は変わります。各リンクは発行機関へ移動します。
質問と回答。
人はディープフェイクを見抜けるようになるか。
What is content provenance?
What rights do people have over automated decisions?
Does Campaigns rate AI products?
このプラットフォームは AI 製品を評価または格付けしますか。
キャンペーン資料の作成に AI を使用しているか。
How does the material stay current?
このページからエビデンスを提供する。
Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。
- メールゲートウェイ GW-GCRIこのページから送信するエビデンス、訂正、事例、手法、レビュー、翻訳、プロファイルへの入力。このページのタグが付いて届くため、担当の編集者が受け取ります。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 報告書GCRI貢献のすべての方法を見る貢献の種類、それぞれの審査方法、受け取るクレジット、ライセンス、決して受け付けないもの。
個人データ、重要インフラの機微な詳細、共有する権利のないものは決して送らないでください。寄稿は利用前にレビューされます。送付によって著作者としての権利や編集上の権利が生じることはなく、スポンサーシップで調査結果を買うことは決してできません。
手法、データセット、または問いを持ち込んでください。
情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。
法的文書。
このサイトの地図、データ、図表は、背景と一般的な情報として示すものです。助言、予報、警報ではありません。情報の限界は免責事項とデータに関する注意事項に記載しています。