Skip to content

GCRI · Campaigns

責任ある AI リテラシー

Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.

02質問

Responsible AI literacy: how the risk develops.

Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

メカニズム

能力が誤って判断される

人は流暢な機械出力を過度に信頼しがちであり、この傾向は 自動化バイアスと呼ばれます。一方で、一度の失敗で有用なツールを退けてしまうこともあります。対話型の システム は、実際には持たない理解や意図を備えているかのように人に思わせ、その回答がどれだけ慎重に確認されるかに影響します。

メカニズム

来歴が曖昧になる

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

メカニズム

Harms fall unevenly

自動化システムにおける誤りやバイアスの影響は、給付の申請者、求職者、リソースの乏しい言語の話者など、それに気づいたり異議を申し立てたりすることが最も難しい人々に最も強く及びます。自信のある利用者にしか届かないリテラシー活動は、この格差を広げてしまいます。

メカニズム

利用が理解を上回る

ツールは、利用者、教員、公務員がその限界を語るための共通の語彙を持つ前に、職場、学校、公共サービスで採用されます。誤解は同僚からの助言や宣伝文句を通じて広まり、指針が整う前に慣行として定着します。

03シミュレーター

集合行動のしきい値モデル。

各エージェントは、十分な数の接触相手が行動したときに行動します。平均しきい値や初期の行動者のわずかな変化が、その行動が局所にとどまるか集団全体に連鎖するかを決めます。例示的な値を明記した教材用モデルであり、予測ではありません。

管理策

平均閾値(近隣の割合)
18%
しきい値のばらつき
8 ポイント
初期の行動者
人口の 2.0%
1 人あたりの接触数
8

読み取り値

最終的に誰が行動したかを共有する
100%
地球規模のカスケード
はい
決着までのステップ数
8
数値、手法、出典
ステップ行動した人の割合(%)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

手法

  1. 集合行動のしきい値モデル Granovetter(1978)、American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

データ

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

集団行動のしきい値モデル。説明用の教材モデルで、実測データではなくコントロールで設定した値に基づいて動きます。手法:集団行動のしきい値モデル(Granovetter (1978)、American Journal of Sociology 83)、ランダムネットワーク上のグローバル・カスケード(Watts (2002)、PNAS 99)、複雑な伝染(Centola and Macy (2007)、American Journal of Sociology 113)。
045 つの分野において

AI literacy matters wherever AI enters a domain’s services.

05手法とエビデンス

責任ある AI リテラシーをどのようにモデル化し、測定し、検証するか。

モデル、その仮定、データ、不確実性を、科学者やエンジニアが確認する形で示します。構造は公表された手法に従っています。描かれた値は例示であり、知見ではありません。

システム・モデル

The couplings between the systems in Responsible AI literacy: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.

++−+情報社会コミュニティ経済R 自己強化B バランス
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
FAIR 原則・GO FAIR と FORCE11W3C PROV・World Wide Web Consortium不確実性の一貫した扱いに関するガイダンス・IPCCCEOS 解析即応データ・地球観測衛星委員会
06指標

何を、どの程度うまく測定しているか。

各指標には、その単位、更新頻度、背後にある出典の種類、値が持つことになるエビデンスのラベルが付いています。値は表示しません:プログラムが自らの権限のもとで値を提供します。

指標単位周期出典の種類ラベル
Self-assessed understanding of AI回答者の割合(%)調査ラウンドごとユーロバロメーターと各国の調査報告値
Accuracy in identifying synthetic mediapercent correct in a controlled task研究ごとExperimental audience research観測
Awareness of rights over automated decisions回答者の割合(%)調査ラウンドごとNational and EU surveys報告値
Concern about telling real from fake content online回答者の割合(%)年次ロイター研究所デジタル・ニュース・レポート報告値
Teachers trained in the use of AI教員の割合(パーセント)調査サイクルごとOECD TALIS and education ministries公表統計
Reported AI incidents involving deception or impersonation月あたりのインシデント数月次AI Incident Database報告値
AI literacy measures in national policy種類別の措置の件数年次OECD.AI 政策データベース申告済み
07出典

エビデンスの出所。

名前の明示された公開データセットと機関の記録。それぞれにライセンス区分があります。合意に基づく出典は、その条件のもとでのみ使用し、再公開することはありません。

出典提供するものライセンス区分
人工知能とデジタル・ディケイドに関するユーロバロメーター調査Awareness, attitudes and expectations of AI across EU member states帰属表示を条件に自由に再利用可
Stanford AI IndexAI の研究、導入、政策、世論データの年次編纂CC BY-ND 4.0
OECD.AI 政策観測所教育とスキルを含む、各国の AI 戦略と政策措置OECD の条件、帰属表示により無料
AI Incident DatabaseAI システムCC BY-SA 4.0
ロイター研究所デジタル・ニュース・レポートニュースにおける AI への社会の許容度と偽情報への懸念閲覧は無料。調査データは請求により提供
OECD TALISTeacher training, practice and use of digital toolsOECD の条件、帰属表示により無料
Pew Research Center による AI に関する調査Public awareness of and attitudes to AI in several countries帰属表示を条件に無償で利用可能。データセットは要請に応じて提供
08決定

誰が決め、エビデンスが何に役立つか。

Campaigns がエビデンスを準備する。以下の決定は、名指しされた当局が自らの規則に基づいて行うものであり、プラットフォームが行うことはない。

誰が決定するか質問このページが提供するエビデンス
教育省およびカリキュラム当局Which AI competencies students and teachers need, and at which stagesTeacher training data; competency frameworks; tested teaching material
AI およびデータ保護の規制当局EU AI 法第 4 条など、AI リテラシーと透明性に関する義務をどのように監督するかAwareness surveys; incident records; literacy measures in policy
オンライン・プラットフォームと AI プロバイダー合成コンテンツの表示方法と、システムの限界をユーザーに説明する方法ラベル理解に関する研究;インシデントの傾向;来歴の標準
選挙管理機関How to prepare voters for synthetic media during electionsDetection task research; rumour logs; trust in electoral information

このトピックが生み出す成果物

  • Practical explainers on how generative and predictive systems work and fail
  • メディアの出典と来歴を確認する演習。その限界も明記
  • 適用法のもとでの自動化された意思決定に関する権利について、平易な言葉で説明したガイド
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09中核となる問い

専門家が問うこと。

  1. 01

    専門家でない人は何を理解すべきか。

    That AI systems learn patterns from data, can be confidently wrong and reflect the limits of what they were trained on.

  2. 02

    Which risks are practical today?

    偽造コンテンツ、 なりすまし、サービスにおける自動化された誤り、プライバシーの喪失、生成された回答への過度の依存。

  3. 03

    How can people check what they see?

    Habits of verification: source tracing, provenance signals and asking who benefits from a claim.

  4. 04

    What recourse exists?

    人々が自動化された決定に異議を申し立て、自身に関するデータを訂正し、または不正使用を報告する方法。

10メカニズム

結果を左右する要因。

生成モデルは、事実を確認するのではなく、もっともらしい出力を予測することで、流暢な文章、画像、音声を生成する。流暢さは信頼を招くため、誤りや捏造が広がりうる。合成メディアは、 なりすまし や、誤解を招く素材を大規模に作成するコストを下げる。

融資、採用、給付又は警察活動で用いられる自動意思決定 システム は、データに含まれる過去のパターンを組み込む可能性があり、その判断根拠は説明しにくいことがある。誤りは不均等に生じ、影響を受ける人々は自動化システムが関与したことを知らない場合がある。

世間の議論は警鐘と誇大宣伝の間で揺れ動いています。どちらも判断を歪めます。リテラシーの取り組みが目指すのは、較正された理解です。すなわち、現在のシステムが確実に行えること、失敗する場面、そして存在する安全対策を理解することです。

11手法と限界

エビデンスがどのように集められ、どこで止まるか。

手法表示内容その限界
誤解に関する調査Common beliefs about how AI works新しいツールにより信念は急速に変化する
Hands-on exercises人々が誤りや合成コンテンツを見分けられるかどうか検知のスキルは新しい形式にそのまま通用するとは限らない
専門家レビュー能力に関する主張の正確性Capabilities change between review and reading
Follow-up measures検証の習慣が定着するかどうか脱落と自己申告バイアス
12手法

どのように研究され、手法が言えないことは何か。

  1. 社会科学・行動科学キャンペーン前のオーディエンス調査 · 資料の理解度の事前テストここでの適用
  2. 不確実性下の意思決定分析エビデンスが定まる前のコミュニケーション · チャネルとオーディエンスの選択ここでの適用
13Where this page’s references

Where this page’s references lead.

このページの読解の基準となる機関と文書。状態と版は変わります。各リンクは発行機関へ移動します。

14質問

質問と回答。

人はディープフェイクを見抜けるようになるか。
訓練によって一部の課題では成績が向上しますが、高度に作られた合成メディアは、目や耳では見分けられないことが少なくありません。コンテンツそのものを調べるよりも、出典、文脈、来歴の記録を確認するほうが確実です。
What is content provenance?
画像、動画、音声ファイルに付随し、その作成方法と編集方法を示す記録です。C2PA 標準に基づく Content Credentials がその例です。記録がないことは、そのファイルが偽物である証拠にはなりません。
What rights do people have over automated decisions?
It depends on jurisdiction. In the European Union, data protection law gives rights to information and, in many cases, to human review of decisions based solely on automated processing. Other jurisdictions differ.
Does Campaigns rate AI products?
No. It explains how AI systems work and fail in general terms and points to the regulators and standards bodies whose assessments apply.
このプラットフォームは AI 製品を評価または格付けしますか。
いいえ。AI システムがどのように機能し、どのように失敗するかを一般的な言葉で説明するものです。いかなる製品も試験、評価、承認しません。
キャンペーン資料の作成に AI を使用しているか。
ツールが支援する場合は、その使用を開示し、すべての主張は公表前に指名された査読者が情報源と照合して確認します。
How does the material stay current?
各解説には見直し日が付されています。能力や規則が変わった場合は改訂され、その変更は新しい版として記録されます。
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

GCRIキャンペーンエビデンス・ブリーフ
キャンペーン

手法、データセット、または問いを持ち込んでください。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。