Skip to content

GCRI · Campaigns

负责任的 AI 素养

Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.

01登记

负责任的人工智能素养记录。

02问题

Responsible AI literacy: how the risk develops.

对人工智能风险的实际理解。下方档案说明风险如何发展、衡量什么、数据来自哪里、如何建模以及由谁决定。

机制

对能力的误判

人们往往过度信任流畅的机器输出,这种现象称为 自动化偏差,有时又会因一次失败就摒弃有用的工具。对话式 系统 会诱使人们赋予其并不具备的理解力和意图,这影响人们核查其答案的审慎程度。

机制

来源追溯变得模糊

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

机制

Harms fall unevenly

自动化系统中的错误和偏见,对最不容易察觉或质疑它们的人影响最大,例如福利申领人、求职者和使用资源较少语言的人。只触达自信使用者的素养工作会扩大这一差距。

机制

使用超出了理解

在用户、教师或公务人员对工具的局限形成共同语汇之前,这些工具已在工作场所、学校和公共服务中被采用。误解通过同行建议和营销宣传传播,并在指引出台之前就已固化为惯常做法。

03模拟器

集体行为的阈值模型。

每个主体在足够多的联系人行动后才行动;平均阈值或早期行动者的微小变化,决定该行为是停留在局部还是在整个人群中级联扩散。这是带有说明性取值的教学模型,不是预测。

控制措施

平均阈值(邻居比例)
18%
阈值的离散度
8 分
早期行动者
2.0% 的人口
人均接触数
8

读数

说明最终是谁采取了行动
100%
全球级联
是
结算步数
8
数字、方法与来源
步骤已采取行动的比例(%)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

方法

  1. 集体行为的阈值模型 Granovetter(1978),American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

数据

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

集体行为的阈值模型。示意性教学模型:它依据控件设定的数值运行,而非实测数据。方法:Threshold models of collective behaviour (Granovetter (1978), American Journal of Sociology 83);Global cascades on random networks (Watts (2002), PNAS 99);Complex contagions (Centola and Macy (2007), American Journal of Sociology 113)。
04在五个领域中

AI literacy matters wherever AI enters a domain’s services.

05方法与证据

负责任人工智能素养如何建模、衡量和检验。

模型、其假设、数据和不确定性,以科学家或工程师会核查的形式呈现。结构遵循已发表的方法。所取数值仅为示意,不是研究发现。

系统模型

负责任人工智能素养中各系统之间的耦合:影响的符号、一个增强回路和一个平衡回路,以及压力跃升处的交叉链接。

++−+信息社会社区经济R 增强B 平衡
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
FAIR 指导原则 · GO FAIR 和 FORCE11W3C PROV · 万维网联盟关于一致处理不确定性的指南 · IPCCCEOS 分析就绪数据 · 地球观测卫星委员会
06指标

衡量什么,以及衡量得如何。

每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。

指标单位节奏来源类型标签
Self-assessed understanding of AI受访者百分比每轮调查欧洲晴雨表与各国调查已报告
识别合成媒体的准确率受控任务中的正确率百分比每项研究Experimental audience research观测
对自动化决策相关权利的认知受访者百分比每轮调查国家和欧盟调查已报告
对在线辨别真假内容的担忧受访者百分比年度Reuters Institute Digital News Report已报告
接受过人工智能使用培训的教师教师所占百分比每个调查周期OECD TALIS and education ministries已发布统计
涉及欺骗或 冒充incidents per month每月AI Incident Database已报告
AI literacy measures in national policy按类型统计的措施数量年度OECD.AI 政策数据库已声明
07来源

证据来自何处。

具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。

来源它提供什么许可类别
Eurobarometer surveys on artificial intelligence and the digital decade欧盟成员国对人工智能的认知、态度和期望署名后可自由复用
斯坦福人工智能指数AI 研究、部署、政策和公众意见数据的年度汇编CC BY-ND 4.0
OECD.AI 政策观察站国家人工智能战略和政策措施,包括教育和技能经合组织条款,署名后可免费使用
AI Incident Database涉及人工智能 系统CC BY-SA 4.0
Reuters Institute Digital News Report公众对新闻中使用人工智能的接受程度及对虚假内容的担忧免费阅读;调查数据可申请获取
OECD TALISTeacher training, practice and use of digital tools经合组织条款,署名后可免费使用
Pew Research Center surveys on AI若干国家公众对 AI 的认知与态度署名后可免费使用;数据集可按需提供
08决定

由谁决定,以及证据服务于什么。

Campaigns 负责准备证据。以下决定由所指定的当局依其自身规则作出,绝不由平台作出。

谁来决定问题本页面服务的证据
教育部和课程主管机构Which AI competencies students and teachers need, and at which stagesTeacher training data; competency frameworks; tested teaching material
AI and data protection regulatorsHow to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI Act认知调查;事件记录;政策中的素养衡量
在线平台和人工智能提供方如何标注合成内容并向用户说明系统局限Research on label comprehension; incident patterns; provenance standards
选举管理机构How to prepare voters for synthetic media during electionsDetection task research; rumour logs; trust in electoral information

该主题产生的产出

  • Practical explainers on how generative and predictive systems work and fail
  • Exercises on checking source and provenance of media, with their limits stated
  • 适用法律下关于自动化决策相关权利的通俗指南
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09核心问题

专家提出的问题。

  1. 01

    非专业人士应当了解什么?

    That AI systems learn patterns from data, can be confidently wrong and reflect the limits of what they were trained on.

  2. 02

    Which risks are practical today?

    Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.

  3. 03

    人们如何核实所见内容?

    Habits of verification: source tracing, provenance signals and asking who benefits from a claim.

  4. 04

    有哪些救济途径?

    How people can question an automated decision, correct data about themselves or report misuse.

10机制

决定结果的因素。

生成式模型通过预测看似合理的输出来生成流畅的文本、图像和音频,而不是核查事实。流畅性容易引人信任,这正是错误和虚构内容得以扩散的原因。合成媒体降低了 冒充 以及大规模制作误导性材料的成本。

用于贷款、招聘、福利或执法的自动化决策 系统 可能在其数据中固化历史模式,其推理过程也可能难以解释。错误的分布并不均衡,受影响的人可能并不知道涉及自动化系统。

公众讨论在恐慌与炒作之间摇摆,二者都会扭曲判断。素养工作旨在形成经过校准的理解:当前系统能可靠地做什么、在哪些方面会失效,以及存在哪些保障措施。

11方法与局限

证据如何收集,以及止于何处。

方法显示内容其局限
Misconception surveysCommon beliefs about how AI works随着新工具出现,信念转变迅速
实操练习人们能否识别错误或合成内容检测技能可能无法迁移到新的格式
专家审查关于能力的声明的准确性能力在审查与阅读之间发生变化
Follow-up measures核查习惯能否持续样本流失与自我报告偏差
12方法

如何研究,以及方法无法说明的内容。

  1. 社会与行为科学行动前的受众研究 · 材料理解度预测试在此应用
  2. 不确定性下的决策分析在证据尚未确定时进行沟通 · 选择渠道和受众在此应用
13Where this page’s references

Where this page’s references lead.

阅读本页时所对照的机构和文件。状态和版本会变化;每个链接都指向发布机构。

14问题

问题与解答。

人们能学会识别深度伪造吗?
培训可以提高人们在某些任务上的表现,但高水平的合成媒体往往无法通过肉眼或耳朵识别。核查来源、背景和任何来源追溯记录,比检查内容本身更为可靠。
What is content provenance?
附于图像、视频或音频文件的记录,说明其制作和编辑方式,例如 C2PA 标准下的内容凭证。缺少该记录并不能证明文件是伪造的。
人们对自动化决策享有哪些权利?
It depends on jurisdiction. In the European Union, data protection law gives rights to information and, in many cases, to human review of decisions based solely on automated processing. Other jurisdictions differ.
Does Campaigns rate AI products?
No. It explains how AI systems work and fail in general terms and points to the regulators and standards bodies whose assessments apply.
Does the platform evaluate or rate AI products?
No. It explains how AI systems work and fail in general terms. It does not test, rate or approve any product.
是否使用 AI 制作宣传材料?
若使用了辅助工具,会予以披露,且每项论断在发布前均由指定审核人对照来源进行核查。
How does the material stay current?
Each explainer carries a review date. When capabilities or rules change, it is revised and the change is recorded as a new version.
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

GCRI倡导行动证据简报
倡导行动

带来一种方法、一个数据集或一个问题。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。