Skip to content

GCRI · Campaigns

Грамотность в области ответственного ИИ

Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.

02Вопрос

Responsible AI literacy: how the risk develops.

Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Механизм

Capability is misjudged

People over-trust fluent machine output, a pattern known as automation bias, and sometimes dismiss useful tools after a single failure. Conversational systems invite people to attribute understanding and intent they do not have, which shapes how carefully their answers are checked.

Механизм

Provenance blurs

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

Механизм

Harms fall unevenly

Errors and bias in automated systems fall most on people least able to notice or contest them, such as benefit claimants, job applicants and speakers of less-resourced languages. Literacy work that reaches only confident users widens that gap.

Механизм

Use outpaces understanding

Tools are adopted at work, in schools and in public services before users, teachers or public servants share a vocabulary for their limits. Misconceptions spread through peer advice and marketing claims and settle into practice before guidance exists.

03Симулятор

Пороговая модель коллективного поведения.

Каждый агент действует, когда это сделало достаточное число его контактов; небольшие изменения среднего порога или первых участников определяют, останется ли поведение локальным или каскадом охватит население. Учебная модель с заданными иллюстративными значениями, а не прогноз.

Меры контроля

Средний порог (доля соседей)
18%
Разброс порогов
8 пунктов
Первые участники
2.0% населения
Контакты на человека
8

Показания

Доля тех, кто в итоге действовал
100%
Глобальный каскад
Да
Шаги до стабилизации
8
Числа, методы и источники
ШагДоля тех, кто уже действовал (%)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

Методы

  1. Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Данные

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

Пороговая модель коллективного поведения. Иллюстративная учебная модель: она работает на значениях, заданных элементами управления, а не на измеренных данных. Методы: пороговые модели коллективного поведения (Granovetter (1978), American Journal of Sociology 83); глобальные каскады в случайных сетях (Watts (2002), PNAS 99); сложные заражения (Centola and Macy (2007), American Journal of Sociology 113).

По шести опорам, под руководством Nexus Consortium

04В пяти областях

AI literacy matters wherever AI enters a domain’s services.

05Методы и доказательная база

How Responsible AI literacy is modelled, measured and tested.

Модель, её допущения, данные и неопределённость в том виде, в каком их проверил бы учёный или инженер. Структуры следуют опубликованным методам. Показанные значения являются иллюстративными, а не результатами.

Модель системы

The couplings between the systems in Responsible AI literacy: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.

++−+ИнформацияОбществоСообществаЭкономикаR усиливающаяB балансирующая
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
Руководящие принципы FAIR · GO FAIR и FORCE11W3C PROV · Консорциум Всемирной паутиныРуководство по единообразному учёту неопределённостей · МГЭИКCEOS Analysis Ready Data · Комитет по спутникам наблюдения Земли
06Индикаторы

Что измеряется и насколько хорошо.

Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.

ИндикаторЕдиницаПериодичностьТип источникаМетка
Self-assessed understanding of AIпроцент респондентовза волну опросаEurobarometer and national surveysСООБЩЕНО
Accuracy in identifying synthetic mediapercent correct in a controlled taskна каждое исследованиеExperimental audience researchНАБЛЮДАЕМО
Awareness of rights over automated decisionsпроцент респондентовза волну опросаNational and EU surveysСООБЩЕНО
Concern about telling real from fake content onlineпроцент респондентовежегодноReuters Institute Digital News ReportСООБЩЕНО
Teachers trained in the use of AIpercent of teachersза цикл обследованияOECD TALIS and education ministriesОпубликованная статистика
Reported AI incidents involving deception or impersonationинцидентов в месяцежемесячноAI Incident DatabaseСООБЩЕНО
AI literacy measures in national policyчисло мер по типамежегодноOECD.AI policy databaseЗАДЕКЛАРИРОВАНО
07Источники

Откуда берётся доказательная база.

Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.

ИсточникЧто он даётКласс лицензии
Eurobarometer surveys on artificial intelligence and the digital decadeAwareness, attitudes and expectations of AI across EU member statesСвободное повторное использование с указанием авторства
Stanford AI IndexAnnual compilation of AI research, deployment, policy and public opinion dataCC BY-ND 4.0
OECD.AI Policy ObservatoryNational AI strategies and policy measures, including education and skillsУсловия ОЭСР, бесплатно при указании источника
AI Incident DatabaseReported incidents of harm or near harm involving AI systemsCC BY-SA 4.0
Reuters Institute Digital News ReportГотовность общества принимать ИИ в новостях и обеспокоенность ложным контентомFree to read; survey data by request
OECD TALISTeacher training, practice and use of digital toolsУсловия ОЭСР, бесплатно при указании источника
Опросы Pew Research Center об ИИPublic awareness of and attitudes to AI in several countriesFree to use with attribution; datasets on request
08Решения

Кто принимает решения и чему служит доказательная база.

Campaigns готовит доказательную базу. Перечисленные ниже решения принимают указанные органы по своим собственным правилам, но никогда не платформа.

Кто принимает решениеВопросДоказательная база, которую обслуживает эта страница
Ministries of education and curriculum authoritiesWhich AI competencies students and teachers need, and at which stagesTeacher training data; competency frameworks; tested teaching material
AI and data protection regulatorsКак осуществлять надзор за обязательствами по обеспечению грамотности в области ИИ и прозрачности, например статьёй 4 Закона ЕС об ИИAwareness surveys; incident records; literacy measures in policy
Online platforms and AI providersHow to label synthetic content and explain system limits to usersResearch on label comprehension; incident patterns; provenance standards
Органы управления выборамиHow to prepare voters for synthetic media during electionsDetection task research; rumour logs; trust in electoral information

Результаты, которые даёт эта тема

  • Practical explainers on how generative and predictive systems work and fail
  • Exercises on checking source and provenance of media, with their limits stated
  • Plain-language guides to rights over automated decisions under applicable law
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09Ключевые вопросы

Что спрашивают эксперты.

  1. 01

    What should a non-specialist understand?

    То, что системы ИИ обучаются закономерностям на данных, могут быть уверенно неправы и отражают ограничения того, на чём их обучали.

  2. 02

    Which risks are practical today?

    Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.

  3. 03

    How can people check what they see?

    Навыки проверки: прослеживание источников, признаки происхождения и вопрос о том, кому выгодно то или иное утверждение.

  4. 04

    What recourse exists?

    How people can question an automated decision, correct data about themselves or report misuse.

10Механизмы

Что определяет результат.

Генеративные модели создают беглый текст, изображения и аудио, предсказывая правдоподобные результаты, а не проверяя факты. Беглость располагает к доверию, поэтому ошибки и фальсификации могут распространяться. Синтетические медиа снижают стоимость выдавания себя за другое лицо и массового производства вводящих в заблуждение материалов.

Automated decision systems used in lending, hiring, benefits or policing can embed historical patterns in their data, and their reasoning may be hard to explain. Errors fall unevenly, and people affected may not know an automated system was involved.

Публичная дискуссия колеблется между тревогой и ажиотажем. Оба подхода искажают суждение. Работа по повышению грамотности нацелена на выверенное понимание: что современные системы делают надёжно, где они дают сбои и какие меры защиты существуют.

11Методы и ограничения

Как собирается доказательная база и где её пределы.

МетодЧто он показываетЕго ограничение
Misconception surveysCommon beliefs about how AI worksПредставления быстро меняются с появлением новых инструментов
Hands-on exercisesWhether people can spot errors or synthetic contentDetection skills may not transfer to new formats
Экспертная рецензияТочность заявлений о возможностяхCapabilities change between review and reading
Follow-up measuresWhether verification habits persistAttrition and self-report bias
12Методы

Как это изучается и чего методы не могут сказать.

  1. Социальные и поведенческие наукиИсследование аудитории до кампании · Предварительное тестирование материалов на понятностьПрименяется здесь
  2. Анализ решений в условиях неопределённостиИнформирование до того, как доказательная база устоится · Выбор каналов и аудиторийПрименяется здесь
13Where this page’s references

Where this page’s references lead.

Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.

14Вопросы

Вопросы и ответы.

Can people learn to spot deepfakes?
Обучение повышает результативность при выполнении некоторых задач, но качественные синтетические медиа зачастую невозможно распознать на глаз или на слух. Проверка источника, контекста и любых записей о происхождении надёжнее, чем изучение самого содержимого.
Что такое происхождение контента?
Запись, прикреплённая к изображению, видео- или аудиофайлу и указывающая, как он был создан и отредактирован, например Content Credentials по стандарту C2PA. Отсутствие такой записи не доказывает, что файл поддельный.
What rights do people have over automated decisions?
It depends on jurisdiction. In the European Union, data protection law gives rights to information and, in many cases, to human review of decisions based solely on automated processing. Other jurisdictions differ.
Does Campaigns rate AI products?
No. It explains how AI systems work and fail in general terms and points to the regulators and standards bodies whose assessments apply.
Does the platform evaluate or rate AI products?
No. It explains how AI systems work and fail in general terms. It does not test, rate or approve any product.
Is AI used to produce campaign material?
Where a tool assists, its use is disclosed, and every claim is checked against sources by a named reviewer before publication.
How does the material stay current?
Each explainer carries a review date. When capabilities or rules change, it is revised and the change is recorded as a new version.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

GCRIКампанииАналитическая справка по доказательной базе
Кампании

Предложите метод, набор данных или вопрос.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.