Skip to content

GCRI · Campaigns

سواد مسئولانهٔ هوش مصنوعی

Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.

02پرسش

Responsible AI literacy: how the risk develops.

Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

سازوکار

Capability is misjudged

People over-trust fluent machine output, a pattern known as automation bias, and sometimes dismiss useful tools after a single failure. Conversational systems invite people to attribute understanding and intent they do not have, which shapes how carefully their answers are checked.

سازوکار

Provenance blurs

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

سازوکار

Harms fall unevenly

Errors and bias in automated systems fall most on people least able to notice or contest them, such as benefit claimants, job applicants and speakers of less-resourced languages. Literacy work that reaches only confident users widens that gap.

سازوکار

Use outpaces understanding

Tools are adopted at work, in schools and in public services before users, teachers or public servants share a vocabulary for their limits. Misconceptions spread through peer advice and marketing claims and settle into practice before guidance exists.

03شبیه‌ساز

مدل آستانه‌ای رفتار جمعی.

هر عامل زمانی عمل می‌کند که به‌اندازهٔ کافی از مخاطبانش عمل کرده باشند؛ تغییرهای کوچک در آستانهٔ میانگین یا پیشگامان اولیه تعیین می‌کند که رفتار محلی بماند یا در سراسر جمعیت آبشاری شود. مدل آموزشی با مقادیر تصویری اعلام‌شده، نه پیش‌بینی.

کنترل‌ها

آستانهٔ میانگین (سهم همسایگان)
18%
گسترهٔ آستانه‌ها
8 امتیاز
پیشگامان اولیه
2.0٪ از مردم
تماس به‌ازای هر فرد
8

خوانش‌ها

سهم کسانی که در پایان اقدام کردند
100%
آبشار جهانی
بله
گام‌های تسویه
8
رقم‌ها، روش‌ها و منابع
گامسهم کسانی که اقدام کرده‌اند (٪)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

روش‌ها

  1. Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

داده

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

مدل آستانه‌ای رفتار جمعی. مدل آموزشی تصویری: بر پایهٔ مقادیر تعیین‌شده با کنترل‌ها اجرا می‌شود، نه داده‌های اندازه‌گیری‌شده. روش‌ها: مدل‌های آستانه‌ای رفتار جمعی (Granovetter (1978), American Journal of Sociology 83)؛ آبشارهای جهانی بر شبکه‌های تصادفی (Watts (2002), PNAS 99)؛ سرایت‌های پیچیده (Centola and Macy (2007), American Journal of Sociology 113).

در شش رکن، به رهبری Nexus Consortium

05روش‌ها و شواهد

چگونه سواد هوش مصنوعی مسئولانه مدل‌سازی، اندازه‌گیری و آزمون می‌شود.

مدل، مفروضات، داده‌ها و عدم قطعیت آن، به شکلی که دانشمند یا مهندس بررسی می‌کند. ساختارها از روش‌های منتشرشده پیروی می‌کنند. مقادیر ترسیم‌شده تبیینی‌اند، نه یافته.

مدل سامانه

The couplings between the systems in Responsible AI literacy: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.

++−+اطلاعاتجامعهاجتماع‌هااقتصادR تقویتیتوازن B
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06نشانگرها

چه چیزی اندازه‌گیری می‌شود و با چه کیفیتی.

هر نشانگر واحد، بسامد به‌روزرسانی، نوع منبع پشت آن و برچسب شواهدی را که یک مقدار می‌داشت، همراه دارد. هیچ مقداری نشان داده نمی‌شود: یک برنامه آن‌ها را تحت اختیار خود فراهم می‌کند.

نشانگرواحدتناوبنوع منبعبرچسب
Self-assessed understanding of AIدرصد پاسخ‌دهندگانبه ازای هر موج پیمایشEurobarometer and national surveysگزارش‌شده
Accuracy in identifying synthetic mediapercent correct in a controlled taskبرای هر مطالعهExperimental audience researchمشاهده‌شده
Awareness of rights over automated decisionsدرصد پاسخ‌دهندگانبه ازای هر موج پیمایشNational and EU surveysگزارش‌شده
نگرانی از تشخیص محتوای واقعی از جعلی در فضای آنلایندرصد پاسخ‌دهندگانسالانهReuters Institute Digital News Reportگزارش‌شده
Teachers trained in the use of AIpercent of teachersبرای هر چرخهٔ پیمایشOECD TALIS and education ministriesآمارهای منتشرشده
Reported AI incidents involving deception or impersonationرخداد در ماهماهانهAI Incident Databaseگزارش‌شده
AI literacy measures in national policyشمار اقدامات به تفکیک نوعسالانهOECD.AI policy databaseDECLARED
07منابع

شواهد از کجا می‌آیند.

مجموعه‌داده‌های عمومی و سوابق نهادی نام‌برده، هر یک با ردهٔ پروانهٔ خود. منابع مبتنی بر توافق تنها بر پایهٔ شرایطشان به کار می‌روند و هرگز بازنشر نمی‌شوند.

منبعآنچه فراهم می‌کندرستهٔ پروانه
Eurobarometer surveys on artificial intelligence and the digital decadeAwareness, attitudes and expectations of AI across EU member statesاستفادهٔ مجدد آزاد با ذکر انتساب
Stanford AI IndexAnnual compilation of AI research, deployment, policy and public opinion dataCC BY-ND 4.0
OECD.AI Policy ObservatoryNational AI strategies and policy measures, including education and skillsشرایط OECD، رایگان با انتساب
AI Incident Databaseرویدادهای گزارش‌شدهٔ آسیب یا نزدیک به آسیب مرتبط با سامانه‌هاCC BY-SA 4.0
Reuters Institute Digital News ReportPublic comfort with AI in news and concern about false contentFree to read; survey data by request
OECD TALISTeacher training, practice and use of digital toolsشرایط OECD، رایگان با انتساب
Pew Research Center surveys on AIPublic awareness of and attitudes to AI in several countriesFree to use with attribution; datasets on request
08تصمیم‌ها

چه کسی تصمیم می‌گیرد و شواهد در خدمت چیست.

کارزارها شواهد را آماده می‌کند. تصمیم‌های زیر را مراجع نام‌برده بر پایهٔ قواعد خود می‌گیرند، و هرگز سکو.

چه کسی تصمیم می‌گیردپرسششواهدی که این صفحه به آن‌ها خدمت می‌کند
Ministries of education and curriculum authoritiesWhich AI competencies students and teachers need, and at which stagesTeacher training data; competency frameworks; tested teaching material
AI and data protection regulatorsHow to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI ActAwareness surveys; incident records; literacy measures in policy
Online platforms and AI providersچگونه محتوای مصنوعی را برچسب‌گذاری کنیم و محدودیت‌های سامانه را برای کاربران توضیح دهیمResearch on label comprehension; incident patterns; provenance standards
نهادهای مدیریت انتخاباتHow to prepare voters for synthetic media during electionsDetection task research; rumour logs; trust in electoral information

خروجی‌هایی که این موضوع تولید می‌کند

  • Practical explainers on how generative and predictive systems work and fail
  • تمرین‌هایی برای بررسی منبع و خاستگاه رسانه‌ها، با بیان محدودیت‌های آن‌ها
  • راهنمای‌های ساده‌فهم حقوق مربوط به تصمیم‌های خودکار بر پایهٔ قانون حاکم
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09پرسش‌های اصلی

آنچه کارشناسان می‌پرسند.

  1. 01

    What should a non-specialist understand?

    That AI systems learn patterns from data, can be confidently wrong and reflect the limits of what they were trained on.

  2. 02

    Which risks are practical today?

    Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.

  3. 03

    How can people check what they see?

    Habits of verification: source tracing, provenance signals and asking who benefits from a claim.

  4. 04

    What recourse exists?

    How people can question an automated decision, correct data about themselves or report misuse.

10سازوکارها

آنچه پیامد را رقم می‌زند.

Generative models produce fluent text, images and audio by predicting plausible outputs, not by checking facts. Fluency invites trust, which is why errors and fabrications can spread. Synthetic media lowers the cost of impersonation and of producing misleading material at scale.

Automated decision systems used in lending, hiring, benefits or policing can embed historical patterns in their data, and their reasoning may be hard to explain. Errors fall unevenly, and people affected may not know an automated system was involved.

Public discussion swings between alarm and hype. Both distort judgement. Literacy work aims for calibrated understanding: what current systems do reliably, where they fail and which safeguards exist.

11روش‌ها و محدودیت‌ها

شواهد چگونه گردآوری می‌شوند و محدودهٔ آن تا کجاست.

روشآنچه نشان می‌دهدمحدودیت آن
Misconception surveysباورهای رایج دربارهٔ نحوهٔ کار هوش مصنوعیBeliefs shift quickly with new tools
Hands-on exercisesWhether people can spot errors or synthetic contentDetection skills may not transfer to new formats
داوری کارشناسیAccuracy of claims about capabilitiesCapabilities change between review and reading
Follow-up measuresWhether verification habits persistAttrition and self-report bias
12روش‌ها

چگونه مطالعه می‌شود و آنچه روش‌ها نمی‌توانند بگویند.

  1. علوم اجتماعی و رفتاریپژوهش مخاطبان پیش از کارزار · پیش‌آزمون مطالب برای فهم‌پذیریکاربرد در اینجا
  2. تحلیل تصمیم در شرایط عدم قطعیتبرقراری ارتباط پیش از قطعی شدن شواهد · انتخاب مجراها و مخاطبانکاربرد در اینجا
13Where this page’s references

Where this page’s references lead.

نهادها و اسنادی که این صفحه بر پایهٔ آن‌ها خوانده می‌شود. وضعیت و ویراست‌ها تغییر می‌کنند؛ هر پیوند به نهاد صادرکننده می‌رود.

14پرسش‌ها

پرسش و پاسخ.

Can people learn to spot deepfakes?
Training improves performance on some tasks, but skilled synthetic media are often undetectable by eye or ear. Checking the source, the context and any provenance record is more reliable than inspecting the content itself.
خاستگاه محتوا چیست؟
A record attached to an image, video or audio file stating how it was made and edited, such as Content Credentials under the C2PA standard. A missing record does not prove a file is fake.
What rights do people have over automated decisions?
It depends on jurisdiction. In the European Union, data protection law gives rights to information and, in many cases, to human review of decisions based solely on automated processing. Other jurisdictions differ.
Does Campaigns rate AI products?
No. It explains how AI systems work and fail in general terms and points to the regulators and standards bodies whose assessments apply.
Does the platform evaluate or rate AI products?
No. It explains how AI systems work and fail in general terms. It does not test, rate or approve any product.
Is AI used to produce campaign material?
Where a tool assists, its use is disclosed, and every claim is checked against sources by a named reviewer before publication.
How does the material stay current?
Each explainer carries a review date. When capabilities or rules change, it is revised and the change is recorded as a new version.
گزارش‌هامشارکت

شواهد را از همین صفحه ارسال کنید.

Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع می‌دانید می‌تواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.

GCRIکارزارهاگزارش مختصر شواهد
کارزارها

یک روش، یک مجموعه‌داده یا یک پرسش بیاورید.

اطلاعات و درخواست‌ها امروز باز است. هر درخواست یک شمارهٔ پیگیری می‌گیرد و گام بعدی را مشخص می‌کند؛ درخواست‌های عضویت، پرداخت‌ها، تخصیص رایانش و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت داوری آن‌ها فراهم باشد.