Skip to content

GCRI · Campaigns

Literacia em IA responsável

Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.

01Registrar

Letramento em IA responsável em registro.

02A pergunta

Letramento em IA responsável: como o risco se desenvolve.

Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mecanismo

A capacidade é mal avaliada

As pessoas confiam demais em respostas fluentes de máquinas, um padrão conhecido como viés de automação, e às vezes descartam ferramentas úteis após uma única falha. Os sistemas conversacionais levam as pessoas a atribuir-lhes compreensão e intenção que não possuem, o que influencia o cuidado com que suas respostas são verificadas.

Mecanismo

Provenance blurs

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

Mecanismo

Harms fall unevenly

Errors and bias in automated systems fall most on people least able to notice or contest them, such as benefit claimants, job applicants and speakers of less-resourced languages. Literacy work that reaches only confident users widens that gap.

Mecanismo

Use outpaces understanding

As ferramentas são adotadas no trabalho, nas escolas e nos serviços públicos antes que usuários, professores ou servidores públicos compartilhem um vocabulário sobre seus limites. Concepções equivocadas se difundem por meio de conselhos entre pares e de alegações de marketing e se consolidam na prática antes que exista orientação.

03Simulador

Um modelo de limiar do comportamento coletivo.

Cada agente age quando um número suficiente dos seus contactos o fez; pequenas alterações no limiar médio ou nos primeiros a agir decidem se o comportamento fica local ou se propaga em cascata pela população. Modelo didático com valores ilustrativos declarados, não uma previsão.

Controles

Limiar médio (proporção de vizinhos)
18%
Dispersão dos limiares
8 pontos
Primeiros a agir
2,0% das pessoas
Contactos por pessoa
8

Leituras

Proporção dos que acabaram por agir
100%
Cascata global
Sim
Passos até à liquidação
8
Números, métodos e fontes
PassoProporção que agiu (%)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

Métodos

  1. Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Dados

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

Um modelo de limiar do comportamento coletivo. Modelo didático ilustrativo: funciona com os valores definidos pelos controles, não com dados medidos. Métodos: modelos de limiar do comportamento coletivo (Granovetter (1978), American Journal of Sociology 83); cascatas globais em redes aleatórias (Watts (2002), PNAS 99); contágios complexos (Centola e Macy (2007), American Journal of Sociology 113).
04Nos cinco domínios

AI literacy matters wherever AI enters a domain’s services.

05Métodos e evidência

Como a alfabetização em IA responsável é modelada, medida e testada.

O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.

Modelo de sistema

The couplings between the systems in Responsible AI literacy: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.

++−+InformaçãoSociedadeComunidadesEconomiaR de reforçoB equilíbrio
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indicadores

O que é medido e com que qualidade.

Cada indicador leva sua unidade, sua periodicidade, o tipo de fonte por trás dele e a etiqueta de evidência que um valor levaria. Nenhum valor é mostrado: um programa os fornece sob sua própria autoridade.

IndicadorUnidadeCadênciaTipo de fonteRótulo
Self-assessed understanding of AIporcentagem de respondentespor onda de pesquisaEurobarometer and national surveysREPORTADO
Accuracy in identifying synthetic mediaporcentagem de acertos em uma tarefa controladapor estudoExperimental audience researchOBSERVADO
Conscientização sobre direitos relativos a decisões automatizadasporcentagem de respondentespor onda de pesquisaNational and EU surveysREPORTADO
Concern about telling real from fake content onlineporcentagem de respondentesanualReuters Institute Digital News ReportREPORTADO
Professores capacitados no uso de IApercentual de professorespor ciclo de levantamentoOECD TALIS and education ministriesEstatísticas publicadas
Incidentes de IA relatados envolvendo engano ou falsa identidadeincidents per monthmensalAI Incident DatabaseREPORTADO
AI literacy measures in national policycontagem de medidas por tipoanualBase de dados de políticas da OECD.AIDECLARADO
07Fontes

De onde vêm as evidências.

Conjuntos de dados públicos nomeados e registros institucionais, cada um com sua classe de licença. As fontes obtidas por acordo só são usadas nos seus termos e nunca são republicadas.

FonteO que ofereceClasse de licença
Eurobarometer surveys on artificial intelligence and the digital decadeConscientização, atitudes e expectativas em relação à IA nos Estados-membros da UEReutilização livre com atribuição
Stanford AI IndexCompilação anual de dados sobre pesquisa, implantação, políticas e opinião pública em IACC BY-ND 4.0
Observatório de Políticas OECD.AIEstratégias nacionais de IA e medidas de política, incluindo educação e competênciasTermos da OCDE, gratuito com atribuição
AI Incident DatabaseReported incidents of harm or near harm involving AI systemsCC BY-SA 4.0
Reuters Institute Digital News ReportConforto do público com a IA nas notícias e preocupação com conteúdo falsoLeitura gratuita; dados de pesquisa mediante solicitação
OECD TALISTeacher training, practice and use of digital toolsTermos da OCDE, gratuito com atribuição
Pesquisas do Pew Research Center sobre IAConscientização pública e atitudes em relação à IA em vários paísesUso gratuito com atribuição; conjuntos de dados sob solicitação
08Decisões

Quem decide, e a que servem as evidências.

O Campaigns prepara evidências. As decisões abaixo são tomadas pelas autoridades indicadas, segundo suas próprias regras, e nunca pela plataforma.

Quem decideA perguntaEvidências a que esta página serve
Ministries of education and curriculum authoritiesQuais competências em IA estudantes e docentes precisam e em quais etapasTeacher training data; competency frameworks; tested teaching material
AI and data protection regulatorsHow to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI ActPesquisas de conscientização; registros de incidentes; medidas de letramento em políticas
Plataformas online e provedores de IAHow to label synthetic content and explain system limits to usersResearch on label comprehension; incident patterns; provenance standards
Órgãos de gestão eleitoralHow to prepare voters for synthetic media during electionsDetection task research; rumour logs; trust in electoral information

Produtos que este tema gera

  • Practical explainers on how generative and predictive systems work and fail
  • Exercises on checking source and provenance of media, with their limits stated
  • Guias em linguagem simples sobre direitos relativos a decisões automatizadas conforme a lei aplicável
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09Questões centrais

O que os especialistas perguntam.

  1. 01

    O que um não especialista deve compreender?

    Que os sistemas de IA aprendem padrões a partir de dados, podem estar errados com toda a confiança e refletem os limites daquilo com que foram treinados.

  2. 02

    Which risks are practical today?

    Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.

  3. 03

    Como as pessoas podem verificar o que veem?

    Hábitos de verificação: rastreamento de fontes, sinais de proveniência e questionamento de quem se beneficia de uma afirmação.

  4. 04

    What recourse exists?

    Como as pessoas podem questionar uma decisão automatizada, corrigir dados sobre si mesmas ou denunciar o uso indevido.

10Mecanismos

O que determina o resultado.

Os modelos generativos produzem texto, imagens e áudio fluentes ao prever resultados plausíveis, e não ao verificar fatos. A fluência convida à confiança, razão pela qual erros e fabricações podem se propagar. A mídia sintética reduz o custo da falsa identidade e da produção de material enganoso em escala.

Automated decision systems used in lending, hiring, benefits or policing can embed historical patterns in their data, and their reasoning may be hard to explain. Errors fall unevenly, and people affected may not know an automated system was involved.

O debate público oscila entre o alarme e o entusiasmo exagerado. Ambos distorcem o julgamento. O trabalho de letramento busca uma compreensão calibrada: o que os sistemas atuais fazem de forma confiável, onde falham e quais salvaguardas existem.

11Métodos e limites

Como as evidências são reunidas e onde param.

MétodoO que mostraSeu limite
Pesquisas sobre percepções equivocadasCommon beliefs about how AI worksAs crenças mudam rapidamente com novas ferramentas
Exercícios práticosSe as pessoas conseguem identificar erros ou conteúdo sintéticoAs habilidades de detecção podem não se transferir para novos formatos
Revisão por especialistasAccuracy of claims about capabilitiesCapabilities change between review and reading
Follow-up measuresSe os hábitos de verificação persistemAtrito amostral e viés de autorrelato
12Métodos

Como é estudado e o que os métodos não podem dizer.

  1. Ciências sociais e comportamentaisPesquisa de público antes de uma campanha · Pré-teste da compreensão dos materiaisAplicado aqui
  2. Análise de decisão sob incertezaComunicar antes que as evidências se consolidem · Escolha de canais e públicosAplicado aqui
13Where this page’s references

Where this page’s references lead.

Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.

14Perguntas

Perguntas e respostas.

As pessoas conseguem aprender a identificar deepfakes?
O treinamento melhora o desempenho em algumas tarefas, mas mídias sintéticas bem elaboradas costumam ser indetectáveis a olho nu ou de ouvido. Verificar a fonte, o contexto e qualquer registro de proveniência é mais confiável do que inspecionar o próprio conteúdo.
What is content provenance?
A record attached to an image, video or audio file stating how it was made and edited, such as Content Credentials under the C2PA standard. A missing record does not prove a file is fake.
What rights do people have over automated decisions?
It depends on jurisdiction. In the European Union, data protection law gives rights to information and, in many cases, to human review of decisions based solely on automated processing. Other jurisdictions differ.
Does Campaigns rate AI products?
No. It explains how AI systems work and fail in general terms and points to the regulators and standards bodies whose assessments apply.
Does the platform evaluate or rate AI products?
Não. Explica, em termos gerais, como os sistemas de IA funcionam e falham. Não testa, classifica nem aprova nenhum produto.
Is AI used to produce campaign material?
Where a tool assists, its use is disclosed, and every claim is checked against sources by a named reviewer before publication.
How does the material stay current?
Each explainer carries a review date. When capabilities or rules change, it is revised and the change is recorded as a new version.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.

GCRICampanhasResumo de evidências
Campanhas

Traga um método, um conjunto de dados ou uma pergunta.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.