GCRI · Campaigns
Literacia em IA responsável
Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.
Letramento em IA responsável em registro.
Letramento em IA responsável: como o risco se desenvolve.
Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
A capacidade é mal avaliada
As pessoas confiam demais em respostas fluentes de máquinas, um padrão conhecido como viés de automação, e às vezes descartam ferramentas úteis após uma única falha. Os sistemas conversacionais levam as pessoas a atribuir-lhes compreensão e intenção que não possuem, o que influencia o cuidado com que suas respostas são verificadas.
Provenance blurs
Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.
Harms fall unevenly
Errors and bias in automated systems fall most on people least able to notice or contest them, such as benefit claimants, job applicants and speakers of less-resourced languages. Literacy work that reaches only confident users widens that gap.
Use outpaces understanding
As ferramentas são adotadas no trabalho, nas escolas e nos serviços públicos antes que usuários, professores ou servidores públicos compartilhem um vocabulário sobre seus limites. Concepções equivocadas se difundem por meio de conselhos entre pares e de alegações de marketing e se consolidam na prática antes que exista orientação.
Um modelo de limiar do comportamento coletivo.
Cada agente age quando um número suficiente dos seus contactos o fez; pequenas alterações no limiar médio ou nos primeiros a agir decidem se o comportamento fica local ou se propaga em cascata pela população. Modelo didático com valores ilustrativos declarados, não uma previsão.
Controles
- Limiar médio (proporção de vizinhos)
- 18%
- Dispersão dos limiares
- 8 pontos
- Primeiros a agir
- 2,0% das pessoas
- Contactos por pessoa
- 8
Leituras
- Proporção dos que acabaram por agir
- 100%
- Cascata global
- Sim
- Passos até à liquidação
- 8
Números, métodos e fontes
| Passo | Proporção que agiu (%) |
|---|---|
| 0 | 3.3 |
| 1 | 10.0 |
| 2 | 26.3 |
| 3 | 49.3 |
| 4 | 71.0 |
| 5 | 88.5 |
| 6 | 98.8 |
| 7 | 100.0 |
| 8 | 100.0 |
Métodos
- Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
- Global cascades on random networks Watts (2002), PNAS 99
- Complex contagions Centola and Macy (2007), American Journal of Sociology 113
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Dados
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
Nos seis pilares, sob a liderança do Nexus Consortium
- Experimentos Laboratórios
- Integrado Campaigns em Foundry
- Testado em Campaigns em Universe
- Codificado em Governança, segurança e sociedade em Standards
- Publicado em Campaigns em Reports
- Ensinado em Faculdade de Governança, Políticas Públicas e Relações Internacionais na Academy
AI literacy matters wherever AI enters a domain’s services.
- HealthIn practiceUnderstanding what clinical AI can and cannot do.What a reader can checkLiteracy measures
- AlimentaçãoNa práticaAvaliação de ferramentas de assessoria para agricultores.O que um leitor pode verificarUso e confiança
- WaterIn practiceUnderstanding automated alerts from utilities.What a reader can checkResponse to alerts
Findings are designed for the Exponential Technology series. UNESCO’s Recommendation on the Ethics of AI (2021) includes AI literacy among its policy areas.
- Currículos e avaliações.
- Accounts of AI tools in daily life.
Como a alfabetização em IA responsável é modelada, medida e testada.
O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.
Modelo de sistema
The couplings between the systems in Responsible AI literacy: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
O que é medido e com que qualidade.
Cada indicador leva sua unidade, sua periodicidade, o tipo de fonte por trás dele e a etiqueta de evidência que um valor levaria. Nenhum valor é mostrado: um programa os fornece sob sua própria autoridade.
| Indicador | Unidade | Cadência | Tipo de fonte | Rótulo |
|---|---|---|---|---|
| Self-assessed understanding of AI | porcentagem de respondentes | por onda de pesquisa | Eurobarometer and national surveys | REPORTADO |
| Accuracy in identifying synthetic media | porcentagem de acertos em uma tarefa controlada | por estudo | Experimental audience research | OBSERVADO |
| Conscientização sobre direitos relativos a decisões automatizadas | porcentagem de respondentes | por onda de pesquisa | National and EU surveys | REPORTADO |
| Concern about telling real from fake content online | porcentagem de respondentes | anual | Reuters Institute Digital News Report | REPORTADO |
| Professores capacitados no uso de IA | percentual de professores | por ciclo de levantamento | OECD TALIS and education ministries | Estatísticas publicadas |
| Incidentes de IA relatados envolvendo engano ou falsa identidade | incidents per month | mensal | AI Incident Database | REPORTADO |
| AI literacy measures in national policy | contagem de medidas por tipo | anual | Base de dados de políticas da OECD.AI | DECLARADO |
De onde vêm as evidências.
Conjuntos de dados públicos nomeados e registros institucionais, cada um com sua classe de licença. As fontes obtidas por acordo só são usadas nos seus termos e nunca são republicadas.
| Fonte | O que oferece | Classe de licença |
|---|---|---|
| Eurobarometer surveys on artificial intelligence and the digital decade | Conscientização, atitudes e expectativas em relação à IA nos Estados-membros da UE | Reutilização livre com atribuição |
| Stanford AI Index | Compilação anual de dados sobre pesquisa, implantação, políticas e opinião pública em IA | CC BY-ND 4.0 |
| Observatório de Políticas OECD.AI | Estratégias nacionais de IA e medidas de política, incluindo educação e competências | Termos da OCDE, gratuito com atribuição |
| AI Incident Database | Reported incidents of harm or near harm involving AI systems | CC BY-SA 4.0 |
| Reuters Institute Digital News Report | Conforto do público com a IA nas notícias e preocupação com conteúdo falso | Leitura gratuita; dados de pesquisa mediante solicitação |
| OECD TALIS | Teacher training, practice and use of digital tools | Termos da OCDE, gratuito com atribuição |
| Pesquisas do Pew Research Center sobre IA | Conscientização pública e atitudes em relação à IA em vários países | Uso gratuito com atribuição; conjuntos de dados sob solicitação |
Quem decide, e a que servem as evidências.
O Campaigns prepara evidências. As decisões abaixo são tomadas pelas autoridades indicadas, segundo suas próprias regras, e nunca pela plataforma.
| Quem decide | A pergunta | Evidências a que esta página serve |
|---|---|---|
| Ministries of education and curriculum authorities | Quais competências em IA estudantes e docentes precisam e em quais etapas | Teacher training data; competency frameworks; tested teaching material |
| AI and data protection regulators | How to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI Act | Pesquisas de conscientização; registros de incidentes; medidas de letramento em políticas |
| Plataformas online e provedores de IA | How to label synthetic content and explain system limits to users | Research on label comprehension; incident patterns; provenance standards |
| Órgãos de gestão eleitoral | How to prepare voters for synthetic media during elections | Detection task research; rumour logs; trust in electoral information |
Produtos que este tema gera
- Practical explainers on how generative and predictive systems work and fail
- Exercises on checking source and provenance of media, with their limits stated
- Guias em linguagem simples sobre direitos relativos a decisões automatizadas conforme a lei aplicável
- Teaching material for educators aligned with UNESCO AI competency frameworks
O que os especialistas perguntam.
- 01
O que um não especialista deve compreender?
Que os sistemas de IA aprendem padrões a partir de dados, podem estar errados com toda a confiança e refletem os limites daquilo com que foram treinados.
- 02
Which risks are practical today?
Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.
- 03
Como as pessoas podem verificar o que veem?
Hábitos de verificação: rastreamento de fontes, sinais de proveniência e questionamento de quem se beneficia de uma afirmação.
- 04
What recourse exists?
Como as pessoas podem questionar uma decisão automatizada, corrigir dados sobre si mesmas ou denunciar o uso indevido.
O que determina o resultado.
Os modelos generativos produzem texto, imagens e áudio fluentes ao prever resultados plausíveis, e não ao verificar fatos. A fluência convida à confiança, razão pela qual erros e fabricações podem se propagar. A mídia sintética reduz o custo da falsa identidade e da produção de material enganoso em escala.
Automated decision systems used in lending, hiring, benefits or policing can embed historical patterns in their data, and their reasoning may be hard to explain. Errors fall unevenly, and people affected may not know an automated system was involved.
O debate público oscila entre o alarme e o entusiasmo exagerado. Ambos distorcem o julgamento. O trabalho de letramento busca uma compreensão calibrada: o que os sistemas atuais fazem de forma confiável, onde falham e quais salvaguardas existem.
Como as evidências são reunidas e onde param.
| Método | O que mostra | Seu limite |
|---|---|---|
| Pesquisas sobre percepções equivocadas | Common beliefs about how AI works | As crenças mudam rapidamente com novas ferramentas |
| Exercícios práticos | Se as pessoas conseguem identificar erros ou conteúdo sintético | As habilidades de detecção podem não se transferir para novos formatos |
| Revisão por especialistas | Accuracy of claims about capabilities | Capabilities change between review and reading |
| Follow-up measures | Se os hábitos de verificação persistem | Atrito amostral e viés de autorrelato |
Como é estudado e o que os métodos não podem dizer.
Where this page’s references lead.
Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.
Perguntas e respostas.
As pessoas conseguem aprender a identificar deepfakes?
What is content provenance?
What rights do people have over automated decisions?
Does Campaigns rate AI products?
Does the platform evaluate or rate AI products?
Is AI used to produce campaign material?
How does the material stay current?
Contribua com evidências a partir desta página.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.