GCRI · Campaigns
Alfabetización en IA responsable
Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.
Alfabetización en IA responsable, con constancia documental.
Responsible AI literacy: how the risk develops.
Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Se juzga mal la capacidad
Las personas confían en exceso en la producción fluida de las máquinas, un patrón conocido como sesgo de automatización, y a veces descartan herramientas útiles tras un solo fallo. Los sistemas conversacionales invitan a atribuirles una comprensión y una intención que no tienen, lo que condiciona el cuidado con que se comprueban sus respuestas.
Provenance blurs
Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.
Harms fall unevenly
Los errores y sesgos de los sistemas automatizados recaen sobre todo en quienes menos pueden advertirlos o impugnarlos, como los solicitantes de prestaciones, los candidatos a un empleo y los hablantes de lenguas con menos recursos. El trabajo de alfabetización que solo llega a los usuarios seguros de sí mismos amplía esa brecha.
Use outpaces understanding
Las herramientas se adoptan en el trabajo, en las escuelas y en los servicios públicos antes de que los usuarios, los docentes o los funcionarios compartan un vocabulario sobre sus límites. Los conceptos erróneos se difunden mediante consejos entre pares y afirmaciones de marketing, y se asientan en la práctica antes de que existan orientaciones.
Un modelo de umbral del comportamiento colectivo.
Cada agente actúa cuando lo han hecho suficientes de sus contactos; pequeños cambios en el umbral medio o en los primeros en moverse deciden si el comportamiento se queda local o se propaga en cascada por la población. Modelo didáctico con valores ilustrativos declarados, no una predicción.
Controles
- Umbral medio (proporción de vecinos)
- 18%
- Dispersión de los umbrales
- 8 puntos
- Primeros en moverse
- 2,0 % de las personas
- Contactos por persona
- 8
Lecturas
- Proporción de quienes actuaron al final
- 100%
- Cascada mundial
- Sí
- Pasos hasta la liquidación
- 8
Cifras, métodos y fuentes
| Paso | Proporción que ha actuado (%) |
|---|---|
| 0 | 3.3 |
| 1 | 10.0 |
| 2 | 26.3 |
| 3 | 49.3 |
| 4 | 71.0 |
| 5 | 88.5 |
| 6 | 98.8 |
| 7 | 100.0 |
| 8 | 100.0 |
Métodos
- Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
- Global cascades on random networks Watts (2002), PNAS 99
- Complex contagions Centola and Macy (2007), American Journal of Sociology 113
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Datos
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
En los seis pilares, bajo la dirección de Nexus Consortium
- Experimentos Laboratorios
- Integrado en Campaigns en Foundry
- Probado en Campaigns en Universe
- Codificado en Gobernanza, seguridad y sociedad en Standards
- Publicado en Campaigns en Reports
- Se imparte en Facultad de Gobernanza, Políticas Públicas y Asuntos Internacionales en Academy
AI literacy matters wherever AI enters a domain’s services.
- SaludEn la prácticaComprender qué puede y qué no puede hacer la IA clínica.Lo que un lector puede comprobarMedidas de alfabetización
- AlimentaciónEn la prácticaEvaluar las herramientas de asesoramiento para agricultores.Lo que un lector puede comprobarUso y confianza
- WaterIn practiceUnderstanding automated alerts from utilities.What a reader can checkResponse to alerts
Findings are designed for the Exponential Technology series. UNESCO’s Recommendation on the Ethics of AI (2021) includes AI literacy among its policy areas.
- Planes de estudio y evaluaciones.
- Accounts of AI tools in daily life.
Cómo se modela, mide y pone a prueba la alfabetización en IA responsable.
El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.
Modelo de sistema
Los acoplamientos entre los sistemas de la alfabetización en IA responsable: signos de influencia, un bucle de refuerzo y otro de equilibrio, y vínculos cruzados donde el estrés se dispara.
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Comprensión de la IA autoevaluada | porcentaje de encuestados | por ola de encuesta | Eurobarómetro y encuestas nacionales | NOTIFICADO |
| Precisión en la identificación de medios sintéticos | porcentaje de aciertos en una tarea controlada | por estudio | Experimental audience research | OBSERVADO |
| Awareness of rights over automated decisions | porcentaje de encuestados | por ola de encuesta | Encuestas nacionales y de la UE | NOTIFICADO |
| Concern about telling real from fake content online | porcentaje de encuestados | anual | Digital News Report del Reuters Institute | NOTIFICADO |
| Teachers trained in the use of AI | porcentaje de docentes | por ciclo de encuesta | OECD TALIS and education ministries | Estadísticas publicadas |
| Reported AI incidents involving deception or impersonation | incidentes por mes | mensual | AI Incident Database | NOTIFICADO |
| Medidas de alfabetización en IA en la política nacional | recuento de medidas por tipo | anual | Base de datos de políticas de OECD.AI | DECLARADO |
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| Eurobarometer surveys on artificial intelligence and the digital decade | Conocimiento, actitudes y expectativas sobre la IA en los Estados miembros de la UE | Reutilización libre con atribución |
| Stanford AI Index | Annual compilation of AI research, deployment, policy and public opinion data | CC BY-ND 4.0 |
| Observatorio de Políticas de IA de la OCDE (OECD.AI) | Estrategias nacionales de IA y medidas de política, incluidas la educación y las competencias | Condiciones de la OCDE, gratuito con atribución |
| AI Incident Database | Incidentes notificados de daño o casi daño que involucran sistemas | CC BY-SA 4.0 |
| Digital News Report del Reuters Institute | Grado de confianza del público en la IA en las noticias y preocupación por los contenidos falsos | Free to read; survey data by request |
| OECD TALIS | Teacher training, practice and use of digital tools | Condiciones de la OCDE, gratuito con atribución |
| Encuestas del Pew Research Center sobre IA | Conocimiento y actitudes del público ante la IA en varios países | De uso libre con atribución; conjuntos de datos bajo solicitud |
Quién decide y a qué sirve la evidencia.
Campaigns prepara evidencia. Las decisiones que figuran a continuación las toman las autoridades indicadas, conforme a sus propias normas, y nunca la plataforma.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Ministries of education and curriculum authorities | Which AI competencies students and teachers need, and at which stages | Teacher training data; competency frameworks; tested teaching material |
| AI and data protection regulators | How to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI Act | Encuestas de sensibilización; registros de incidentes; medidas de alfabetización en las políticas |
| Plataformas en línea y proveedores de IA | Cómo etiquetar el contenido sintético y explicar a los usuarios los límites del sistema | Research on label comprehension; incident patterns; provenance standards |
| Órganos de gestión electoral | How to prepare voters for synthetic media during elections | Investigación sobre tareas de detección; registros de rumores; confianza en la información electoral |
Productos que genera este tema
- Explicaciones prácticas sobre cómo funcionan y fallan los sistemas generativos y predictivos
- Exercises on checking source and provenance of media, with their limits stated
- Plain-language guides to rights over automated decisions under applicable law
- Teaching material for educators aligned with UNESCO AI competency frameworks
Lo que se preguntan los expertos.
- 01
¿Qué debería entender un lector no especialista?
Que los sistemas de IA aprenden patrones a partir de datos, pueden equivocarse con seguridad y reflejan los límites de aquello con lo que fueron entrenados.
- 02
Which risks are practical today?
Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.
- 03
¿Cómo pueden las personas comprobar lo que ven?
Hábitos de verificación: rastreo de fuentes, señales de procedencia y preguntarse a quién beneficia una afirmación.
- 04
What recourse exists?
Cómo pueden las personas cuestionar una decisión automatizada, corregir los datos que les conciernen o denunciar un uso indebido.
Qué determina el resultado.
Los modelos generativos producen texto, imágenes y audio fluidos al predecir resultados plausibles, no al comprobar hechos. La fluidez invita a la confianza, por lo que los errores y las invenciones pueden propagarse. Los medios sintéticos reducen el coste de la suplantación de identidad y de producir material engañoso a gran escala.
Los sistemas de decisión automatizada empleados en la concesión de créditos, la contratación, las prestaciones o la actuación policial pueden incorporar patrones históricos presentes en sus datos, y su razonamiento puede ser difícil de explicar. Los errores se distribuyen de forma desigual, y las personas afectadas pueden desconocer que intervino un sistema automatizado.
El debate público oscila entre la alarma y el entusiasmo desmedido. Ambos distorsionan el juicio. El trabajo de alfabetización busca una comprensión calibrada: qué hacen de forma fiable los sistemas actuales, dónde fallan y qué salvaguardas existen.
Cómo se recopila la evidencia y dónde termina.
| Método | Lo que muestra | Su límite |
|---|---|---|
| Encuestas sobre ideas erróneas | Common beliefs about how AI works | Las creencias cambian con rapidez con las nuevas herramientas |
| Ejercicios prácticos | Whether people can spot errors or synthetic content | Es posible que las habilidades de detección no se transfieran a nuevos formatos |
| Revisión por expertos | Exactitud de las afirmaciones sobre capacidades | Capabilities change between review and reading |
| Medidas de seguimiento | Si los hábitos de verificación persisten | Desgaste muestral y sesgo de autodeclaración |
Cómo se estudia y lo que los métodos no pueden decir.
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Preguntas y respuestas.
¿Pueden las personas aprender a detectar deepfakes?
What is content provenance?
¿Qué derechos tienen las personas frente a las decisiones automatizadas?
Does Campaigns rate AI products?
Does the platform evaluate or rate AI products?
Is AI used to produce campaign material?
¿Cómo se mantiene actualizado el material?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.