Skip to content

GCRI · Campaigns

Alfabetización en IA responsable

Artificial intelligence now shapes what people read, which services they receive and how content is made. Responsible AI literacy is a practical understanding of what these systems do, where they fail and what rights people have when they are used. It covers recognising synthetic media, judging generated answers and knowing when automated decisions can be questioned. This page sets out how misunderstanding of AI forms and spreads, how literacy is measured, and the decisions held by educators, regulators and platforms.

01Registro

Alfabetización en IA responsable, con constancia documental.

02La pregunta

Responsible AI literacy: how the risk develops.

Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mecanismo

Se juzga mal la capacidad

Las personas confían en exceso en la producción fluida de las máquinas, un patrón conocido como sesgo de automatización, y a veces descartan herramientas útiles tras un solo fallo. Los sistemas conversacionales invitan a atribuirles una comprensión y una intención que no tienen, lo que condiciona el cuidado con que se comprueban sus respuestas.

Mecanismo

Provenance blurs

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

Mecanismo

Harms fall unevenly

Los errores y sesgos de los sistemas automatizados recaen sobre todo en quienes menos pueden advertirlos o impugnarlos, como los solicitantes de prestaciones, los candidatos a un empleo y los hablantes de lenguas con menos recursos. El trabajo de alfabetización que solo llega a los usuarios seguros de sí mismos amplía esa brecha.

Mecanismo

Use outpaces understanding

Las herramientas se adoptan en el trabajo, en las escuelas y en los servicios públicos antes de que los usuarios, los docentes o los funcionarios compartan un vocabulario sobre sus límites. Los conceptos erróneos se difunden mediante consejos entre pares y afirmaciones de marketing, y se asientan en la práctica antes de que existan orientaciones.

03Simulador

Un modelo de umbral del comportamiento colectivo.

Cada agente actúa cuando lo han hecho suficientes de sus contactos; pequeños cambios en el umbral medio o en los primeros en moverse deciden si el comportamiento se queda local o se propaga en cascada por la población. Modelo didáctico con valores ilustrativos declarados, no una predicción.

Controles

Umbral medio (proporción de vecinos)
18%
Dispersión de los umbrales
8 puntos
Primeros en moverse
2,0 % de las personas
Contactos por persona
8

Lecturas

Proporción de quienes actuaron al final
100%
Cascada mundial
Sí
Pasos hasta la liquidación
8
Cifras, métodos y fuentes
PasoProporción que ha actuado (%)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

Métodos

  1. Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Datos

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

Un modelo de umbral del comportamiento colectivo. Modelo didáctico ilustrativo: funciona con los valores fijados por los controles, no con datos medidos. Métodos: modelos de umbral del comportamiento colectivo (Granovetter (1978), American Journal of Sociology 83); cascadas globales en redes aleatorias (Watts (2002), PNAS 99); contagios complejos (Centola y Macy (2007), American Journal of Sociology 113).

En los seis pilares, bajo la dirección de Nexus Consortium

04En los cinco dominios

AI literacy matters wherever AI enters a domain’s services.

05Métodos y evidencia

Cómo se modela, mide y pone a prueba la alfabetización en IA responsable.

El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.

Modelo de sistema

Los acoplamientos entre los sistemas de la alfabetización en IA responsable: signos de influencia, un bucle de refuerzo y otro de equilibrio, y vínculos cruzados donde el estrés se dispara.

++−+InformaciónSociedadComunidadesEconomíaR de refuerzoB equilibrio
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indicadores

Qué se mide y con qué calidad.

Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.

IndicadorUnidadCadenciaTipo de fuenteEtiqueta
Comprensión de la IA autoevaluadaporcentaje de encuestadospor ola de encuestaEurobarómetro y encuestas nacionalesNOTIFICADO
Precisión en la identificación de medios sintéticosporcentaje de aciertos en una tarea controladapor estudioExperimental audience researchOBSERVADO
Awareness of rights over automated decisionsporcentaje de encuestadospor ola de encuestaEncuestas nacionales y de la UENOTIFICADO
Concern about telling real from fake content onlineporcentaje de encuestadosanualDigital News Report del Reuters InstituteNOTIFICADO
Teachers trained in the use of AIporcentaje de docentespor ciclo de encuestaOECD TALIS and education ministriesEstadísticas publicadas
Reported AI incidents involving deception or impersonationincidentes por mesmensualAI Incident DatabaseNOTIFICADO
Medidas de alfabetización en IA en la política nacionalrecuento de medidas por tipoanualBase de datos de políticas de OECD.AIDECLARADO
07Fuentes

De dónde procede la evidencia.

Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.

FuenteLo que aportaTipo de licencia
Eurobarometer surveys on artificial intelligence and the digital decadeConocimiento, actitudes y expectativas sobre la IA en los Estados miembros de la UEReutilización libre con atribución
Stanford AI IndexAnnual compilation of AI research, deployment, policy and public opinion dataCC BY-ND 4.0
Observatorio de Políticas de IA de la OCDE (OECD.AI)Estrategias nacionales de IA y medidas de política, incluidas la educación y las competenciasCondiciones de la OCDE, gratuito con atribución
AI Incident DatabaseIncidentes notificados de daño o casi daño que involucran sistemasCC BY-SA 4.0
Digital News Report del Reuters InstituteGrado de confianza del público en la IA en las noticias y preocupación por los contenidos falsosFree to read; survey data by request
OECD TALISTeacher training, practice and use of digital toolsCondiciones de la OCDE, gratuito con atribución
Encuestas del Pew Research Center sobre IAConocimiento y actitudes del público ante la IA en varios paísesDe uso libre con atribución; conjuntos de datos bajo solicitud
08Decisiones

Quién decide y a qué sirve la evidencia.

Campaigns prepara evidencia. Las decisiones que figuran a continuación las toman las autoridades indicadas, conforme a sus propias normas, y nunca la plataforma.

Quién decideLa preguntaEvidencia a la que sirve esta página
Ministries of education and curriculum authoritiesWhich AI competencies students and teachers need, and at which stagesTeacher training data; competency frameworks; tested teaching material
AI and data protection regulatorsHow to supervise AI literacy and transparency obligations, such as Article 4 of the EU AI ActEncuestas de sensibilización; registros de incidentes; medidas de alfabetización en las políticas
Plataformas en línea y proveedores de IACómo etiquetar el contenido sintético y explicar a los usuarios los límites del sistemaResearch on label comprehension; incident patterns; provenance standards
Órganos de gestión electoralHow to prepare voters for synthetic media during electionsInvestigación sobre tareas de detección; registros de rumores; confianza en la información electoral

Productos que genera este tema

  • Explicaciones prácticas sobre cómo funcionan y fallan los sistemas generativos y predictivos
  • Exercises on checking source and provenance of media, with their limits stated
  • Plain-language guides to rights over automated decisions under applicable law
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09Cuestiones centrales

Lo que se preguntan los expertos.

  1. 01

    ¿Qué debería entender un lector no especialista?

    Que los sistemas de IA aprenden patrones a partir de datos, pueden equivocarse con seguridad y reflejan los límites de aquello con lo que fueron entrenados.

  2. 02

    Which risks are practical today?

    Fabricated content, impersonation, automated errors in services, privacy loss and over-reliance on generated answers.

  3. 03

    ¿Cómo pueden las personas comprobar lo que ven?

    Hábitos de verificación: rastreo de fuentes, señales de procedencia y preguntarse a quién beneficia una afirmación.

  4. 04

    What recourse exists?

    Cómo pueden las personas cuestionar una decisión automatizada, corregir los datos que les conciernen o denunciar un uso indebido.

10Mecanismos

Qué determina el resultado.

Los modelos generativos producen texto, imágenes y audio fluidos al predecir resultados plausibles, no al comprobar hechos. La fluidez invita a la confianza, por lo que los errores y las invenciones pueden propagarse. Los medios sintéticos reducen el coste de la suplantación de identidad y de producir material engañoso a gran escala.

Los sistemas de decisión automatizada empleados en la concesión de créditos, la contratación, las prestaciones o la actuación policial pueden incorporar patrones históricos presentes en sus datos, y su razonamiento puede ser difícil de explicar. Los errores se distribuyen de forma desigual, y las personas afectadas pueden desconocer que intervino un sistema automatizado.

El debate público oscila entre la alarma y el entusiasmo desmedido. Ambos distorsionan el juicio. El trabajo de alfabetización busca una comprensión calibrada: qué hacen de forma fiable los sistemas actuales, dónde fallan y qué salvaguardas existen.

11Métodos y límites

Cómo se recopila la evidencia y dónde termina.

MétodoLo que muestraSu límite
Encuestas sobre ideas erróneasCommon beliefs about how AI worksLas creencias cambian con rapidez con las nuevas herramientas
Ejercicios prácticosWhether people can spot errors or synthetic contentEs posible que las habilidades de detección no se transfieran a nuevos formatos
Revisión por expertosExactitud de las afirmaciones sobre capacidadesCapabilities change between review and reading
Medidas de seguimientoSi los hábitos de verificación persistenDesgaste muestral y sesgo de autodeclaración
12Métodos

Cómo se estudia y lo que los métodos no pueden decir.

  1. Ciencias sociales y del comportamientoInvestigación de audiencias antes de una campaña · Prueba previa de materiales para su comprensiónAplicado aquí
  2. Análisis de decisiones en condiciones de incertidumbreComunicar antes de que la evidencia se asiente · Elegir canales y audienciasAplicado aquí
13Where this page’s references

Where this page’s references lead.

Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.

14Preguntas

Preguntas y respuestas.

¿Pueden las personas aprender a detectar deepfakes?
La formación mejora el desempeño en algunas tareas, pero los medios sintéticos de alta calidad suelen ser indetectables a simple vista o al oído. Comprobar la fuente, el contexto y cualquier registro de procedencia es más fiable que inspeccionar el contenido en sí.
What is content provenance?
A record attached to an image, video or audio file stating how it was made and edited, such as Content Credentials under the C2PA standard. A missing record does not prove a file is fake.
¿Qué derechos tienen las personas frente a las decisiones automatizadas?
It depends on jurisdiction. In the European Union, data protection law gives rights to information and, in many cases, to human review of decisions based solely on automated processing. Other jurisdictions differ.
Does Campaigns rate AI products?
No. It explains how AI systems work and fail in general terms and points to the regulators and standards bodies whose assessments apply.
Does the platform evaluate or rate AI products?
No. Explica en términos generales cómo funcionan y fallan los sistemas de IA. No prueba, califica ni aprueba ningún producto.
Is AI used to produce campaign material?
Where a tool assists, its use is disclosed, and every claim is checked against sources by a named reviewer before publication.
¿Cómo se mantiene actualizado el material?
Cada explicación incluye una fecha de revisión. Cuando cambian las capacidades o las normas, se revisa y el cambio se registra como una nueva versión.
serie ReportsContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

GCRICampañasNota de evidencia
Campañas

Aporte un método, un conjunto de datos o una pregunta.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.