GCRI · Inteligencia artificial y sistemas autónomos
Ciberseguridad de la IA
AI and cybersecurity meet in three ways: AI sistemas can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
Una cascada a través de redes interdependientes.
A huella de amenaza elimina los activos colocalizados en cada capa; la fragmentación, la dependencia entre capas y la sobrecarga de los supervivientes propagan después el fallo. La vista 3D separa las capas por profundidad. Modelo didáctico con valores ilustrativos declarados, no una predicción.
Controles
- Activos por capa
- 18
- Huella de la amenaza
- 8 % de la superficie
- Activos que dependen de otra capa
- 60%
- Capacidad de reserva (tolerancia)
- 30%
Lecturas
- Activos afectados por la amenaza
- 7%
- Activos que siguen funcionando
- 50%
- Amplificación del daño inicial
- 6.8 times
- Pasos hasta la liquidación
- 3
Cifras, métodos y fuentes
| Paso | Centros de datos en funcionamiento (%) | Redes en funcionamiento (%) | Funcionamiento eléctrico (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
Métodos
- Redes interdependientes Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Cascadas de sobrecarga Motter and Lai (2002), Physical Review E 66
- Carga de intermediación Brandes (2001), Journal of Mathematical Sociology 25
- Redes multicapa Kivela and others (2014), Journal of Complex Networks 2
- Interdependencias de infraestructuras Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Abanico de incertidumbre (Monte Carlo de parámetros) Spiegelhalter, Pearson y Short (2011), Visualising uncertainty about the future, Science 333
- Sensibilidad de un factor a la vez (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Datos
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Carreteras principales Natural Earth
- Ferrocarriles Natural Earth
- Puertos marítimos Natural Earth
- Aeropuertos Natural Earth
- Extensiones urbanas Natural Earth
- Luces nocturnas esta noche, cortes (banda día/noche VIIRS) NASA/NOAA VIIRS (Suomi NPP) · registro nasa.gibs.context-live-layers
- Eventos naturales (NASA EONET) NASA EONET · registro nasa.eonet.events
En los seis pilares, bajo la dirección de Nexus Consortium
- Experimentos Laboratorios
- Integrado en Inteligencia artificial y sistemas autónomos en Foundry
- Probado en Inteligencia artificial y sistemas autónomos en Universe
- Codificado en Riesgo digital, cibernético y de la IA en Standards
- Publicado en Inteligencia artificial y sistemas autónomos en Reports
- Se imparte en Facultad de Tecnología y Sistemas Digitales en Academy
AI changes cyber risk in every domain’s control systems.
Findings are designed for the serie Exponential Technology. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.
Modelo de sistema
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | mensual | Vulnerability databases | NOTIFICADO |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | OBSERVADO |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | DECLARADO |
| AI-related security incidents | count by technique | anual | Incident reports | NOTIFICADO |
| Time to detect AI system compromise | hours | per incident | Incident response records | OBSERVADO |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | NOTIFICADO |
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI sistemas, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Quién decide y a qué sirve la evidencia.
Estudio de Inteligencia artificial y sistemas prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| Desarrolladores | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Productos que genera este tema
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining ciberseguridad y criptografía and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Threat modelling
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
Cómo se estudia y lo que los métodos no pueden decir.
- 01Ciberseguridad y criptografíaModelización de amenazas de las aplicaciones de IA · Integridad de la cadena de suministro de modelos · Pruebas de defensa contra la inyecciónAplicado aquí
- 02Ingeniería de evaluación y garantía de la IACasos de aseguramiento para sistemas de IA · Ejercicios de equipo rojo estructurados · Seguimiento posterior al despliegueAplicado aquí
- 03Inteligencia artificial y aprendizaje automáticoAnálisis del cambio de distribución · Ajuste fino para un uso específico · Métodos de interpretabilidadAplicado aquí
- 04Computación de alto rendimiento, en la nube y en el bordeAcceso a computación para la investigación pública · Medición energética de las cargas de trabajoAplicado aquí
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Preguntas y respuestas.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
Aporte evidencia desde esta página.
serie Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.