Threat modelling AI applications
Data flows, trust boundaries and tools of an AI application are mapped to identify where untrusted inputs could manipulate the model or where data could leak.
GCRI · Inteligencia artificial y sistemas autónomos
Ciberseguridad para sistemas de IA
Cybersecurity and cryptography protect AI sistemas and the data they use. In this field the focus is threats specific to AI, such as prompt injection, poisoning and model theft, alongside conventional security of the software and infrastructure around models.
01Registro
Cybersecurity for AI systems on the record.
Registro del métodoMétodo CTIM
- MétodoCiberseguridad y criptografía
- Se aplica enEstudio de Inteligencia artificial y sistemas
- Datos3 inputs
- Comprobaciones3 pasos de validación
- Página canónicaProcomún CTIM
02Solicitud
What cybersecurity and cryptography does here.
Cybersecurity and cryptography protect information sistemas and data from unauthorised access, disruption and manipulation. They address threats that can spread rapidly across interconnected digital and physical systems. In artificial intelligence and data and compute, cybersecurity analysis identifies how a single compromise can propagate across sectors that share software, vendors or networks. It informs resilience requirements and cyber insurance. The canonical description is on STEM Commons.
Model supply chain integrity
Provenance of datasets and model weights is recorded and verified with signatures and hashes before use.
Injection defence testing
Applications are tested with suites of injection attempts, and the success rate is tracked as defences change.
03Seguimiento
Security assessment.
La pantalla que utilizaría un equipo para seguir este método: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Security assessment
AI and autonomous systems · Cybersecurity for AI systems · Run R-5953
Two high findingsGCRI · Inteligencia artificial y sistemas autónomos
Hallazgos
| Weak key rotation | Identity service | Alto | PR.AA | Abrir |
| Unpatched gateway | Edge | Alto | PR.PS | Fixing |
| Logging gap | API de pagos | Medio | DE.CM | Abrir |
| Stale accounts | Directorio | Bajo | PR.AA | Cerrado |
Ficha del método
- Método
- Ciberseguridad y criptografía
- Marco
- Funciones del CSF 2.0
- Alcance
- 54 assets
- Etiqueta
- MODELADO
Control coverage by function
04Datos
Lo que consume el método.
Datasets and records used by cybersecurity and cryptography on this platform, with the role each plays and the label its values carry. Sources are listed in el registro de fuentes.
| Datos | Función | Etiqueta |
|---|---|---|
| MITRE ATLAS techniques | Threat catalogue | NOTIFICADO |
| Vulnerability databases | Known flaws | NOTIFICADO |
| Security test results | Defence performance | OBSERVADO |
05Simulador
Una cascada a través de redes interdependientes.
A huella de amenaza elimina los activos colocalizados en cada capa; la fragmentación, la dependencia entre capas y la sobrecarga de los supervivientes propagan después el fallo. La vista 3D separa las capas por profundidad. Modelo didáctico con valores ilustrativos declarados, no una predicción.
Controles
- Activos por capa
- 18
- Huella de la amenaza
- 8 % de la superficie
- Activos que dependen de otra capa
- 60%
- Capacidad de reserva (tolerancia)
- 30%
Lecturas
- Activos afectados por la amenaza
- 2%
- Activos que siguen funcionando
- 72%
- Amplificación del daño inicial
- 15.0 times
- Pasos hasta la liquidación
- 3
Cifras, métodos y fuentes
| Paso | Centros de datos en funcionamiento (%) | Redes en funcionamiento (%) | Funcionamiento eléctrico (%) |
|---|---|---|---|
| 0 | 94 | 100 | 100 |
| 1 | 89 | 67 | 100 |
| 2 | 72 | 67 | 100 |
| 3 | 72 | 67 | 78 |
Métodos
- Redes interdependientes Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Cascadas de sobrecarga Motter and Lai (2002), Physical Review E 66
- Carga de intermediación Brandes (2001), Journal of Mathematical Sociology 25
- Redes multicapa Kivela and others (2014), Journal of Complex Networks 2
- Interdependencias de infraestructuras Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Abanico de incertidumbre (Monte Carlo de parámetros) Spiegelhalter, Pearson y Short (2011), Visualising uncertainty about the future, Science 333
- Sensibilidad de un factor a la vez (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Datos
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Carreteras principales Natural Earth
- Ferrocarriles Natural Earth
- Puertos marítimos Natural Earth
- Aeropuertos Natural Earth
- Extensiones urbanas Natural Earth
- Luces nocturnas esta noche, cortes (banda día/noche VIIRS) NASA/NOAA VIIRS (Suomi NPP) · registro nasa.gibs.context-live-layers
- Eventos naturales (NASA EONET) NASA EONET · registro nasa.eonet.events
En los seis pilares, bajo la dirección de Nexus Consortium
- Experimentos Laboratorios
- Integrado en Inteligencia artificial y sistemas autónomos en Foundry
- Probado en Inteligencia artificial y sistemas autónomos en Universe
- Codificado en Riesgo digital, cibernético y de la IA en Standards
- Publicado en Inteligencia artificial y sistemas autónomos en Reports
- Se imparte en Facultad de Tecnología y Sistemas Digitales en Academy
06Validación
Cómo se verifican los resultados.
Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.
| Verificación | Cómo se hace |
|---|---|
| Threat model review | Threat models are reviewed when the application or its tools change |
| Provenance verification | Model artefacts are checked against signed records |
| Regression testing | Security tests are rerun after each update |
Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.
07Métodos y evidencia
How Cybersecurity for AI systems is modelled, measured and tested.
El modelo, sus supuestos, sus datos y su incertidumbre, en la forma en que un científico o un ingeniero los comprobaría. Las estructuras siguen métodos publicados. Los valores representados son ilustrativos, no hallazgos.
Modelo, ecuaciones y supuestos
The model structure used for Cybersecurity for AI systems, the assumptions it makes and how each is tested.
Riesgo del elemento i
Ri = f(Hi, Ei, Vi, Ci)amenaza, exposición, vulnerabilidad y capacidad de afrontamientoPérdida anual esperada
EAL = ∑k pk · Lksobre los eventos k con probabilidad anual pkSistemas acoplados
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Supuesto | Por qué se hace | Cómo se prueba |
|---|---|---|
| La amenaza y la exposición son independientes dentro de un evento | Mantiene manejable la integral de pérdidas | Comparar con un ajuste de cópula sobre registros conjuntos |
| Los acoplamientos son lineales cerca del punto de operación | Permite que las perturbaciones se propaguen a través de A | Perturbar más allá del rango lineal y comparar |
| Las curvas de vulnerabilidad se transfieren entre lugares | Las curvas locales rara vez están disponibles | Validar frente a las pérdidas observadas cuando existan |
- Entradas
- conjuntos de datos versionados con procedencia
- Resultados
- distribuciones, nunca cifras únicas
- Código
- publicado con la ficha de modelo y las pruebas
- Reproducción
- mismos datos, código, entorno y semilla
Principios rectores FAIR · GO FAIR y FORCE11W3C PROV · World Wide Web ConsortiumOrientación para un tratamiento coherente de las incertidumbres · IPCCCEOS Analysis Ready Data · Comité sobre Satélites de Observación de la Tierra
08Conexiones
Temas que se basan en este método.
09Custodia responsable
Quién mantiene el método.
Ciberseguridad y resiliencia digital stewards cybersecurity and cryptography for the Consortium and reviews how it is applied across platforms.
10Conectado
Adónde lleva esta página en todo el Consorcio.
11Preguntas
Preguntas y respuestas.
What are the limits of cybersecurity and cryptography in this field?
Adversaries adapt, so historical data may not reflect future attacks. Software supply chains and legacy systems introduce weaknesses that are hard to inventory.
¿Cómo se verifican los resultados?
Controls are tested through red-team exercises, audits and formal analysis of cryptographic schemes. Incident data are used to check whether defences performed as intended.
¿Son reales los valores de esta página?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
¿Dónde más se aplica este método?
La página canónica del método enumera todas las plataformas que lo aplican.
serie ReportsContribuir
Aporte evidencia desde esta página.
serie Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIInteligencia artificial y sistemas autónomosTecnología exponencialEvidencia de Labs
- Correo electrónicoPasarela GW-GCRIEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- serie ReportsGCRIVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Inteligencia artificial y sistemas autónomos
Aporte un método, un conjunto de datos o una pregunta.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Legal
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.