GCRI · Intelligence artificielle et systèmes autonomes
Cybersécurité de l'IA
AI and cybersecurity meet in three ways: AI systèmes can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
Une cascade à travers des réseaux interdépendants.
A empreinte d'aléa emporte les actifs colocalisés dans chaque couche ; la fragmentation, la dépendance entre couches et la surcharge des survivants propagent ensuite la défaillance. La vue 3D sépare les couches par profondeur. Modèle pédagogique à valeurs illustratives déclarées, pas une prédiction.
Commandes
- Actifs par couche
- 18
- Emprise de l'aléa
- 8 % de la superficie
- Actifs qui dépendent d'une autre couche
- 60%
- Capacité de réserve (tolérance)
- 30%
Relevés
- Actifs touchés par l'aléa
- 7%
- Actifs encore en fonctionnement
- 50%
- Amplification des dommages initiaux
- 6.8 times
- Étapes jusqu'au règlement
- 3
Chiffres, méthodes et sources
| Étape | Centres de données en fonctionnement (%) | Réseaux en fonctionnement (%) | Fonctionnement de l'alimentation (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
Méthodes
- Réseaux interdépendants Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Cascades de surcharge Motter and Lai (2002), Physical Review E 66
- Charge d'intermédiarité Brandes (2001), Journal of Mathematical Sociology 25
- Réseaux multicouches Kivela and others (2014), Journal of Complex Networks 2
- Interdépendances des infrastructures Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Éventail d'incertitude (Monte Carlo sur les paramètres) Spiegelhalter, Pearson et Short (2011), Visualising uncertainty about the future, Science 333
- Sensibilité un facteur à la fois (tornade) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Données
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Routes principales Natural Earth
- Chemins de fer Natural Earth
- Ports maritimes Natural Earth
- Aéroports Natural Earth
- Étendues urbaines Natural Earth
- Lumières nocturnes ce soir, coupures (bande jour/nuit VIIRS) NASA/NOAA VIIRS (Suomi NPP) · registre nasa.gibs.context-live-layers
- Événements naturels (NASA EONET) NASA EONET · registre nasa.eonet.events
Sur les six piliers, sous la conduite de Nexus Consortium
- Expériences Laboratoires
- Intégré Intelligence artificielle et systèmes autonomes dans Foundry
- Testé à Intelligence artificielle et systèmes autonomes dans Universe
- Codifié dans Numérique, cyber et IA dans Standards
- Publié dans Intelligence artificielle et systèmes autonomes dans Reports
- Enseigné dans Faculté de technologie et de systèmes numériques dans Academy
AI changes cyber risk in every domain’s control systems.
Findings are designed for the série Technologies exponentielles. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
Le modèle, ses hypothèses, ses données et son incertitude, sous la forme qu'un scientifique ou un ingénieur vérifierait. Les structures suivent des méthodes publiées. Les valeurs représentées sont illustratives, ce ne sont pas des résultats.
Modèle de système
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
Ce qui est mesuré, et avec quelle qualité.
Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.
| Indicateur | Unité | Fréquence | Type de source | Étiquette |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | mensuel | Vulnerability databases | DÉCLARÉ |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | OBSERVÉ |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | DÉCLARÉ |
| AI-related security incidents | count by technique | annuel | Incident reports | DÉCLARÉ |
| Time to detect AI system compromise | hours | per incident | Incident response records | OBSERVÉ |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | DÉCLARÉ |
D'où proviennent les données probantes.
Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.
| Sources | Ce qu'elle apporte | Catégorie de licence |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI systèmes, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Qui décide, et à quoi servent les données probantes.
Studio Intelligence artificielle et systèmes prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Qui décide | La question | Données probantes servies par cette page |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| Développeurs | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Résultats que produit ce thème
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining cybersécurité et cryptographie and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Threat modelling
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.
- 01Cybersécurité et cryptographieModélisation des menaces pour les applications d'IA · Intégrité de la chaîne d'approvisionnement des modèles · Tests de défense contre l'injectionAppliqué ici
- 02Ingénierie de l'évaluation et de l'assurance de l'IADossiers d'assurance pour les systèmes d'IA · Tests adversariaux structurés · Surveillance après déploiementAppliqué ici
- 03Intelligence artificielle et apprentissage automatiqueAnalyse des glissements de distribution · Ajustement fin pour un usage spécifique · Méthodes d'interprétabilitéAppliqué ici
- 04Calcul haute performance, en nuage et en périphérieAccès au calcul pour la recherche publique · Mesure énergétique des charges de travailAppliqué ici
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
Apportez des éléments de preuve depuis cette page.
Rapports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPasserelle GW-GCRIL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoDépôt ouvertLe déposer et le soumettre à la communautéPubliez votre propre fiche sur Zenodo avec votre identifiant ORCID, puis soumettez-la à la communauté Reports qui s'y trouve. Des curateurs l'examinent ; le DOI reste le vôtre.
- RapportsGCRIVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Apportez une méthode, un jeu de données ou une question.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.