GCRI · Intelligenza artificiale e sistemi autonomi
Cybersicurezza dell'IA
AI and cybersecurity meet in three ways: AI sistemi can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
Una cascata attraverso reti interdipendenti.
A impronta di pericolo elimina gli asset colocalizzati in ogni livello; frammentazione, dipendenza tra livelli e sovraccarico dei sopravvissuti propagano poi il guasto. La vista 3D separa i livelli per profondità. Modello didattico con valori illustrativi dichiarati, non una previsione.
Comandi
- Beni per livello
- 18
- Impronta del pericolo
- 8% della superficie
- Beni che dipendono da un altro livello
- 60%
- Capacità di riserva (tolleranza)
- 30%
Letture
- Beni colpiti dal pericolo
- 7%
- Beni ancora funzionanti
- 50%
- Amplificazione del danno iniziale
- 6.8 times
- Passaggi fino al regolamento
- 3
Numeri, metodi e fonti
| Passaggio | Data center in funzione (%) | Reti funzionanti (%) | Funzionamento dell'alimentazione (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
Metodi
- Reti interdipendenti Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Cascate di sovraccarico Motter and Lai (2002), Physical Review E 66
- Carico di intermediazione Brandes (2001), Journal of Mathematical Sociology 25
- Reti multistrato Kivela and others (2014), Journal of Complex Networks 2
- Interdipendenze delle infrastrutture Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Ventaglio di incertezza (Monte Carlo sui parametri) Spiegelhalter, Pearson e Short (2011), Visualising uncertainty about the future, Science 333
- Sensibilità un fattore alla volta (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Dati
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Strade principali Natural Earth
- Ferrovie Natural Earth
- Porti marittimi Natural Earth
- Aeroporti Natural Earth
- Estensioni urbane Natural Earth
- Luci notturne stanotte, interruzioni (banda giorno/notte VIIRS) NASA/NOAA VIIRS (Suomi NPP) · registro nasa.gibs.context-live-layers
- Eventi naturali (NASA EONET) NASA EONET · registro nasa.eonet.events
Nei sei pilastri, sotto la guida di Nexus Consortium
- Esperimenti Laboratori
- Costruito in Intelligenza artificiale e sistemi autonomi in Foundry
- Testato a Intelligenza artificiale e sistemi autonomi in Universe
- Codificato in Digitale, cibernetico e IA in Standards
- Pubblicato in Intelligenza artificiale e sistemi autonomi in Reports
- Insegnato in Facoltà di Tecnologia e sistemi digitali in Academy
AI changes cyber risk in every domain’s control systems.
- EnergiaAccoppiamentoAI could speed discovery of vulnerabilities in control systems.What to watchPatch latency
- AcquaAccoppiamentoSmall utilities have limited security capacity.What to watchSecurity staffing
- SaluteAccoppiamentoHospitals face ransomware that AI tools may scale.What to watchIncident trends
Findings are designed for the serie Exponential Technology. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
Il modello, le sue ipotesi, i suoi dati e la sua incertezza, nella forma in cui uno scienziato o un ingegnere li verificherebbe. Le strutture seguono metodi pubblicati. I valori rappresentati sono illustrativi, non risultati.
Modello di sistema
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
Cosa viene misurato e con quale accuratezza.
Ogni indicatore riporta la sua unità, la sua cadenza, il tipo di fonte su cui si basa e l'etichetta di evidenza che un valore riporterebbe. Non sono mostrati valori: un programma li fornisce sotto la propria autorità.
| Indicatore | Unità | Cadenza | Tipo di fonte | Etichetta |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | mensile | Vulnerability databases | RIPORTATO |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | OSSERVATO |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | DICHIARATO |
| AI-related security incidents | count by technique | annuale | Incident reports | RIPORTATO |
| Time to detect AI system compromise | hours | per incident | Incident response records | OSSERVATO |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | RIPORTATO |
Da dove provengono le evidenze.
Set di dati pubblici e registri istituzionali specifici, ciascuno con la sua classe di licenza. Le fonti soggette ad accordo sono utilizzate solo alle relative condizioni e mai ripubblicate.
| Fonte | Cosa fornisce | Classe di licenza |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI sistemi, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Chi decide, e a cosa servono le evidenze.
Studio Intelligenza artificiale e sistemi prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Chi decide | La domanda | Evidenze fornite da questa pagina |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| Sviluppatori | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Output prodotti da questo argomento
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining cybersicurezza e crittografia and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Threat modelling
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
Come viene studiato, e cosa i metodi non possono dire.
- 01Cybersicurezza e crittografiaModellazione delle minacce per le applicazioni di IA · Integrità della catena di approvvigionamento dei modelli · Test di difesa dalle iniezioniApplicato qui
- 02Ingegneria della valutazione e dell'assicurazione dell'IACasi di garanzia per i sistemi di IA · Red teaming strutturato · Monitoraggio successivo all'impiegoApplicato qui
- 03Intelligenza artificiale e apprendimento automaticoAnalisi degli spostamenti di distribuzione · Messa a punto per un uso specifico · Metodi di interpretabilitàApplicato qui
- 04Calcolo ad alte prestazioni, cloud ed edgeAccesso al calcolo per la ricerca pubblica · Misurazione energetica dei carichi di lavoroApplicato qui
Where this page’s references lead.
Gli organismi e i documenti alla luce dei quali si legge questa pagina. Stato ed edizioni cambiano; ogni link porta all'organismo emittente.
Domande e risposte.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
Contribuisci con evidenze da questa pagina.
Rapporti is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPortale GW-GCRIInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoDeposito apertoDepositalo e invialo alla comunitàPubblica il tuo registro su Zenodo con il tuo ORCID iD, poi invialo alla comunità Reports. I curatori lo esaminano; il DOI resta tuo.
- RapportiGCRIVedi tutti i modi per contribuireI tipi di contributo, come viene revisionato ciascuno, il riconoscimento che ricevi, la licenza e ciò che non è mai accettato.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Porta un metodo, un set di dati o una domanda.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.