GCRI · Inteligência artificial e sistemas autônomos
Cibersegurança da IA
AI and cybersecurity meet in three ways: AI sistemas can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
Uma cascata através de redes interdependentes.
A pegada de perigo elimina os ativos colocalizados em cada camada; a fragmentação, a dependência entre camadas e a sobrecarga dos sobreviventes propagam depois a falha. A vista 3D separa as camadas por profundidade. Modelo didático com valores ilustrativos declarados, não uma previsão.
Controles
- Ativos por camada
- 18
- Área de impacto da ameaça
- 8% da área
- Ativos que dependem de outra camada
- 60%
- Capacidade de reserva (tolerância)
- 30%
Leituras
- Ativos atingidos pela ameaça
- 7%
- Ativos ainda a funcionar
- 50%
- Amplificação do dano inicial
- 6.8 times
- Passos até à liquidação
- 3
Números, métodos e fontes
| Passo | Centros de dados a funcionar (%) | Redes a funcionar (%) | Funcionamento da alimentação (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
Métodos
- Redes interdependentes Buldyrev and others (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Cascatas de sobrecarga Motter and Lai (2002), Physical Review E 66
- Carga de intermediação Brandes (2001), Journal of Mathematical Sociology 25
- Redes multicamada Kivela and others (2014), Journal of Complex Networks 2
- Interdependências de infraestruturas Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Leque de incerteza (Monte Carlo de parâmetros) Spiegelhalter, Pearson e Short (2011), Visualising uncertainty about the future, Science 333
- Sensibilidade de um fator de cada vez (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Dados
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Rodovias principais Natural Earth
- Ferrovias Natural Earth
- Portos marítimos Natural Earth
- Aeroportos Natural Earth
- Extensões urbanas Natural Earth
- Luzes noturnas esta noite, falhas (banda dia/noite VIIRS) NASA/NOAA VIIRS (Suomi NPP) · registo nasa.gibs.context-live-layers
- Eventos naturais (NASA EONET) NASA EONET · registo nasa.eonet.events
Nos seis pilares, sob a liderança do Nexus Consortium
- Experimentos Laboratórios
- Integrado Inteligência artificial e sistemas autônomos em Foundry
- Testado em Inteligência artificial e sistemas autônomos em Universe
- Codificado em Digital, ciber e IA em Standards
- Publicado em Inteligência artificial e sistemas autônomos em Reports
- Ensinado em Faculdade de Tecnologia e Sistemas Digitais em Academy
AI changes cyber risk in every domain’s control systems.
Findings are designed for the série Exponential Technology. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.
Modelo de sistema
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
O que é medido e com que qualidade.
Cada indicador leva sua unidade, sua periodicidade, o tipo de fonte por trás dele e a etiqueta de evidência que um valor levaria. Nenhum valor é mostrado: um programa os fornece sob sua própria autoridade.
| Indicador | Unidade | Cadência | Tipo de fonte | Rótulo |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | mensal | Vulnerability databases | REPORTADO |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | OBSERVADO |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | DECLARADO |
| AI-related security incidents | count by technique | anual | Incident reports | REPORTADO |
| Time to detect AI system compromise | hours | per incident | Incident response records | OBSERVADO |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | REPORTADO |
De onde vêm as evidências.
Conjuntos de dados públicos nomeados e registros institucionais, cada um com sua classe de licença. As fontes obtidas por acordo só são usadas nos seus termos e nunca são republicadas.
| Fonte | O que oferece | Classe de licença |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI sistemas, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Quem decide, e a que servem as evidências.
Estúdio de Inteligência artificial e sistemas prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Quem decide | A pergunta | Evidências a que esta página serve |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| Desenvolvedores | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Produtos que este tema gera
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining cibersegurança e criptografia and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Threat modelling
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
Como é estudado e o que os métodos não podem dizer.
- 01Cibersegurança e criptografiaModelagem de ameaças de aplicações de IA · Integridade da cadeia de suprimentos de modelos · Testes de defesa contra injeçãoAplicado aqui
- 02Engenharia de avaliação e garantia de IACasos de garantia para sistemas de IA · Red teaming estruturado · Monitoramento pós-implantaçãoAplicado aqui
- 03Inteligência artificial e aprendizado de máquinaAnálise de mudança de distribuição · Ajuste fino para um uso específico · Métodos de interpretabilidadeAplicado aqui
- 04Computação de alto desempenho, em nuvem e de bordaAcesso à computação para a pesquisa pública · Medição da energia das cargas de trabalhoAplicado aqui
Where this page’s references lead.
Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.
Perguntas e respostas.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
Contribua com evidências a partir desta página.
Relatórios is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoDepósito abertoDeposite-o e envie à comunidadePublique seu próprio registro no Zenodo com seu ORCID iD e depois envie-o à comunidade Reports ali. Os curadores o revisam; o DOI continua sendo seu.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.