GCRI · Искусственный интеллект и автономные системы
Кибербезопасность ИИ
AI and cybersecurity meet in three ways: AI системы can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
Каскад через взаимозависимые сети.
A След опасности выводит из строя совместно расположенные активы на каждом уровне; затем сбой распространяют фрагментация, зависимость между уровнями и перегрузка уцелевших. Вид 3D разделяет уровни по глубине. Учебная модель с заданными иллюстративными значениями, а не прогноз.
Меры контроля
- Активы по слоям
- 18
- След опасности
- 8% площади
- Активы, зависящие от другого слоя
- 60%
- Резервная мощность (допуск)
- 30%
Показания
- Объекты, пострадавшие от опасности
- 7%
- Объекты, которые продолжают работать
- 50%
- Усиление первоначального ущерба
- 6.8 times
- Шаги до стабилизации
- 3
Числа, методы и источники
| Шаг | Центры обработки данных в работе (%) | Сети в работе (%) | Энергоснабжение работает (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
Методы
- Взаимозависимые сети Buldyrev и др. (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Каскады перегрузок Motter and Lai (2002), Physical Review E 66
- Нагрузка по посредничеству Brandes (2001), Journal of Mathematical Sociology 25
- Многослойные сети Kivela and others (2014), Journal of Complex Networks 2
- Взаимозависимости инфраструктуры Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Веер неопределённости (параметрический метод Монте-Карло) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
- Анализ чувствительности по одному фактору (торнадо) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Данные
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Магистральные дороги Natural Earth
- Железные дороги Natural Earth
- Морские порты Natural Earth
- Аэропорты Natural Earth
- Городские границы Natural Earth
- Ночные огни сегодня, отключения (VIIRS Day/Night Band) NASA/NOAA VIIRS (Suomi NPP) · register nasa.gibs.context-live-layers
- Природные события (NASA EONET) NASA EONET · register nasa.eonet.events
По шести опорам, под руководством Nexus Consortium
- Эксперименты Лаборатории
- Построено в Искусственный интеллект и автономные системы в Foundry
- Проверено в Искусственный интеллект и автономные системы в Universe
- Закреплено в Цифровые технологии, кибербезопасность и ИИ в Standards
- Опубликовано в «Искусственный интеллект и автономные системы» в Reports
- Преподаётся в Факультет технологий и цифровых систем в Academy
AI changes cyber risk in every domain’s control systems.
- ЭнергетикаВзаимосвязиAI could speed discovery of vulnerabilities in control systems.What to watchPatch latency
- ВодаВзаимосвязиSmall utilities have limited security capacity.What to watchSecurity staffing
- ЗдравоохранениеВзаимосвязиHospitals face ransomware that AI tools may scale.What to watchIncident trends
Findings are designed for the серии Exponential Technology. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
Модель, её допущения, данные и неопределённость в том виде, в каком их проверил бы учёный или инженер. Структуры следуют опубликованным методам. Показанные значения являются иллюстративными, а не результатами.
Модель системы
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
Что измеряется и насколько хорошо.
Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.
| Индикатор | Единица | Периодичность | Тип источника | Метка |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | ежемесячно | Vulnerability databases | СООБЩЕНО |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | НАБЛЮДАЕМО |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | ЗАДЕКЛАРИРОВАНО |
| AI-related security incidents | count by technique | ежегодно | Incident reports | СООБЩЕНО |
| Time to detect AI system compromise | hours | per incident | Incident response records | НАБЛЮДАЕМО |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | СООБЩЕНО |
Откуда берётся доказательная база.
Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.
| Источник | Что он даёт | Класс лицензии |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI системы, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Кто принимает решения и чему служит доказательная база.
Студия «Искусственный интеллект и автономные Системная prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Кто принимает решение | Вопрос | Доказательная база, которую обслуживает эта страница |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| Разработчикам | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Результаты, которые даёт эта тема
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining кибербезопасности и криптографии and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Моделирование угроз
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
Как это изучается и чего методы не могут сказать.
- 01Кибербезопасность и криптографияМоделирование угроз для приложений ИИ · Целостность цепочки поставок моделей · Тестирование защиты от внедренияПрименяется здесь
- 02Инженерия оценки и обеспечения уверенности в ИИОбоснования для обеспечения уверенности в системах ИИ · Структурированное тестирование «красной командой» · Мониторинг после развёртыванияПрименяется здесь
- 03Искусственный интеллект и машинное обучениеАнализ сдвига распределения · Дообучение для конкретного применения · Методы интерпретируемостиПрименяется здесь
- 04Высокопроизводительные, облачные и периферийные вычисленияДоступ к вычислительным ресурсам для общественных исследований · Измерение энергопотребления рабочих нагрузокПрименяется здесь
Where this page’s references lead.
Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.
Вопросы и ответы.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
Поделитесь доказательствами с этой страницы.
Отчёты is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Электронная почтаШлюз GW-GCRIОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoОткрытый депозитДепонируйте и подайте в сообществоОпубликуйте собственную запись на Zenodo со своим идентификатором ORCID iD, затем подайте её в сообщество Reports. Кураторы проверяют её; DOI остаётся за вами.
- ОтчётыGCRIВсе способы внести вкладВиды вклада, порядок рецензирования каждого из них, указание авторства, лицензия и то, что никогда не принимается.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Предложите метод, набор данных или вопрос.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.