GCRI · Yapay Zekâ ve Otonom Sistemler
Yapay zekâ siber güvenliği
AI and cybersecurity meet in three ways: AI sistemleri can be attacked, AI can help attackers, and AI can help defenders. Models can be poisoned, stolen, manipulated or made to leak data; their supply chains of data, weights and libraries carry new risks. This page sets out how these threats work, how AI systems are secured, and what evidence serves the security teams and regulators responsible.
AI cyber security on the record.
AI cyber security: how the risk develops.
Adversarial methods and model exposure. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Models are attack surfaces
Adversarial inputs, prompt injection, data extraction and model theft target the model itself. Classic application vulnerabilities still apply around it.
The AI supply chain is long
Training data, pretrained weights, libraries and plugins come from many sources. Poisoned data or tampered models can introduce hidden behaviour.
AI lowers the cost of some attacks
Generative AI can draft phishing, translate lures and help write code, lowering the skill barrier for some attacks. The size of this effect is studied and debated.
AI assists defence
Machine learning detects anomalies, triages alerts and finds vulnerabilities. Defenders must also secure the AI tools they adopt.
Birbirine bağımlı ağlar üzerinden zincirleme etki.
A Tehlike izi her katmandaki aynı yerde bulunan varlıkları devre dışı bırakır; ardından parçalanma, katmanlar arası bağımlılık ve hayatta kalanların aşırı yüklenmesi arızayı yayar. 3D görünüm katmanları derinliğe göre ayırır. Belirtilen açıklayıcı değerlere sahip bir öğretim modelidir, tahmin değildir.
Kontroller
- Katman başına varlıklar
- 18
- Tehlike ayak izi
- alanın %8'i
- Başka bir katmana bağımlı varlıklar
- 60%
- Yedek kapasite (tolerans)
- 30%
Okumalar
- Tehlikeden etkilenen varlıklar
- 7%
- Çalışmaya devam eden varlıklar
- 50%
- İlk hasarın büyümesi
- 6.8 times
- Dengeye gelme adımları
- 3
Sayılar, yöntemler ve kaynaklar
| Adım | Çalışan veri merkezleri (%) | Çalışan ağlar (%) | Çalışan güç (%) |
|---|---|---|---|
| 0 | 83 | 94 | 100 |
| 1 | 72 | 78 | 94 |
| 2 | 61 | 67 | 50 |
| 3 | 61 | 67 | 22 |
Yöntemler
- Birbirine bağımlı ağlar Buldyrev ve diğerleri (2010), Catastrophic cascade of failures in interdependent networks, Nature 464
- Aşırı yük zincirleri Motter and Lai (2002), Physical Review E 66
- Aradalık yükü Brandes (2001), Journal of Mathematical Sociology 25
- Çok katmanlı ağlar Kivela and others (2014), Journal of Complex Networks 2
- Altyapı karşılıklı bağımlılıkları Rinaldi, Peerenboom and Kelly (2001), IEEE Control Systems 21(6)
- Belirsizlik yelpazesi (parametre Monte Carlo) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
- Tek seferde bir faktör duyarlılık analizi (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Veri
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Ana yollar Natural Earth
- Demiryolları Natural Earth
- Deniz limanları Natural Earth
- Havalimanları Natural Earth
- Kentsel yayılım alanları Natural Earth
- Bu geceki gece ışıkları, kesintiler (VIIRS Day/Night Band) NASA/NOAA VIIRS (Suomi NPP) · register nasa.gibs.context-live-layers
- Doğal olaylar (NASA EONET) NASA EONET · register nasa.eonet.events
Nexus Consortium'un yürüttüğü altı ayak genelinde
- Deneyler Laboratuvarlar
- Yerleşik Foundry'de Yapay Zekâ ve Otonom Sistemler
- Test edildiği yer Universe'te Yapay Zekâ ve Otonom Sistemler
- Kodlandığı yer Standards'ta Dijital, Siber ve YZ
- Yayımlandığı yer Reports'ta Yapay Zekâ ve Otonom Sistemler
- Öğretildiği yer Academy'de Teknoloji ve Dijital Sistemler Fakültesi
AI changes cyber risk in every domain’s control systems.
Findings are designed for the Üstel Teknoloji serisi. ISO/IEC 23894 (2023) sets AI risk management guidance; the page publishes no attack techniques.
- Defensive evaluations of AI tools.
- Incident case studies.
How AI cyber security is modelled, measured and tested.
Model, varsayımları, verileri ve belirsizliği, bir bilim insanının veya mühendisin kontrol edeceği biçimde. Yapılar yayımlanmış yöntemleri izler. Çizilen değerler bulgu değil, açıklayıcıdır.
Sistem modeli
The couplings between the systems in AI cyber security: signs of influence, a reinforcing and a balancing loop, and cross-links where stress jumps.
Neyin ve ne kadar iyi ölçüldüğü.
Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.
| Gösterge | Birim | Sıklık | Kaynak türü | Etiket |
|---|---|---|---|---|
| Vulnerabilities reported in AI frameworks and libraries | count of CVE entries | aylık | Vulnerability databases | BİLDİRİLMİŞ |
| Adversarial robustness | accuracy under a stated attack | per evaluation | Robustness testing | GÖZLENEN |
| Models with signed provenance | percent of deployed models | per inventory | Model registries | BEYAN EDİLDİ |
| AI-related security incidents | count by technique | yıllık | Incident reports | BİLDİRİLMİŞ |
| Time to detect AI system compromise | hours | per incident | Incident response records | GÖZLENEN |
| Organisations with AI security policies | percent of surveyed organisations | per survey | Industry surveys | BİLDİRİLMİŞ |
Kanıtın nereden geldiği.
Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.
| Kaynak | Sağladıkları | Lisans sınıfı |
|---|---|---|
| MITRE ATLAS | Adversarial tactics and techniques against AI sistemleri, with case studies | Public, licence to check |
| NIST adversarial machine learning taxonomy | Terminology and taxonomy of attacks and mitigations | Public domain, US government |
| National Vulnerability Database and CVE records | Vulnerabilities in AI software | Public domain, US government |
| ENISA reports on AI cybersecurity | Threat landscape and good practice for securing AI | Public, ENISA terms |
| Joint guidance from national cyber agencies on secure AI system development | Secure design, development, deployment and operation | Public, terms per agency |
Kim karar verir ve kanıt neye hizmet eder.
Yapay Zekâ ve Otonom Sistem prepares evidence. The decisions below are taken by the authorities named, under their own rules, and never by the platform.
| Kim karar verir | Soru | Bu sayfanın hizmet ettiği kanıt |
|---|---|---|
| Chief information security officers | How to secure AI systems the organisation builds or buys | Threat models; supply chain checklists |
| National cybersecurity agencies | What guidance to issue on AI security | Incident and vulnerability evidence |
| Geliştiriciler | Which defences to build into models and applications | Robustness testing; attack taxonomies |
Bu konunun ürettiği çıktılar
- Threat models for AI deployments
- AI supply chain security checklists
- Robustness testing protocols
- Evidence notes on AI-enabled attack trends
What security researchers ask.
- How can inputs be crafted to make a model misbehave, and how robust are defences?
- Can an attacker poison training data or tamper with model weights in the supply chain?
- Can private training data or a model itself be extracted through its outputs?
- How does AI change attackers’ and defenders’ capabilities?
The AI attack surface.
Adversarial examples are inputs altered in ways imperceptible to people that cause models to err. Data poisoning inserts malicious examples into training data to plant backdoors. Membership inference and extraction attacks recover information about training data or replicate a model through repeated queries. For language models, jailbreaks and prompt injection bypass intended restrictions.
On the other side, AI can help attackers find vulnerabilities, write malware variants and craft convincing phishing at scale, and help defenders triage alerts, analyse code and detect anomalies. The balance between the two is an open research question.
Security engineering for AI.
- 01
Red-teaming
Structured attempts to break a system, combining siber güvenlik ve kriptografi and artificial intelligence and machine learning expertise. Red-teaming finds problems but cannot prove their absence.
- 02
Tehdit modelleme
Mapping assets, adversaries and attack paths across data, training, deployment and supply chain.
- 03
Robustness testing
Measuring performance under adversarial perturbation. Robustness to known attacks does not imply robustness to new ones.
- 04
Supply-chain integrity
Provenance of datasets, models and dependencies, with signing and verification. Provenance tooling is still maturing.
Nasıl incelendiği ve yöntemlerin söyleyemeyecekleri.
- 01Siber güvenlik ve kriptografiYapay zekâ uygulamaları için tehdit modellemesi · Model tedarik zinciri bütünlüğü · Enjeksiyon savunma testiBurada uygulanır
- 02Yapay zekâ değerlendirme ve güvence mühendisliğiYapay zekâ sistemleri için güvence gerekçeleri · Yapılandırılmış kırmızı takım çalışması · Kullanıma alma sonrası izlemeBurada uygulanır
- 03Yapay zekâ ve makine öğrenmesiDağılım kayması analizi · Belirli bir kullanım için ince ayar · Yorumlanabilirlik yöntemleriBurada uygulanır
- 04Yüksek performanslı, bulut ve uç bilişimKamu araştırmaları için hesaplama erişimi · İş yüklerinin enerji ölçümüBurada uygulanır
Where this page’s references lead.
Bu sayfanın karşılaştırıldığı kuruluşlar ve belgeler. Durumlar ve sürümler değişir; her bağlantı yayımlayan kuruluşa gider.
Sorular ve yanıtlar.
What is data poisoning?
What is MITRE ATLAS?
Does AI make cyberattacks easier?
Does the platform publish attack techniques?
How do I report a vulnerability?
Is open release of model weights a security risk?
Can AI defend against AI-enabled attacks?
Bu sayfadan kanıt katkısında bulunun.
Raporlar is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-postaGW-GCRI geçidiBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoAçık depoDepolayın ve topluluğa gönderinKendi kaydınızı ORCID iD'nizle Zenodo'da yayımlayın, ardından orada Reports topluluğuna gönderin. Küratörler inceler; DOI sizde kalır.
- RaporlarGCRIKatkıda bulunmanın tüm yollarını görünKatkı türleri, her birinin nasıl incelendiği, alacağınız atıf, lisans ve asla kabul edilmeyenler.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir yöntem, bir veri seti ya da bir soru getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.