GCRI · Teknoloji
Yapay zekâ ve makine öğrenmesi
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.
Artificial intelligence and machine learning in six parts.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Reference practiceMachine learning in risk work is governed by AI risk frameworks and reporting standards
- 03In systemic risk workFast emulators, fragile extrapolation
- 04Uygulandığı yerBu yöntemi uygulayan platformlar
- 05Sorumlu yönetimBu sayfayı kim sürdürüyor
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
Temel yöntemler
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
Veriler ve araçlar
etiketli eğitim veri kümeleri; sensör ve görüntü arşivleri; metin derlemleri; simülasyon çıktıları; kıyaslama paketleri.
- 03
Doğrulama
Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.
- 04
Sınırlar
Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.
- 05
Risk kararlarında kullanım
Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| Referans | Belirledikleri |
|---|---|
| NIST AI RMF | Risk management functions for AI systems |
| ISO/IEC 42001 | AI management systems |
| TRIPOD (EQUATOR) | Reporting of prediction models, including machine-learning extensions |
Sürecin nasıl işlediği.
Process explorer · Process
Artificial intelligence and machine learning: AI risk management (NIST)
9 steps·5 stages·1 gate
Süreç
Artificial intelligence and machine learning: AI risk management (NIST)
AI RMF Core dört işleve sahiptir: GOVERN, MAP, MEASURE ve MANAGE; GOVERN bunların tümünü kesen bir işlevdir. Çizilen sıra yaygın bir okumadır, bir kontrol listesi değildir.
01 Yönet
- 01GOVERN: politikalar, roller ve hesap verebilirlikAdım · Bağımsız incelemeciGOVERN kesişen bir işlevdir. Yapay zekâ risk yönetiminin tamamına yayılır ve diğer işlevleri mümkün kılar.
02 Map
- 02MAP: bağlam ve amaçlanan kullanımVeri kümesiMAP işlevi, amaçlanan kullanımlar ve insanlar üzerindeki etkiler dahil olmak üzere bir yapay zekâ sistemiyle ilgili riskleri çerçevelemek için bağlamı belirler.
03 Ölçme
- 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
- 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
04 Yönet
- 05YÖNET: riskleri ele alAdımRisk işleme planları olaylara müdahaleyi, olaylardan toparlanmayı ve olaylara ilişkin iletişimi kapsar. Kaynaklar, haritalanmış ve ölçülmüş risklere yönlendirilir.
- 06Devam edilip edilmeyeceği (MANAGE 1.1)Geçit · Bağımsız hakemSistemin amaç ve hedeflerini karşılayıp karşılamadığı ve devam edilip edilmeyeceği belirlenir. Çerçeve herhangi bir eşik belirlemez.
- 07Devreye alma kararıKarar · Bağımsız gözden geçiriciSistemin sahibi olan kuruluş, devreye alıp almayacağına ve hangi koşullarda alacağına karar verir.
- 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
05 Kayıt
- 09Yapay zekâ sistemleri envanteriVeri kümesiGOVERN 1.6, yapay zekâ sistemlerinin envanterini çıkarmaya yönelik mekanizmalar öngörür. Model kartı yaygın bir uygulamadır ve çerçevede adıyla anılmaz.
Yayımlayan kuruluşundan alınan, yayımlanmış bir dış standardın veya yöntemin tarafsız ana hatları. Bir işletim kaydı değildir. Nexus gösterilen hiçbir adımı gerçekleştirmez, belgelendirmez veya onaylamaz. Bir kapı veya karar, kaynağın belirttiği tarafa aittir. Eylemler mutlaka sıralı bir adımlar kümesi değildir. AB Yapay Zekâ Yasası bu akışta gösterilmemiştir.
Fast emulators, fragile extrapolation.
Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.
- Test performance out of distribution, not only on held-out samples from the same period.
- Report training data provenance and licence.
- Keep a physical or mechanistic check where one exists.
- Applications on AI and Autonomous Systems and Labs.
Bu yöntemi uygulayan platformlar.
- LaboratuvarlarKurumGCRI
- FoundryInstitutionGCRI
- Yapay Zekâ ve Otonom SistemlerKurumGCRI
- Çalışmanın Geleceği ve BecerilerKurumGCRI
- Innovation NexusInstitutionGRF
- Yapay Zekâ ve Dijital YönetişimKurumGRF
- Bilgi Bütünlüğü ve Kamu GüveniKurumGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- Yapay Zekâ ve Finansal Model RiskiKurumGRA
- Finansal Suç ve Dolandırıcılık RiskiKurumGRA
Bu sayfayı kim sürdürüyor.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
Bu sayfanın karşılaştırıldığı kuruluşlar ve belgeler. Durumlar ve sürümler değişir; her bağlantı yayımlayan kuruluşa gider.
Sorular ve yanıtlar.
Neden her yöntem sayfasına tek bir kurum ev sahipliği yapıyor?
Bir yöntem sayfasına nasıl düzeltme önerebilirim?
Bu sayfadan kanıt katkısında bulunun.
Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.
- E-postaGW-GCRI geçidiBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RaporlarGCRIKatkıda bulunmanın tüm yollarını görünKatkı türleri, her birinin nasıl incelendiği, alacağınız atıf, lisans ve asla kabul edilmeyenler.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir yöntem, bir veri seti ya da bir soru getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.