Distribution shift analysis
Model performance is compared between training data and deployment data to detect shifts in inputs or labels that reduce accuracy, with monitoring set up to catch drift.
GCRI · Yapay Zekâ ve Otonom Sistemler
Makine öğrenimi davranışı
Artificial intelligence and machine learning is the technology this platform stewards for the network. Here it is studied as a technology whose behaviour must be understood: how models learn from data, generalise, fail outside their training distribution and are adapted to specific uses.
01Sicil
Machine learning behaviour on the record.
Yöntem kaydıSTEM yöntemi
- YöntemYapay zekâ ve makine öğrenmesi
- SorumluYapay Zekâ ve Otonom Sistem
- Uygulandığı yerYapay Zekâ ve Otonom Sistemler
- Veri3 inputs
- Kontroller3 doğrulama adımı
- Kanonik sayfaSTEM Commons
02Başvuru
Yapay zekâ ve makine öğreniminin burada yaptıkları.
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and data and compute, machine learning can scale detection and forecasting across interconnected sistemleri. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on STEM Commons'a.
Fine-tuning for a specific use
General models are adapted to a narrow task with curated data, and the adapted model is evaluated for both task performance and retained safety behaviour.
Interpretability methods
Feature attribution and probing methods are used to examine which inputs drive a model’s outputs, with their limits as explanations stated.
03Simülatör
Toplu davranışın bir eşik modeli.
Her ajan, temas ettiği kişilerin yeterli bir kısmı harekete geçtiğinde harekete geçer; ortalama eşikteki veya ilk harekete geçenlerdeki küçük değişiklikler, davranışın yerel mi kalacağını yoksa nüfus içinde kademeli mi yayılacağını belirler. Belirtilen açıklayıcı değerlere sahip bir öğretim modelidir, tahmin değildir.
Kontroller
- Ortalama eşik (komşuların payı)
- 18%
- Eşiklerin yayılımı
- 8 puan
- İlk harekete geçenler
- nüfusun %2,0'ı
- Kişi başına temas
- 8
Okumalar
- Sonunda harekete geçenlerin payı
- 100%
- Küresel kademeli yayılım
- Evet
- Dengeye gelme adımları
- 10
Sayılar, yöntemler ve kaynaklar
| Adım | Harekete geçenlerin payı (%) |
|---|---|
| 0 | 2.3 |
| 1 | 6.5 |
| 2 | 16.0 |
| 3 | 28.5 |
| 4 | 47.0 |
| 5 | 65.3 |
| 6 | 80.3 |
| 7 | 93.0 |
| 8 | 99.3 |
| 9 | 100.0 |
| 10 | 100.0 |
Yöntemler
- Toplu davranışın eşik modelleri Granovetter (1978), American Journal of Sociology 83
- Rastgele ağlarda küresel kademeli yayılımlar Watts (2002), PNAS 99
- Karmaşık bulaşmalar Centola and Macy (2007), American Journal of Sociology 113
- Tek seferde bir faktör duyarlılık analizi (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Veri
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
Nexus Consortium'un yürüttüğü altı ayak genelinde
- Deneyler Laboratuvarlar
- Yerleşik Foundry'de Yapay Zekâ ve Otonom Sistemler
- Test edildiği yer Universe'te Yapay Zekâ ve Otonom Sistemler
- Kodlandığı yer Standards'ta Dijital, Siber ve YZ
- Yayımlandığı yer Reports'ta Yapay Zekâ ve Otonom Sistemler
- Öğretildiği yer Academy'de Teknoloji ve Dijital Sistemler Fakültesi
04Veri
Yöntemin tükettikleri.
Bu platformda yapay zekâ ve makine öğrenimi tarafından kullanılan veri kümeleri ve kayıtlar; her birinin oynadığı rol ve değerlerinin taşıdığı etiketle birlikte. Kaynaklar kaynak sicilinde.
| Veri | Rol | Etiket |
|---|---|---|
| Training and validation datasets with documentation | Model development | BEYAN EDİLDİ |
| Deployment input logs | Shift detection | GÖZLENEN |
| Benchmark suites | Comparison | BİLDİRİLMİŞ |
05Yöntemler ve kanıt
How machine learning behaviour is modelled, measured and tested.
Model, varsayımları, verileri ve belirsizliği, bir bilim insanının veya mühendisin kontrol edeceği biçimde. Yapılar yayımlanmış yöntemleri izler. Çizilen değerler bulgu değil, açıklayıcıdır.
Model, denklemler ve varsayımlar
The model structure used for machine learning behaviour, the assumptions it makes and how each is tested.
i öğesinin riski
Ri = f(Hi, Ei, Vi, Ci)tehlike, maruziyet, kırılganlık ve başa çıkma kapasitesiBeklenen yıllık kayıp
EAL = ∑k pk · Lkyıllık olasılığı pkBağlı sistemler
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Varsayım | Neden yapıldığı | Nasıl sınanır |
|---|---|---|
| Bir olay içinde tehlike ve maruziyet bağımsızdır | Kayıp integralini çözülebilir tutar | Ortak kayıtlara uydurulmuş bir kopula ile karşılaştırın |
| Bağlantılar çalışma noktası yakınında doğrusaldır | Şokların A üzerinden yayılmasına izin verir | Doğrusal aralığın ötesine itin ve karşılaştırın |
| Kırılganlık eğrileri yerler arasında aktarılabilir | Yerel eğriler nadiren mevcuttur | Mevcut olduğunda gözlemlenen kayıplarla doğrulayın |
- Girdiler
- kaynağı belgelenmiş, sürümlü veri setleri
- Çıktılar
- dağılımlar, asla tek sayılar değil
- Kod
- model kartı ve testlerle birlikte yayımlanır
- Yeniden üretim
- aynı veri, kod, ortam ve tohum değeri
FAIR yol gösterici ilkeleri · GO FAIR ve FORCE11W3C PROV · World Wide Web ConsortiumBelirsizliklerin tutarlı ele alınmasına ilişkin kılavuz · IPCCCEOS Analysis Ready Data · Yer Gözlem Uyduları Komitesi
06Doğrulama
Sonuçlar nasıl kontrol edilir.
Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.
| Kontrol edin | Nasıl yapıldığı |
|---|---|
| Held-out evaluation | Models are evaluated on data not used for training or tuning |
| Dataset documentation | Training data carry datasheets on origin, consent and limits |
| Drift monitoring | Deployed models are monitored for input and performance drift |
Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.
08Sorumlu yönetim
Yöntemi kimin sürdürdüğü.
Yapay Zekâ ve Otonom Sistem , Konsorsiyum adına yapay zekâ ve makine öğreniminin sorumlu yönetimini üstlenir ve platformlar genelinde nasıl uygulandığını inceler.
09Sorular
Sorular ve yanıtlar.
Bu alanda yapay zekâ ve makine öğreniminin sınırları nelerdir?
Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.
Sonuçlar nasıl kontrol edilir?
Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.
Bu sayfadaki değerler gerçek mi?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Bu yöntem başka nerede uygulanıyor?
Toplumları ayakta tutan Kanonik yöntem sayfası onu uygulayan tüm platformları listeler.
RaporlarKatkıda bulunun
Bu sayfadan kanıt katkısında bulunun.
Raporlar is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIYapay Zekâ ve Otonom SistemlerÜstel TeknolojiLabs Kanıtı
- E-postaGW-GCRI geçidiBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoAçık depoDepolayın ve topluluğa gönderinKendi kaydınızı ORCID iD'nizle Zenodo'da yayımlayın, ardından orada Reports topluluğuna gönderin. Küratörler inceler; DOI sizde kalır.
- RaporlarGCRIKatkıda bulunmanın tüm yollarını görünKatkı türleri, her birinin nasıl incelendiği, alacağınız atıf, lisans ve asla kabul edilmeyenler.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Yapay Zekâ ve Otonom Sistemler
Bir yöntem, bir veri seti ya da bir soru getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuk
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.