Skip to content

GCRI · Foundry

Foundry'de yapay zekâ ve makine öğrenimi

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02Başvuru

Yapay zekâ ve makine öğreniminin burada yaptıkları.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

Scoped agents with receipts

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03İzleme

Model eğitimi.

Bir ekibin bu yöntemi izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.

Model eğitimi

Foundry · AI and machine learning at Foundry · Run R-6794

Drift on one sliceGCRI · Foundry

Dilime göre değerlendirme

Tümü0.830.025712Geçiş
Bölge A0.740.051098İnceleme
Bölge B0.760.05458İnceleme
Nadir sınıf0.640.07160Eşiğin altında

Yöntem kartı

Yöntem
Yapay zekâ ve makine öğrenmesi
Bölme
zamana dayalı, sızıntı yok
Özellikler
22
Etiket
MODELLENMİŞ

Nüfus istikrarı

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04Veri

Yöntemin tükettikleri.

Bu platformda yapay zekâ ve makine öğrenimi tarafından kullanılan veri kümeleri ve kayıtlar; her birinin oynadığı rol ve değerlerinin taşıdığı etiketle birlikte. Kaynaklar kaynak sicilinde.

VeriRolEtiket
Labelled training setsDenetimli öğrenmeBİLDİRİLMİŞ
Satellite image archivesInputs to classificationGÖZLENEN
Dışarıda bırakılmış ve dağılım dışı test kümeleriDeğerlendirmeGÖZLENEN
Değerlendirme ve kırmızı takım kayıtlarıPromotion decisionsBİLDİRİLMİŞ
Datasheets for training dataOrigin, consent and licenceBEYAN EDİLDİ
05Yöntemler ve kanıt

How AI and machine learning at Foundry is modelled, measured and tested.

Model, varsayımları, verileri ve belirsizliği, bir bilim insanının veya mühendisin kontrol edeceği biçimde. Yapılar yayımlanmış yöntemleri izler. Çizilen değerler bulgu değil, açıklayıcıdır.

Model, denklemler ve varsayımlar

The model structure used for AI and machine learning at Foundry, the assumptions it makes and how each is tested.

i öğesinin riskiRi = f(Hi, Ei, Vi, Ci)tehlike, maruziyet, kırılganlık ve başa çıkma kapasitesi
Beklenen yıllık kayıpEAL = ∑k pk · Lkover events k with annual probability pk
Bağlı sistemlerxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
VarsayımNeden yapıldığıNasıl sınanır
Bir olay içinde tehlike ve maruziyet bağımsızdırKayıp integralini çözülebilir tutarOrtak kayıtlara uydurulmuş bir kopula ile karşılaştırın
Bağlantılar çalışma noktası yakınında doğrusaldırŞokların A üzerinden yayılmasına izin verirDoğrusal aralığın ötesine itin ve karşılaştırın
Kırılganlık eğrileri yerler arasında aktarılabilirYerel eğriler nadiren mevcutturMevcut olduğunda gözlemlenen kayıplarla doğrulayın
Girdiler
kaynağı belgelenmiş, sürümlü veri setleri
Çıktılar
dağılımlar, asla tek sayılar değil
Kod
model kartı ve testlerle birlikte yayımlanır
Yeniden üretim
aynı veri, kod, ortam ve tohum değeri
Standart risk ve durum uzayı formülasyonları; listelenen varsayımlar yöntemin tipik varsayımlarıdır, inceleme için belirtilmiştir, sonuç değildir.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Doğrulama

Sonuçlar nasıl kontrol edilir.

Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.

Kontrol edinNasıl yapıldığı
Spatial and temporal hold-outTest data are separated in space and time from training data to prevent leakage
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
Sapma izlemeInput and output distributions in use are compared with those at validation, and divergence triggers review
Saldırgan testler (adversarial testing)Models and agents are tested against prompt injection and misuse before promotion

Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.

07Süreç

Sürecin nasıl işlediği.

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

Süreç

AI and machine learning at Foundry: AI risk management (NIST)

AI RMF Core dört işleve sahiptir: GOVERN, MAP, MEASURE ve MANAGE; GOVERN bunların tümünü kesen bir işlevdir. Çizilen sıra yaygın bir okumadır, bir kontrol listesi değildir.

  1. 01 Yönet

    1. 01GOVERN: politikalar, roller ve hesap verebilirlikAdım · Model sorumlusuGOVERN kesişen bir işlevdir. Yapay zekâ risk yönetiminin tamamına yayılır ve diğer işlevleri mümkün kılar.
  2. 02 Map

    1. 02MAP: bağlam ve amaçlanan kullanımVeri kümesiMAP işlevi, amaçlanan kullanımlar ve insanlar üzerindeki etkiler dahil olmak üzere bir yapay zekâ sistemiyle ilgili riskleri çerçevelemek için bağlamı belirler.
  3. 03 Ölçme

    1. 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
    2. 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
  4. 04 Yönet

    1. 05YÖNET: riskleri ele alAdımRisk işleme planları olaylara müdahaleyi, olaylardan toparlanmayı ve olaylara ilişkin iletişimi kapsar. Kaynaklar, haritalanmış ve ölçülmüş risklere yönlendirilir.
    2. 06Proceed or not (MANAGE 1.1)Gate · Model stewardA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Devreye alma kararıKarar · Model sorumlusuSistemin sahibi olan kuruluş, devreye alıp almayacağına ve hangi koşullarda alacağına karar verir.
    4. 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
  5. 05 Kayıt

    1. 09Yapay zekâ sistemleri envanteriVeri kümesiGOVERN 1.6, yapay zekâ sistemlerinin envanterini çıkarmaya yönelik mekanizmalar öngörür. Model kartı yaygın bir uygulamadır ve çerçevede adıyla anılmaz.

Yayımlayan kuruluşundan alınan, yayımlanmış bir dış standardın veya yöntemin tarafsız ana hatları. Bir işletim kaydı değildir. Nexus gösterilen hiçbir adımı gerçekleştirmez, belgelendirmez veya onaylamaz. Bir kapı veya karar, kaynağın belirttiği tarafa aittir. Eylemler mutlaka sıralı bir adımlar kümesi değildir. AB Yapay Zekâ Yasası bu akışta gösterilmemiştir.

09Sorumlu yönetim

Yöntemi kimin sürdürdüğü.

Yapay Zekâ ve Otonom Sistemler , Konsorsiyum adına yapay zekâ ve makine öğreniminin sorumlu yönetimini üstlenir ve platformlar genelinde nasıl uygulandığını inceler.

11Sorular

Sorular ve yanıtlar.

Bu alanda yapay zekâ ve makine öğreniminin sınırları nelerdir?
Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.
Sonuçlar nasıl kontrol edilir?
Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.
Bu sayfadaki değerler gerçek mi?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Bu yöntem başka nerede uygulanıyor?
Toplumları ayakta tutan Kanonik yöntem sayfası onu uygulayan tüm platformları listeler.
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.

GCRIFoundryFoundry Build and Readiness
Foundry

Bir yöntem, bir veri seti ya da bir soru getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.