Skip to content

GCRI · Yapay Zekâ ve Otonom Sistemler

Yapay zekâ değerlendirmesi ve güvencesi

Yapay zekâ değerlendirmesi ve güvence mühendisliği, bu platformun sorumlu yönetimini üstlendiği ikinci yöntemdir. Bir yapay zekâ sisteminin belirtilen bir kullanıma uygun olduğuna dair kanıtı sağlar: değerlendirmeler, kırmızı takım çalışması, dokümantasyon, izleme ve bunları birbirine bağlayan yapılandırılmış argümanlar.

01Sicil

AI evaluation and assurance on the record.

Yöntem kaydıSTEM yöntemi
  1. YöntemYapay zekâ değerlendirme ve güvence mühendisliği
  2. SorumluYapay Zekâ ve Otonom Sistem
  3. Uygulandığı yerYapay Zekâ ve Otonom Sistemler
  4. Canonical pageSTEM Commons
02Başvuru

What AI evaluation and assurance engineering does here.

AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence and data and compute, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on the STEM Commons.

Assurance cases for AI systems

Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.

Structured red teaming

Adversarial testing is planned around threat models, with testers, scope, time and findings documented so that coverage can be judged.

Devreye alma sonrası izleme

Incidents, complaints and performance metrics are tracked after release, and triggers for review or rollback are defined in advance.

03İzleme

Evaluation suite.

Bir ekibin bu yöntemi izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.

Evaluation suite

AI and autonomous systems · AI evaluation and assurance · Run R-0951

One gate pendingGCRI · Artificial Intelligence and Autonomous Systems

Değerlendirme paketleri

Kapasite58589Yayın sürümüGeçiş
Sağlamlık13372Yayın sürümüGeçiş
Önyargı ve adillik16981Yayın sürümüGeçiş
Kötüye kullanım kırmızı takımı14279DeployAçık bulgular

Yöntem kartı

Yöntem
Yapay zekâ değerlendirme ve güvence mühendisliği
Model
M-196 v1
Sahip
model risk function
Etiket
MODELLENMİŞ

Bulgular

  1. F-1Unsafe completion on edge promptsMitigation before deploy5 d
  2. F-2Lower accuracy on minority dialectData augmentation9 d
Evaluation suite: the screen’s structure, terms and states for AI and autonomous systems.Example names and illustrative values; a design, not a record or a live system.
04Veri

Yöntemin tükettikleri.

Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

VeriRolEtiket
Değerlendirme sonuçlarıEvidence for claimsGÖZLENEN
Red-team reportsFailure discoveryBİLDİRİLMİŞ
Olay günlükleriField evidenceBİLDİRİLMİŞ
System documentationScope and assumptionsBEYAN EDİLDİ
05Yöntemler ve kanıt

How AI evaluation and assurance is modelled, measured and tested.

Model, varsayımları, verileri ve belirsizliği, bir bilim insanının veya mühendisin kontrol edeceği biçimde. Yapılar yayımlanmış yöntemleri izler. Çizilen değerler bulgu değil, açıklayıcıdır.

Model, denklemler ve varsayımlar

The model structure used for AI evaluation and assurance, the assumptions it makes and how each is tested.

i öğesinin riskiRi = f(Hi, Ei, Vi, Ci)tehlike, maruziyet, kırılganlık ve başa çıkma kapasitesi
Beklenen yıllık kayıpEAL = ∑k pk · Lkover events k with annual probability pk
Bağlı sistemlerxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
VarsayımNeden yapıldığıNasıl sınanır
Bir olay içinde tehlike ve maruziyet bağımsızdırKayıp integralini çözülebilir tutarOrtak kayıtlara uydurulmuş bir kopula ile karşılaştırın
Bağlantılar çalışma noktası yakınında doğrusaldırŞokların A üzerinden yayılmasına izin verirDoğrusal aralığın ötesine itin ve karşılaştırın
Kırılganlık eğrileri yerler arasında aktarılabilirYerel eğriler nadiren mevcutturMevcut olduğunda gözlemlenen kayıplarla doğrulayın
Girdiler
kaynağı belgelenmiş, sürümlü veri setleri
Çıktılar
dağılımlar, asla tek sayılar değil
Kod
model kartı ve testlerle birlikte yayımlanır
Yeniden üretim
aynı veri, kod, ortam ve tohum değeri
Standart risk ve durum uzayı formülasyonları; listelenen varsayımlar yöntemin tipik varsayımlarıdır, inceleme için belirtilmiştir, sonuç değildir.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Doğrulama

Sonuçlar nasıl kontrol edilir.

Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.

Kontrol edinNasıl yapıldığı
Bağımsız incelemeAssurance cases are reviewed by people not involved in development
Evidence currencyEvidence is re-checked after model or deployment changes
Kapsam raporlamasıEvaluations state what they did not test

Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.

07Süreç

Sürecin nasıl işlediği.

Process explorer · Process

AI evaluation and assurance: AI risk management (NIST)

9 steps5 stages1 gate

Süreç

AI evaluation and assurance: AI risk management (NIST)

AI RMF Core dört işleve sahiptir: GOVERN, MAP, MEASURE ve MANAGE; GOVERN bunların tümünü kesen bir işlevdir. Çizilen sıra yaygın bir okumadır, bir kontrol listesi değildir.

  1. 01 Yönet

    1. 01GOVERN: policies, roles and accountabilityStep · AI risk committeeGOVERN is a cross-cutting function. It is infused throughout AI risk management and enables the other functions.
  2. 02 Map

    1. 02MAP: bağlam ve amaçlanan kullanımVeri kümesiMAP işlevi, amaçlanan kullanımlar ve insanlar üzerindeki etkiler dahil olmak üzere bir yapay zekâ sistemiyle ilgili riskleri çerçevelemek için bağlamı belirler.
  3. 03 Ölçme

    1. 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
    2. 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
  4. 04 Yönet

    1. 05YÖNET: riskleri ele alAdımRisk işleme planları olaylara müdahaleyi, olaylardan toparlanmayı ve olaylara ilişkin iletişimi kapsar. Kaynaklar, haritalanmış ve ölçülmüş risklere yönlendirilir.
    2. 06Devam edilip edilmeyeceği (MANAGE 1.1)Geçit · Yapay zekâ risk komitesiSistemin amaç ve hedeflerini karşılayıp karşılamadığı ve devam edilip edilmeyeceği belirlenir. Çerçeve herhangi bir eşik belirlemez.
    3. 07Deployment decisionDecision · AI risk committeeThe organisation that owns the system decides whether and under what conditions to deploy.
    4. 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
  5. 05 Kayıt

    1. 09Yapay zekâ sistemleri envanteriVeri kümesiGOVERN 1.6, yapay zekâ sistemlerinin envanterini çıkarmaya yönelik mekanizmalar öngörür. Model kartı yaygın bir uygulamadır ve çerçevede adıyla anılmaz.

Yayımlayan kuruluşundan alınan, yayımlanmış bir dış standardın veya yöntemin tarafsız ana hatları. Bir işletim kaydı değildir. Nexus gösterilen hiçbir adımı gerçekleştirmez, belgelendirmez veya onaylamaz. Bir kapı veya karar, kaynağın belirttiği tarafa aittir. Eylemler mutlaka sıralı bir adımlar kümesi değildir. AB Yapay Zekâ Yasası bu akışta gösterilmemiştir.

09Sorumlu yönetim

Yöntemi kimin sürdürdüğü.

Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.

10Sorular

Sorular ve yanıtlar.

What are the limits of AI evaluation and assurance engineering in this field?
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
Sonuçlar nasıl kontrol edilir?
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
Bu sayfadaki değerler gerçek mi?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Bu yöntem başka nerede uygulanıyor?
Toplumları ayakta tutan Kanonik yöntem sayfası onu uygulayan tüm platformları listeler.
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.

GCRIYapay Zekâ ve Otonom SistemlerÜstel TeknolojiLabs Kanıtı
Yapay Zekâ ve Otonom Sistemler

Bir yöntem, bir veri seti ya da bir soru getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.