Skip to content

GCRI · Teknoloji

Yapay zekâ ve makine öğrenmesi

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.

02Yöntem

What artificial intelligence and machine learning covers.

  1. 01

    Temel yöntemler

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    Veriler ve araçlar

    etiketli eğitim veri kümeleri; sensör ve görüntü arşivleri; metin derlemleri; simülasyon çıktıları; kıyaslama paketleri.

  3. 03

    Doğrulama

    Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.

  4. 04

    Sınırlar

    Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.

  5. 05

    Risk kararlarında kullanım

    Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.

03Referans uygulaması

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

ReferansBelirledikleri
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)Reporting of prediction models, including machine-learning extensions
04Süreç

Sürecin nasıl işlediği.

Process explorer · Process

Artificial intelligence and machine learning: AI risk management (NIST)

9 steps5 stages1 gate

Süreç

Artificial intelligence and machine learning: AI risk management (NIST)

AI RMF Core dört işleve sahiptir: GOVERN, MAP, MEASURE ve MANAGE; GOVERN bunların tümünü kesen bir işlevdir. Çizilen sıra yaygın bir okumadır, bir kontrol listesi değildir.

  1. 01 Yönet

    1. 01GOVERN: politikalar, roller ve hesap verebilirlikAdım · Bağımsız incelemeciGOVERN kesişen bir işlevdir. Yapay zekâ risk yönetiminin tamamına yayılır ve diğer işlevleri mümkün kılar.
  2. 02 Map

    1. 02MAP: bağlam ve amaçlanan kullanımVeri kümesiMAP işlevi, amaçlanan kullanımlar ve insanlar üzerindeki etkiler dahil olmak üzere bir yapay zekâ sistemiyle ilgili riskleri çerçevelemek için bağlamı belirler.
  3. 03 Ölçme

    1. 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
    2. 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
  4. 04 Yönet

    1. 05YÖNET: riskleri ele alAdımRisk işleme planları olaylara müdahaleyi, olaylardan toparlanmayı ve olaylara ilişkin iletişimi kapsar. Kaynaklar, haritalanmış ve ölçülmüş risklere yönlendirilir.
    2. 06Devam edilip edilmeyeceği (MANAGE 1.1)Geçit · Bağımsız hakemSistemin amaç ve hedeflerini karşılayıp karşılamadığı ve devam edilip edilmeyeceği belirlenir. Çerçeve herhangi bir eşik belirlemez.
    3. 07Devreye alma kararıKarar · Bağımsız gözden geçiriciSistemin sahibi olan kuruluş, devreye alıp almayacağına ve hangi koşullarda alacağına karar verir.
    4. 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
  5. 05 Kayıt

    1. 09Yapay zekâ sistemleri envanteriVeri kümesiGOVERN 1.6, yapay zekâ sistemlerinin envanterini çıkarmaya yönelik mekanizmalar öngörür. Model kartı yaygın bir uygulamadır ve çerçevede adıyla anılmaz.

Yayımlayan kuruluşundan alınan, yayımlanmış bir dış standardın veya yöntemin tarafsız ana hatları. Bir işletim kaydı değildir. Nexus gösterilen hiçbir adımı gerçekleştirmez, belgelendirmez veya onaylamaz. Bir kapı veya karar, kaynağın belirttiği tarafa aittir. Eylemler mutlaka sıralı bir adımlar kümesi değildir. AB Yapay Zekâ Yasası bu akışta gösterilmemiştir.

05Sistemik risk çalışmalarında

Fast emulators, fragile extrapolation.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Report training data provenance and licence.
  • Keep a physical or mechanistic check where one exists.
  • Applications on AI and Autonomous Systems and Labs.
07Sorumlu yönetim

Bu sayfayı kim sürdürüyor.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08Kaynaklar

Where this page’s references lead.

Bu sayfanın karşılaştırıldığı kuruluşlar ve belgeler. Durumlar ve sürümler değişir; her bağlantı yayımlayan kuruluşa gider.

09Sorular

Sorular ve yanıtlar.

Neden her yöntem sayfasına tek bir kurum ev sahipliği yapıyor?
GCRI, her yöntemin tek bir kanonik tanımı olması için STEM Commons'a ev sahipliği yapar. Platformlar tanımı tekrarlamak yerine ona bağlantı verir; bu da tanımların tutarlı kalmasını sağlar.
Bir yöntem sayfasına nasıl düzeltme önerebilirim?
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.

GCRI
Global Centre for Risk and Innovation

Bir yöntem, bir veri seti ya da bir soru getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.