Skip to content

GCRI · Yapay Zekâ ve Otonom Sistemler

Alana genel bakış

Bir risk alanı olarak yapay zekâ ve otonom sistemleri , öğrenen modellerin, yazılım ajanlarının ve robotların gerçek dünyada nasıl davrandığını, davranışlarının nasıl ölçülebileceğini ve arızalarının onlara bağımlı kurumlara, altyapılara ve hayatlara nasıl yayıldığını inceler. Bu sayfa alanı tanımlar, toplum için neden önemli olduğunu açıklar, uzmanların neyi incelediğini ortaya koyar ve diğer risklerle nasıl bağlantılı olduğunu gösterir.

STEM yöntemleri
7
Bu alanın uyguladığı temel yöntemler
Konular
8
Alandaki konu sayfaları
Muhataplar
3
Ağ genelinde ortak alanlardaki platformlar
Rapor serileri
2
Katkıda bulunduğu rapor serileri
01Tanım

Algoritmalardan kullanıma alınmış sistemlere.

Öğrenme

Modeller ve veriler

Eğitim verilerinin, hedeflerin ve mimarilerin, arıza modları dâhil davranışı nasıl şekillendirdiği.

Güvence

Değerlendirme ve gözetim

How sistemleri nasıl test edildiği, izlendiği ve anlamlı insan denetimi altında tutulduğu.

Embodiment

Dünyada otonomi

Robotlarda ve araçlarda algılama, planlama ve kontrolün nasıl etkileştiği.

Alan, sistemlerin verilerden öğrenme yöntemleri olan yapay zekâ ve makine öğrenmesi, onları test etme ve güvence altına alma mühendislik disiplini olan yapay zekâ değerlendirmesi ve güvence mühendisliğiyle birleştirir. Yapay zekânın fiziksel makineleri kontrol ettiği robotik ve otomasyonve modelleri eğiten ve çalıştıran altyapı olan yüksek başarımlı, bulut ve uç hesaplamaya kadar uzanır.

Bir risk alanı olarak sonuçlarıyla tanımlanır: bir model kötü genelleme yaptığında, bir ajan bir aracı kötüye kullandığında, bir robot çevresini yanlış okuduğunda ya da pek çok sistem aynı kusuru paylaştığında ne olduğu. sosyal ve davranış bilimi alanın bir parçasıdır, çünkü yapay zekânın etkileri insanların onu nasıl kullandığına, ona ne kadar güvendiğine ve ona nasıl itiraz ettiğine bağlıdır.

02İzleme

Alana genel bakış.

Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.

Field overview: the screen’s structure, terms and states for AI and autonomous systems.Örnek adlar ve örnekleyici değerler; bir tasarımdır, kayıt veya canlı bir sistem değildir.
03Neden önemli

Yapay zekâ bir altyapıya dönüşüyor.

  • Yapay zekâ, yazılım ajanları ve fiziksel otonomi aracılığıyla danışma araçlarından eylemde bulunan sistemleri doğru ilerliyor.
  • Public services increasingly use automated systems in decisions about people’s rights and access.
  • Az sayıda model sağlayıcısı, bulut platformu ve çip tedarik zinciri birçok uygulamanın temelini oluşturur.
  • Değerlendirme bilimi yeteneklerin gerisinde kalıyor; bu yüzden güvenlik ve performansa ilişkin iddiaları doğrulamak çoğu zaman zordur.
04Uzmanların incelediği konular

Temel sorular.

  1. 01

    Ölçüm

    Değerlendirmeler iddia ettikleri şeyi ölçüyor mu ve sonuçlar genellenebilir mi? Bkz. Model değerlendirmesi.

  2. 02

    Eylem

    Eylemde bulunan sistemleri yetki nasıl devredilmeli? Bkz. Ajan sistemler ve Otonom fiziksel sistemler.

  3. 03

    Güvenlik

    Modellere nasıl saldırılabilir ve yapay zekâ siber saldırı ve savunmayı nasıl değiştirebilir? Bkz. Yapay zekâ ve siber güvenlik.

  4. 04

    Kullan

    Yapay zekâ bilimi ve kamu hizmetlerini nasıl değiştiriyor? Bkz. Bilimde yapay zekâ ve Yapay zekâ ve kamu hizmetleri.

  5. 05

    Temeller ve etkiler

    Yapay zekâ neye dayanıyor ve kimi etkiliyor? Bkz. Hesaplama ve enerji ile İşgücü ve toplumsal etkiler.

05Bağlantılar

Yapay zekânın diğer risklere nasıl dokunduğu.

Yapay zekâ siber güvenliğe, enerjiye, işgücü piyasalarına, finansa ve kamu güvenine bağlanır. Bağımlılıklar ve sonuçlar bu bağlantıları açıklar. Yönetişim için paydaşlar The Global Risks Forum (GRF) bünyesinde Yapay Zekâ ve Dijital Yönetişim aracılığıyla bir araya getirilir; finans sektöründeki model riski ise The Global Risks Alliance (GRA) bünyesinde Yapay Zekâ ve Finansal Model Riski aracılığıyla incelenir.

06Sayfalar

Alana genel bakış bölümündeki sayfalar.

07Sorular

Sorular ve yanıtlar.

Bu alan yapay zekâ etiğiyle aynı mıdır?
Örtüşür, ancak odağı ölçülebilir davranış ve arızadır: geçerlilik, sağlamlık, güvenlik, güvenilirlik ve etkiler; bunlar bilimsel yöntemlerle incelenir.
Alan hangi yöntemlere dayanır?
Makine öğrenmesi, yapay zekâ güvence mühendisliği, hesaplama, olasılık ve istatistik, siber güvenlik, sosyal bilim ve robotik. Her biri STEM temeli sayfasındadır.
Alan askerî yapay zekâyı kapsar mı?
The platform’s scope is civilian systems and their public effects. It does not work on weapons development.
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Raporlar is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRIYapay Zekâ ve Otonom SistemlerÜstel TeknolojiLabs Kanıtı
Yapay Zekâ ve Otonom Sistemler

Bir yöntem, bir veri seti ya da bir soru getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.