GCRI · Yapay Zekâ ve Otonom Sistemler
Alana genel bakış
Bir risk alanı olarak yapay zekâ ve otonom sistemleri , öğrenen modellerin, yazılım ajanlarının ve robotların gerçek dünyada nasıl davrandığını, davranışlarının nasıl ölçülebileceğini ve arızalarının onlara bağımlı kurumlara, altyapılara ve hayatlara nasıl yayıldığını inceler. Bu sayfa alanı tanımlar, toplum için neden önemli olduğunu açıklar, uzmanların neyi incelediğini ortaya koyar ve diğer risklerle nasıl bağlantılı olduğunu gösterir.
- STEM yöntemleri
- 7
- Bu alanın uyguladığı temel yöntemler
- Konular
- 8
- Alandaki konu sayfaları
- Muhataplar
- 3
- Ağ genelinde ortak alanlardaki platformlar
- Rapor serileri
- 2
- Katkıda bulunduğu rapor serileri
Algoritmalardan kullanıma alınmış sistemlere.
Modeller ve veriler
Eğitim verilerinin, hedeflerin ve mimarilerin, arıza modları dâhil davranışı nasıl şekillendirdiği.
Değerlendirme ve gözetim
How sistemleri nasıl test edildiği, izlendiği ve anlamlı insan denetimi altında tutulduğu.
Dünyada otonomi
Robotlarda ve araçlarda algılama, planlama ve kontrolün nasıl etkileştiği.
Alan, sistemlerin verilerden öğrenme yöntemleri olan yapay zekâ ve makine öğrenmesi, onları test etme ve güvence altına alma mühendislik disiplini olan yapay zekâ değerlendirmesi ve güvence mühendisliğiyle birleştirir. Yapay zekânın fiziksel makineleri kontrol ettiği robotik ve otomasyonve modelleri eğiten ve çalıştıran altyapı olan yüksek başarımlı, bulut ve uç hesaplamaya kadar uzanır.
Bir risk alanı olarak sonuçlarıyla tanımlanır: bir model kötü genelleme yaptığında, bir ajan bir aracı kötüye kullandığında, bir robot çevresini yanlış okuduğunda ya da pek çok sistem aynı kusuru paylaştığında ne olduğu. sosyal ve davranış bilimi alanın bir parçasıdır, çünkü yapay zekânın etkileri insanların onu nasıl kullandığına, ona ne kadar güvendiğine ve ona nasıl itiraz ettiğine bağlıdır.
Alana genel bakış.
Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.
Yapay zekâ bir altyapıya dönüşüyor.
- Yapay zekâ, yazılım ajanları ve fiziksel otonomi aracılığıyla danışma araçlarından eylemde bulunan sistemleri doğru ilerliyor.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- Az sayıda model sağlayıcısı, bulut platformu ve çip tedarik zinciri birçok uygulamanın temelini oluşturur.
- Değerlendirme bilimi yeteneklerin gerisinde kalıyor; bu yüzden güvenlik ve performansa ilişkin iddiaları doğrulamak çoğu zaman zordur.
Temel sorular.
- 01
Ölçüm
Değerlendirmeler iddia ettikleri şeyi ölçüyor mu ve sonuçlar genellenebilir mi? Bkz. Model değerlendirmesi.
- 02
Eylem
Eylemde bulunan sistemleri yetki nasıl devredilmeli? Bkz. Ajan sistemler ve Otonom fiziksel sistemler.
- 03
Güvenlik
Modellere nasıl saldırılabilir ve yapay zekâ siber saldırı ve savunmayı nasıl değiştirebilir? Bkz. Yapay zekâ ve siber güvenlik.
- 04
Kullan
Yapay zekâ bilimi ve kamu hizmetlerini nasıl değiştiriyor? Bkz. Bilimde yapay zekâ ve Yapay zekâ ve kamu hizmetleri.
- 05
Temeller ve etkiler
Yapay zekâ neye dayanıyor ve kimi etkiliyor? Bkz. Hesaplama ve enerji ile İşgücü ve toplumsal etkiler.
Yapay zekânın diğer risklere nasıl dokunduğu.
Yapay zekâ siber güvenliğe, enerjiye, işgücü piyasalarına, finansa ve kamu güvenine bağlanır. Bağımlılıklar ve sonuçlar bu bağlantıları açıklar. Yönetişim için paydaşlar The Global Risks Forum (GRF) bünyesinde Yapay Zekâ ve Dijital Yönetişim aracılığıyla bir araya getirilir; finans sektöründeki model riski ise The Global Risks Alliance (GRA) bünyesinde Yapay Zekâ ve Finansal Model Riski aracılığıyla incelenir.
Alana genel bakış bölümündeki sayfalar.
Sorular ve yanıtlar.
Bu alan yapay zekâ etiğiyle aynı mıdır?
Alan hangi yöntemlere dayanır?
Alan askerî yapay zekâyı kapsar mı?
Bu sayfadan kanıt katkısında bulunun.
Raporlar is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-postaGW-GCRI geçidiBu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoAçık depoDepolayın ve topluluğa gönderinKendi kaydınızı ORCID iD'nizle Zenodo'da yayımlayın, ardından orada Reports topluluğuna gönderin. Küratörler inceler; DOI sizde kalır.
- RaporlarGCRIKatkıda bulunmanın tüm yollarını görünKatkı türleri, her birinin nasıl incelendiği, alacağınız atıf, lisans ve asla kabul edilmeyenler.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir yöntem, bir veri seti ya da bir soru getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.