GCRI · Kecerdasan Buatan dan Sistem Otonom
Ikhtisar bidang
AI dan sistem otonom sebagai bidang risiko mengkaji bagaimana model yang dipelajari, agen perangkat lunak, dan robot berperilaku di dunia nyata, bagaimana perilakunya dapat diukur, dan bagaimana kegagalannya menjalar ke lembaga, infrastruktur, dan kehidupan yang bergantung padanya. Halaman ini mendefinisikan bidang tersebut, menjelaskan mengapa bidang ini penting bagi masyarakat, menguraikan apa yang dikaji para pakar, dan menunjukkan bagaimana bidang ini terhubung dengan risiko lain.
- Metode STEM
- 7
- Metode kanonis yang diterapkan bidang ini
- Topik
- 8
- Halaman subjek di bidang ini
- Mitra sejawat
- 3
- Platform di bidang bersama di seluruh jaringan
- Seri laporan
- 2
- Seri laporan yang dikontribusikannya
Dari algoritma hingga sistem yang diterapkan.
Model dan data
Bagaimana data pelatihan, tujuan, dan arsitektur membentuk perilaku, termasuk mode kegagalan.
Evaluasi dan pengawasan
Cara sistem diuji, dipantau, dan dijaga di bawah kendali manusia yang bermakna.
Otonomi di dunia nyata
Bagaimana penginderaan, perencanaan, dan kendali berinteraksi dalam robot dan kendaraan.
Bidang ini menggabungkan kecerdasan buatan dan pembelajaran mesin, metode yang digunakan sistem untuk belajar dari data, dengan evaluasi AI dan rekayasa penjaminan, disiplin rekayasa untuk menguji dan menjaminnya. Bidang ini meluas ke robotika dan otomasi, tempat AI mengendalikan mesin fisik, serta ke komputasi berkinerja tinggi, awan, dan edge, infrastruktur yang melatih dan menjalankan model.
Sebagai bidang risiko, bidang ini didefinisikan oleh konsekuensi: apa yang terjadi ketika model melakukan generalisasi dengan buruk, ketika agen menyalahgunakan suatu alat, ketika robot salah membaca lingkungannya, atau ketika banyak sistem memiliki cacat yang sama. ilmu sosial dan perilaku merupakan bagian dari bidang ini karena dampak AI bergantung pada cara orang menggunakan, memercayai, dan menggugatnya.
Ikhtisar bidang.
Layar yang akan digunakan sebuah tim untuk mengikuti subjek ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.
AI sedang menjadi infrastruktur.
- AI bergerak dari alat penasihat menuju sistem yang bertindak, melalui agen perangkat lunak dan otonomi fisik.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- Sejumlah kecil penyedia model, platform komputasi awan, dan rantai pasok cip menopang banyak aplikasi.
- Ilmu evaluasi tertinggal dari perkembangan kemampuan, sehingga klaim tentang keselamatan dan kinerja sering kali sulit diperiksa.
Pertanyaan inti.
- 01
Pengukuran
Apakah evaluasi mengukur apa yang diklaimnya, dan apakah hasilnya dapat digeneralisasi? Lihat Evaluasi model.
- 02
Tindakan
Bagaimana kewenangan seharusnya didelegasikan kepada sistem yang bertindak? Lihat Sistem agentik dan Sistem fisik otonom.
- 03
Keamanan
Bagaimana model dapat diserang, dan bagaimana AI dapat mengubah serangan dan pertahanan siber? Lihat AI dan keamanan siber.
- 04
Gunakan
Bagaimana AI mengubah sains dan layanan publik? Lihat AI dalam sains serta AI dan layanan publik.
- 05
Fondasi dan dampak
Apa yang menjadi sandaran AI, dan siapa yang terdampak olehnya? Lihat Komputasi dan energi serta Dampak ketenagakerjaan dan sosial.
Bagaimana AI bersinggungan dengan risiko lain.
AI terhubung dengan keamanan siber, energi, pasar tenaga kerja, keuangan, dan kepercayaan publik. Ketergantungan dan konsekuensi menjelaskan keterkaitan tersebut. Tata kelola diselenggarakan melalui Tata Kelola AI dan Digital di The Global Risks Forum (GRF), dan risiko model di sektor keuangan dikaji melalui Risiko AI dan Model Keuangan di The Global Risks Alliance (GRA).
Halaman dalam Ikhtisar bidang.
Tanya jawab.
Apakah bidang ini sama dengan etika AI?
Metode apa yang menjadi tumpuan bidang ini?
Apakah bidang ini mencakup AI militer?
Kontribusikan bukti dari halaman ini.
Laporan is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- SurelGerbang GW-GCRIKirim dari halaman iniBukti, koreksi, kasus, metode, tinjauan, terjemahan, atau masukan profil. Kiriman tiba dengan label halaman ini, sehingga editor pemiliknya menerimanya.
- ZenodoDeposit terbukaDeposit dan ajukan ke komunitasTerbitkan catatan Anda sendiri di Zenodo dengan ORCID iD Anda, lalu ajukan ke komunitas Reports di sana. Kurator meninjaunya; DOI tetap milik Anda.
- LaporanGCRILihat semua cara berkontribusiJenis kontribusi, cara masing-masing ditinjau, kredit yang Anda terima, lisensinya, dan apa yang tidak pernah diterima.
Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.
Bawa metode, dataset, atau pertanyaan.
Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.
Dokumen hukum.
Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.