GCRI · Teknologi
Kecerdasan buatan dan pembelajaran mesin
Kecerdasan buatan dan pembelajaran mesin mengembangkan algoritma yang mempelajari pola dari data untuk mengklasifikasikan, memprediksi, atau menghasilkan keluaran. Teknologi ini semakin banyak digunakan untuk deteksi bahaya, prakiraan, dan dukungan keputusan, dan juga merupakan sumber risiko tersendiri. Artificial Intelligence and Autonomous Sistem mengelola halaman ini untuk Nexus Consortium.
Kecerdasan buatan dan pembelajaran mesin dalam enam bagian.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Praktik acuanPembelajaran mesin dalam pekerjaan risiko diatur oleh kerangka risiko AI dan standar pelaporan
- 03Dalam kerja risiko sistemikEmulator cepat, ekstrapolasi rapuh
- 04Diterapkan diPlatform yang menerapkan metode ini
- 05PengelolaanSiapa yang memelihara halaman ini
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
Metode inti
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
Data dan instrumen
set data pelatihan berlabel; arsip sensor dan citra; korpus teks; keluaran simulasi; rangkaian tolok ukur.
- 03
Validasi
Model dievaluasi pada data uji tersisih yang menghormati struktur spasial, temporal, dan kelompok. Ketangguhan, kalibrasi, dan keadilan diuji di samping akurasi.
- 04
Batasan
Kinerja menurun ketika kondisi penerapan berbeda dari data pelatihan. Model dapat menyandikan bias dan gagal tanpa peringatan yang jelas pada kejadian langka.
- 05
Penggunaan dalam keputusan risiko
Pembelajaran mesin dapat meningkatkan skala deteksi dan prakiraan pada sistemyang saling terhubung. Mode kegagalannya sendiri harus dipertimbangkan ketika keluaran otomatis menjadi dasar keputusan yang berdampak penting.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| Rujukan | Apa yang ditetapkan |
|---|---|
| NIST AI RMF | Risk management functions for AI systems |
| ISO/IEC 42001 | AI management systems |
| TRIPOD (EQUATOR) | Pelaporan model prediksi, termasuk ekstensi pembelajaran mesin |
Bagaimana proses berjalan.
Process explorer · Process
Kecerdasan buatan dan pembelajaran mesin: manajemen risiko AI (NIST)
9 steps·5 stages·1 gate
Proses
Kecerdasan buatan dan pembelajaran mesin: manajemen risiko AI (NIST)
Inti AI RMF memiliki empat fungsi, yaitu GOVERN, MAP, MEASURE, dan MANAGE, dengan GOVERN bersifat lintas fungsi; urutan yang digambarkan adalah satu cara membaca yang umum, bukan daftar periksa.
01 Tata kelola
- 01GOVERN: kebijakan, peran, dan akuntabilitasLangkah · Peninjau independenGOVERN merupakan fungsi lintas bidang. Fungsi ini meresap ke seluruh manajemen risiko AI dan memungkinkan fungsi-fungsi lainnya.
02 Map
- 02MAP: konteks dan penggunaan yang dimaksudkanKumpulan dataFungsi MAP menetapkan konteks untuk membingkai risiko yang terkait dengan sistem AI, termasuk tujuan yang dimaksudkan dan dampaknya terhadap manusia.
03 Ukur
- 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
- 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
04 Kelola
- 05KELOLA: tangani risikoLangkahPenanganan risiko mencakup respons terhadap insiden, pemulihan darinya, dan komunikasi mengenainya. Sumber daya dialokasikan untuk risiko yang telah dipetakan dan diukur.
- 06Lanjutkan atau tidak (MANAGE 1.1)Gerbang · Peninjau independenDitentukan apakah sistem memenuhi tujuan dan sasarannya, serta apakah akan dilanjutkan. Kerangka kerja tidak menetapkan ambang batas.
- 07Keputusan penerapanKeputusan · Peninjau independenOrganisasi pemilik sistem memutuskan apakah dan dalam kondisi apa sistem akan diterapkan.
- 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
05 Catatan
- 09Inventaris sistem AIKumpulan dataGOVERN 1.6 meminta adanya mekanisme untuk menginventarisasi sistem AI. Kartu model merupakan praktik yang lazim dan tidak disebutkan dalam kerangka kerja tersebut.
Garis besar netral dari standar atau metode eksternal yang diterbitkan, dari badan penerbitnya. Bukan catatan operasi. Nexus tidak melaksanakan, menyertifikasi, atau menyetujui langkah mana pun yang ditampilkan. Gerbang atau keputusan menjadi milik pihak yang disebutkan oleh sumbernya. Tindakan-tindakan ini tidak harus merupakan rangkaian langkah yang berurutan. EU AI Act tidak digambarkan dalam alur ini.
Fast emulators, fragile extrapolation.
Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.
- Test performance out of distribution, not only on held-out samples from the same period.
- Laporkan asal-usul dan lisensi data pelatihan.
- Pertahankan pemeriksaan fisik atau mekanistik jika ada.
- Aplikasi pada AI dan Sistem Otonom , dan Laboratorium.
Platform yang menerapkan metode ini.
- LaboratoriumLembagaGCRI
- FoundryInstitutionGCRI
- Kecerdasan Buatan dan Sistem OtonomLembagaGCRI
- Masa Depan Kerja dan KeterampilanLembagaGCRI
- Innovation NexusInstitutionGRF
- Tata Kelola AI dan DigitalLembagaGRF
- Integritas Informasi dan Kepercayaan PublikLembagaGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- Risiko AI dan Model KeuanganLembagaGRA
- Risiko Kejahatan Keuangan dan PenipuanLembagaGRA
Siapa yang memelihara halaman ini.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
Badan dan dokumen yang menjadi acuan halaman ini. Status dan edisi berubah; setiap tautan menuju badan penerbitnya.
Tanya jawab.
Mengapa satu lembaga menyelenggarakan setiap halaman metode?
Bagaimana cara saya mengusulkan koreksi pada halaman metode?
Kontribusikan bukti dari halaman ini.
Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.
- SurelGerbang GW-GCRIKirim dari halaman iniBukti, koreksi, kasus, metode, tinjauan, terjemahan, atau masukan profil. Kiriman tiba dengan label halaman ini, sehingga editor pemiliknya menerimanya.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- LaporanGCRILihat semua cara berkontribusiJenis kontribusi, cara masing-masing ditinjau, kredit yang Anda terima, lisensinya, dan apa yang tidak pernah diterima.
Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.
Bawa metode, dataset, atau pertanyaan.
Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.
Dokumen hukum.
Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.