Skip to content

GCRI · Teknologi

Kecerdasan buatan dan pembelajaran mesin

Kecerdasan buatan dan pembelajaran mesin mengembangkan algoritma yang mempelajari pola dari data untuk mengklasifikasikan, memprediksi, atau menghasilkan keluaran. Teknologi ini semakin banyak digunakan untuk deteksi bahaya, prakiraan, dan dukungan keputusan, dan juga merupakan sumber risiko tersendiri. Artificial Intelligence and Autonomous Sistem mengelola halaman ini untuk Nexus Consortium.

02Metode

What artificial intelligence and machine learning covers.

  1. 01

    Metode inti

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    Data dan instrumen

    set data pelatihan berlabel; arsip sensor dan citra; korpus teks; keluaran simulasi; rangkaian tolok ukur.

  3. 03

    Validasi

    Model dievaluasi pada data uji tersisih yang menghormati struktur spasial, temporal, dan kelompok. Ketangguhan, kalibrasi, dan keadilan diuji di samping akurasi.

  4. 04

    Batasan

    Kinerja menurun ketika kondisi penerapan berbeda dari data pelatihan. Model dapat menyandikan bias dan gagal tanpa peringatan yang jelas pada kejadian langka.

  5. 05

    Penggunaan dalam keputusan risiko

    Pembelajaran mesin dapat meningkatkan skala deteksi dan prakiraan pada sistemyang saling terhubung. Mode kegagalannya sendiri harus dipertimbangkan ketika keluaran otomatis menjadi dasar keputusan yang berdampak penting.

03Praktik acuan

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

RujukanApa yang ditetapkan
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)Pelaporan model prediksi, termasuk ekstensi pembelajaran mesin
04Proses

Bagaimana proses berjalan.

Process explorer · Process

Kecerdasan buatan dan pembelajaran mesin: manajemen risiko AI (NIST)

9 steps5 stages1 gate

Proses

Kecerdasan buatan dan pembelajaran mesin: manajemen risiko AI (NIST)

Inti AI RMF memiliki empat fungsi, yaitu GOVERN, MAP, MEASURE, dan MANAGE, dengan GOVERN bersifat lintas fungsi; urutan yang digambarkan adalah satu cara membaca yang umum, bukan daftar periksa.

  1. 01 Tata kelola

    1. 01GOVERN: kebijakan, peran, dan akuntabilitasLangkah · Peninjau independenGOVERN merupakan fungsi lintas bidang. Fungsi ini meresap ke seluruh manajemen risiko AI dan memungkinkan fungsi-fungsi lainnya.
  2. 02 Map

    1. 02MAP: konteks dan penggunaan yang dimaksudkanKumpulan dataFungsi MAP menetapkan konteks untuk membingkai risiko yang terkait dengan sistem AI, termasuk tujuan yang dimaksudkan dan dampaknya terhadap manusia.
  3. 03 Ukur

    1. 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
    2. 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
  4. 04 Kelola

    1. 05KELOLA: tangani risikoLangkahPenanganan risiko mencakup respons terhadap insiden, pemulihan darinya, dan komunikasi mengenainya. Sumber daya dialokasikan untuk risiko yang telah dipetakan dan diukur.
    2. 06Lanjutkan atau tidak (MANAGE 1.1)Gerbang · Peninjau independenDitentukan apakah sistem memenuhi tujuan dan sasarannya, serta apakah akan dilanjutkan. Kerangka kerja tidak menetapkan ambang batas.
    3. 07Keputusan penerapanKeputusan · Peninjau independenOrganisasi pemilik sistem memutuskan apakah dan dalam kondisi apa sistem akan diterapkan.
    4. 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
  5. 05 Catatan

    1. 09Inventaris sistem AIKumpulan dataGOVERN 1.6 meminta adanya mekanisme untuk menginventarisasi sistem AI. Kartu model merupakan praktik yang lazim dan tidak disebutkan dalam kerangka kerja tersebut.

Garis besar netral dari standar atau metode eksternal yang diterbitkan, dari badan penerbitnya. Bukan catatan operasi. Nexus tidak melaksanakan, menyertifikasi, atau menyetujui langkah mana pun yang ditampilkan. Gerbang atau keputusan menjadi milik pihak yang disebutkan oleh sumbernya. Tindakan-tindakan ini tidak harus merupakan rangkaian langkah yang berurutan. EU AI Act tidak digambarkan dalam alur ini.

05Dalam kerja risiko sistemik

Fast emulators, fragile extrapolation.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Laporkan asal-usul dan lisensi data pelatihan.
  • Pertahankan pemeriksaan fisik atau mekanistik jika ada.
  • Aplikasi pada AI dan Sistem Otonom , dan Laboratorium.
07Pengelolaan

Siapa yang memelihara halaman ini.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08Sumber

Where this page’s references lead.

Badan dan dokumen yang menjadi acuan halaman ini. Status dan edisi berubah; setiap tautan menuju badan penerbitnya.

09Pertanyaan

Tanya jawab.

Mengapa satu lembaga menyelenggarakan setiap halaman metode?
GCRI menyelenggarakan STEM Commons agar setiap metode memiliki satu deskripsi kanonis. Platform menautkannya alih-alih mengulanginya, sehingga definisi tetap konsisten.
Bagaimana cara saya mengusulkan koreksi pada halaman metode?
Tulis ke formulir kekhawatiran integritas dengan menyertakan kutipan dan alasannya.
LaporanBerkontribusi

Kontribusikan bukti dari halaman ini.

Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.

GCRI
Global Centre for Risk and Innovation

Bawa metode, dataset, atau pertanyaan.

Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.