Skip to content

GCRI · Foundry

AI dan pembelajaran mesin di Foundry

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02Permohonan

Apa yang dilakukan kecerdasan buatan dan pembelajaran mesin di sini.

Kecerdasan buatan dan pembelajaran mesin mengembangkan algoritma yang mempelajari pola dari data untuk mengklasifikasikan, memprediksi, atau menghasilkan keluaran. Teknologi ini semakin banyak digunakan untuk deteksi bahaya, prakiraan, dan dukungan keputusan, dan juga merupakan sumber risiko. Dalam data dan komputasi serta metode dan pemodelan, pembelajaran mesin dapat memperluas skala deteksi dan prakiraan di berbagai sistemyang saling terhubung. Mode kegagalannya sendiri harus dipertimbangkan ketika keluaran otomatis menjadi dasar keputusan yang berdampak besar. Deskripsi kanoniknya ada di STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Kartu model dan catatan promosi

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

Agen terbatas lingkup dengan tanda terima

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03Pantau

Pelatihan model.

Layar yang akan digunakan sebuah tim untuk mengikuti metode ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.

Pelatihan model

Foundry · AI dan pembelajaran mesin di Foundry · Eksekusi R-6794

Drift on one sliceGCRI · Foundry

Evaluasi per irisan

Semua0.830.025712Lintasan
Wilayah A0.740.051098Tinjauan
Wilayah B0.760.05458Tinjauan
Kelas langka0.640.07160Di bawah batas

Kartu metode

Metode
Kecerdasan buatan dan pembelajaran mesin
Pembagian data
berbasis waktu, tanpa kebocoran
Fitur
22
Label
DIMODELKAN

Stabilitas populasi

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04Data

Apa yang digunakan metode ini.

Set data dan catatan yang digunakan oleh kecerdasan buatan dan pembelajaran mesin di platform ini, beserta peran masing-masing dan label yang dibawa nilainya. Sumber dicantumkan dalam register sumber.

DataPeranLabel
Labelled training setsPembelajaran terawasiDILAPORKAN
Satellite image archivesInputs to classificationTERAMATI
Set uji held-out dan out-of-distributionEvaluasiTERAMATI
Catatan evaluasi dan red-teamKeputusan promosiDILAPORKAN
Lembar data untuk data pelatihanAsal, persetujuan, dan lisensiDINYATAKAN
05Metode dan bukti

How AI and machine learning at Foundry is modelled, measured and tested.

Model, asumsi, data, dan ketidakpastiannya, dalam bentuk yang akan diperiksa ilmuwan atau insinyur. Strukturnya mengikuti metode yang dipublikasikan. Nilai yang digambar bersifat ilustratif, bukan temuan.

Model, persamaan, dan asumsi

The model structure used for AI and machine learning at Foundry, the assumptions it makes and how each is tested.

Risiko elemen iRi = f(Hi, Ei, Vi, Ci)bahaya, keterpaparan, kerentanan, dan kapasitas penanggulangan
Kerugian tahunan yang diharapkanEAL = ∑k pk · Lkover events k with annual probability pk
Sistem terhubungxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
AsumsiMengapa ini dibuatBagaimana ini diuji
Bahaya dan eksposur bersifat independen dalam satu peristiwaMenjaga integral kerugian tetap dapat dihitungBandingkan dengan pencocokan kopula pada catatan gabungan
Keterkaitan bersifat linear di dekat titik operasiMembiarkan guncangan merambat melalui AUji di luar rentang linear lalu bandingkan
Kurva kerentanan dapat dipindahkan antartempatKurva lokal jarang tersediaValidasi terhadap kerugian teramati jika tersedia
Masukan
dataset berversi dengan asal-usul yang tercatat
Keluaran
distribusi, bukan angka tunggal
Kode
dirilis bersama kartu model dan pengujiannya
Reproduksi
data, kode, lingkungan, dan seed yang sama
Formulasi risiko standar dan ruang keadaan; asumsi yang tercantum lazim bagi metode tersebut, dinyatakan untuk ditinjau, bukan hasil.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Validasi

Cara hasil diperiksa.

Model dievaluasi pada data uji tersisih yang menghormati struktur spasial, temporal, dan kelompok. Ketangguhan, kalibrasi, dan keadilan diuji di samping akurasi.

PemeriksaanCara pelaksanaannya
Spatial and temporal hold-outData uji dipisahkan dari data pelatihan menurut ruang dan waktu untuk mencegah kebocoran
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
Pemantauan pergeseranInput and output distributions in use are compared with those at validation, and divergence triggers review
Pengujian adversarialModel dan agen diuji terhadap injeksi prompt dan penyalahgunaan sebelum dipromosikan

Kinerja menurun ketika kondisi penerapan berbeda dari data pelatihan. Model dapat menyandikan bias dan gagal tanpa peringatan yang jelas pada kejadian langka.

07Proses

Bagaimana proses berjalan.

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

Proses

AI and machine learning at Foundry: AI risk management (NIST)

Inti AI RMF memiliki empat fungsi, yaitu GOVERN, MAP, MEASURE, dan MANAGE, dengan GOVERN bersifat lintas fungsi; urutan yang digambarkan adalah satu cara membaca yang umum, bukan daftar periksa.

  1. 01 Tata kelola

    1. 01GOVERN: kebijakan, peran, dan akuntabilitasLangkah · Pengelola modelGOVERN merupakan fungsi lintas bidang. Fungsi ini meresap ke seluruh manajemen risiko AI dan memungkinkan fungsi-fungsi lainnya.
  2. 02 Map

    1. 02MAP: konteks dan penggunaan yang dimaksudkanKumpulan dataFungsi MAP menetapkan konteks untuk membingkai risiko yang terkait dengan sistem AI, termasuk tujuan yang dimaksudkan dan dampaknya terhadap manusia.
  3. 03 Ukur

    1. 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
    2. 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
  4. 04 Kelola

    1. 05KELOLA: tangani risikoLangkahPenanganan risiko mencakup respons terhadap insiden, pemulihan darinya, dan komunikasi mengenainya. Sumber daya dialokasikan untuk risiko yang telah dipetakan dan diukur.
    2. 06Proceed or not (MANAGE 1.1)Gate · Model stewardA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Keputusan penerapanKeputusan · Pengelola modelOrganisasi pemilik sistem memutuskan apakah dan dalam kondisi apa sistem akan diterapkan.
    4. 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
  5. 05 Catatan

    1. 09Inventaris sistem AIKumpulan dataGOVERN 1.6 meminta adanya mekanisme untuk menginventarisasi sistem AI. Kartu model merupakan praktik yang lazim dan tidak disebutkan dalam kerangka kerja tersebut.

Garis besar netral dari standar atau metode eksternal yang diterbitkan, dari badan penerbitnya. Bukan catatan operasi. Nexus tidak melaksanakan, menyertifikasi, atau menyetujui langkah mana pun yang ditampilkan. Gerbang atau keputusan menjadi milik pihak yang disebutkan oleh sumbernya. Tindakan-tindakan ini tidak harus merupakan rangkaian langkah yang berurutan. EU AI Act tidak digambarkan dalam alur ini.

09Pengelolaan

Siapa yang memelihara metode ini.

Kecerdasan Buatan dan Sistem Otonom mengelola kecerdasan buatan dan pembelajaran mesin untuk Konsorsium dan meninjau cara penerapannya di berbagai platform.

11Pertanyaan

Tanya jawab.

Apa batasan kecerdasan buatan dan pembelajaran mesin di bidang ini?
Kinerja menurun ketika kondisi penerapan berbeda dari data pelatihan. Model dapat menyandikan bias dan gagal tanpa peringatan yang jelas pada kejadian langka.
Bagaimana hasil diperiksa?
Model dievaluasi pada data uji tersisih yang menghormati struktur spasial, temporal, dan kelompok. Ketangguhan, kalibrasi, dan keadilan diuji di samping akurasi.
Apakah nilai di halaman ini nyata?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Di mana lagi metode ini diterapkan?
Observatory Halaman metode kanonis mencantumkan setiap platform yang menerapkannya.
LaporanBerkontribusi

Kontribusikan bukti dari halaman ini.

Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.

GCRIFoundryFoundry Build and Readiness
Foundry

Bawa metode, dataset, atau pertanyaan.

Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.