Assurance cases for AI systems
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
GCRI · Kecerdasan Buatan dan Sistem Otonom
Evaluasi AI dan rekayasa penjaminan adalah metode kedua yang dikelola platform ini. Metode ini menyediakan bukti bahwa suatu sistem AI layak untuk penggunaan yang dinyatakan: evaluasi, red teaming, dokumentasi, pemantauan, dan argumen terstruktur yang mengikat semuanya.
AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence and data and compute, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on the STEM Commons.
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
Adversarial testing is planned around threat models, with testers, scope, time and findings documented so that coverage can be judged.
Incidents, complaints and performance metrics are tracked after release, and triggers for review or rollback are defined in advance.
Layar yang akan digunakan sebuah tim untuk mengikuti metode ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.
AI and autonomous systems · AI evaluation and assurance · Run R-0951
| Kapabilitas | 585 | 89 | Rilis | Lintasan |
| Ketangguhan | 133 | 72 | Rilis | Lintasan |
| Bias dan keadilan | 169 | 81 | Rilis | Lintasan |
| Tim merah penyalahgunaan | 142 | 79 | Deploy | Temuan terbuka |
Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.
| Data | Peran | Label |
|---|---|---|
| Hasil evaluasi | Evidence for claims | TERAMATI |
| Red-team reports | Failure discovery | DILAPORKAN |
| Incident logs | Field evidence | DILAPORKAN |
| System documentation | Scope and assumptions | DINYATAKAN |
Model, asumsi, data, dan ketidakpastiannya, dalam bentuk yang akan diperiksa ilmuwan atau insinyur. Strukturnya mengikuti metode yang dipublikasikan. Nilai yang digambar bersifat ilustratif, bukan temuan.
The model structure used for AI evaluation and assurance, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)bahaya, keterpaparan, kerentanan, dan kapasitas penanggulanganEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Asumsi | Mengapa ini dibuat | Bagaimana ini diuji |
|---|---|---|
| Bahaya dan eksposur bersifat independen dalam satu peristiwa | Menjaga integral kerugian tetap dapat dihitung | Bandingkan dengan pencocokan kopula pada catatan gabungan |
| Keterkaitan bersifat linear di dekat titik operasi | Membiarkan guncangan merambat melalui A | Uji di luar rentang linear lalu bandingkan |
| Kurva kerentanan dapat dipindahkan antartempat | Kurva lokal jarang tersedia | Validasi terhadap kerugian teramati jika tersedia |
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
| Pemeriksaan | Cara pelaksanaannya |
|---|---|
| Tinjauan independen | Assurance cases are reviewed by people not involved in development |
| Evidence currency | Evidence is re-checked after model or deployment changes |
| Pelaporan cakupan | Evaluasi menyatakan apa yang tidak mereka uji |
Tolok ukur mungkin tidak mencerminkan penggunaan di dunia nyata atau kemampuan baru. Sistem serbaguna memiliki perilaku terbuka yang sulit diuji secara menyeluruh.
Process explorer · Process
9 steps·5 stages·1 gate
Proses
Inti AI RMF memiliki empat fungsi, yaitu GOVERN, MAP, MEASURE, dan MANAGE, dengan GOVERN bersifat lintas fungsi; urutan yang digambarkan adalah satu cara membaca yang umum, bukan daftar periksa.
Garis besar netral dari standar atau metode eksternal yang diterbitkan, dari badan penerbitnya. Bukan catatan operasi. Nexus tidak melaksanakan, menyertifikasi, atau menyetujui langkah mana pun yang ditampilkan. Gerbang atau keputusan menjadi milik pihak yang disebutkan oleh sumbernya. Tindakan-tindakan ini tidak harus merupakan rangkaian langkah yang berurutan. EU AI Act tidak digambarkan dalam alur ini.
Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.
Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.
Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.
Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.
Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.
Situs ini hanya menggunakan kuki yang benar-benar diperlukan agar dapat berfungsi dan untuk mengingat pilihan privasi Anda. Tidak ada yang dimuat dari perusahaan lain, dan kami tidak pernah menjual atau membagikan informasi pribadi Anda.
Situs ini hanya menggunakan kuki yang benar-benar diperlukan agar dapat berfungsi dan untuk mengingat pilihan privasi Anda. Tidak ada yang dimuat dari perusahaan lain, dan kami tidak pernah menjual atau membagikan informasi pribadi Anda. Kami tidak menayangkan iklan. Anda dapat meninjau pilihan Anda kapan saja melalui Pilihan privasi di bagian bawah setiap halaman.