Assurance cases for AI systems
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
GCRI · الذكاء الاصطناعي والنظم المستقلة
AI evaluation and assurance engineering is the second method this platform stewards. It provides the evidence that an AI system is fit for a stated use: evaluations, red teaming, documentation, monitoring and the structured arguments that tie them together.
AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence and data and compute, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on the STEM Commons.
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
Adversarial testing is planned around threat models, with testers, scope, time and findings documented so that coverage can be judged.
Incidents, complaints and performance metrics are tracked after release, and triggers for review or rollback are defined in advance.
الشاشة التي قد يستخدمها فريق لمتابعة هذا المنهج: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.
AI and autonomous systems · AI evaluation and assurance · Run R-0951
| القدرة | 585 | 89 | الإصدار | المرور |
| المتانة | 133 | 72 | الإصدار | المرور |
| Bias and fairness | 169 | 81 | الإصدار | المرور |
| الفريق الأحمر لإساءة الاستخدام | 142 | 79 | Deploy | الملاحظات المفتوحة |
Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.
| البيانات | الدور | الوسم |
|---|---|---|
| نتائج التقييم | Evidence for claims | مرصود |
| Red-team reports | Failure discovery | مُبلَّغ عنه |
| Incident logs | Field evidence | مُبلَّغ عنه |
| System documentation | Scope and assumptions | مُعلَن |
النموذج وافتراضاته وبياناته وعدم اليقين فيه، بالصورة التي يفحصها بها عالم أو مهندس. وتتبع البنى أساليب منشورة. والقيم المرسومة توضيحية، وليست نتائج.
The model structure used for AI evaluation and assurance, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)الخطر والتعرّض وقابلية التأثر والقدرة على المواجهةEAL = ∑k pk · Lkعلى الأحداث k ذات الاحتمال السنوي pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| افتراض | لماذا أُعدّ | كيف يُختبر |
|---|---|---|
| الخطر والتعرّض مستقلان داخل الحدث الواحد | يُبقي تكامل الخسارة قابلًا للحساب | قارن بمطابقة دالة ربط (copula) على السجلات المشتركة |
| تكون الروابط خطية قرب نقطة التشغيل | يسمح بانتشار الصدمات عبر A | ادفع خارج النطاق الخطي وقارن |
| منحنيات الهشاشة قابلة للنقل بين الأماكن | نادرًا ما تتوافر المنحنيات المحلية | التحقق مقابل الخسائر المرصودة حيثما وُجدت |
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
| التحقق | كيف يُنفَّذ |
|---|---|
| المراجعة المستقلة | Assurance cases are reviewed by people not involved in development |
| Evidence currency | Evidence is re-checked after model or deployment changes |
| الإبلاغ عن التغطية | تبيّن التقييمات ما لم تختبره |
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
Process explorer · Process
9 steps·5 stages·1 gate
العملية
تتضمن نواة AI RMF أربع وظائف، هي GOVERN وMAP وMEASURE وMANAGE، وتكون GOVERN شاملة لسائر الوظائف؛ والترتيب المرسوم قراءة شائعة واحدة، وليس قائمة تحقق.
عرض محايد لمعيار أو أسلوب خارجي منشور، صادر عن الجهة المُصدِرة له. وليس سجلًا للتشغيل. ولا يقوم Nexus بأي خطوة معروضة ولا يشهد عليها ولا يوافق عليها. والبوابة أو القرار يعودان إلى الطرف الذي يسمّيه المصدر. وليست الإجراءات بالضرورة مجموعة مرتبة من الخطوات. ولا يظهر قانون الاتحاد الأوروبي للذكاء الاصطناعي في هذا المسار.
Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.
Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.
لا يستخدم هذا الموقع إلا ملفات تعريف الارتباط الضرورية للغاية لكي يعمل ويتذكر خيارات الخصوصية التي تحددها. ولا يُحمَّل أي محتوى من شركات أخرى، ولا نبيع معلوماتك الشخصية أو نتبادلها أبدًا.
لا يستخدم هذا الموقع إلا ملفات تعريف الارتباط الضرورية للغاية لكي يعمل ويتذكر خيارات الخصوصية التي تحددها. ولا يُحمَّل أي محتوى من شركات أخرى، ولا نبيع معلوماتك الشخصية أو نتبادلها أبدًا. ولا نعرض أي إعلانات. ويمكنك مراجعة خياراتك في أي وقت عبر رابط خيارات الخصوصية في أسفل كل صفحة.