GCRI · التكنولوجيا
الذكاء الاصطناعي وتعلم الآلة
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.
Artificial intelligence and machine learning in six parts.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Reference practiceMachine learning in risk work is governed by AI risk frameworks and reporting standards
- 03In systemic risk workFast emulators, fragile extrapolation
- 04مُطبَّق فيالمنصات التي تطبّق هذه المنهجية
- 05الرعايةمن يتولى تحديث هذه الصفحة
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
الأساليب الجوهرية
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
البيانات والأجهزة
labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.
- 03
التحقق
تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.
- 04
الحدود
يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.
- 05
الاستخدام في قرارات المخاطر
Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| المرجع | ما تضعه |
|---|---|
| NIST AI RMF | Risk management functions for AI systems |
| ISO/IEC 42001 | AI management systems |
| TRIPOD (EQUATOR) | Reporting of prediction models, including machine-learning extensions |
كيف تُسيَّر العملية.
Process explorer · Process
Artificial intelligence and machine learning: AI risk management (NIST)
9 steps·5 stages·1 gate
العملية
Artificial intelligence and machine learning: AI risk management (NIST)
تتضمن نواة AI RMF أربع وظائف، هي GOVERN وMAP وMEASURE وMANAGE، وتكون GOVERN شاملة لسائر الوظائف؛ والترتيب المرسوم قراءة شائعة واحدة، وليس قائمة تحقق.
01 الحوكمة
- 01GOVERN: السياسات والأدوار والمساءلةالخطوة · المراجع المستقلGOVERN وظيفة شاملة. فهي تتخلل إدارة مخاطر الذكاء الاصطناعي بأكملها وتمكّن الوظائف الأخرى.
02 Map
- 02MAP: السياق والاستخدام المقصودمجموعة البياناتتحدد وظيفة MAP السياق اللازم لتأطير المخاطر المتعلقة بنظام ذكاء اصطناعي، بما في ذلك الأغراض المقصودة والآثار على الناس.
03 القياس
- 03MEASURE: تقييم خصائص الجدارة بالثقةالنموذجAI النظم الذكاء الاصطناعي من حيث خصائص الجدارة بالثقة. وينبغي اختبارها قبل النشر وبانتظام أثناء التشغيل.
- 04القياس (MEASURE): تتبّع المخاطر المحدَّدة بمرور الوقتالنموذجتوجد آليات لتتبع مخاطر الذكاء الاصطناعي المحددة بمرور الوقت، بما فيها المخاطر غير المتوقعة والناشئة.
04 الإدارة
- 05MANAGE: معالجة المخاطرخطوةمعالجة المخاطر الاستجابة للحوادث والتعافي منها والتواصل بشأنها. وتُوجَّه الموارد إلى المخاطر التي جرى تحديدها وقياسها.
- 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
- 07قرار النشرالقرار · المراجع المستقلتقرر المنظمة التي تملك النظام ما إذا كانت ستنشره وبأي شروط.
- 08الرصد بعد النشر والحوادثالنموذجتُنفَّذ خطط الرصد بعد النشر. وتُشارَك الحوادث والأخطاء مع الجهات الفاعلة المعنية في مجال الذكاء الاصطناعي، بما في ذلك المجتمعات المتضررة.
05 السجل
- 09جرد نظم الذكاء الاصطناعيمجموعة البياناتتطلب GOVERN 1.6 وضع آليات لحصر أنظمة الذكاء الاصطناعي. وتُعد بطاقة النموذج ممارسة شائعة ولا يرد ذكرها في الإطار.
عرض محايد لمعيار أو أسلوب خارجي منشور، صادر عن الجهة المُصدِرة له. وليس سجلًا للتشغيل. ولا يقوم Nexus بأي خطوة معروضة ولا يشهد عليها ولا يوافق عليها. والبوابة أو القرار يعودان إلى الطرف الذي يسمّيه المصدر. وليست الإجراءات بالضرورة مجموعة مرتبة من الخطوات. ولا يظهر قانون الاتحاد الأوروبي للذكاء الاصطناعي في هذا المسار.
Fast emulators, fragile extrapolation.
Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.
- Test performance out of distribution, not only on held-out samples from the same period.
- Report training data provenance and licence.
- Keep a physical or mechanistic check where one exists.
- Applications on AI and Autonomous Systems and Labs.
المنصات التي تطبّق هذا الأسلوب.
- LabsالمؤسسةGCRI
- FoundryالمؤسسةGCRI
- الذكاء الاصطناعي والنظم المستقلةالمؤسسةGCRI
- مستقبل العمل والمهاراتالمؤسسةGCRI
- Innovation NexusالمؤسسةGRF
- حوكمة الذكاء الاصطناعي والمجال الرقميالمؤسسةGRF
- نزاهة المعلومات وثقة الجمهورالمؤسسةGRF
- Insurance NexusالمؤسسةGRA
- Banking NexusالمؤسسةGRA
- Fintech NexusالمؤسسةGRA
- مخاطر الذكاء الاصطناعي والنماذج الماليةالمؤسسةGRA
- مخاطر الجرائم المالية والاحتيالالمؤسسةGRA
من يتولى صيانة هذه الصفحة.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
الهيئات والوثائق التي تُقرأ هذه الصفحة في ضوئها. وتتغير الحالات والإصدارات؛ ويقود كل رابط إلى الهيئة المُصدِرة.
أسئلة وأجوبة.
لماذا تستضيف مؤسسة واحدة كل صفحات الأساليب؟
كيف أقترح تصحيحًا لصفحة منهجية؟
ساهم بأدلة من هذه الصفحة.
Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.
- البريد الإلكترونيالبوابة GW-GCRIأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- التقاريرGCRIاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
قدّم منهجية أو مجموعة بيانات أو سؤالا.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.