Skip to content

GCRI · التكنولوجيا

الذكاء الاصطناعي وتعلم الآلة

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.

02المنهج

What artificial intelligence and machine learning covers.

  1. 01

    الأساليب الجوهرية

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    البيانات والأجهزة

    labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.

  3. 03

    التحقق

    تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.

  4. 04

    الحدود

    يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.

  5. 05

    الاستخدام في قرارات المخاطر

    Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.

03الممارسة المرجعية

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

المرجعما تضعه
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)Reporting of prediction models, including machine-learning extensions
04العملية

كيف تُسيَّر العملية.

Process explorer · Process

Artificial intelligence and machine learning: AI risk management (NIST)

9 steps5 stages1 gate

العملية

Artificial intelligence and machine learning: AI risk management (NIST)

تتضمن نواة AI RMF أربع وظائف، هي GOVERN وMAP وMEASURE وMANAGE، وتكون GOVERN شاملة لسائر الوظائف؛ والترتيب المرسوم قراءة شائعة واحدة، وليس قائمة تحقق.

  1. 01 الحوكمة

    1. 01GOVERN: السياسات والأدوار والمساءلةالخطوة · المراجع المستقلGOVERN وظيفة شاملة. فهي تتخلل إدارة مخاطر الذكاء الاصطناعي بأكملها وتمكّن الوظائف الأخرى.
  2. 02 Map

    1. 02MAP: السياق والاستخدام المقصودمجموعة البياناتتحدد وظيفة MAP السياق اللازم لتأطير المخاطر المتعلقة بنظام ذكاء اصطناعي، بما في ذلك الأغراض المقصودة والآثار على الناس.
  3. 03 القياس

    1. 03MEASURE: تقييم خصائص الجدارة بالثقةالنموذجAI النظم الذكاء الاصطناعي من حيث خصائص الجدارة بالثقة. وينبغي اختبارها قبل النشر وبانتظام أثناء التشغيل.
    2. 04القياس (MEASURE): تتبّع المخاطر المحدَّدة بمرور الوقتالنموذجتوجد آليات لتتبع مخاطر الذكاء الاصطناعي المحددة بمرور الوقت، بما فيها المخاطر غير المتوقعة والناشئة.
  4. 04 الإدارة

    1. 05MANAGE: معالجة المخاطرخطوةمعالجة المخاطر الاستجابة للحوادث والتعافي منها والتواصل بشأنها. وتُوجَّه الموارد إلى المخاطر التي جرى تحديدها وقياسها.
    2. 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07قرار النشرالقرار · المراجع المستقلتقرر المنظمة التي تملك النظام ما إذا كانت ستنشره وبأي شروط.
    4. 08الرصد بعد النشر والحوادثالنموذجتُنفَّذ خطط الرصد بعد النشر. وتُشارَك الحوادث والأخطاء مع الجهات الفاعلة المعنية في مجال الذكاء الاصطناعي، بما في ذلك المجتمعات المتضررة.
  5. 05 السجل

    1. 09جرد نظم الذكاء الاصطناعيمجموعة البياناتتطلب GOVERN 1.6 وضع آليات لحصر أنظمة الذكاء الاصطناعي. وتُعد بطاقة النموذج ممارسة شائعة ولا يرد ذكرها في الإطار.

عرض محايد لمعيار أو أسلوب خارجي منشور، صادر عن الجهة المُصدِرة له. وليس سجلًا للتشغيل. ولا يقوم Nexus بأي خطوة معروضة ولا يشهد عليها ولا يوافق عليها. والبوابة أو القرار يعودان إلى الطرف الذي يسمّيه المصدر. وليست الإجراءات بالضرورة مجموعة مرتبة من الخطوات. ولا يظهر قانون الاتحاد الأوروبي للذكاء الاصطناعي في هذا المسار.

05في العمل المتعلق بالمخاطر النظمية

Fast emulators, fragile extrapolation.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Report training data provenance and licence.
  • Keep a physical or mechanistic check where one exists.
  • Applications on AI and Autonomous Systems and Labs.
07الرعاية

من يتولى صيانة هذه الصفحة.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08المصادر

Where this page’s references lead.

الهيئات والوثائق التي تُقرأ هذه الصفحة في ضوئها. وتتغير الحالات والإصدارات؛ ويقود كل رابط إلى الهيئة المُصدِرة.

09أسئلة

أسئلة وأجوبة.

لماذا تستضيف مؤسسة واحدة كل صفحات الأساليب؟
يستضيف GCRI مشاعات STEM كي يكون لكل أسلوب وصف مرجعي واحد. وترتبط المنصات به بدلًا من تكراره، مما يحافظ على اتساق التعاريف.
كيف أقترح تصحيحًا لصفحة منهجية؟
راسل نموذج الإبلاغ عن شواغل النزاهة مع ذكر المقطع والسبب.
التقاريرساهم

ساهم بأدلة من هذه الصفحة.

Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.

GCRI
Global Centre for Risk and Innovation

قدّم منهجية أو مجموعة بيانات أو سؤالا.

المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.