Skip to content

GCRI · Foundry

الذكاء الاصطناعي وتعلّم الآلة في ⁨Foundry⁩

Artificial intelligence and machine learning extend detection, classification and forecasting across large archives, and agents extend them into action. In this field the method is also a source of risk: models that fail when conditions shift, outputs that sound certain when they are not, and tools that turn an error into an effect.

02الطلب

ما يفعله الذكاء الاصطناعي وتعلّم الآلة هنا.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

Scoped agents with receipts

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03الرصد

تدريب النماذج.

الشاشة التي قد يستخدمها فريق لمتابعة هذا المنهج: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.

تدريب النماذج

Foundry · AI and machine learning at Foundry · Run R-6794

Drift on one sliceGCRI · Foundry

التقييم حسب الشريحة

الكل0.830.025712المرور
المنطقة A0.740.051098المراجعة
المنطقة B0.760.05458المراجعة
فئة نادرة0.640.07160دون الحد المطلوب

بطاقة المنهج

المنهج
الذكاء الاصطناعي وتعلم الآلة
التقسيم
قائم على الزمن، دون تسرّب
الخصائص
22
الوسم
مُنمذَج

استقرار السكان

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04البيانات

ما يستهلكه المنهج.

مجموعات البيانات والسجلات التي يستخدمها الذكاء الاصطناعي وتعلّم الآلة في هذه المنصة، مع دور كلٍّ منها والوسم الذي تحمله قيمها. وتُدرج المصادر في سجل المصادر.

البياناتالدورالوسم
Labelled training setsالتعلّم الخاضع للإشرافمُبلَّغ عنه
Satellite image archivesInputs to classificationمرصود
Held-out and out-of-distribution test setsالتقييممرصود
Evaluation and red-team recordsPromotion decisionsمُبلَّغ عنه
Datasheets for training dataOrigin, consent and licenceمُعلَن
05الأساليب والأدلة

How AI and machine learning at Foundry is modelled, measured and tested.

النموذج وافتراضاته وبياناته وعدم اليقين فيه، بالصورة التي يفحصها بها عالم أو مهندس. وتتبع البنى أساليب منشورة. والقيم المرسومة توضيحية، وليست نتائج.

النموذج والمعادلات والافتراضات

The model structure used for AI and machine learning at Foundry, the assumptions it makes and how each is tested.

مخاطر العنصر iRi = f(Hi, Ei, Vi, Ci)الخطر والتعرّض وقابلية التأثر والقدرة على المواجهة
الخسارة السنوية المتوقعةEAL = ∑k pk · Lkعلى الأحداث k ذات الاحتمال السنوي p⁨k⁩
النظم المقترنةxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
افتراضلماذا أُعدّكيف يُختبر
الخطر والتعرّض مستقلان داخل الحدث الواحديُبقي تكامل الخسارة قابلًا للحسابقارن بمطابقة دالة ربط (⁨copula⁩) على السجلات المشتركة
تكون الروابط خطية قرب نقطة التشغيليسمح بانتشار الصدمات عبر ⁨A⁩ادفع خارج النطاق الخطي وقارن
منحنيات الهشاشة قابلة للنقل بين الأماكننادرًا ما تتوافر المنحنيات المحليةالتحقق مقابل الخسائر المرصودة حيثما وُجدت
المدخلات
مجموعات بيانات ذات إصدارات ومزودة ببيان المصدر
المخرجات
توزيعات، لا أرقام منفردة أبدا
الرمز
يُصدر مع بطاقة النموذج والاختبارات
إعادة الإنتاج
البيانات نفسها والشيفرة نفسها والبيئة نفسها والبذرة نفسها
صيغ معيارية للمخاطر وفضاء الحالة؛ والافتراضات المدرجة نموذجية للأسلوب ومعلنة للمراجعة، وليست نتائج.
مبادئ FAIR التوجيهية · GO FAIR وFORCE11⁨W3C PROV⁩ · اتحاد الشبكة العالميةإرشادات بشأن المعالجة المتسقة لأوجه عدم اليقين · الهيئة الحكومية الدولية المعنية بتغير المناخبيانات CEOS الجاهزة للتحليل · لجنة سواتل رصد الأرض
06التحقق

كيف تُفحص النتائج.

تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.

التحققكيف يُنفَّذ
Spatial and temporal hold-outTest data are separated in space and time from training data to prevent leakage
Probability calibrationPredicted probabilities are compared with observed frequencies on held-out data
رصد الانحرافInput and output distributions in use are compared with those at validation, and divergence triggers review
الاختبار العدائيModels and agents are tested against prompt injection and misuse before promotion

يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.

07العملية

كيف تُسيَّر العملية.

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

العملية

AI and machine learning at Foundry: AI risk management (NIST)

تتضمن نواة AI RMF أربع وظائف، هي GOVERN وMAP وMEASURE وMANAGE، وتكون GOVERN شاملة لسائر الوظائف؛ والترتيب المرسوم قراءة شائعة واحدة، وليس قائمة تحقق.

  1. 01 الحوكمة

    1. 01GOVERN: السياسات والأدوار والمساءلةالخطوة · راعي النموذجGOVERN وظيفة شاملة. فهي تتخلل إدارة مخاطر الذكاء الاصطناعي بأكملها وتمكّن الوظائف الأخرى.
  2. 02 Map

    1. 02MAP: السياق والاستخدام المقصودمجموعة البياناتتحدد وظيفة MAP السياق اللازم لتأطير المخاطر المتعلقة بنظام ذكاء اصطناعي، بما في ذلك الأغراض المقصودة والآثار على الناس.
  3. 03 القياس

    1. 03MEASURE: تقييم خصائص الجدارة بالثقةالنموذجAI النظم الذكاء الاصطناعي من حيث خصائص الجدارة بالثقة. وينبغي اختبارها قبل النشر وبانتظام أثناء التشغيل.
    2. 04القياس (MEASURE): تتبّع المخاطر المحدَّدة بمرور الوقتالنموذجتوجد آليات لتتبع مخاطر الذكاء الاصطناعي المحددة بمرور الوقت، بما فيها المخاطر غير المتوقعة والناشئة.
  4. 04 الإدارة

    1. 05MANAGE: معالجة المخاطرخطوةمعالجة المخاطر الاستجابة للحوادث والتعافي منها والتواصل بشأنها. وتُوجَّه الموارد إلى المخاطر التي جرى تحديدها وقياسها.
    2. 06Proceed or not (MANAGE 1.1)Gate · Model stewardA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07قرار النشرالقرار · راعي النموذجتقرر المنظمة التي تملك النظام ما إذا كانت ستنشره وبأي شروط.
    4. 08الرصد بعد النشر والحوادثالنموذجتُنفَّذ خطط الرصد بعد النشر. وتُشارَك الحوادث والأخطاء مع الجهات الفاعلة المعنية في مجال الذكاء الاصطناعي، بما في ذلك المجتمعات المتضررة.
  5. 05 السجل

    1. 09جرد نظم الذكاء الاصطناعيمجموعة البياناتتطلب GOVERN 1.6 وضع آليات لحصر أنظمة الذكاء الاصطناعي. وتُعد بطاقة النموذج ممارسة شائعة ولا يرد ذكرها في الإطار.

عرض محايد لمعيار أو أسلوب خارجي منشور، صادر عن الجهة المُصدِرة له. وليس سجلًا للتشغيل. ولا يقوم Nexus بأي خطوة معروضة ولا يشهد عليها ولا يوافق عليها. والبوابة أو القرار يعودان إلى الطرف الذي يسمّيه المصدر. وليست الإجراءات بالضرورة مجموعة مرتبة من الخطوات. ولا يظهر قانون الاتحاد الأوروبي للذكاء الاصطناعي في هذا المسار.

09الرعاية

من يحتفظ بالمنهج.

الذكاء الاصطناعي والنظم المستقلة الذكاء الاصطناعي وتعلّم الآلة للاتحاد، وتراجع كيفية تطبيقهما عبر المنصات.

11أسئلة

أسئلة وأجوبة.

ما حدود الذكاء الاصطناعي وتعلّم الآلة في هذا المجال؟
يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.
كيف تُفحص النتائج؟
تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.
هل القيم المعروضة في هذه الصفحة حقيقية؟
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
أين يُطبَّق هذا المنهج أيضًا؟
تجمع صفحة المنهج المرجعية كل منصة تطبّقه.
التقاريرساهم

ساهم بأدلة من هذه الصفحة.

Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.

GCRI⁨Foundry⁩البناء والجاهزية في Foundry
⁨Foundry⁩

قدّم منهجية أو مجموعة بيانات أو سؤالا.

المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.