Skip to content

GCRI · فناوری

هوش مصنوعی و یادگیری ماشین

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.

02روش

What artificial intelligence and machine learning covers.

  1. 01

    روش‌های محوری

    یادگیری نظارت‌شده؛ شبکه‌های عصبی عمیق؛ یادگیری تقویتی؛ یادگیری بازنمایی؛ مدل‌سازی احتمالاتی؛ تفسیر مدل.

  2. 02

    داده‌ها و ابزارها

    labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.

  3. 03

    اعتبارسنجی

    مدل‌ها بر دادهٔ کنارگذاشته‌شده‌ای ارزیابی می‌شوند که ساختار مکانی، زمانی و گروهی را رعایت می‌کند. استواری، واسنجی و انصاف در کنار دقت آزموده می‌شوند.

  4. 04

    محدودیت‌ها

    عملکرد هنگامی که شرایط استقرار با داده‌های آموزش متفاوت باشد افت می‌کند. مدل‌ها ممکن است سوگیری‌ها را در خود رمزگذاری کنند و در رخدادهای نادر بدون هشدار روشن از کار بیفتند.

  5. 05

    کاربرد در تصمیم‌های ریسک

    Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.

03رویهٔ مرجع

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

مرجعآنچه تعیین می‌کند
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)گزارش‌دهی مدل‌های پیش‌بینی، از جمله گسترش‌های یادگیری ماشین
04فرایند

نحوهٔ اجرای فرایند.

Process explorer · Process

Artificial intelligence and machine learning: AI risk management (NIST)

9 steps5 stages1 gate

فرایند

Artificial intelligence and machine learning: AI risk management (NIST)

هستهٔ AI RMF چهار کارکرد دارد: GOVERN، MAP، MEASURE و MANAGE، که GOVERN فراگیر است؛ ترتیب ترسیم‌شده یک خوانش رایج است، نه فهرست وارسی.

  1. 01 حکمرانی

    1. 01GOVERN: سیاست‌ها، نقش‌ها و پاسخ‌گوییگام · بازبین مستقلGOVERN یک کارکرد فراگیر است. این کارکرد در سراسر مدیریت ریسک هوش مصنوعی نفوذ دارد و سایر کارکردها را امکان‌پذیر می‌سازد.
  2. 02 Map

    1. 02MAP: بافتار و کاربرد مورد نظرمجموعه‌دادهکارکرد MAP بافتاری را برای چارچوب‌بندی ریسک‌های مرتبط با یک سامانهٔ هوش مصنوعی، شامل مقاصد مورد نظر و پیامدها برای مردم، برقرار می‌کند.
  3. 03 اندازه‌گیری

    1. 03سنجش: ارزیابی ویژگی‌های قابل‌اعتمادمدلAI سامانه‌ها هوش مصنوعی از نظر ویژگی‌های اعتمادپذیری ارزیابی می‌شوند. این سامانه‌ها باید پیش از استقرار و به‌طور منظم در طول بهره‌برداری آزموده شوند.
    2. 04MEASURE: ریسک‌های شناسایی‌شده را در طول زمان پیگیری کنیدمدلسازوکارهایی برای پایش ریسک‌های شناسایی‌شدهٔ هوش مصنوعی در طول زمان برقرار است، از جمله ریسک‌های پیش‌بینی‌نشده و نوظهور.
  4. 04 مدیریت

    1. 05MANAGE: رسیدگی به ریسک‌هاگاممواجهه با ریسک واکنش به رخدادها، بازیابی از آن‌ها و اطلاع‌رسانی دربارهٔ آن‌ها را در بر می‌گیرند. منابع به ریسک‌های نگاشت‌شده و اندازه‌گیری‌شده اختصاص می‌یابند.
    2. 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07تصمیم استقرارتصمیم · داور مستقلسازمانی که مالک سامانه است تصمیم می‌گیرد که آیا و با چه شرایطی آن را مستقر کند.
    4. 08پایش و رخدادهای پس از استقرارمدلطرح‌های پایش پس از استقرار اجرا می‌شوند. رخدادها و خطاها با بازیگران مرتبط هوش مصنوعی، از جمله جوامع متأثر، به اشتراک گذاشته می‌شوند.
  5. 05 سابقه

    1. 09فهرست سامانه‌های هوش مصنوعیمجموعه‌دادهGOVERN 1.6 سازوکارهایی برای سیاهه‌برداری از سامانه‌های هوش مصنوعی می‌طلبد. کارت مدل رویهٔ رایج است و در این چارچوب نام برده نشده است.

طرح کلی بی‌طرفانهٔ یک استاندارد یا روش خارجی منتشرشده، از نهاد صادرکنندهٔ آن. سابقهٔ عملیات نیست. Nexus هیچ‌یک از گام‌های نشان‌داده‌شده را انجام، گواهی یا تأیید نمی‌کند. هر دروازه یا تصمیم متعلق به طرفی است که منبع نام می‌برد. اقدام‌ها لزوماً مجموعه‌ای مرتب از گام‌ها نیستند. قانون هوش مصنوعی اتحادیهٔ اروپا در این جریان ترسیم نشده است.

05در کار ریسک سامانه‌ای

Fast emulators, fragile extrapolation.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

07تولیت

چه کسی این صفحه را نگهداری می‌کند.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08منابع

Where this page’s references lead.

نهادها و اسنادی که این صفحه بر پایهٔ آن‌ها خوانده می‌شود. وضعیت و ویراست‌ها تغییر می‌کنند؛ هر پیوند به نهاد صادرکننده می‌رود.

09پرسش‌ها

پرسش و پاسخ.

چرا یک نهاد میزبان همهٔ صفحه‌های روش است؟
GCRI میزبان STEM Commons است تا هر روش یک توصیف مرجع واحد داشته باشد. سکوها به آن پیوند می‌دهند و آن را تکرار نمی‌کنند؛ این کار یکنواختی تعاریف را حفظ می‌کند.
چگونه اصلاحی را برای صفحهٔ یک روش پیشنهاد کنم؟
نامه بنویسید به فرم نگرانی درستی‌سنجی بنویسید.
گزارش‌هامشارکت

شواهد را از همین صفحه ارسال کنید.

Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع می‌دانید می‌تواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.

GCRI
⁨Global Centre for Risk and Innovation⁩

یک روش، یک مجموعه‌داده یا یک پرسش بیاورید.

اطلاعات و درخواست‌ها امروز باز است. هر درخواست یک شمارهٔ پیگیری می‌گیرد و گام بعدی را مشخص می‌کند؛ درخواست‌های عضویت، پرداخت‌ها، تخصیص رایانش و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت داوری آن‌ها فراهم باشد.