GCRI · فناوری
هوش مصنوعی و یادگیری ماشین
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.
هوش مصنوعی و یادگیری ماشین در شش بخش.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Reference practiceMachine learning in risk work is governed by AI risk frameworks and reporting standards
- 03در کار ریسک سامانهایشبیهسازهای سریع، برونیابی شکننده
- 04بهکاررفته درسکوهایی که این روش را به کار میگیرند
- 05تولیتمتولی این صفحه
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
روشهای محوری
یادگیری نظارتشده؛ شبکههای عصبی عمیق؛ یادگیری تقویتی؛ یادگیری بازنمایی؛ مدلسازی احتمالاتی؛ تفسیر مدل.
- 02
دادهها و ابزارها
labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.
- 03
اعتبارسنجی
مدلها بر دادهٔ کنارگذاشتهشدهای ارزیابی میشوند که ساختار مکانی، زمانی و گروهی را رعایت میکند. استواری، واسنجی و انصاف در کنار دقت آزموده میشوند.
- 04
محدودیتها
عملکرد هنگامی که شرایط استقرار با دادههای آموزش متفاوت باشد افت میکند. مدلها ممکن است سوگیریها را در خود رمزگذاری کنند و در رخدادهای نادر بدون هشدار روشن از کار بیفتند.
- 05
کاربرد در تصمیمهای ریسک
Machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| مرجع | آنچه تعیین میکند |
|---|---|
| NIST AI RMF | Risk management functions for AI systems |
| ISO/IEC 42001 | AI management systems |
| TRIPOD (EQUATOR) | گزارشدهی مدلهای پیشبینی، از جمله گسترشهای یادگیری ماشین |
نحوهٔ اجرای فرایند.
Process explorer · Process
Artificial intelligence and machine learning: AI risk management (NIST)
9 steps·5 stages·1 gate
فرایند
Artificial intelligence and machine learning: AI risk management (NIST)
هستهٔ AI RMF چهار کارکرد دارد: GOVERN، MAP، MEASURE و MANAGE، که GOVERN فراگیر است؛ ترتیب ترسیمشده یک خوانش رایج است، نه فهرست وارسی.
01 حکمرانی
- 01GOVERN: سیاستها، نقشها و پاسخگوییگام · بازبین مستقلGOVERN یک کارکرد فراگیر است. این کارکرد در سراسر مدیریت ریسک هوش مصنوعی نفوذ دارد و سایر کارکردها را امکانپذیر میسازد.
02 Map
- 02MAP: بافتار و کاربرد مورد نظرمجموعهدادهکارکرد MAP بافتاری را برای چارچوببندی ریسکهای مرتبط با یک سامانهٔ هوش مصنوعی، شامل مقاصد مورد نظر و پیامدها برای مردم، برقرار میکند.
03 اندازهگیری
- 03سنجش: ارزیابی ویژگیهای قابلاعتمادمدلAI سامانهها هوش مصنوعی از نظر ویژگیهای اعتمادپذیری ارزیابی میشوند. این سامانهها باید پیش از استقرار و بهطور منظم در طول بهرهبرداری آزموده شوند.
- 04MEASURE: ریسکهای شناساییشده را در طول زمان پیگیری کنیدمدلسازوکارهایی برای پایش ریسکهای شناساییشدهٔ هوش مصنوعی در طول زمان برقرار است، از جمله ریسکهای پیشبینینشده و نوظهور.
04 مدیریت
- 05MANAGE: رسیدگی به ریسکهاگاممواجهه با ریسک واکنش به رخدادها، بازیابی از آنها و اطلاعرسانی دربارهٔ آنها را در بر میگیرند. منابع به ریسکهای نگاشتشده و اندازهگیریشده اختصاص مییابند.
- 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
- 07تصمیم استقرارتصمیم · داور مستقلسازمانی که مالک سامانه است تصمیم میگیرد که آیا و با چه شرایطی آن را مستقر کند.
- 08پایش و رخدادهای پس از استقرارمدلطرحهای پایش پس از استقرار اجرا میشوند. رخدادها و خطاها با بازیگران مرتبط هوش مصنوعی، از جمله جوامع متأثر، به اشتراک گذاشته میشوند.
05 سابقه
- 09فهرست سامانههای هوش مصنوعیمجموعهدادهGOVERN 1.6 سازوکارهایی برای سیاههبرداری از سامانههای هوش مصنوعی میطلبد. کارت مدل رویهٔ رایج است و در این چارچوب نام برده نشده است.
طرح کلی بیطرفانهٔ یک استاندارد یا روش خارجی منتشرشده، از نهاد صادرکنندهٔ آن. سابقهٔ عملیات نیست. Nexus هیچیک از گامهای نشاندادهشده را انجام، گواهی یا تأیید نمیکند. هر دروازه یا تصمیم متعلق به طرفی است که منبع نام میبرد. اقدامها لزوماً مجموعهای مرتب از گامها نیستند. قانون هوش مصنوعی اتحادیهٔ اروپا در این جریان ترسیم نشده است.
Fast emulators, fragile extrapolation.
Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.
- Test performance out of distribution, not only on held-out samples from the same period.
- Report training data provenance and licence.
- Keep a physical or mechanistic check where one exists.
- کاربردها در هوش مصنوعی و سامانههای خودمختار و آزمایشگاهها.
سکوهایی که این روش را به کار میگیرند.
- آزمایشگاههانهادGCRI
- FoundryنهادGCRI
- هوش مصنوعی و سامانههای خودمختارنهادGCRI
- آینده کار و مهارتهانهادGCRI
- Innovation NexusنهادGRF
- هوش مصنوعی و حکمرانی دیجیتالنهادGRF
- یکپارچگی اطلاعات و اعتماد عمومینهادGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- هوش مصنوعی و ریسک مدلهای مالینهادGRA
- ریسک جرائم مالی و کلاهبردارینهادGRA
چه کسی این صفحه را نگهداری میکند.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
نهادها و اسنادی که این صفحه بر پایهٔ آنها خوانده میشود. وضعیت و ویراستها تغییر میکنند؛ هر پیوند به نهاد صادرکننده میرود.
پرسش و پاسخ.
چرا یک نهاد میزبان همهٔ صفحههای روش است؟
چگونه اصلاحی را برای صفحهٔ یک روش پیشنهاد کنم؟
شواهد را از همین صفحه ارسال کنید.
Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع میدانید میتواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.
- ایمیلدرگاه GW-GCRIاز همین صفحه ارسال کنیدشواهد، یک اصلاحیه، یک مورد، یک روش، یک داوری، یک ترجمه یا ورودی نمایه. با برچسب این صفحه میرسد تا ویراستار مسئول آن را دریافت کند.
- Zenodoسپردهٔ بازآن را واگذار کنید و به جامعه ارائه دهیدسابقهٔ خود را با شناسهٔ ORCID خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. گزینشگران آن را داوری میکنند؛ DOI از آنِ شما میماند.
- گزارشهاGCRIهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز داده شخصی، جزئیات حساس زیرساخت یا چیزی را که حق اشتراکش را ندارید نفرستید. هر مشارکت پیش از استفاده داوری میشود؛ ارسال آن حق مؤلفی یا ویرایشی نمیدهد و حمایت مالی هرگز یافتهای را نمیخرد.
یک روش، یک مجموعهداده یا یک پرسش بیاورید.
اطلاعات و درخواستها امروز باز است. هر درخواست یک شمارهٔ پیگیری میگیرد و گام بعدی را مشخص میکند؛ درخواستهای عضویت، پرداختها، تخصیص رایانش و ثبتنامها تنها زمانی باز میشوند که تیم، شرایط و ظرفیت داوری آنها فراهم باشد.
اسناد حقوقی.
نقشهها، دادهها و ارقام این سایت برای زمینه و اطلاعات عمومی نشان داده میشوند. توصیه، پیشبینی یا هشدار نیستند؛ حدود این اطلاعات در سلب مسئولیتها و اعلامیههای داده بیان شده است.