Skip to content

GCRI · حوزه‌ها در سراسر کنسرسیوم

هوش مصنوعی

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

03پرسش سامانه‌ای

From model failure to systemic effect.

خطاهای فردی هوش مصنوعی (خروجی‌های سوگیرانه، واقعیت‌های ساختگی، اقدامات ناایمن یک عامل) به‌خوبی فهرست شده‌اند. اثرهای سامانه‌ای زمانی پدید می‌آیند که بازیگران بسیاری از مدل‌های همانند آموزش‌دیده بر داده‌های همانند استفاده کنند، هوش مصنوعی در تصمیم‌های حیاتی مانند اعتبار یا تریاژ جای گیرد، یا توان فنی سریع‌تر از نظارت پیش برود. ارزیابی باید مدل، سامانه‌ای که مدل در آن قرار دارد و نهاد بهره‌بردار را در بر گیرد.

لایهریسک معمولارزیابی
مدلRobustness, bias, capability for misuseEvaluations and red teaming
سیستمIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
نهادUnclear accountability, missing incident responseManagement system audit (ISO/IEC 42001)
مجموعهHomogeneity, concentration, correlated failureMarket and dependency analysis
04چارچوب‌ها

Risk frameworks and law.

چارچوب یا نهادآنچه حکمرانی یا تأمین می‌کند
NIST AI RMF و نمایهٔ هوش مصنوعی مولد آنGovern, map, measure and manage functions
ISO/IEC 42001 و ISO/IEC 23894AI management systems and AI risk management guidance
قانون هوش مصنوعی اتحادیه اروپاRisk-tiered obligations applied in stages; check current dates for each obligation
اصول هوش مصنوعی OECD و توصیه‌نامهٔ یونسکو دربارهٔ اخلاق هوش مصنوعیIntergovernmental principles
05پیوندها

Where AI risk lands.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

07منابع

Where this page’s references lead.

نهادها و اسنادی که این صفحه بر پایهٔ آن‌ها خوانده می‌شود. وضعیت و ویراست‌ها تغییر می‌کنند؛ هر پیوند به نهاد صادرکننده می‌رود.

08پرسش‌ها

پرسش و پاسخ.

چرا GCRI میزبان درگاه‌های حوزه است؟
GCRI hosts the shared references of the Consortium, including the STEM Commons and the field gateways, so each field has one place that links all three institutions’ work.
گزارش‌هامشارکت

شواهد را از همین صفحه ارسال کنید.

Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع می‌دانید می‌تواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.

GCRI
⁨Global Centre for Risk and Innovation⁩

یک روش، یک مجموعه‌داده یا یک پرسش بیاورید.

اطلاعات و درخواست‌ها امروز باز است. هر درخواست یک شمارهٔ پیگیری می‌گیرد و گام بعدی را مشخص می‌کند؛ درخواست‌های عضویت، پرداخت‌ها، تخصیص رایانش و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت داوری آن‌ها فراهم باشد.