GCRI · حوزهها در سراسر کنسرسیوم
هوش مصنوعی
AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.
Artificial intelligence in six parts.
حوزه، از سه زاویه.
From model failure to systemic effect.
خطاهای فردی هوش مصنوعی (خروجیهای سوگیرانه، واقعیتهای ساختگی، اقدامات ناایمن یک عامل) بهخوبی فهرست شدهاند. اثرهای سامانهای زمانی پدید میآیند که بازیگران بسیاری از مدلهای همانند آموزشدیده بر دادههای همانند استفاده کنند، هوش مصنوعی در تصمیمهای حیاتی مانند اعتبار یا تریاژ جای گیرد، یا توان فنی سریعتر از نظارت پیش برود. ارزیابی باید مدل، سامانهای که مدل در آن قرار دارد و نهاد بهرهبردار را در بر گیرد.
| لایه | ریسک معمول | ارزیابی |
|---|---|---|
| مدل | Robustness, bias, capability for misuse | Evaluations and red teaming |
| سیستم | Integration errors, over-reliance, data leakage | Impact assessment, human oversight design |
| نهاد | Unclear accountability, missing incident response | Management system audit (ISO/IEC 42001) |
| مجموعه | Homogeneity, concentration, correlated failure | Market and dependency analysis |
Risk frameworks and law.
| چارچوب یا نهاد | آنچه حکمرانی یا تأمین میکند |
|---|---|
| NIST AI RMF و نمایهٔ هوش مصنوعی مولد آن | Govern, map, measure and manage functions |
| ISO/IEC 42001 و ISO/IEC 23894 | AI management systems and AI risk management guidance |
| قانون هوش مصنوعی اتحادیه اروپا | Risk-tiered obligations applied in stages; check current dates for each obligation |
| اصول هوش مصنوعی OECD و توصیهنامهٔ یونسکو دربارهٔ اخلاق هوش مصنوعی | Intergovernmental principles |
Where AI risk lands.
- رایانش: تمرکز توان و تقاضای انرژی.
- Work: task exposure and transition.
- Information integrity: synthetic content and trust.
- Financial stability: model risk and herding.
The science sits on AI and Autonomous Systems; methods start from AI assurance.
روشهای پشت این حوزه.
- هوش مصنوعی و یادگیری ماشین
- مهندسی ارزیابی و اطمینانبخشی هوش مصنوعی
- محاسبات با عملکرد بالا، ابری و لبهای
- احتمال و آمار
- امنیت سایبری و رمزنگاری
- علوم اجتماعی و رفتاری
- رباتیک و خودکارسازی
- اقتصاد و اقتصاد توسعه
- اقتصادسنجی
- علم سیاستگذاری، نهادها و تصمیم
- مهندسی سامانهها
- هویت دیجیتال و نظامهای دیجیتال عمومی
- کمّیسازی عدم قطعیت و اعتبارسنجی مدل
Where this page’s references lead.
نهادها و اسنادی که این صفحه بر پایهٔ آنها خوانده میشود. وضعیت و ویراستها تغییر میکنند؛ هر پیوند به نهاد صادرکننده میرود.
پرسش و پاسخ.
چرا GCRI میزبان درگاههای حوزه است؟
شواهد را از همین صفحه ارسال کنید.
Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع میدانید میتواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.
- ایمیلدرگاه GW-GCRIاز همین صفحه ارسال کنیدشواهد، یک اصلاحیه، یک مورد، یک روش، یک داوری، یک ترجمه یا ورودی نمایه. با برچسب این صفحه میرسد تا ویراستار مسئول آن را دریافت کند.
- Zenodoسپردهٔ بازآن را واگذار کنید و به جامعه ارائه دهیدسابقهٔ خود را با شناسهٔ ORCID خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. گزینشگران آن را داوری میکنند؛ DOI از آنِ شما میماند.
- گزارشهاGCRIهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز داده شخصی، جزئیات حساس زیرساخت یا چیزی را که حق اشتراکش را ندارید نفرستید. هر مشارکت پیش از استفاده داوری میشود؛ ارسال آن حق مؤلفی یا ویرایشی نمیدهد و حمایت مالی هرگز یافتهای را نمیخرد.
یک روش، یک مجموعهداده یا یک پرسش بیاورید.
اطلاعات و درخواستها امروز باز است. هر درخواست یک شمارهٔ پیگیری میگیرد و گام بعدی را مشخص میکند؛ درخواستهای عضویت، پرداختها، تخصیص رایانش و ثبتنامها تنها زمانی باز میشوند که تیم، شرایط و ظرفیت داوری آنها فراهم باشد.
اسناد حقوقی.
نقشهها، دادهها و ارقام این سایت برای زمینه و اطلاعات عمومی نشان داده میشوند. توصیه، پیشبینی یا هشدار نیستند؛ حدود این اطلاعات در سلب مسئولیتها و اعلامیههای داده بیان شده است.