Skip to content

GCRI · Fields across the Consortium

مصنوعی ذہانت

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

03The systemic question

From model failure to systemic effect.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

LayerTypical riskAssessment
ماڈلRobustness, bias, capability for misuseEvaluations and red teaming
نظامIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
ادارہUnclear accountability, missing incident responseManagement system audit (ISO/IEC 42001)
EcosystemHomogeneity, concentration, correlated failureMarket and dependency analysis
04فریم ورکس

Risk frameworks and law.

Framework or bodyWhat it governs or supplies
NIST AI RMF and its generative AI profileGovern, map, measure and manage functions
ISO/IEC 42001 and ISO/IEC 23894AI management systems and AI risk management guidance
EU AI ActRisk-tiered obligations applied in stages; check current dates for each obligation
OECD AI Principles and UNESCO Recommendation on the Ethics of AIIntergovernmental principles
05Couplings

Where AI risk lands.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

07ماخذات

Where this page’s references lead.

وہ ادارے اور دستاویزات جن کے تناظر میں یہ صفحہ پڑھا جاتا ہے۔ حیثیت اور ایڈیشن بدلتے رہتے ہیں؛ ہر لنک جاری کرنے والے ادارے تک جاتا ہے۔

08سوالات

سوالات و جوابات۔

Why does GCRI host field gateways?
GCRI hosts the shared references of the Consortium, including the STEM Commons and the field gateways, so each field has one place that links all three institutions’ work.
رپورٹیںحصہ ڈالیں

اس صفحے سے شواہد فراہم کریں۔

Reports کنسورشیم کی سہ ماہی اشاعت ہے۔ اس موضوع کے بارے میں آپ کا علم اگلے شمارے میں شواہد، کیس یا تصحیح بن سکتا ہے، جو آپ کے نام سے منسوب ہوگا اور اگر یہ آپ کا اپنا کام ہو تو CC BY 4.0 کے تحت شائع ہوگا۔

GCRI
Global Centre for Risk and Innovation

Bring a method, a dataset or a question.

معلومات اور استفسارات آج کھلے ہیں۔ استفسار کو ایک حوالہ نمبر ملتا ہے اور اگلے مرحلے کی نشاندہی ہوتی ہے؛ درخواستیں، ادائیگیاں، کمپیوٹنگ کی تخصیص اور رجسٹریشن صرف اس وقت کھلتی ہیں جب ان کی ٹیم، شرائط اور جائزے کی استعداد موجود ہو۔