Skip to content

GCRI · Ambiti di attività in tutto il Consortium

Intelligenza artificiale

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

02Tre mandati

Il settore, visto in tre modi.

03La questione sistemica

From model failure to systemic effect.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

StratoTypical riskValutazione
ModelloRobustezza, distorsioni, capacità di uso improprioEvaluations and red teaming
SistemaIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
IstituzioneResponsabilità poco chiare, risposta agli incidenti assenteAudit del sistema di gestione (ISO/IEC 42001)
EcosistemaHomogeneity, concentration, correlated failureAnalisi del mercato e delle dipendenze
04Quadri

Quadri di riferimento e diritto del rischio.

Quadro di riferimento o organismoChe cosa disciplina o fornisce
NIST AI RMF and its generative AI profileGovern, map, measure and manage functions
ISO/IEC 42001 e ISO/IEC 23894AI management systems and AI risk management guidance
Regolamento UE sull'IARisk-tiered obligations applied in stages; check current dates for each obligation
OECD AI Principles and UNESCO Recommendation on the Ethics of AIPrincipi intergovernativi
05Accoppiamenti

Dove ricade il rischio dell'IA.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

RapportiContribuisci

Contribuisci con evidenze da questa pagina.

Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.

GCRI
Il Global Centre for Risk and Innovation

Porta un metodo, un set di dati o una domanda.

Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.