GCRI · Ambiti di attività in tutto il Consortium
Intelligenza artificiale
AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.
Artificial intelligence in six parts.
Il settore, visto in tre modi.
From model failure to systemic effect.
Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.
| Strato | Typical risk | Valutazione |
|---|---|---|
| Modello | Robustezza, distorsioni, capacità di uso improprio | Evaluations and red teaming |
| Sistema | Integration errors, over-reliance, data leakage | Impact assessment, human oversight design |
| Istituzione | Responsabilità poco chiare, risposta agli incidenti assente | Audit del sistema di gestione (ISO/IEC 42001) |
| Ecosistema | Homogeneity, concentration, correlated failure | Analisi del mercato e delle dipendenze |
Quadri di riferimento e diritto del rischio.
| Quadro di riferimento o organismo | Che cosa disciplina o fornisce |
|---|---|
| NIST AI RMF and its generative AI profile | Govern, map, measure and manage functions |
| ISO/IEC 42001 e ISO/IEC 23894 | AI management systems and AI risk management guidance |
| Regolamento UE sull'IA | Risk-tiered obligations applied in stages; check current dates for each obligation |
| OECD AI Principles and UNESCO Recommendation on the Ethics of AI | Principi intergovernativi |
Dove ricade il rischio dell'IA.
- Calcolo: concentrazione delle capacità e domanda di energia.
- Lavoro: esposizione dei compiti e transizione.
- Information integrity: synthetic content and trust.
- Stabilità finanziaria: rischio di modello e comportamento di gregge.
The science sits on AI and Autonomous Systems; methods start from AI assurance.
I metodi alla base del campo.
- Intelligenza artificiale e apprendimento automatico
- Ingegneria della valutazione e dell'assicurazione dell'IA
- Calcolo ad alte prestazioni, cloud ed edge
- Probabilità e statistica
- Cybersicurezza e crittografia
- Scienze sociali e comportamentali
- Robotica e automazione
- Economia ed economia dello sviluppo
- Econometria
- Scienze delle politiche, delle istituzioni e delle decisioni
- Ingegneria dei sistemi
- Identità digitale e sistemi digitali pubblici
- Quantificazione dell'incertezza e validazione dei modelli
Where this page’s references lead.
Gli organismi e i documenti alla luce dei quali si legge questa pagina. Stato ed edizioni cambiano; ogni link porta all'organismo emittente.
- NIST AI Risk Management Framework
- ISO/IEC 42001:2023 Sistema di gestione dell'intelligenza artificiale (ISO)
- Regolamento UE sull'intelligenza artificiale, calendario di applicazione (Commissione europea)
- Principi dell'OECD sull'IA
- Raccomandazione dell'UNESCO sull'etica dell'intelligenza artificiale
- Rapporto internazionale sulla sicurezza dell'IA
Domande e risposte.
Perché il GCRI ospita gateway sul campo?
Contribuisci con evidenze da questa pagina.
Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.
- E-mailPortale GW-GCRIInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RapportiGCRIVedi tutti i modi per contribuireI tipi di contributo, come viene revisionato ciascuno, il riconoscimento che ricevi, la licenza e ciò che non è mai accettato.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Porta un metodo, un set di dati o una domanda.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.