GCRI · Tecnologia
Intelligenza artificiale e apprendimento automatico
L'intelligenza artificiale e l'apprendimento automatico sviluppano algoritmi che apprendono schemi dai dati per classificare, prevedere o generare risultati. Sono sempre più usati per il rilevamento dei pericoli, le previsioni e il supporto alle decisioni, e sono essi stessi una fonte di rischio. Artificial Intelligence and Autonomous sistemi è il custode di questa pagina per il Nexus Consortium.
Intelligenza artificiale e apprendimento automatico in sei parti.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Reference practiceMachine learning in risk work is governed by AI risk frameworks and reporting standards
- 03Nel lavoro sul rischio sistemicoEmulatori veloci, estrapolazione fragile
- 04Applicato inPiattaforme che applicano questo metodo
- 05CustodiaChi cura questa pagina
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
Metodi fondamentali
apprendimento supervisionato; reti neurali profonde; apprendimento per rinforzo; apprendimento di rappresentazioni; modellazione probabilistica; interpretazione dei modelli.
- 02
Dati e strumenti
dataset di addestramento etichettati; archivi di sensori e immagini; corpora di testi; output di simulazioni; suite di benchmark.
- 03
Validazione
I modelli sono valutati su dati esclusi dalla stima che rispettano la struttura spaziale, temporale e di gruppo. Robustezza, calibrazione ed equità sono testate insieme all'accuratezza.
- 04
Limiti
Le prestazioni peggiorano quando le condizioni di impiego differiscono dai dati di addestramento. I modelli possono incorporare distorsioni e fallire senza un chiaro preavviso sugli eventi rari.
- 05
Uso nelle decisioni sui rischi
Il machine learning può estendere il rilevamento e la previsione a sistemiinterconnessi. Le sue modalità di guasto devono essere valutate quando i risultati automatizzati orientano decisioni di rilievo.
L'apprendimento automatico nel lavoro sul rischio è disciplinato da quadri di rischio dell'IA e da standard di rendicontazione.
| Riferimento | Che cosa stabilisce |
|---|---|
| NIST AI RMF | Funzioni di gestione del rischio per i sistemi |
| ISO/IEC 42001 | Sistemi di gestione dell'IA |
| TRIPOD (EQUATOR) | Reporting of prediction models, including machine-learning extensions |
Come si svolge il processo.
Process explorer · Process
Intelligenza artificiale e apprendimento automatico: gestione del rischio dell'IA (NIST)
9 steps·5 stages·1 gate
Processo
Intelligenza artificiale e apprendimento automatico: gestione del rischio dell'IA (NIST)
Il nucleo dell'AI RMF comprende quattro funzioni, GOVERN, MAP, MEASURE e MANAGE, con GOVERN trasversale; l'ordine illustrato è una lettura comune, non una lista di controllo.
01 Governare
- 01GOVERNARE: politiche, ruoli e responsabilitàFase · Revisore indipendenteGOVERN è una funzione trasversale. Permea l'intera gestione del rischio dell'IA e abilita le altre funzioni.
02 Map
- 02MAP: context and intended useDatasetThe MAP function establishes the context to frame risks related to an AI system, including intended purposes and impacts on people.
03 Misurare
- 03MISURARE: valutare le caratteristiche di affidabilitàModelloAI sistemi di IA sono valutati rispetto alle caratteristiche di affidabilità. Dovrebbero essere testati prima della messa in opera e regolarmente durante l'esercizio.
- 04MISURARE: monitorare nel tempo i rischi identificatiModelloSono in atto meccanismi per il monitoraggio nel tempo dei rischi di IA individuati, inclusi quelli imprevisti ed emergenti.
04 Gestione
- 05GESTIRE: trattare i rischiPassaggioTrattamento del rischio comprendono la risposta agli incidenti, il ripristino e la comunicazione. Le risorse sono destinate ai rischi mappati e misurati.
- 06Procedere o meno (MANAGE 1.1)Gate · Revisore indipendenteSi stabilisce se il sistema soddisfa i propri scopi e obiettivi e se procedere. Il quadro non fissa soglie.
- 07Decisione di implementazioneDecisione · Revisore indipendenteL'organizzazione proprietaria del sistema decide se e a quali condizioni procedere all'impiego.
- 08Monitoraggio post-implementazione e incidentiModelloI piani di monitoraggio post-implementazione sono attuati. Incidenti ed errori sono condivisi con gli attori dell'IA pertinenti, comprese le comunità interessate.
05 Registro
- 09Inventory of AI systemsDatasetGOVERN 1.6 asks for mechanisms to inventory AI systems. A model card is common practice and is not named in the framework.
Sintesi neutrale di uno standard o di un metodo esterno pubblicato, riportata dall'ente che lo ha emesso. Non costituisce una registrazione operativa. Nexus non esegue, certifica né approva alcuna fase illustrata. Un gate o una decisione spetta alla parte indicata dalla fonte. Le azioni non costituiscono necessariamente una sequenza ordinata di fasi. Il Regolamento UE sull'IA non è rappresentato in questo flusso.
Fast emulators, fragile extrapolation.
Il machine learning accelera l' analisi del rischio: emulatori di modelli fisici costosi, classificazione di immagini, previsioni a partire da grandi insiemi di dati. Il suo punto debole è l'estrapolazione: un modello addestrato sul clima storico o sui mercati storici può fallire proprio nelle condizioni senza precedenti di cui si occupa il rischio sistemico .
- Test performance out of distribution, not only on held-out samples from the same period.
- Indicare la provenienza e la licenza dei dati di addestramento.
- Mantenere un controllo fisico o meccanicistico dove esiste.
- Applicazioni su Intelligenza artificiale e sistemi autonomi e Laboratori.
Piattaforme che applicano questo metodo.
- LaboratoriIstituzioneGCRI
- FoundryInstitutionGCRI
- Intelligenza artificiale e sistemi autonomiIstituzioneGCRI
- Futuro del lavoro e competenzeIstituzioneGCRI
- Innovation NexusInstitutionGRF
- Governance dell'IA e del digitaleIstituzioneGRF
- Integrità dell'informazione e fiducia pubblicaIstituzioneGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- IA e rischio dei modelli finanziariIstituzioneGRA
- Rischio di criminalità finanziaria e frodeIstituzioneGRA
Chi mantiene questa pagina.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
Gli organismi e i documenti alla luce dei quali si legge questa pagina. Stato ed edizioni cambiano; ogni link porta all'organismo emittente.
Domande e risposte.
Perché un'unica istituzione ospita tutte le pagine di metodo?
Come posso suggerire una correzione a una pagina di metodo?
Contribuisci con evidenze da questa pagina.
Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.
- E-mailPortale GW-GCRIInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RapportiGCRIVedi tutti i modi per contribuireI tipi di contributo, come viene revisionato ciascuno, il riconoscimento che ricevi, la licenza e ciò che non è mai accettato.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Porta un metodo, un set di dati o una domanda.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.