Skip to content

GCRI · Tecnologia

Intelligenza artificiale e apprendimento automatico

L'intelligenza artificiale e l'apprendimento automatico sviluppano algoritmi che apprendono schemi dai dati per classificare, prevedere o generare risultati. Sono sempre più usati per il rilevamento dei pericoli, le previsioni e il supporto alle decisioni, e sono essi stessi una fonte di rischio. Artificial Intelligence and Autonomous sistemi è il custode di questa pagina per il Nexus Consortium.

02Il metodo

What artificial intelligence and machine learning covers.

  1. 01

    Metodi fondamentali

    apprendimento supervisionato; reti neurali profonde; apprendimento per rinforzo; apprendimento di rappresentazioni; modellazione probabilistica; interpretazione dei modelli.

  2. 02

    Dati e strumenti

    dataset di addestramento etichettati; archivi di sensori e immagini; corpora di testi; output di simulazioni; suite di benchmark.

  3. 03

    Validazione

    I modelli sono valutati su dati esclusi dalla stima che rispettano la struttura spaziale, temporale e di gruppo. Robustezza, calibrazione ed equità sono testate insieme all'accuratezza.

  4. 04

    Limiti

    Le prestazioni peggiorano quando le condizioni di impiego differiscono dai dati di addestramento. I modelli possono incorporare distorsioni e fallire senza un chiaro preavviso sugli eventi rari.

  5. 05

    Uso nelle decisioni sui rischi

    Il machine learning può estendere il rilevamento e la previsione a sistemiinterconnessi. Le sue modalità di guasto devono essere valutate quando i risultati automatizzati orientano decisioni di rilievo.

03Prassi di riferimento

L'apprendimento automatico nel lavoro sul rischio è disciplinato da quadri di rischio dell'IA e da standard di rendicontazione.

RiferimentoChe cosa stabilisce
NIST AI RMFFunzioni di gestione del rischio per i sistemi
ISO/IEC 42001Sistemi di gestione dell'IA
TRIPOD (EQUATOR)Reporting of prediction models, including machine-learning extensions
04Processo

Come si svolge il processo.

Process explorer · Process

Intelligenza artificiale e apprendimento automatico: gestione del rischio dell'IA (NIST)

9 steps5 stages1 gate

Processo

Intelligenza artificiale e apprendimento automatico: gestione del rischio dell'IA (NIST)

Il nucleo dell'AI RMF comprende quattro funzioni, GOVERN, MAP, MEASURE e MANAGE, con GOVERN trasversale; l'ordine illustrato è una lettura comune, non una lista di controllo.

  1. 01 Governare

    1. 01GOVERNARE: politiche, ruoli e responsabilitàFase · Revisore indipendenteGOVERN è una funzione trasversale. Permea l'intera gestione del rischio dell'IA e abilita le altre funzioni.
  2. 02 Map

    1. 02MAP: context and intended useDatasetThe MAP function establishes the context to frame risks related to an AI system, including intended purposes and impacts on people.
  3. 03 Misurare

    1. 03MISURARE: valutare le caratteristiche di affidabilitàModelloAI sistemi di IA sono valutati rispetto alle caratteristiche di affidabilità. Dovrebbero essere testati prima della messa in opera e regolarmente durante l'esercizio.
    2. 04MISURARE: monitorare nel tempo i rischi identificatiModelloSono in atto meccanismi per il monitoraggio nel tempo dei rischi di IA individuati, inclusi quelli imprevisti ed emergenti.
  4. 04 Gestione

    1. 05GESTIRE: trattare i rischiPassaggioTrattamento del rischio comprendono la risposta agli incidenti, il ripristino e la comunicazione. Le risorse sono destinate ai rischi mappati e misurati.
    2. 06Procedere o meno (MANAGE 1.1)Gate · Revisore indipendenteSi stabilisce se il sistema soddisfa i propri scopi e obiettivi e se procedere. Il quadro non fissa soglie.
    3. 07Decisione di implementazioneDecisione · Revisore indipendenteL'organizzazione proprietaria del sistema decide se e a quali condizioni procedere all'impiego.
    4. 08Monitoraggio post-implementazione e incidentiModelloI piani di monitoraggio post-implementazione sono attuati. Incidenti ed errori sono condivisi con gli attori dell'IA pertinenti, comprese le comunità interessate.
  5. 05 Registro

    1. 09Inventory of AI systemsDatasetGOVERN 1.6 asks for mechanisms to inventory AI systems. A model card is common practice and is not named in the framework.

Sintesi neutrale di uno standard o di un metodo esterno pubblicato, riportata dall'ente che lo ha emesso. Non costituisce una registrazione operativa. Nexus non esegue, certifica né approva alcuna fase illustrata. Un gate o una decisione spetta alla parte indicata dalla fonte. Le azioni non costituiscono necessariamente una sequenza ordinata di fasi. Il Regolamento UE sull'IA non è rappresentato in questo flusso.

05Nel lavoro sul rischio sistemico

Fast emulators, fragile extrapolation.

Il machine learning accelera l' analisi del rischio: emulatori di modelli fisici costosi, classificazione di immagini, previsioni a partire da grandi insiemi di dati. Il suo punto debole è l'estrapolazione: un modello addestrato sul clima storico o sui mercati storici può fallire proprio nelle condizioni senza precedenti di cui si occupa il rischio sistemico .

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Indicare la provenienza e la licenza dei dati di addestramento.
  • Mantenere un controllo fisico o meccanicistico dove esiste.
  • Applicazioni su Intelligenza artificiale e sistemi autonomi e Laboratori.
07Custodia

Chi mantiene questa pagina.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08Fonti

Where this page’s references lead.

Gli organismi e i documenti alla luce dei quali si legge questa pagina. Stato ed edizioni cambiano; ogni link porta all'organismo emittente.

09Domande

Domande e risposte.

Perché un'unica istituzione ospita tutte le pagine di metodo?
Il GCRI ospita lo STEM Commons affinché ogni metodo abbia una sola descrizione canonica. Le piattaforme rimandano a essa anziché ripeterla, il che mantiene coerenti le definizioni.
Come posso suggerire una correzione a una pagina di metodo?
Scrivere a il modulo per le segnalazioni di integrità indicando il passaggio e il motivo.
RapportiContribuisci

Contribuisci con evidenze da questa pagina.

Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.

GCRI
Il Global Centre for Risk and Innovation

Porta un metodo, un set di dati o una domanda.

Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.