Skip to content

GCRI · Intelligenza artificiale e sistemi autonomi

Panoramica del campo

L'IA e i sistemi autonomi, come campo di rischio, studiano come modelli appresi, agenti software e robot si comportano nel mondo reale, come il loro comportamento può essere misurato e come i loro guasti si propagano nelle istituzioni, nelle infrastrutture e nelle vite che ne dipendono. Questa pagina definisce il campo, spiega perché è importante per la società, illustra cosa studiano gli esperti e mostra come si collega ad altri rischi.

Metodi STEM
7
Metodi canonici applicati da questo campo
Argomenti
8
Pagine tematiche sul campo
Controparti
3
Piattaforme in campi condivisi nella rete
Serie di rapporti
2
Serie di Reports a cui contribuisce
01Definizione

Dagli algoritmi ai sistemi in esercizio.

Apprendimento

Modelli e dati

Come dati di addestramento, obiettivi e architetture plasmano il comportamento, comprese le modalità di guasto.

Garanzia

Valutazione e supervisione

Come i sistemi vengono testati, monitorati e mantenuti sotto un controllo umano significativo.

Embodiment

Autonomia nel mondo

Come rilevamento, pianificazione e controllo interagiscono in robot e veicoli.

Il campo combina intelligenza artificiale e apprendimento automatico, i metodi con cui i sistemi apprendono dai dati, con la valutazione dell'IA e l'ingegneria della garanzia, la disciplina ingegneristica che li testa e ne garantisce l'affidabilità. Si estende alla robotica e automazione, in cui l'IA controlla macchine fisiche, e al calcolo ad alte prestazioni, cloud e edge, l'infrastruttura che addestra ed esegue i modelli.

Come campo di rischio è definito dalle conseguenze: cosa accade quando un modello generalizza male, quando un agente usa impropriamente uno strumento, quando un robot interpreta male il proprio ambiente o quando molti sistemi condividono lo stesso difetto. scienze sociali e comportamentali fa parte del campo perché gli effetti dell'IA dipendono da come le persone la usano, si fidano di essa e la contestano.

02Monitoraggio

Panoramica del campo.

La schermata che un gruppo utilizzerebbe per seguire questo tema: misure, stati e decisioni. I nomi sono esempi e i valori sono illustrativi.

Field overview: the screen’s structure, terms and states for AI and autonomous systems.Nomi di esempio e valori illustrativi; un progetto, non un registro né un sistema attivo.
03Perché è importante

L'IA sta diventando infrastruttura.

  • L'IA sta passando da strumenti consultivi a sistemi che agiscono, attraverso agenti software e autonomia fisica.
  • Public services increasingly use automated systems in decisions about people’s rights and access.
  • Un numero ristretto di fornitori di modelli, piattaforme cloud e catene di approvvigionamento di chip sostiene molte applicazioni.
  • La scienza della valutazione è in ritardo rispetto alle capacità, per cui le affermazioni su sicurezza e prestazioni sono spesso difficili da verificare.
04Cosa studiano gli esperti

Le domande centrali.

  1. 01

    Misurazione

    Le valutazioni misurano ciò che dichiarano e i risultati sono generalizzabili? Vedi Valutazione dei modelli.

  2. 02

    Azione

    Come dovrebbe essere delegata l'autorità ai sistemi che agiscono? Vedi Sistemi agentici e Sistemi fisici autonomi.

  3. 03

    Sicurezza

    Come possono essere attaccati i modelli e come può l'IA cambiare l'offesa e la difesa informatiche? Vedi IA e sicurezza informatica.

  4. 04

    Utilizzare

    In che modo l'IA cambia la scienza e i servizi pubblici? Vedi L'IA nella scienza e IA e servizi pubblici.

  5. 05

    Fondamenti ed effetti

    Da cosa dipende l'IA e chi ne subisce gli effetti? Vedi Calcolo ed energia e Effetti sul lavoro e sociali.

05Collegamenti

Come l'IA tocca altri rischi.

L'IA si collega a cibersicurezza, energia, mercati del lavoro, finanza e fiducia pubblica. Dipendenze e conseguenze illustra questi collegamenti. La governance è trattata attraverso Governance dell'IA e del digitale presso The Global Risks Forum (GRF), e il rischio di modello del settore finanziario è studiato attraverso AI and Financial Model Risk presso The Global Risks Alliance (GRA).

06Pagine

Pagine in Panoramica del campo.

07Domande

Domande e risposte.

Questo campo è la stessa cosa dell'etica dell'IA?
Vi si sovrappone, ma si concentra su comportamenti e guasti misurabili: validità, robustezza, sicurezza, affidabilità ed effetti, studiati con metodi scientifici.
Su quali metodi si basa il campo?
Apprendimento automatico, ingegneria della garanzia dell'IA, calcolo, probabilità e statistica, cibersicurezza, scienze sociali e robotica. Ciascuno è descritto in pagina dei fondamenti STEM.
Il campo comprende l'IA militare?
The platform’s scope is civilian systems and their public effects. It does not work on weapons development.
RapportiContribuisci

Contribuisci con evidenze da questa pagina.

Rapporti is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRIIntelligenza artificiale e sistemi autonomiTecnologia esponenzialeEvidenze di Labs
Intelligenza artificiale e sistemi autonomi

Porta un metodo, un set di dati o una domanda.

Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.