GCRI · Intelligenza artificiale e sistemi autonomi
Panoramica del campo
L'IA e i sistemi autonomi, come campo di rischio, studiano come modelli appresi, agenti software e robot si comportano nel mondo reale, come il loro comportamento può essere misurato e come i loro guasti si propagano nelle istituzioni, nelle infrastrutture e nelle vite che ne dipendono. Questa pagina definisce il campo, spiega perché è importante per la società, illustra cosa studiano gli esperti e mostra come si collega ad altri rischi.
- Metodi STEM
- 7
- Metodi canonici applicati da questo campo
- Argomenti
- 8
- Pagine tematiche sul campo
- Controparti
- 3
- Piattaforme in campi condivisi nella rete
- Serie di rapporti
- 2
- Serie di Reports a cui contribuisce
Dagli algoritmi ai sistemi in esercizio.
Modelli e dati
Come dati di addestramento, obiettivi e architetture plasmano il comportamento, comprese le modalità di guasto.
Valutazione e supervisione
Come i sistemi vengono testati, monitorati e mantenuti sotto un controllo umano significativo.
Autonomia nel mondo
Come rilevamento, pianificazione e controllo interagiscono in robot e veicoli.
Il campo combina intelligenza artificiale e apprendimento automatico, i metodi con cui i sistemi apprendono dai dati, con la valutazione dell'IA e l'ingegneria della garanzia, la disciplina ingegneristica che li testa e ne garantisce l'affidabilità. Si estende alla robotica e automazione, in cui l'IA controlla macchine fisiche, e al calcolo ad alte prestazioni, cloud e edge, l'infrastruttura che addestra ed esegue i modelli.
Come campo di rischio è definito dalle conseguenze: cosa accade quando un modello generalizza male, quando un agente usa impropriamente uno strumento, quando un robot interpreta male il proprio ambiente o quando molti sistemi condividono lo stesso difetto. scienze sociali e comportamentali fa parte del campo perché gli effetti dell'IA dipendono da come le persone la usano, si fidano di essa e la contestano.
Panoramica del campo.
La schermata che un gruppo utilizzerebbe per seguire questo tema: misure, stati e decisioni. I nomi sono esempi e i valori sono illustrativi.
L'IA sta diventando infrastruttura.
- L'IA sta passando da strumenti consultivi a sistemi che agiscono, attraverso agenti software e autonomia fisica.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- Un numero ristretto di fornitori di modelli, piattaforme cloud e catene di approvvigionamento di chip sostiene molte applicazioni.
- La scienza della valutazione è in ritardo rispetto alle capacità, per cui le affermazioni su sicurezza e prestazioni sono spesso difficili da verificare.
Le domande centrali.
- 01
Misurazione
Le valutazioni misurano ciò che dichiarano e i risultati sono generalizzabili? Vedi Valutazione dei modelli.
- 02
Azione
Come dovrebbe essere delegata l'autorità ai sistemi che agiscono? Vedi Sistemi agentici e Sistemi fisici autonomi.
- 03
Sicurezza
Come possono essere attaccati i modelli e come può l'IA cambiare l'offesa e la difesa informatiche? Vedi IA e sicurezza informatica.
- 04
Utilizzare
In che modo l'IA cambia la scienza e i servizi pubblici? Vedi L'IA nella scienza e IA e servizi pubblici.
- 05
Fondamenti ed effetti
Da cosa dipende l'IA e chi ne subisce gli effetti? Vedi Calcolo ed energia e Effetti sul lavoro e sociali.
Come l'IA tocca altri rischi.
L'IA si collega a cibersicurezza, energia, mercati del lavoro, finanza e fiducia pubblica. Dipendenze e conseguenze illustra questi collegamenti. La governance è trattata attraverso Governance dell'IA e del digitale presso The Global Risks Forum (GRF), e il rischio di modello del settore finanziario è studiato attraverso AI and Financial Model Risk presso The Global Risks Alliance (GRA).
Pagine in Panoramica del campo.
Domande e risposte.
Questo campo è la stessa cosa dell'etica dell'IA?
Su quali metodi si basa il campo?
Il campo comprende l'IA militare?
Contribuisci con evidenze da questa pagina.
Rapporti is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPortale GW-GCRIInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoDeposito apertoDepositalo e invialo alla comunitàPubblica il tuo registro su Zenodo con il tuo ORCID iD, poi invialo alla comunità Reports. I curatori lo esaminano; il DOI resta tuo.
- RapportiGCRIVedi tutti i modi per contribuireI tipi di contributo, come viene revisionato ciascuno, il riconoscimento che ricevi, la licenza e ciò che non è mai accettato.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Porta un metodo, un set di dati o una domanda.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.