GCRI · Campos de atuação em todo o consórcio
Inteligência artificial
AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.
Inteligência artificial em seis partes.
O campo, visto de três formas.
Ciência e evidências
Inteligência artificial e sistemas autônomos, Futuro do trabalho e competências.
From model failure to systemic effect.
Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.
| Camada | Risco típico | Avaliação |
|---|---|---|
| Modelo | Robustness, bias, capability for misuse | Evaluations and red teaming |
| Sistema | Integration errors, over-reliance, data leakage | Impact assessment, human oversight design |
| Instituição | Unclear accountability, missing incident response | Auditoria do sistema de gestão (ISO/IEC 42001) |
| Ecossistema | Homogeneity, concentration, correlated failure | Análise de mercado e de dependências |
Marcos e legislação de risco.
| Quadro ou órgão | O que rege ou fornece |
|---|---|
| NIST AI RMF and its generative AI profile | Govern, map, measure and manage functions |
| ISO/IEC 42001 e ISO/IEC 23894 | AI management systems and AI risk management guidance |
| Lei de IA da UE | Obrigações escalonadas por risco, aplicadas em etapas; verifique as datas vigentes de cada obrigação |
| OECD AI Principles and UNESCO Recommendation on the Ethics of AI | Intergovernmental principles |
Onde o risco da IA incide.
- Compute: capability concentration and energy demand.
- Trabalho: exposição das tarefas e transição.
- Information integrity: synthetic content and trust.
- Estabilidade financeira: risco de modelo e comportamento de manada.
The science sits on AI and Autonomous Systems; methods start from AI assurance.
Os métodos por trás do campo.
- Inteligência artificial e aprendizado de máquina
- Engenharia de avaliação e garantia de IA
- Computação de alto desempenho, em nuvem e de borda
- Probabilidade e estatística
- Cibersegurança e criptografia
- Ciências sociais e comportamentais
- Robótica e automação
- Economia e economia do desenvolvimento
- Econometria
- Ciência das políticas, das instituições e da decisão
- Engenharia de sistemas
- Identidade digital e sistemas digitais públicos
- Quantificação da incerteza e validação de modelos
Where this page’s references lead.
Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.
- NIST AI Risk Management Framework
- ISO/IEC 42001:2023 Sistema de gestão de inteligência artificial (ISO)
- Lei de Inteligência Artificial da UE, cronograma de aplicação (Comissão Europeia)
- Princípios da OECD sobre a IA
- Recomendação da UNESCO sobre a ética da inteligência artificial
- Relatório internacional sobre segurança da IA
Perguntas e respostas.
Por que o GCRI hospeda gateways de campo?
Contribua com evidências a partir desta página.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.