Skip to content

GCRI · Campos de atuação em todo o consórcio

Inteligência artificial

AI risk management asks what a system can do, how it fails, who is affected and who is accountable. The lifecycle matters: capability can change after deployment, and harms can be diffuse.

02Três mandatos

O campo, visto de três formas.

03A questão sistêmica

From model failure to systemic effect.

Individual AI failures (biased outputs, hallucinated facts, unsafe actions by an agent) are well catalogued. Systemic effects arise when many actors use similar models trained on similar data, when AI is embedded in critical decisions such as credit or triage, or when capability shifts faster than oversight. Assessment has to cover the model, the system it sits in and the institution operating it.

CamadaRisco típicoAvaliação
ModeloRobustness, bias, capability for misuseEvaluations and red teaming
SistemaIntegration errors, over-reliance, data leakageImpact assessment, human oversight design
InstituiçãoUnclear accountability, missing incident responseAuditoria do sistema de gestão (ISO/IEC 42001)
EcossistemaHomogeneity, concentration, correlated failureAnálise de mercado e de dependências
04Quadros

Marcos e legislação de risco.

Quadro ou órgãoO que rege ou fornece
NIST AI RMF and its generative AI profileGovern, map, measure and manage functions
ISO/IEC 42001 e ISO/IEC 23894AI management systems and AI risk management guidance
Lei de IA da UEObrigações escalonadas por risco, aplicadas em etapas; verifique as datas vigentes de cada obrigação
OECD AI Principles and UNESCO Recommendation on the Ethics of AIIntergovernmental principles
05Acoplamentos

Onde o risco da IA incide.

The science sits on AI and Autonomous Systems; methods start from AI assurance.

RelatóriosContribuir

Contribua com evidências a partir desta página.

Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.

GCRI
O Global Centre for Risk and Innovation

Traga um método, um conjunto de dados ou uma pergunta.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.