Skip to content

GCRI · Tecnologia

Inteligência artificial e aprendizado de máquina

A inteligência artificial e o aprendizado de máquina desenvolvem algoritmos que aprendem padrões a partir de dados para classificar, prever ou gerar resultados. São cada vez mais usados na detecção de ameaças, em previsões e no apoio à decisão, e são, eles próprios, uma fonte de risco. Inteligência Artificial e sistemas Autônomos é o guardião desta página para o Nexus Consortium.

02O método

What artificial intelligence and machine learning covers.

  1. 01

    Métodos centrais

    supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.

  2. 02

    Dados e instrumentos

    conjuntos de dados de treinamento rotulados; arquivos de sensores e imagens; corpora de texto; resultados de simulação; conjuntos de benchmarks.

  3. 03

    Validação

    Os modelos são avaliados com dados reservados que respeitam a estrutura espacial, temporal e de grupos. A robustez, a calibração e a equidade são testadas ao lado da exatidão.

  4. 04

    Limites

    O desempenho se degrada quando as condições de implantação diferem dos dados de treinamento. Os modelos podem codificar vieses e falhar sem aviso claro em eventos raros.

  5. 05

    Uso em decisões de risco

    O aprendizado de máquina pode ampliar a detecção e a previsão em sistemasinterconectados. Seus próprios modos de falha devem ser ponderados quando resultados automatizados embasam decisões de grande consequência.

03Prática de referência

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

ReferênciaO que estabelece
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)Reporting of prediction models, including machine-learning extensions
04Processo

Como decorre o processo.

Process explorer · Process

Inteligência artificial e aprendizado de máquina: gestão de riscos de IA (NIST)

9 steps5 stages1 gate

Processo

Inteligência artificial e aprendizado de máquina: gestão de riscos de IA (NIST)

O núcleo do AI RMF tem quatro funções, GOVERN, MAP, MEASURE e MANAGE, com GOVERN de caráter transversal; a ordem representada é uma leitura comum, não uma lista de verificação.

  1. 01 Governar

    1. 01GOVERN: políticas, papéis e responsabilizaçãoEtapa · Revisor independenteGOVERN é uma função transversal. Ela permeia toda a gestão de riscos de IA e viabiliza as demais funções.
  2. 02 Map

    1. 02MAP: contexto e uso pretendidoConjunto de dadosA função MAP estabelece o contexto para delimitar os riscos relacionados a um sistema de IA, incluindo finalidades pretendidas e impactos sobre as pessoas.
  3. 03 Medir

    1. 03MEDIR: avaliar as características de confiabilidadeModeloAI sistemas de IA são avaliados quanto a características de confiabilidade. Devem ser testados antes da implantação e regularmente em operação.
    2. 04MEASURE: acompanhar os riscos identificados ao longo do tempoModeloHá mecanismos para acompanhar ao longo do tempo os riscos de IA identificados, incluindo riscos imprevistos e emergentes.
  4. 04 Gerenciar

    1. 05GERIR: tratar os riscosPassoTratamento do risco abrangem a resposta a incidentes, a recuperação e a comunicação sobre eles. Os recursos são destinados a riscos mapeados e medidos.
    2. 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Decisão de implantaçãoDecisão · Revisor independenteA organização proprietária do sistema decide se o implanta e em que condições.
    4. 08Monitoramento pós-implantação e incidentesModeloPlanos de monitoramento pós-implantação são executados. Incidentes e erros são compartilhados com os atores de IA relevantes, inclusive as comunidades afetadas.
  5. 05 Registro

    1. 09Inventário de sistemas de IAConjunto de dadosGOVERN 1.6 pede mecanismos para inventariar sistemas de IA. O cartão de modelo é prática comum e não é mencionado na estrutura.

Esboço neutro de uma norma ou método externo publicado, conforme o órgão emissor. Não é um registro de operação. O Nexus não executa, certifica nem aprova nenhuma etapa mostrada. Uma etapa de controle ou decisão pertence à parte indicada pela fonte. As ações não constituem necessariamente um conjunto ordenado de etapas. A Lei de IA da UE não é representada neste fluxo.

05No trabalho sobre risco sistêmico

Fast emulators, fragile extrapolation.

O aprendizado de máquina acelera a análise de risco: emuladores de modelos físicos custosos, classificação de imagens, previsão a partir de grandes conjuntos de dados. Sua fraqueza é a extrapolação: um modelo treinado no clima histórico ou em mercados históricos pode falhar justamente nas condições sem precedentes de que trata o risco sistémico .

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Informe a proveniência e a licença dos dados de treinamento.
  • Keep a physical or mechanistic check where one exists.
  • Aplicações em IA e Sistemas Autônomos e Laboratórios.
07Gestão responsável

Quem mantém esta página.

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08Fontes

Where this page’s references lead.

Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.

09Perguntas

Perguntas e respostas.

Por que uma só instituição hospeda todas as páginas de métodos?
O GCRI hospeda o CTEM Commons para que cada método tenha uma descrição canônica. As plataformas remetem a ela em vez de repeti-la, o que mantém as definições consistentes.
Como posso sugerir uma correção a uma página de método?
Escrever para o formulário de preocupações de integridade com o trecho e o motivo.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.

GCRI
O Global Centre for Risk and Innovation

Traga um método, um conjunto de dados ou uma pergunta.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.