GCRI · Tecnologia
Inteligência artificial e aprendizado de máquina
A inteligência artificial e o aprendizado de máquina desenvolvem algoritmos que aprendem padrões a partir de dados para classificar, prever ou gerar resultados. São cada vez mais usados na detecção de ameaças, em previsões e no apoio à decisão, e são, eles próprios, uma fonte de risco. Inteligência Artificial e sistemas Autônomos é o guardião desta página para o Nexus Consortium.
Inteligência artificial e aprendizado de máquina em seis partes.
- 01The methodWhat artificial intelligence and machine learning covers
- 02Prática de referênciaO aprendizado de máquina no trabalho com risco é regido por marcos de risco de IA e por normas de relatório
- 03In systemic risk workFast emulators, fragile extrapolation
- 04Aplicado emPlataformas que aplicam este método
- 05Gestão responsávelQuem mantém esta página
- 06SourcesWhere this page’s references lead
What artificial intelligence and machine learning covers.
- 01
Métodos centrais
supervised learning; deep neural networks; reinforcement learning; representation learning; probabilistic modelling; model interpretation.
- 02
Dados e instrumentos
conjuntos de dados de treinamento rotulados; arquivos de sensores e imagens; corpora de texto; resultados de simulação; conjuntos de benchmarks.
- 03
Validação
Os modelos são avaliados com dados reservados que respeitam a estrutura espacial, temporal e de grupos. A robustez, a calibração e a equidade são testadas ao lado da exatidão.
- 04
Limites
O desempenho se degrada quando as condições de implantação diferem dos dados de treinamento. Os modelos podem codificar vieses e falhar sem aviso claro em eventos raros.
- 05
Uso em decisões de risco
O aprendizado de máquina pode ampliar a detecção e a previsão em sistemasinterconectados. Seus próprios modos de falha devem ser ponderados quando resultados automatizados embasam decisões de grande consequência.
Machine learning in risk work is governed by AI risk frameworks and reporting standards.
| Referência | O que estabelece |
|---|---|
| NIST AI RMF | Risk management functions for AI systems |
| ISO/IEC 42001 | AI management systems |
| TRIPOD (EQUATOR) | Reporting of prediction models, including machine-learning extensions |
Como decorre o processo.
Process explorer · Process
Inteligência artificial e aprendizado de máquina: gestão de riscos de IA (NIST)
9 steps·5 stages·1 gate
Processo
Inteligência artificial e aprendizado de máquina: gestão de riscos de IA (NIST)
O núcleo do AI RMF tem quatro funções, GOVERN, MAP, MEASURE e MANAGE, com GOVERN de caráter transversal; a ordem representada é uma leitura comum, não uma lista de verificação.
01 Governar
- 01GOVERN: políticas, papéis e responsabilizaçãoEtapa · Revisor independenteGOVERN é uma função transversal. Ela permeia toda a gestão de riscos de IA e viabiliza as demais funções.
02 Map
- 02MAP: contexto e uso pretendidoConjunto de dadosA função MAP estabelece o contexto para delimitar os riscos relacionados a um sistema de IA, incluindo finalidades pretendidas e impactos sobre as pessoas.
03 Medir
- 03MEDIR: avaliar as características de confiabilidadeModeloAI sistemas de IA são avaliados quanto a características de confiabilidade. Devem ser testados antes da implantação e regularmente em operação.
- 04MEASURE: acompanhar os riscos identificados ao longo do tempoModeloHá mecanismos para acompanhar ao longo do tempo os riscos de IA identificados, incluindo riscos imprevistos e emergentes.
04 Gerenciar
- 05GERIR: tratar os riscosPassoTratamento do risco abrangem a resposta a incidentes, a recuperação e a comunicação sobre eles. Os recursos são destinados a riscos mapeados e medidos.
- 06Proceed or not (MANAGE 1.1)Gate · Independent reviewerA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
- 07Decisão de implantaçãoDecisão · Revisor independenteA organização proprietária do sistema decide se o implanta e em que condições.
- 08Monitoramento pós-implantação e incidentesModeloPlanos de monitoramento pós-implantação são executados. Incidentes e erros são compartilhados com os atores de IA relevantes, inclusive as comunidades afetadas.
05 Registro
- 09Inventário de sistemas de IAConjunto de dadosGOVERN 1.6 pede mecanismos para inventariar sistemas de IA. O cartão de modelo é prática comum e não é mencionado na estrutura.
Esboço neutro de uma norma ou método externo publicado, conforme o órgão emissor. Não é um registro de operação. O Nexus não executa, certifica nem aprova nenhuma etapa mostrada. Uma etapa de controle ou decisão pertence à parte indicada pela fonte. As ações não constituem necessariamente um conjunto ordenado de etapas. A Lei de IA da UE não é representada neste fluxo.
Fast emulators, fragile extrapolation.
O aprendizado de máquina acelera a análise de risco: emuladores de modelos físicos custosos, classificação de imagens, previsão a partir de grandes conjuntos de dados. Sua fraqueza é a extrapolação: um modelo treinado no clima histórico ou em mercados históricos pode falhar justamente nas condições sem precedentes de que trata o risco sistémico .
- Test performance out of distribution, not only on held-out samples from the same period.
- Informe a proveniência e a licença dos dados de treinamento.
- Keep a physical or mechanistic check where one exists.
- Aplicações em IA e Sistemas Autônomos e Laboratórios.
Plataformas que aplicam este método.
- LaboratóriosInstituiçãoGCRI
- FoundryInstitutionGCRI
- Inteligência artificial e sistemas autônomosInstituiçãoGCRI
- Futuro do trabalho e competênciasInstituiçãoGCRI
- Innovation NexusInstitutionGRF
- Governança da IA e do digitalInstituiçãoGRF
- Integridade da informação e confiança públicaInstituiçãoGRF
- Insurance NexusInstitutionGRA
- Banking NexusInstitutionGRA
- Fintech NexusInstitutionGRA
- IA e Risco de Modelos FinanceirosInstituiçãoGRA
- Risco de Crimes Financeiros e FraudeInstituiçãoGRA
Quem mantém esta página.
Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.
Where this page’s references lead.
Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.
Perguntas e respostas.
Por que uma só instituição hospeda todas as páginas de métodos?
Como posso sugerir uma correção a uma página de método?
Contribua com evidências a partir desta página.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.