Assurance cases for AI systems
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
GCRI · Inteligência artificial e sistemas autônomos
A avaliação de IA e a engenharia de garantia são o segundo método de que esta plataforma é guardiã. Fornecem as evidências de que um sistema de IA é adequado a um uso declarado: avaliações, red teaming, documentação, monitoramento e os argumentos estruturados que os conectam.
A engenharia de avaliação e garantia de IA desenvolve métodos para testar, monitorar e fornecer confiança justificada em sistemasde IA. Abrange desempenho, robustez, segurança e impacto social ao longo do ciclo de vida do sistema. Em inteligência artificial e dados e computação, a garantia de IA determina se sistemas automatizados são confiáveis em contextos de alta consequência. Ajuda a gerir riscos quando a IA está incorporada em finanças, saúde e infraestrutura. A descrição canônica está no o STEM Commons.
Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.
Os testes adversariais são planejados com base em modelos de ameaça, com testadores, escopo, tempo e achados documentados, para que a cobertura possa ser avaliada.
Incidentes, reclamações e métricas de desempenho são acompanhados após a liberação, e os gatilhos para revisão ou reversão são definidos com antecedência.
A tela que uma equipe usaria para acompanhar este método: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.
IA e sistemas autônomos · Avaliação e garantia de IA · Execução R-0951
| Capacidade | 585 | 89 | Versão | Aprovado |
| Robustez | 133 | 72 | Versão | Aprovado |
| Bias and fairness | 169 | 81 | Versão | Aprovado |
| Misuse red team | 142 | 79 | Implantar | Constatações abertas |
Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.
| Dados | Função | Rótulo |
|---|---|---|
| Resultados das avaliações | Evidence for claims | OBSERVADO |
| Relatórios de red team | Descoberta de falhas | REPORTADO |
| Registros de incidentes | Field evidence | REPORTADO |
| Documentação do sistema | Escopo e premissas | DECLARADO |
O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.
The model structure used for AI evaluation and assurance, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)ameaça, exposição, vulnerabilidade e capacidade de enfrentamentoEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Pressuposto | Porque é feito | Como é testado |
|---|---|---|
| A ameaça e a exposição são independentes dentro de um evento | Mantém tratável o integral de perdas | Comparar com um ajuste de cópula sobre registros conjuntos |
| Os acoplamentos são lineares perto do ponto de funcionamento | Permite que os choques se propaguem através de A | Perturbar para além do intervalo linear e comparar |
| As curvas de vulnerabilidade transferem-se entre lugares | As curvas locais raramente estão disponíveis | Validar face às perdas observadas quando existam |
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
| Verificar | Como é feito |
|---|---|
| Revisão independente | Os casos de garantia são revisados por pessoas não envolvidas no desenvolvimento |
| Evidence currency | As evidências são reverificadas após mudanças no modelo ou na implantação |
| Relatório de cobertura | As avaliações declaram o que não testaram |
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
Process explorer · Process
9 steps·5 stages·1 gate
Processo
O núcleo do AI RMF tem quatro funções, GOVERN, MAP, MEASURE e MANAGE, com GOVERN de caráter transversal; a ordem representada é uma leitura comum, não uma lista de verificação.
Esboço neutro de uma norma ou método externo publicado, conforme o órgão emissor. Não é um registro de operação. O Nexus não executa, certifica nem aprova nenhuma etapa mostrada. Uma etapa de controle ou decisão pertence à parte indicada pela fonte. As ações não constituem necessariamente um conjunto ordenado de etapas. A Lei de IA da UE não é representada neste fluxo.
Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.
Este site usa apenas cookies estritamente necessários para funcionar e para lembrar as suas escolhas de privacidade. Nada é carregado de outras empresas, e nunca vendemos nem compartilhamos as suas informações pessoais.
Este site usa apenas cookies estritamente necessários para funcionar e para lembrar as suas escolhas de privacidade. Nada é carregado de outras empresas, e nunca vendemos nem compartilhamos as suas informações pessoais. Não veiculamos publicidade. Você pode rever as suas escolhas a qualquer momento em Escolhas de privacidade, no rodapé de cada página.