Skip to content

GCRI · Inteligência artificial e sistemas autônomos

Pesquisa e evidências

A pesquisa por trás de Inteligência artificial e sistemasautônomos: as perguntas que faz, os modelos e medições que usa, como a incerteza é declarada e como um resultado é avaliado e reproduzido antes de ser publicado.

01Espaço de trabalho

O espaço de trabalho de pesquisa e evidências.

Registo de evidências

IA e sistemas autônomos · Pesquisa e evidências · Interface de exemplo, não um registro

Registro atualizadoGCRI · Inteligência artificial e sistemas autônomos

Indicadores

unidade · cadência · etiqueta

Modelos no registrodo paíssemanalEstatísticas publicadasSP-9867
Avaliações aprovadas no lançamento of suitespor publicaçãoAVALIADOSP-0910
Abrir Incidentes de IAincidentsdiárioREPORTADOSP-2588
Ações de agentes que precisam de aprovaçãoações / diadiárioOBSERVADOSP-8895
Computação por execução de treinamentoGPU-hourspor execuçãoREPORTADOSP-6682

Passaporte de fonte

Fonte
Registo de modelos
Licença
aberto · atribuição
Guardião
Profissional de resposta a incidentes
Cobertura
83 % dos locais
Limites conhecidos
escasso nas terras altas

Cobertura por local

Registro de evidências.Interface ilustrativa; não são dados ao vivo.

Inteligência artificial e sistemas autônomos · Registro de evidências. Registro de evidências: nomes de exemplo e valores ilustrativos, não um registro.

02Perguntas

O que a pesquisa pergunta.

  1. 01

    Avaliação de modelos

    Validade, calibração e generalização.

  2. 02

    Sistemas agênticos

    Acesso a ferramentas, autoridade delegada e execução segura.

  3. 03

    Cibersegurança da IA

    Métodos adversariais e exposição dos modelos.

  4. 04

    A IA na ciência

    Descoberta e reprodutibilidade.

  5. 05

    IA e serviços públicos

    Responsabilização pública, acesso e direitos.

  6. 06

    Sistemas físicos autônomos

    Robôs, sensores e controlos.

03Questões em aberto

O que a pesquisa em IA ainda não consegue responder bem o suficiente para as decisões.

A pesquisa sobre os riscos da IA precisa acompanhar o ritmo das capacidades. A agenda se concentra na avaliação, nos agentes, nos usos em serviços públicos e na ciência, e nos efeitos sistêmicos que os testes de um único modelo deixam escapar.

  • Quais avaliações preveem falhas no mundo real, e não o desempenho em benchmarks? Veja avaliação de modelos.
  • Como os agentes que agem por meio de ferramentas devem ter seu escopo definido, ser monitorados e ser interrompidos? Veja sistemas agênticos.
  • Que evidências um serviço público deve exigir antes de usar IA em decisões sobre pessoas? Veja IA e serviços públicos.
  • Como os sistemas físicos autônomos falham em ambientes mistos de humanos e máquinas? Veja sistemas físicos autônomos.
  • Qual é a pegada de energia e de água da computação de IA, e onde ela se concentra? Veja computação e energia.
04Evidências

Cada resultado mantém sua etiqueta.

Os resultados são identificados como observados, estatísticas publicadas, estimados, modelados, previsão, cenário ou julgamento pericial. Os dados ausentes são mostrados como ausentes, nunca preenchidos silenciosamente.

Fontes

Registro de fontes e dados

De onde vêm os dados e em que termos

Publicações

Produtos revisados

Trabalho citável com sua situação editorial

05Fontes

Where this page’s references lead.

Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.

06Páginas

Páginas de Pesquisa e evidências.

07Perguntas e respostas

Perguntas e respostas.

Posso propor uma questão de pesquisa?
Sim. Escreva pelo formulário de contato com a pergunta, o contexto e quem usaria a resposta. Uma proposta recebe uma referência; ela não compromete a plataforma com o trabalho.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Relatórios is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRIInteligência artificial e sistemas autônomosTecnologia exponencialEvidências de Labs
Inteligência artificial e sistemas autônomos

Traga um método, um conjunto de dados ou uma pergunta.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.