Skip to content

GCRI · Reports

Avaliação de riscos de tecnologias de fronteira

Os relatórios sobre tecnologias de fronteira abrangem campos que mudam mais rápido do que o ciclo de publicação: inteligência artificial, biologia sintética, computação quântica, materiais avançados e sistemasespaciais. As evidências chegam como preprints, benchmarks, patentes e anúncios de empresas, e muitas vezes são superadas em poucos meses. Esta página descreve como as evidências de evolução rápida são avaliadas, versionadas e revisadas, como as alegações são separadas da capacidade demonstrada e como os riscos informacionais são tratados antes da publicação.

01Registrar

Frontier technology risk assessment on the record.

02A pergunta

Avaliação de risco de tecnologias de fronteira: como o risco se desenvolve.

Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mecanismo

Evidence ages quickly

A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.

Mecanismo

Preprints e comunicados

Grande parte das evidências de fronteira não é revisada: preprints, blogs técnicos e alegações de fornecedores. Repetir essas alegações sem rotulá-las transforma promoção em aparente consenso.

Mecanismo

Fragilidade dos benchmarks

Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.

Mecanismo

Information hazards

Alguns detalhes técnicos poderiam possibilitar danos se fossem publicados. A revisão de duplo uso antes da publicação pondera o valor da divulgação contra o risco de uso indevido e registra o que foi retido e por quê, sem expô-lo.

03Monitoramento

Mesa de produção da série.

A tela que uma equipe usaria para acompanhar esta matéria: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.

Mesa de produção de séries

Avaliação de risco de tecnologias de fronteira · Síntese anual · Edição 3

Data check behind planGCRI · Reports

Edições em produção

Síntese anualGlobalVerificação de dados83W18
Perfil de país 7PaísRevisão por pares98W38
Perspectiva hídricaSetorialEm redação46W13
Nota metodológica 4MétodosLançado100concluído

Verificação de dados, síntese anual

Valores rastreados, %83 of 100 requiredRótulos atribuídos, %90 de 100 exigidosIncerteza declarada, %86 de 100 exigidos

Fluxo de trabalho da edição

  1. Esboçoconselho
  2. Rascunhoautores
  3. Verificação de dadoscada valor
  4. Revisão por paresduas rodadas
  5. Editorialdecision
  6. VersãoDOI
  7. Correçõesversionado
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
04Nos cinco domínios

As edições de tecnologia rastreiam os efeitos em cada domínio.

Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.

  • Atualizações de status com fontes.
  • Corrections to claims.
05Métodos e evidência

How frontier technology risk assessment is modelled, measured and tested.

O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.

Modelo, equações e pressupostos

The model structure used for frontier technology risk assessment, the assumptions it makes and how each is tested.

Risco do elemento iRi = f(Hi, Ei, Vi, Ci)ameaça, exposição, vulnerabilidade e capacidade de enfrentamento
Perda anual esperadaEAL = ∑k pk · Lkover events k with annual probability pk
Sistemas acopladosxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
PressupostoPorque é feitoComo é testado
A ameaça e a exposição são independentes dentro de um eventoMantém tratável o integral de perdasComparar com um ajuste de cópula sobre registros conjuntos
Os acoplamentos são lineares perto do ponto de funcionamentoPermite que os choques se propaguem através de APerturbar para além do intervalo linear e comparar
As curvas de vulnerabilidade transferem-se entre lugaresAs curvas locais raramente estão disponíveisValidar face às perdas observadas quando existam
Entradas
conjuntos de dados versionados com proveniência
Resultados
distribuições, nunca números isolados
Código
publicado com a ficha de modelo e os testes
Reprodução
mesmos dados, código, ambiente e semente
Formulações padrão de risco e de espaço de estados; os pressupostos listados são típicos do método, indicados para revisão, não resultados.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indicadores

O que é medido e com que qualidade.

Cada indicador leva sua unidade, sua periodicidade, o tipo de fonte por trás dele e a etiqueta de evidência que um valor levaria. Nenhum valor é mostrado: um programa os fornece sob sua própria autoridade.

IndicadorUnidadeCadênciaTipo de fonteRótulo
Parcela de preprints nas evidências citadasporcentagem das referênciaspor versãoMetadados de referênciaOBSERVADO
Idade mediana das evidências citadas na publicaçãomesespor versãoMetadados de referênciaOBSERVADO
Intervalo entre versões do relatóriomesespor versãoHistórico de versõesEstatísticas publicadas
Afirmações classificadas por status de demonstraçãopercentual de declarações de capacidadepor versãoAuditoria editorialREPORTADO
Preprints citados posteriormente publicados após revisãopercentual de preprints citadostrimestralPreprint to publication linksOBSERVADO
Dual-use review completedsim ou não, com a função do revisorpor versãoRegistro de revisãoDECLARADO
07Fontes

De onde vêm as evidências.

Conjuntos de dados públicos nomeados e registros institucionais, cada um com sua classe de licença. As fontes obtidas por acordo só são usadas nos seus termos e nunca são republicadas.

FonteO que ofereceClasse de licença
arXivPreprints em ciência da computação, física, biologia quantitativa e áreas afinsMetadados CC0, licença por artigo
bioRxiv and medRxivPreprints in the life and health sciences with links to later publicationsLicença por preprint
OpenAlexPublication, citation and preprint-to-article linksCC0
WIPO PATENTSCOPEInternational and national patent applications for technology trackingPesquisa gratuita, termos conforme a OMPI
A LenteLinked scholarly and patent recordsUso gratuito, com termos por Lens
Observatório de Políticas OECD.AINational AI policies, initiatives and indicatorsUso gratuito, termos conforme a OCDE
08Decisões

Quem decide, e a que servem as evidências.

Reports prepara evidências. As decisões abaixo são tomadas pelas autoridades indicadas, segundo suas próprias regras, e nunca pela plataforma.

Quem decideA perguntaEvidências a que esta página serve
Ministérios de ciência, tecnologia e inovaçãoQuais tecnologias exigem atenção de governança, investimento ou monitoramento agoraClaim registers by demonstration status, with dated evidence windows
Standards bodies and technical committeesOnde são necessárias normas para testes, segurança ou interoperabilidadeLacunas documentadas entre a capacidade declarada e a demonstrada
Research funders and security review panelsSe as áreas de pesquisa envolvem preocupações de uso dual que exigem supervisãoDual-use review records and the categories of hazard identified
Editores de periódicos e de sériesWhen a report must be updated or marked as supersededEvidence age, preprint status changes and version intervals

Produtos que este tema gera

  • Relatórios tecnológicos versionados com janelas de evidências datadas
  • Claim registers separating demonstrated, reported and projected capability
  • Atualizações contínuas que mostram o que mudou entre versões
  • Registros de revisão de duplo uso que indicam o fundamento de qualquer detalhe omitido
09Questões centrais

O que a série pergunta.

Tecnologias de evolução rápida superam as evidências e as instituições que as regem. As afirmações sobre suas capacidades e riscos vão do cuidadoso ao amplamente especulativo. Os leitores precisam de análises que separem a capacidade demonstrada da projeção, expliquem os mecanismos pelos quais uma tecnologia poderia criar ou reduzir riscos e indiquem com que rapidez as conclusões podem envelhecer.

  • O que a tecnologia comprovadamente consegue fazer hoje, em que condições, e o que ainda é projeção?
  • Por quais mecanismos ela poderia criar novos riscos, como uso indevido, falha, concentração ou perda de controle?
  • How could it reduce existing risks, and what would need to be true for that benefit to materialise?
  • Quais medidas de governança, segurança e proteção estão sendo desenvolvidas, e que evidências existem sobre seu efeito?
10Escopo

O que a série abrange.

A série examina a tecnologia sob a ótica da capacidade, do risco e da governança.

Capacidade

Demonstrado versus alegado

As evidências de desempenho são rotuladas por fonte; as alegações de fornecedores são rotuladas como Informado pela instituição.

Risco

Mecanismos de dano

Acidentes, uso indevido, dependência sistêmica e efeitos sobre a segurança, analisados com as plataformas especializadas pertinentes.

Governança

Responses

Normas, práticas de segurança e opções de política, descritas sem endossar nenhum produto.

Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.

11Como as edições são construídas

Como as edições são construídas e seus limites.

  1. 01

    Technical literature

    Peer-reviewed and preprint research, with preprints labelled as such.

  2. 02

    Benchmarks and tests

    Referências e testes publicados, com seus limites; os resultados do Laboratórios aparecem apenas a partir de protocolos concluídos.

  3. 03

    Elicitação de especialistas

    Julgamento estruturado sobre prazos e impactos, identificado como Julgamento de especialistas, com o respectivo painel descrito.

  4. 04

    Shelf life

    Each edition states when its findings should be reviewed, because technical facts change quickly.

12Métodos

Como é estudado e o que os métodos não podem dizer.

  1. Quantificação da incerteza e validação de modelosLinguagem calibrada nas avaliações · Classificações da certeza das evidênciasAplicado aqui
  2. Engenharia, interoperabilidade e gestão responsável de dadosPublicação estruturada em JATS XML · Identificadores persistentes em todo o registroAplicado aqui
  3. Probabilidade e estatísticaMetanálise com heterogeneidade declarada · Viés de estudos pequenos e de publicaçãoAplicado aqui
13Where this page’s references

Where this page’s references lead.

Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.

14Perguntas

Perguntas e respostas.

Por que preprints são citados se não foram revisados?
Because in fast-moving fields the evidence appears there first. They are labelled as preprints, and the report records when a cited preprint is later published, revised or withdrawn.
O que é um relatório vivo?
Um relatório atualizado em versões conforme as evidências mudam, com cada versão datada, identificada e arquivada, e um registro de alterações que mostra o que foi acrescentado, revisado ou removido.
What does dual-use review decide?
Se determinado detalhe técnico deve ser generalizado ou retido por poder viabilizar danos graves. A decisão e sua fundamentação são registradas; o detalhe perigoso não é.
Does the series endorse technologies or vendors?
Não. Descreve evidências sobre capacidades e riscos e nunca endossa produtos, fornecedores ou investimentos.
Como a série lida com o exagero publicitário?
Rotulando as afirmações por tipo de fonte, separando a capacidade demonstrada da projeção e declarando a incerteza.
Are dual-use risks discussed openly?
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
How quickly are editions updated?
Each edition states a review point. Material changes in evidence lead to a new version rather than silent edits.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.

GCRIRelatóriosRisco e resiliência de sistemas globaisRisco e Resiliência dos Sistemas NacionaisTrimestral do país
Relatórios

Traga um método, um conjunto de dados ou uma pergunta.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.