GCRI · Reports
Avaliação de riscos de tecnologias de fronteira
Os relatórios sobre tecnologias de fronteira abrangem campos que mudam mais rápido do que o ciclo de publicação: inteligência artificial, biologia sintética, computação quântica, materiais avançados e sistemasespaciais. As evidências chegam como preprints, benchmarks, patentes e anúncios de empresas, e muitas vezes são superadas em poucos meses. Esta página descreve como as evidências de evolução rápida são avaliadas, versionadas e revisadas, como as alegações são separadas da capacidade demonstrada e como os riscos informacionais são tratados antes da publicação.
Frontier technology risk assessment on the record.
Avaliação de risco de tecnologias de fronteira: como o risco se desenvolve.
Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Evidence ages quickly
A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.
Preprints e comunicados
Grande parte das evidências de fronteira não é revisada: preprints, blogs técnicos e alegações de fornecedores. Repetir essas alegações sem rotulá-las transforma promoção em aparente consenso.
Fragilidade dos benchmarks
Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.
Information hazards
Alguns detalhes técnicos poderiam possibilitar danos se fossem publicados. A revisão de duplo uso antes da publicação pondera o valor da divulgação contra o risco de uso indevido e registra o que foi retido e por quê, sem expô-lo.
Mesa de produção da série.
A tela que uma equipe usaria para acompanhar esta matéria: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.
Mesa de produção de séries
Avaliação de risco de tecnologias de fronteira · Síntese anual · Edição 3
Edições em produção
| Síntese anual | Global | Verificação de dados | 83 | W18 |
| Perfil de país 7 | País | Revisão por pares | 98 | W38 |
| Perspectiva hídrica | Setorial | Em redação | 46 | W13 |
| Nota metodológica 4 | Métodos | Lançado | 100 | concluído |
Verificação de dados, síntese anual
Fluxo de trabalho da edição
- Esboçoconselho
- Rascunhoautores
- Verificação de dadoscada valor
- Revisão por paresduas rodadas
- Editorialdecision
- VersãoDOI
- Correçõesversionado
As edições de tecnologia rastreiam os efeitos em cada domínio.
Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.
- Atualizações de status com fontes.
- Corrections to claims.
How frontier technology risk assessment is modelled, measured and tested.
O modelo, os seus pressupostos, os seus dados e a sua incerteza, na forma que um cientista ou engenheiro verificaria. As estruturas seguem métodos publicados. Os valores representados são ilustrativos, não conclusões.
Modelo, equações e pressupostos
The model structure used for frontier technology risk assessment, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)ameaça, exposição, vulnerabilidade e capacidade de enfrentamentoEAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| Pressuposto | Porque é feito | Como é testado |
|---|---|---|
| A ameaça e a exposição são independentes dentro de um evento | Mantém tratável o integral de perdas | Comparar com um ajuste de cópula sobre registros conjuntos |
| Os acoplamentos são lineares perto do ponto de funcionamento | Permite que os choques se propaguem através de A | Perturbar para além do intervalo linear e comparar |
| As curvas de vulnerabilidade transferem-se entre lugares | As curvas locais raramente estão disponíveis | Validar face às perdas observadas quando existam |
- Entradas
- conjuntos de dados versionados com proveniência
- Resultados
- distribuições, nunca números isolados
- Código
- publicado com a ficha de modelo e os testes
- Reprodução
- mesmos dados, código, ambiente e semente
O que é medido e com que qualidade.
Cada indicador leva sua unidade, sua periodicidade, o tipo de fonte por trás dele e a etiqueta de evidência que um valor levaria. Nenhum valor é mostrado: um programa os fornece sob sua própria autoridade.
| Indicador | Unidade | Cadência | Tipo de fonte | Rótulo |
|---|---|---|---|---|
| Parcela de preprints nas evidências citadas | porcentagem das referências | por versão | Metadados de referência | OBSERVADO |
| Idade mediana das evidências citadas na publicação | meses | por versão | Metadados de referência | OBSERVADO |
| Intervalo entre versões do relatório | meses | por versão | Histórico de versões | Estatísticas publicadas |
| Afirmações classificadas por status de demonstração | percentual de declarações de capacidade | por versão | Auditoria editorial | REPORTADO |
| Preprints citados posteriormente publicados após revisão | percentual de preprints citados | trimestral | Preprint to publication links | OBSERVADO |
| Dual-use review completed | sim ou não, com a função do revisor | por versão | Registro de revisão | DECLARADO |
De onde vêm as evidências.
Conjuntos de dados públicos nomeados e registros institucionais, cada um com sua classe de licença. As fontes obtidas por acordo só são usadas nos seus termos e nunca são republicadas.
| Fonte | O que oferece | Classe de licença |
|---|---|---|
| arXiv | Preprints em ciência da computação, física, biologia quantitativa e áreas afins | Metadados CC0, licença por artigo |
| bioRxiv and medRxiv | Preprints in the life and health sciences with links to later publications | Licença por preprint |
| OpenAlex | Publication, citation and preprint-to-article links | CC0 |
| WIPO PATENTSCOPE | International and national patent applications for technology tracking | Pesquisa gratuita, termos conforme a OMPI |
| A Lente | Linked scholarly and patent records | Uso gratuito, com termos por Lens |
| Observatório de Políticas OECD.AI | National AI policies, initiatives and indicators | Uso gratuito, termos conforme a OCDE |
Quem decide, e a que servem as evidências.
Reports prepara evidências. As decisões abaixo são tomadas pelas autoridades indicadas, segundo suas próprias regras, e nunca pela plataforma.
| Quem decide | A pergunta | Evidências a que esta página serve |
|---|---|---|
| Ministérios de ciência, tecnologia e inovação | Quais tecnologias exigem atenção de governança, investimento ou monitoramento agora | Claim registers by demonstration status, with dated evidence windows |
| Standards bodies and technical committees | Onde são necessárias normas para testes, segurança ou interoperabilidade | Lacunas documentadas entre a capacidade declarada e a demonstrada |
| Research funders and security review panels | Se as áreas de pesquisa envolvem preocupações de uso dual que exigem supervisão | Dual-use review records and the categories of hazard identified |
| Editores de periódicos e de séries | When a report must be updated or marked as superseded | Evidence age, preprint status changes and version intervals |
Produtos que este tema gera
- Relatórios tecnológicos versionados com janelas de evidências datadas
- Claim registers separating demonstrated, reported and projected capability
- Atualizações contínuas que mostram o que mudou entre versões
- Registros de revisão de duplo uso que indicam o fundamento de qualquer detalhe omitido
O que a série pergunta.
Tecnologias de evolução rápida superam as evidências e as instituições que as regem. As afirmações sobre suas capacidades e riscos vão do cuidadoso ao amplamente especulativo. Os leitores precisam de análises que separem a capacidade demonstrada da projeção, expliquem os mecanismos pelos quais uma tecnologia poderia criar ou reduzir riscos e indiquem com que rapidez as conclusões podem envelhecer.
- O que a tecnologia comprovadamente consegue fazer hoje, em que condições, e o que ainda é projeção?
- Por quais mecanismos ela poderia criar novos riscos, como uso indevido, falha, concentração ou perda de controle?
- How could it reduce existing risks, and what would need to be true for that benefit to materialise?
- Quais medidas de governança, segurança e proteção estão sendo desenvolvidas, e que evidências existem sobre seu efeito?
O que a série abrange.
A série examina a tecnologia sob a ótica da capacidade, do risco e da governança.
Demonstrado versus alegado
As evidências de desempenho são rotuladas por fonte; as alegações de fornecedores são rotuladas como Informado pela instituição.
Mecanismos de dano
Acidentes, uso indevido, dependência sistêmica e efeitos sobre a segurança, analisados com as plataformas especializadas pertinentes.
Responses
Normas, práticas de segurança e opções de política, descritas sem endossar nenhum produto.
Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.
Como as edições são construídas e seus limites.
- 01
Technical literature
Peer-reviewed and preprint research, with preprints labelled as such.
- 02
Benchmarks and tests
Referências e testes publicados, com seus limites; os resultados do Laboratórios aparecem apenas a partir de protocolos concluídos.
- 03
Elicitação de especialistas
Julgamento estruturado sobre prazos e impactos, identificado como Julgamento de especialistas, com o respectivo painel descrito.
- 04
Shelf life
Each edition states when its findings should be reviewed, because technical facts change quickly.
Como é estudado e o que os métodos não podem dizer.
- 01Quantificação da incerteza e validação de modelosLinguagem calibrada nas avaliações · Classificações da certeza das evidênciasAplicado aqui
- 02Engenharia, interoperabilidade e gestão responsável de dadosPublicação estruturada em JATS XML · Identificadores persistentes em todo o registroAplicado aqui
- 03Probabilidade e estatísticaMetanálise com heterogeneidade declarada · Viés de estudos pequenos e de publicaçãoAplicado aqui
Where this page’s references lead.
Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.
Perguntas e respostas.
Por que preprints são citados se não foram revisados?
O que é um relatório vivo?
What does dual-use review decide?
Does the series endorse technologies or vendors?
Como a série lida com o exagero publicitário?
Are dual-use risks discussed openly?
How quickly are editions updated?
Contribua com evidências a partir desta página.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
- E-mailPortal GW-GCRIEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- RelatóriosGCRIVer todas as formas de contribuirOs tipos de contribuição, como cada um é revisado, o crédito que você recebe, a licença e o que nunca é aceito.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Traga um método, um conjunto de dados ou uma pergunta.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.