Frontier technology risk assessment on the record.
Frontier technology risk assessment: how the risk develops.
Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Evidence ages quickly
A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.
Preprints and announcements
최전선의 근거 상당수는 검토를 거치지 않았습니다: 프리프린트, 기술 블로그, 업체 주장 등입니다. 이러한 주장을 표시 없이 반복하면 홍보가 합의처럼 보이게 됩니다.
Benchmark fragility
Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.
Information hazards
일부 기술적 세부 사항은 공개될 경우 피해를 초래할 수 있습니다. 공개 전 이중용도 검토는 공개의 가치와 오용 가능성을 비교하여 평가하고, 비공개로 한 내용과 그 이유를 해당 내용을 노출하지 않은 채 기록합니다.
시리즈 제작 데스크.
팀이 이 주제를 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.
시리즈 제작 데스크
Frontier technology risk assessment · Annual synthesis · Edition 3
제작 중인 판
| 연간 종합 | 글로벌 | 데이터 점검 | 83 | W18 |
| 국가 프로파일 7 | 국가 | 동료 검토 | 98 | W38 |
| 수자원 전망 | 부문별 | 초안 작성 | 46 | W13 |
| 방법론 노트 4 | 방법 | 공개됨 | 100 | 완료 |
데이터 점검, 연간 종합
판 제작 파이프라인
- 개요위원회
- 초안저자
- 데이터 점검모든 값
- 동료 검토두 차례
- 편집결정
- 릴리스DOI
- 정정버전 관리
Technology editions trace effects into each domain.
Editions separate demonstrated results from projections. Models discussed carry NS-12 cards under the proposed Nexus Standards.
- Status updates with sources.
- Corrections to claims.
How frontier technology risk assessment is modelled, measured and tested.
모형, 그 가정, 데이터, 불확실성을 과학자나 엔지니어가 확인할 형태로 제시합니다. 구조는 발행된 방법을 따릅니다. 제시된 값은 예시이며 결과가 아닙니다.
모형, 방정식 및 가정
The model structure used for frontier technology risk assessment, the assumptions it makes and how each is tested.
Ri = f(Hi, Ei, Vi, Ci)재해, 노출, 취약성, 대처 역량EAL = ∑k pk · Lkover events k with annual probability pkxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| 가정 | 만드는 이유 | 시험 방법 |
|---|---|---|
| 한 사건 안에서 재해와 노출은 서로 독립적임 | 손실 적분을 다루기 쉽게 유지함 | 결합 기록에 적합한 코퓰러와 비교 |
| 결합은 운전점 근처에서 선형이다 | 충격이 A를 통해 전파되게 함 | 선형 범위를 넘어 섭동을 주고 비교하십시오 |
| 취약성 곡선은 장소 간에 옮겨 쓸 수 있다 | 지역 곡선은 거의 없다 | 관측된 손실이 있는 곳에서는 이에 대해 검증 |
- 투입 자료
- 출처 정보가 있는 버전 관리 데이터세트
- 산출물
- 분포이며 결코 단일 숫자가 아님
- 코드
- 모델 카드 및 시험과 함께 공개
- 재현
- 같은 데이터, 코드, 환경과 시드
측정되는 것과 그 정확도.
각 지표에는 단위, 주기, 그 뒤의 출처 종류, 값에 붙을 근거 표시가 있습니다. 값은 표시하지 않습니다. 값은 프로그램이 자체 권한으로 제공합니다.
| 지표 | 단위 | 주기 | 출처 유형 | 라벨 |
|---|---|---|---|---|
| 인용 근거 중 프리프린트 비중 | 참조 중 비율(%) | 버전별 | 참조 메타데이터 | 관측 |
| Median age of cited evidence at publication | 개월 | 버전별 | 참조 메타데이터 | 관측 |
| 보고서 버전 간 간격 | 개월 | 버전별 | 버전 이력 | 공표 통계 |
| 실증 상태별로 표시된 주장 | 역량 진술서의 비율(퍼센트) | 버전별 | 편집 감사 | 보고됨 |
| 검토를 거쳐 이후 출판된 인용 프리프린트 | percent of cited preprints | 분기별 | Preprint to publication links | 관측 |
| Dual-use review completed | 예 또는 아니요, 검토자 역할 포함 | 버전별 | 검토 기록 | 신고됨 |
근거의 출처.
이름이 명시된 공개 데이터셋과 기관 기록으로, 각각 라이선스 등급이 있습니다. 협약에 따른 출처는 그 조건에 따라서만 사용하며 결코 재게시하지 않습니다.
| 출처 | 제공하는 것 | 라이선스 등급 |
|---|---|---|
| arXiv | 컴퓨터 과학, 물리학, 정량생물학 및 관련 분야의 프리프린트 | 메타데이터 CC0, 논문별 라이선스 |
| bioRxiv and medRxiv | Preprints in the life and health sciences with links to later publications | Licence per preprint |
| OpenAlex | Publication, citation and preprint-to-article links | CC0 |
| WIPO PATENTSCOPE | 기술 추적을 위한 국제 및 국내 특허 출원 | Free to search, terms per WIPO |
| The Lens | 연계된 학술 및 특허 기록 | Free to use, terms per Lens |
| OECD.AI 정책 관측소 | 국가 AI 정책, 이니셔티브 및 지표 | Free to use, terms per OECD |
누가 결정하며 근거는 무엇에 쓰이는지.
Reports는 증거를 준비합니다. 아래의 결정은 명시된 당국이 자체 규칙에 따라 내리며, 결코 플랫폼이 내리지 않습니다.
| 결정 주체 | 질문 | 이 페이지가 제공하는 근거 |
|---|---|---|
| 과학기술혁신부 | 지금 거버넌스상의 관심, 투자 또는 모니터링이 필요한 기술 | Claim registers by demonstration status, with dated evidence windows |
| Standards bodies and technical committees | 시험, 안전 또는 상호운용성에 관한 표준이 필요한 경우 | 주장된 역량과 입증된 역량 사이에 문서화된 격차 |
| 연구 지원 기관과 보안 심사 위원회 | Whether research areas carry dual-use concerns that need oversight | Dual-use review records and the categories of hazard identified |
| Journal and series editors | When a report must be updated or marked as superseded | Evidence age, preprint status changes and version intervals |
이 주제가 생산하는 산출물
- Versioned technology reports with dated evidence windows
- Claim registers separating demonstrated, reported and projected capability
- Living updates that show what changed between versions
- Dual-use review records stating the basis for any withheld detail
시리즈가 묻는 것.
Fast-moving technologies outpace the evidence and institutions that govern them. Claims about their capabilities and risks range from careful to wildly speculative. Readers need analysis that separates demonstrated capability from projection, explains the mechanisms by which a technology could create or reduce risk, and states how quickly conclusions may age.
- What can the technology demonstrably do today, under what conditions, and what is still projection?
- Through which mechanisms could it create new risks, such as misuse, failure, concentration or loss of control?
- How could it reduce existing risks, and what would need to be true for that benefit to materialise?
- Which governance, safety and security measures are being developed, and what evidence exists on their effect?
시리즈가 다루는 내용.
이 시리즈는 기술을 역량, 리스크, 거버넌스의 관점에서 다룹니다.
입증된 것과 주장된 것
Evidence of performance is labelled by source; vendor claims are labelled Institution-reported.
Mechanisms of harm
사고, 오용, 체계적 의존성, 보안 영향을 관련 전문 플랫폼과 함께 분석합니다.
Responses
특정 제품을 보증하지 않으면서 표준, 안전 관행 및 정책 선택지를 설명한다.
Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.
판이 구성되는 방식과 그 한계.
- 01
Technical literature
Peer-reviewed and preprint research, with preprints labelled as such.
- 02
Benchmarks and tests
공개된 벤치마크와 테스트를 그 한계와 함께 제시하며, 랩 의 결과는 완료된 프로토콜에서만 게재됩니다.
- 03
전문가 의견 도출
일정과 영향에 대한 구조화된 판단으로, 전문가 판단(Expert judgement)으로 표시하고 해당 패널을 설명합니다.
- 04
Shelf life
Each edition states when its findings should be reviewed, because technical facts change quickly.
Where this page’s references lead.
이 페이지를 읽을 때 기준이 되는 기구와 문서. 상태와 판은 바뀌며, 각 링크는 발행 기구로 연결됩니다.
질문과 답변.
Why are preprints cited if they are not reviewed?
What is a living report?
What does dual-use review decide?
Does the series endorse technologies or vendors?
How does the series handle hype?
Are dual-use risks discussed openly?
How quickly are editions updated?
이 페이지에서 증거를 기여하십시오.
Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.
- 이메일게이트웨이 GW-GCRI이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 보고서GCRI모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
방법, 데이터세트 또는 질문을 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률 문서.
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.