Skip to content

GCRI · Reports

첨단 기술 리스크 평가

첨단기술 보고서는 발행 주기보다 빠르게 변하는 분야를 다룹니다: 인공지능, 합성생물학, 양자 컴퓨팅, 첨단 소재, 우주 시스템. 근거는 프리프린트, 벤치마크, 특허, 기업 발표로 나오며 수개월 내에 대체되는 경우가 많습니다. 이 페이지는 빠르게 변하는 근거를 평가, 버전 관리, 검토하는 방법, 주장과 입증된 역량을 구분하는 방법, 발간 전에 정보 위험을 처리하는 방법을 설명합니다.

01등록

Frontier technology risk assessment on the record.

02질문

Frontier technology risk assessment: how the risk develops.

Exponentially developing technologies. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

메커니즘

Evidence ages quickly

A capability assessment can be outdated by the time it is reviewed. Without dated evidence windows and versioned updates, readers may act on a picture of a technology that no longer holds.

메커니즘

Preprints and announcements

최전선의 근거 상당수는 검토를 거치지 않았습니다: 프리프린트, 기술 블로그, 업체 주장 등입니다. 이러한 주장을 표시 없이 반복하면 홍보가 합의처럼 보이게 됩니다.

메커니즘

Benchmark fragility

Benchmarks saturate, leak into training data or measure narrow skills. Reports that equate benchmark scores with real-world capability overstate readiness and understate failure modes.

메커니즘

Information hazards

일부 기술적 세부 사항은 공개될 경우 피해를 초래할 수 있습니다. 공개 전 이중용도 검토는 공개의 가치와 오용 가능성을 비교하여 평가하고, 비공개로 한 내용과 그 이유를 해당 내용을 노출하지 않은 채 기록합니다.

03모니터링

시리즈 제작 데스크.

팀이 이 주제를 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.

시리즈 제작 데스크

Frontier technology risk assessment · Annual synthesis · Edition 3

Data check behind planGCRI · Reports

제작 중인 판

연간 종합글로벌데이터 점검83W18
국가 프로파일 7국가동료 검토98W38
수자원 전망부문별초안 작성46W13
방법론 노트 4방법공개됨100완료

데이터 점검, 연간 종합

추적된 값, %83 of 100 required부착된 라벨, %필수 100개 중 90개명시된 불확실성, %필요 100건 중 86건

판 제작 파이프라인

  1. 개요위원회
  2. 초안저자
  3. 데이터 점검모든 값
  4. 동료 검토두 차례
  5. 편집결정
  6. 릴리스DOI
  7. 정정버전 관리
Series production desk: the screen’s structure, terms and states for Frontier technology risk assessment.Example names and illustrative values; a design, not a record or a live system.
04다섯 도메인에서

Technology editions trace effects into each domain.

05방법과 근거

How frontier technology risk assessment is modelled, measured and tested.

모형, 그 가정, 데이터, 불확실성을 과학자나 엔지니어가 확인할 형태로 제시합니다. 구조는 발행된 방법을 따릅니다. 제시된 값은 예시이며 결과가 아닙니다.

모형, 방정식 및 가정

The model structure used for frontier technology risk assessment, the assumptions it makes and how each is tested.

요소 i의 리스크Ri = f(Hi, Ei, Vi, Ci)재해, 노출, 취약성, 대처 역량
연간 기대 손실EAL = ∑k pk · Lkover events k with annual probability pk
결합 시스템xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
가정만드는 이유시험 방법
한 사건 안에서 재해와 노출은 서로 독립적임손실 적분을 다루기 쉽게 유지함결합 기록에 적합한 코퓰러와 비교
결합은 운전점 근처에서 선형이다충격이 A를 통해 전파되게 함선형 범위를 넘어 섭동을 주고 비교하십시오
취약성 곡선은 장소 간에 옮겨 쓸 수 있다지역 곡선은 거의 없다관측된 손실이 있는 곳에서는 이에 대해 검증
투입 자료
출처 정보가 있는 버전 관리 데이터세트
산출물
분포이며 결코 단일 숫자가 아님
코드
모델 카드 및 시험과 함께 공개
재현
같은 데이터, 코드, 환경과 시드
표준 리스크 및 상태공간 정식화로, 나열된 가정은 해당 방법에 일반적인 것이며 검토를 위해 명시한 것으로 결과가 아닙니다.
FAIR 지침 원칙 · GO FAIR와 FORCE11W3C PROV · 월드 와이드 웹 컨소시엄불확실성의 일관된 처리에 관한 지침 · IPCCCEOS 분석 준비 데이터(Analysis Ready Data) · 지구관측위성위원회
06지표

측정되는 것과 그 정확도.

각 지표에는 단위, 주기, 그 뒤의 출처 종류, 값에 붙을 근거 표시가 있습니다. 값은 표시하지 않습니다. 값은 프로그램이 자체 권한으로 제공합니다.

지표단위주기출처 유형라벨
인용 근거 중 프리프린트 비중참조 중 비율(%)버전별참조 메타데이터관측
Median age of cited evidence at publication개월버전별참조 메타데이터관측
보고서 버전 간 간격개월버전별버전 이력공표 통계
실증 상태별로 표시된 주장역량 진술서의 비율(퍼센트)버전별편집 감사보고됨
검토를 거쳐 이후 출판된 인용 프리프린트percent of cited preprints분기별Preprint to publication links관측
Dual-use review completed예 또는 아니요, 검토자 역할 포함버전별검토 기록신고됨
07출처

근거의 출처.

이름이 명시된 공개 데이터셋과 기관 기록으로, 각각 라이선스 등급이 있습니다. 협약에 따른 출처는 그 조건에 따라서만 사용하며 결코 재게시하지 않습니다.

출처제공하는 것라이선스 등급
arXiv컴퓨터 과학, 물리학, 정량생물학 및 관련 분야의 프리프린트메타데이터 CC0, 논문별 라이선스
bioRxiv and medRxivPreprints in the life and health sciences with links to later publicationsLicence per preprint
OpenAlexPublication, citation and preprint-to-article linksCC0
WIPO PATENTSCOPE기술 추적을 위한 국제 및 국내 특허 출원Free to search, terms per WIPO
The Lens연계된 학술 및 특허 기록Free to use, terms per Lens
OECD.AI 정책 관측소국가 AI 정책, 이니셔티브 및 지표Free to use, terms per OECD
08결정

누가 결정하며 근거는 무엇에 쓰이는지.

Reports는 증거를 준비합니다. 아래의 결정은 명시된 당국이 자체 규칙에 따라 내리며, 결코 플랫폼이 내리지 않습니다.

결정 주체질문이 페이지가 제공하는 근거
과학기술혁신부지금 거버넌스상의 관심, 투자 또는 모니터링이 필요한 기술Claim registers by demonstration status, with dated evidence windows
Standards bodies and technical committees시험, 안전 또는 상호운용성에 관한 표준이 필요한 경우주장된 역량과 입증된 역량 사이에 문서화된 격차
연구 지원 기관과 보안 심사 위원회Whether research areas carry dual-use concerns that need oversightDual-use review records and the categories of hazard identified
Journal and series editorsWhen a report must be updated or marked as supersededEvidence age, preprint status changes and version intervals

이 주제가 생산하는 산출물

  • Versioned technology reports with dated evidence windows
  • Claim registers separating demonstrated, reported and projected capability
  • Living updates that show what changed between versions
  • Dual-use review records stating the basis for any withheld detail
09핵심 질문

시리즈가 묻는 것.

Fast-moving technologies outpace the evidence and institutions that govern them. Claims about their capabilities and risks range from careful to wildly speculative. Readers need analysis that separates demonstrated capability from projection, explains the mechanisms by which a technology could create or reduce risk, and states how quickly conclusions may age.

  • What can the technology demonstrably do today, under what conditions, and what is still projection?
  • Through which mechanisms could it create new risks, such as misuse, failure, concentration or loss of control?
  • How could it reduce existing risks, and what would need to be true for that benefit to materialise?
  • Which governance, safety and security measures are being developed, and what evidence exists on their effect?
10범위

시리즈가 다루는 내용.

이 시리즈는 기술을 역량, 리스크, 거버넌스의 관점에서 다룹니다.

역량

입증된 것과 주장된 것

Evidence of performance is labelled by source; vendor claims are labelled Institution-reported.

리스크

Mechanisms of harm

사고, 오용, 체계적 의존성, 보안 영향을 관련 전문 플랫폼과 함께 분석합니다.

거버넌스

Responses

특정 제품을 보증하지 않으면서 표준, 안전 관행 및 정책 선택지를 설명한다.

Technology analysis is most useful when it follows mechanisms rather than headlines. A general-purpose technology changes risk through the systems that adopt it: an AI model embedded in grid operations, a quantum computer able to break widely used public-key cryptography, a biotechnology tool that lowers the barrier to working with pathogens. Each edition therefore pairs the technology with the specialist platforms that study the affected systems, and names the conditions under which its conclusions would change.

11판이 구성되는 방식

판이 구성되는 방식과 그 한계.

  1. 01

    Technical literature

    Peer-reviewed and preprint research, with preprints labelled as such.

  2. 02

    Benchmarks and tests

    공개된 벤치마크와 테스트를 그 한계와 함께 제시하며, 랩 의 결과는 완료된 프로토콜에서만 게재됩니다.

  3. 03

    전문가 의견 도출

    일정과 영향에 대한 구조화된 판단으로, 전문가 판단(Expert judgement)으로 표시하고 해당 패널을 설명합니다.

  4. 04

    Shelf life

    Each edition states when its findings should be reviewed, because technical facts change quickly.

12방법

연구되는 방식과 방법이 말할 수 없는 것.

  1. 불확실성 정량화와 모델 검증평가에서의 보정된 표현 · 근거 확실성 등급이곳에서의 적용
  2. 데이터 엔지니어링, 상호운용성 및 데이터 관리JATS XML 구조화 출판 · 기록 전반의 영구 식별자이곳에서의 적용
  3. 확률과 통계이질성을 밝힌 메타분석 · 소규모 연구 효과와 출판 편향이곳에서의 적용
13Where this page’s references

Where this page’s references lead.

이 페이지를 읽을 때 기준이 되는 기구와 문서. 상태와 판은 바뀌며, 각 링크는 발행 기구로 연결됩니다.

14질문

질문과 답변.

Why are preprints cited if they are not reviewed?
Because in fast-moving fields the evidence appears there first. They are labelled as preprints, and the report records when a cited preprint is later published, revised or withdrawn.
What is a living report?
A report updated in versions as evidence changes, with each version dated, identified and archived, and a change log showing what was added, revised or removed.
What does dual-use review decide?
Whether specific technical detail should be generalised or withheld because it could enable serious harm. The decision and its basis are recorded; the hazardous detail is not.
Does the series endorse technologies or vendors?
아니요. 이 자료는 역량과 리스크에 관한 근거를 설명할 뿐이며, 제품, 공급업체, 투자를 보증하지 않습니다.
How does the series handle hype?
주장을 출처 유형별로 표시하고, 입증된 역량과 전망을 구분하며, 불확실성을 명시함으로써.
Are dual-use risks discussed openly?
At the level needed for public understanding. Details that could enable harm are withheld under the programme’s safety review.
How quickly are editions updated?
각 판은 검토 시점을 명시합니다. 근거에 중대한 변경이 있으면 조용히 수정하지 않고 새 버전으로 반영합니다.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.

GCRI보고서글로벌 시스템 리스크와 회복력국가 시스템 리스크와 회복력국가 분기 보고서
보고서

방법, 데이터세트 또는 질문을 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.