Skip to content

GCRI · 인공지능과 자율 시스템

분야 개요

리스크 분야로서 AI와 자율 시스템 은 학습된 모델, 소프트웨어 에이전트, 로봇이 현실 세계에서 어떻게 행동하는지, 그 행동을 어떻게 측정할 수 있는지, 그리고 그 실패가 이에 의존하는 기관, 인프라, 삶으로 어떻게 전파되는지 연구합니다. 이 페이지는 분야를 정의하고, 사회에 왜 중요한지 설명하며, 전문가가 무엇을 연구하는지 제시하고, 다른 리스크와 어떻게 연결되는지 보여 줍니다.

STEM 방법
7
이 분야가 응용하는 정식 방법
주제
8
이 분야의 주제 페이지
상대 기관
3
네트워크 전반에서 분야를 공유하는 플랫폼
보고서 시리즈
2
기여하는 Reports 시리즈
01정의

알고리즘에서 배치된 시스템까지.

학습

모델과 데이터

학습 데이터, 목표, 아키텍처가 실패 양상을 포함한 행태를 어떻게 형성하는가.

보증

평가와 감독

How 시스템 이 어떻게 테스트되고 모니터링되며 실질적인 인간 통제 아래 유지되는가.

Embodiment

현실 세계의 자율성

로봇과 차량에서 감지, 계획, 제어가 어떻게 상호작용하는가.

이 분야는 시스템이 데이터로부터 학습하는 방법인 인공지능과 머신러닝을, 이를 테스트하고 보증하는 공학 분야인 AI 평가·보증 공학과 결합합니다. 또한 AI가 물리적 기계를 제어하는 로봇공학과 자동화, 그리고 모델을 학습시키고 실행하는 인프라인 고성능, 클라우드, 엣지 컴퓨팅으로 확장됩니다.

리스크 분야로서 이 분야는 결과로 정의됩니다. 모델이 잘못 일반화할 때, 에이전트가 도구를 오용할 때, 로봇이 환경을 잘못 인식할 때, 또는 많은 시스템이 같은 결함을 공유할 때 무슨 일이 일어나는가입니다. AI의 영향은 사람들이 AI를 어떻게 사용하고 신뢰하며 이의를 제기하는지에 달려 있으므로 사회 및 행동 과학 도 이 분야의 일부입니다.

02모니터링

분야 개요.

팀이 이 주제를 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.

Field overview: the screen’s structure, terms and states for AI and autonomous systems.예시 이름과 예시 값으로, 실제 기록이나 운영 중인 시스템이 아닌 설계안입니다.
03왜 중요한가

AI는 인프라가 되어 가고 있습니다.

  • AI는 소프트웨어 에이전트와 물리적 자율성을 통해 조언 도구에서 행동하는 시스템 으로 옮겨 가고 있습니다.
  • Public services increasingly use automated systems in decisions about people’s rights and access.
  • 소수의 모델 제공자, 클라우드 플랫폼, 칩 공급망이 많은 응용 프로그램을 떠받치고 있습니다.
  • 평가 과학이 역량을 따라가지 못하므로 안전성과 성능에 관한 주장은 확인하기 어려운 경우가 많습니다.
04전문가가 연구하는 것

핵심 질문.

  1. 01

    측정

    평가는 주장하는 대상을 실제로 측정하며, 그 결과는 일반화됩니까? 모형 평가.

  2. 02

    조치

    행동하는 시스템 에 권한을 어떻게 위임해야 합니까? 에이전트 시스템 및 자율 물리 시스템을 참조하십시오.

  3. 03

    보안

    모델은 어떻게 공격받을 수 있으며, AI는 사이버 공격과 방어를 어떻게 바꿀 수 있습니까? AI와 사이버 보안.

  4. 04

    활용

    AI는 과학과 공공 서비스를 어떻게 바꿉니까? 과학 속의 AI 및 AI와 공공 서비스를 참조하십시오.

  5. 05

    기반과 영향

    AI는 무엇에 의존하며 누구에게 영향을 미칩니까? 컴퓨팅과 에너지 및 노동과 사회적 영향을 참조하십시오.

05연결

AI가 다른 리스크에 미치는 영향.

AI는 사이버보안, 에너지, 노동 시장, 금융, 공공 신뢰와 연결됩니다. 의존성과 결과 에서 그 연계를 설명합니다. 거버넌스는 The Global Risks Forum(GRF)의 AI와 디지털 거버넌스 를 통해 소집되며, 금융 부문의 모형 위험 는 The Global Risks Alliance(GRA)의 AI와 금융 모델 리스크를 통해 연구됩니다.

06페이지

분야 개요에 있는 페이지입니다.

07질문

질문과 답변.

이 분야는 AI 윤리와 같은 것입니까?
겹치는 부분이 있지만, 이 분야의 초점은 측정 가능한 행태와 실패, 즉 타당성, 견고성, 보안, 신뢰성, 영향이며 이를 과학적 방법으로 연구합니다.
이 분야는 어떤 방법에 의존합니까?
머신러닝, AI 보증 공학, 컴퓨팅, 확률과 통계, 사이버보안, 사회과학, 로봇공학. 각각 STEM 기반 페이지.
이 분야는 군사용 AI도 다룹니까?
The platform’s scope is civilian systems and their public effects. It does not work on weapons development.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

보고서 is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRI인공지능과 자율 시스템기하급수 기술Labs 근거
인공지능과 자율 시스템

방법, 데이터세트 또는 질문을 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.