GCRI · 인공지능과 자율 시스템
분야 개요
리스크 분야로서 AI와 자율 시스템 은 학습된 모델, 소프트웨어 에이전트, 로봇이 현실 세계에서 어떻게 행동하는지, 그 행동을 어떻게 측정할 수 있는지, 그리고 그 실패가 이에 의존하는 기관, 인프라, 삶으로 어떻게 전파되는지 연구합니다. 이 페이지는 분야를 정의하고, 사회에 왜 중요한지 설명하며, 전문가가 무엇을 연구하는지 제시하고, 다른 리스크와 어떻게 연결되는지 보여 줍니다.
- STEM 방법
- 7
- 이 분야가 응용하는 정식 방법
- 주제
- 8
- 이 분야의 주제 페이지
- 상대 기관
- 3
- 네트워크 전반에서 분야를 공유하는 플랫폼
- 보고서 시리즈
- 2
- 기여하는 Reports 시리즈
알고리즘에서 배치된 시스템까지.
모델과 데이터
학습 데이터, 목표, 아키텍처가 실패 양상을 포함한 행태를 어떻게 형성하는가.
현실 세계의 자율성
로봇과 차량에서 감지, 계획, 제어가 어떻게 상호작용하는가.
이 분야는 시스템이 데이터로부터 학습하는 방법인 인공지능과 머신러닝을, 이를 테스트하고 보증하는 공학 분야인 AI 평가·보증 공학과 결합합니다. 또한 AI가 물리적 기계를 제어하는 로봇공학과 자동화, 그리고 모델을 학습시키고 실행하는 인프라인 고성능, 클라우드, 엣지 컴퓨팅으로 확장됩니다.
리스크 분야로서 이 분야는 결과로 정의됩니다. 모델이 잘못 일반화할 때, 에이전트가 도구를 오용할 때, 로봇이 환경을 잘못 인식할 때, 또는 많은 시스템이 같은 결함을 공유할 때 무슨 일이 일어나는가입니다. AI의 영향은 사람들이 AI를 어떻게 사용하고 신뢰하며 이의를 제기하는지에 달려 있으므로 사회 및 행동 과학 도 이 분야의 일부입니다.
분야 개요.
팀이 이 주제를 따라가는 데 사용할 화면으로, 그 지표, 상태, 결정을 보여 줍니다. 이름은 예시이며 값은 설명용입니다.
AI는 인프라가 되어 가고 있습니다.
- AI는 소프트웨어 에이전트와 물리적 자율성을 통해 조언 도구에서 행동하는 시스템 으로 옮겨 가고 있습니다.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- 소수의 모델 제공자, 클라우드 플랫폼, 칩 공급망이 많은 응용 프로그램을 떠받치고 있습니다.
- 평가 과학이 역량을 따라가지 못하므로 안전성과 성능에 관한 주장은 확인하기 어려운 경우가 많습니다.
핵심 질문.
- 01
측정
평가는 주장하는 대상을 실제로 측정하며, 그 결과는 일반화됩니까? 모형 평가.
- 02
- 03
보안
모델은 어떻게 공격받을 수 있으며, AI는 사이버 공격과 방어를 어떻게 바꿀 수 있습니까? AI와 사이버 보안.
- 04
활용
AI는 과학과 공공 서비스를 어떻게 바꿉니까? 과학 속의 AI 및 AI와 공공 서비스를 참조하십시오.
- 05
기반과 영향
AI는 무엇에 의존하며 누구에게 영향을 미칩니까? 컴퓨팅과 에너지 및 노동과 사회적 영향을 참조하십시오.
AI가 다른 리스크에 미치는 영향.
AI는 사이버보안, 에너지, 노동 시장, 금융, 공공 신뢰와 연결됩니다. 의존성과 결과 에서 그 연계를 설명합니다. 거버넌스는 The Global Risks Forum(GRF)의 AI와 디지털 거버넌스 를 통해 소집되며, 금융 부문의 모형 위험 는 The Global Risks Alliance(GRA)의 AI와 금융 모델 리스크를 통해 연구됩니다.
분야 개요에 있는 페이지입니다.
질문과 답변.
이 분야는 AI 윤리와 같은 것입니까?
이 분야는 어떤 방법에 의존합니까?
이 분야는 군사용 AI도 다룹니까?
이 페이지에서 증거를 기여하십시오.
보고서 is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- 이메일게이트웨이 GW-GCRI이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- Zenodo개방형 예치기탁하고 커뮤니티에 제출하기ORCID iD로 Zenodo에 직접 기록을 게시한 뒤, 그곳의 Reports 커뮤니티에 제출하십시오. 큐레이터가 검토하며, DOI는 귀하의 것으로 남습니다.
- 보고서GCRI모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
방법, 데이터세트 또는 질문을 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률 문서.
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.