GCRI · زیرەکی دەستکرد و سیستەمە خۆسەرەکان
گشتیی بوارەکە
AI and autonomous سیستەمە as a risk field studies how learned models, software agents and robots behave in the real world, how their behaviour can be measured and how their failures propagate into the institutions, infrastructures and lives that depend on them. This page defines the field, explains why it matters for society, sets out what experts study and shows how it connects to other risks.
- میتۆدەکانی STEM
- 7
- ئەو ڕێگا بنەڕەتییانەی ئەم بوارە بەکاریان دەهێنێت
- بابەتەکان
- 8
- لاپەڕەکانی بابەت لەم بوارەدا
- هاوتاکان
- 3
- پلاتفۆرمەکانی بوارە هاوبەشەکان لە ناو تۆڕەکەدا
- زنجیرەی ڕاپۆرت
- 2
- زنجیرەی Reports کە بەشدارییان تێدا دەکات
From algorithms to deployed systems.
Models and data
How training data, objectives and architectures shape behaviour, including failure modes.
Evaluation and oversight
How سیستەمە are tested, monitored and kept under meaningful human control.
Autonomy in the world
How sensing, planning and control interact in robots and vehicles.
The field combines زیرەکی دەستکرد و فێربوونی ئامێر, the methods by which systems learn from data, with AI evaluation and assurance engineering, the engineering discipline of testing and assuring them. It extends to ڕۆبۆتیکس و ئۆتۆماتیککردن, where AI controls physical machines, and to high-performance, cloud and edge computing, the infrastructure that trains and runs models.
As a risk field it is defined by consequences: what happens when a model generalises badly, when an agent misuses a tool, when a robot misreads its environment, or when many systems share the same flaw. زانستی کۆمەڵایەتی و هەڵسوکەوتی is part of the field because the effects of AI depend on how people use, trust and contest it.
Field overview.
The screen a team would use to follow this subject: its measures, states and decisions. Names are examples and values are illustrative.
AI is becoming infrastructure.
- AI is moving from advisory tools to سیستەمە that act, through software agents and physical autonomy.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- A small number of model providers, cloud platforms and chip supply chains underpin many applications.
- Evaluation science lags capability, so claims about safety and performance are often hard to check.
The core questions.
- 01
Measurement
Do evaluations measure what they claim, and do results generalise? See هەڵسەنگاندنی مۆدێل.
- 02
Action
How should authority be delegated to سیستەمە that act? See سیستەمە ئەیجێنتییەکان and Autonomous physical systems.
- 03
Security
How can models be attacked, and how can AI change cyber offence and defence? See AI and cyber security.
- 04
بەکارهێنان
How does AI change science and public services? See زیرەکی دەستکرد لە زانستدا and AI and public services.
- 05
Foundations and effects
What does AI depend on, and whom does it affect? See کۆمپیوتەر و وزە and Labour and social effects.
How AI touches other risks.
AI connects to cybersecurity, energy, labour markets, finance and public trust. Dependencies and consequences explains those links. Governance is convened through حوکمڕانیی زیرەکی دەستکرد و دیجیتاڵ at The Global Risks Forum (GRF), and financial-sector مەترسیی مۆدێل is studied through AI and Financial Model Risk at The Global Risks Alliance (GRA).
Pages in Field overview.
پرسیار و وەڵام.
Is this field the same as AI ethics?
Which methods does the field rely on?
Does the field cover military AI?
لەم لاپەڕەیەوە بەڵگە پێشکەش بکە.
Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- ئیمەیڵدەروازەی GW-GCRIلەم لاپەڕەیەوە بینێرەبەڵگە، ڕاستکردنەوە، بابەت، ڕێگا، پێداچوونەوە، وەرگێڕان یان تێکردنی پڕۆفایل. بە نیشانەی ئەم لاپەڕەیە دەگات، بۆ ئەوەی دەستکاریکەری خاوەنەکەی وەریبگرێت.
- Zenodoتەکیەی کراوەدایبنێ و بیدە بە کۆمەڵگاتۆماری خۆت لە Zenodo بە ORCID iD ی خۆت بڵاو بکەرەوە، پاشان لەوێ بیدە بە کۆمەڵگای Reports. سەرپەرشتیارەکان پێداچوونەوەی بۆ دەکەن؛ DOI هەر هی تۆیە.
- ReportsGCRIهەموو ڕێگاکانی بەشداری ببینەجۆرەکانی بەشداری، هەریەکە چۆن پێداچوونەوەی بۆ دەکرێت، چ ناوبردنێک وەردەگریت، مۆڵەتەکە و ئەوەی هەرگیز وەرناگیرێت.
هەرگیز داتای کەسی، وردەکاریی هەستیاری ژێرخان یان هیچ شتێک مەنێرە کە مافی بڵاوکردنەوەت نییە. بەشدارییەک پێش بەکارهێنان پێداچوونەوەی بۆ دەکرێت؛ ناردنی ماف نابەخشێت بە نووسەرایەتی یان بەڕێوەبردنی ڕاگەیاندن، و پاڵپشتی دارایی هەرگیز دۆزینەوەیەک ناکڕێت.
ڕێگایەک، کۆمەڵە داتایەک یان پرسیارێک بهێنە.
زانیاری و پرسیار ئەمڕۆ کراوەن. پرسیارێک ژمارەی ئاماژەی پێدەدرێت و هەنگاوی دواتر دیاری دەکات؛ داواکاری، پارەدان، تەرخانکردنی کۆمپیوتەر و تۆمارکردن تەنیا کاتێک دەکرێنەوە کە تیم، مەرج و توانای پێداچوونەوەیان هەبێت.
بەڵگەنامە یاساییەکان.
نەخشە، داتا و وێنەکانی ئەم ماڵپەڕە بۆ ناوەڕۆک و زانیاریی گشتی پیشان دراون. ئامۆژگاری، پێشبینی یان ئاگادارکردنەوە نین؛ سنوورەکانی زانیارییەکە لە ڕەتکردنەوەی بەرپرسیارێتی و ئاگاداریی داتادا دەستنیشان کراون.