GCRI · Artificial Intelligence and Autonomous Systems
Field overview
AI and autonomous systems as a risk field studies how learned models, software agents and robots behave in the real world, how their behaviour can be measured and how their failures propagate into the institutions, infrastructures and lives that depend on them. This page defines the field, explains why it matters for society, sets out what experts study and shows how it connects to other risks.
- STEM کے طریقے
- 7
- معیاری طریقے جو یہ میدان لاگو کرتا ہے
- موضوعات
- 8
- میدان کے موضوعاتی صفحات
- ہم منصب
- 3
- نیٹ ورک بھر کے مشترکہ میدانوں میں پلیٹ فارمز
- رپورٹوں کا سلسلہ
- 2
- رپورٹوں کے وہ سلسلے جن میں یہ حصہ ڈالتا ہے
From algorithms to deployed systems.
Models and data
How training data, objectives and architectures shape behaviour, including failure modes.
Evaluation and oversight
How systems are tested, monitored and kept under meaningful human control.
Autonomy in the world
How sensing, planning and control interact in robots and vehicles.
The field combines artificial intelligence and machine learning, the methods by which systems learn from data, with AI evaluation and assurance engineering, the engineering discipline of testing and assuring them. It extends to robotics and automation, where AI controls physical machines, and to high-performance, cloud and edge computing, the infrastructure that trains and runs models.
As a risk field it is defined by consequences: what happens when a model generalises badly, when an agent misuses a tool, when a robot misreads its environment, or when many systems share the same flaw. social and behavioural science is part of the field because the effects of AI depend on how people use, trust and contest it.
میدان کا جائزہ۔
وہ اسکرین جو ایک ٹیم اس موضوع کی پیروی کے لیے استعمال کرے گی: اس کے پیمانے، حالتیں اور فیصلے۔ نام مثالیں ہیں اور اقدار توضیحی ہیں۔
AI is becoming infrastructure.
- AI is moving from advisory tools to systems that act, through software agents and physical autonomy.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- A small number of model providers, cloud platforms and chip supply chains underpin many applications.
- Evaluation science lags capability, so claims about safety and performance are often hard to check.
The core questions.
- 01
پیمائش
Do evaluations measure what they claim, and do results generalise? See Model evaluation.
- 02
اقدام
How should authority be delegated to systems that act? See Agentic systems and Autonomous physical systems.
- 03
سلامتی
How can models be attacked, and how can AI change cyber offence and defence? See AI and cyber security.
- 04
استعمال
How does AI change science and public services? See AI in science and AI and public services.
- 05
Foundations and effects
What does AI depend on, and whom does it affect? See Compute and energy and Labour and social effects.
How AI touches other risks.
AI connects to cybersecurity, energy, labour markets, finance and public trust. Dependencies and consequences explains those links. Governance is convened through AI and Digital Governance at The Global Risks Forum (GRF), and financial-sector model risk is studied through AI and Financial Model Risk at The Global Risks Alliance (GRA).
Pages in Field overview.
سوالات و جوابات۔
Is this field the same as AI ethics?
میدان کن طریقوں پر انحصار کرتا ہے؟
Does the field cover military AI?
اس صفحے سے شواہد فراہم کریں۔
Reports کنسورشیم کی سہ ماہی اشاعت ہے۔ اس موضوع کے بارے میں آپ کا علم اگلے شمارے میں شواہد، کیس یا تصحیح بن سکتا ہے، جو آپ کے نام سے منسوب ہوگا اور اگر یہ آپ کا اپنا کام ہو تو CC BY 4.0 کے تحت شائع ہوگا۔
- EmailGateway GW-GCRISend it from this pageEvidence, a correction, a case, a method, a review, a translation or profile input. It arrives tagged with this page, so the editor who owns it receives it.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- رپورٹیںGCRIتعاون کے تمام طریقے دیکھیںتعاون کی اقسام، ہر ایک کا جائزہ کیسے لیا جاتا ہے، آپ کو کیا اعتراف ملتا ہے، لائسنس، اور کیا کبھی قبول نہیں کیا جاتا۔
کبھی بھی ذاتی ڈیٹا، حساس بنیادی ڈھانچے کی تفصیل یا کوئی ایسی چیز نہ بھیجیں جسے شیئر کرنے کا آپ کو حق نہ ہو۔ ہر شراکت استعمال سے پہلے جانچی جاتی ہے؛ اسے بھیجنے سے کوئی تصنیفی یا ادارتی حق حاصل نہیں ہوتا، اور سرپرستی کبھی کوئی نتیجہ نہیں خریدتی۔
Bring a method, a dataset or a question.
معلومات اور استفسارات آج کھلے ہیں۔ استفسار کو ایک حوالہ نمبر ملتا ہے اور اگلے مرحلے کی نشاندہی ہوتی ہے؛ درخواستیں، ادائیگیاں، کمپیوٹنگ کی تخصیص اور رجسٹریشن صرف اس وقت کھلتی ہیں جب ان کی ٹیم، شرائط اور جائزے کی استعداد موجود ہو۔
قانونی دستاویزات۔
اس سائٹ کے نقشے، ڈیٹا اور اشکال سیاق اور عمومی معلومات کے لیے دکھائے جاتے ہیں۔ یہ مشورہ، پیش گوئیاں یا انتباہات نہیں؛ معلومات کی حدود دستبرداریوں اور ڈیٹا سے متعلق اطلاعات میں بیان کی گئی ہیں۔