GCRI · الذكاء الاصطناعي والنظم المستقلة
نظرة عامة على المجال
يدرس الذكاء الاصطناعي و النظم المستقلة، بوصفه مجالًا للمخاطر، كيف تتصرف النماذج المتعلمة والوكلاء البرمجيون والروبوتات في العالم الحقيقي، وكيف يمكن قياس سلوكها، وكيف تنتشر إخفاقاتها إلى المؤسسات والبنى التحتية والحيوات التي تعتمد عليها. وتعرّف هذه الصفحة المجال، وتشرح سبب أهميته للمجتمع، وتعرض ما يدرسه الخبراء، وتبيّن كيف يرتبط بالمخاطر الأخرى.
- منهجيات STEM
- 7
- الأساليب المعيارية التي يطبقها هذا المجال
- الموضوعات
- 8
- صفحات الموضوعات في المجال
- النظراء
- 3
- المنصات في المجالات المشتركة عبر الشبكة
- سلاسل التقارير
- 2
- سلاسل التقارير التي تسهم فيها
من الخوارزميات إلى النظم المنشورة.
النماذج والبيانات
كيف تشكّل بيانات التدريب والأهداف والبنى السلوك، بما في ذلك أنماط الإخفاق.
الاستقلالية في العالم
كيف يتفاعل الاستشعار والتخطيط والتحكم في الروبوتات والمركبات.
يجمع المجال بين الذكاء الاصطناعي والتعلم الآلي، أي الأساليب التي تتعلم بها النظم من البيانات، وهندسة تقييم الذكاء الاصطناعي وضمانه، أي التخصص الهندسي المعني باختبارها وضمانها. ويمتد إلى الروبوتات والأتمتة، حيث يتحكم الذكاء الاصطناعي في آلات مادية، وإلى الحوسبة عالية الأداء والسحابية والطرفية، أي البنية التحتية التي تدرّب النماذج وتشغّلها.
بوصفه مجالًا للمخاطر، تحدده العواقب: ماذا يحدث حين يُعمّم نموذج تعميمًا سيئًا، أو حين يسيء وكيل استخدام أداة، أو حين يخطئ روبوت في قراءة بيئته، أو حين تتشارك نظم كثيرة الخلل نفسه. و العلوم الاجتماعية والسلوكية جزء من المجال لأن آثار الذكاء الاصطناعي تتوقف على كيفية استخدام الناس له وثقتهم به واعتراضهم عليه.
نظرة عامة على المجال.
الشاشة التي قد يستخدمها فريق لمتابعة هذا الموضوع: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.
يتحول الذكاء الاصطناعي إلى بنية تحتية.
- ينتقل الذكاء الاصطناعي من أدوات استشارية إلى النظم تتصرف، عبر الوكلاء البرمجيين والاستقلالية المادية.
- Public services increasingly use automated systems in decisions about people’s rights and access.
- يقوم كثير من التطبيقات على عدد قليل من مزودي النماذج والمنصات السحابية وسلاسل إمداد الرقائق.
- يتأخر علم التقييم عن القدرات، لذا كثيرًا ما يصعب التحقق من الادعاءات المتعلقة بالسلامة والأداء.
الأسئلة الأساسية.
- 01
القياس
هل تقيس التقييمات ما تدّعي قياسه، وهل تُعمَّم نتائجها؟ اطّلع على تقييم النماذج.
- 02
الإجراء
كيف ينبغي تفويض السلطة إلى النظم تتصرف؟ اطّلع على الأنظمة الوكيلة والنظم المادية المستقلة.
- 03
الأمن
كيف يمكن مهاجمة النماذج، وكيف يمكن للذكاء الاصطناعي أن يغيّر الهجوم والدفاع السيبرانيين؟ اطّلع على الذكاء الاصطناعي والأمن السيبراني.
- 04
الاستخدام
كيف يغيّر الذكاء الاصطناعي العلوم والخدمات العامة؟ اطّلع على الذكاء الاصطناعي في العلوم والذكاء الاصطناعي والخدمات العامة.
- 05
الأسس والآثار
على ماذا يعتمد الذكاء الاصطناعي، ومن يتأثر به؟ اطّلع على الحوسبة والطاقة والآثار على العمل والمجتمع.
كيف يمس الذكاء الاصطناعي المخاطر الأخرى.
يرتبط الذكاء الاصطناعي بالأمن السيبراني والطاقة وأسواق العمل والمالية وثقة الجمهور. وتشرح الترابطات والعواقب هذه الروابط. ويجري التنسيق بشأن الحوكمة عبر حوكمة الذكاء الاصطناعي والمجال الرقمي لدى المنتدى العالمي للمخاطر (Global Risks Forum، GRF)، وتُدرس مخاطر النموذج في القطاع المالي عبر مخاطر الذكاء الاصطناعي والنماذج المالية لدى التحالف العالمي للمخاطر (Global Risks Alliance، GRA).
الصفحات في نظرة عامة على المجال.
أسئلة وأجوبة.
هل هذا المجال هو نفسه أخلاقيات الذكاء الاصطناعي؟
على أي مناهج يعتمد المجال؟
هل يشمل المجال الذكاء الاصطناعي العسكري؟
ساهم بأدلة من هذه الصفحة.
التقارير is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- البريد الإلكترونيالبوابة GW-GCRIأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- التقاريرGCRIاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
قدّم منهجية أو مجموعة بيانات أو سؤالا.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.