Skip to content

GCRI · الذكاء الاصطناعي والنظم المستقلة

نظرة عامة على المجال

يدرس الذكاء الاصطناعي و النظم المستقلة، بوصفه مجالًا للمخاطر، كيف تتصرف النماذج المتعلمة والوكلاء البرمجيون والروبوتات في العالم الحقيقي، وكيف يمكن قياس سلوكها، وكيف تنتشر إخفاقاتها إلى المؤسسات والبنى التحتية والحيوات التي تعتمد عليها. وتعرّف هذه الصفحة المجال، وتشرح سبب أهميته للمجتمع، وتعرض ما يدرسه الخبراء، وتبيّن كيف يرتبط بالمخاطر الأخرى.

منهجيات ⁨STEM⁩
7
الأساليب المعيارية التي يطبقها هذا المجال
الموضوعات
8
صفحات الموضوعات في المجال
النظراء
3
المنصات في المجالات المشتركة عبر الشبكة
سلاسل التقارير
2
سلاسل التقارير التي تسهم فيها
01التعريف

من الخوارزميات إلى النظم المنشورة.

التعلم

النماذج والبيانات

كيف تشكّل بيانات التدريب والأهداف والبنى السلوك، بما في ذلك أنماط الإخفاق.

الضمان

التقييم والرقابة

كيف تنظّم إدارة النظم وتُرصد وتبقى تحت رقابة بشرية فعلية.

Embodiment

الاستقلالية في العالم

كيف يتفاعل الاستشعار والتخطيط والتحكم في الروبوتات والمركبات.

يجمع المجال بين الذكاء الاصطناعي والتعلم الآلي، أي الأساليب التي تتعلم بها النظم من البيانات، وهندسة تقييم الذكاء الاصطناعي وضمانه، أي التخصص الهندسي المعني باختبارها وضمانها. ويمتد إلى الروبوتات والأتمتة، حيث يتحكم الذكاء الاصطناعي في آلات مادية، وإلى الحوسبة عالية الأداء والسحابية والطرفية، أي البنية التحتية التي تدرّب النماذج وتشغّلها.

بوصفه مجالًا للمخاطر، تحدده العواقب: ماذا يحدث حين يُعمّم نموذج تعميمًا سيئًا، أو حين يسيء وكيل استخدام أداة، أو حين يخطئ روبوت في قراءة بيئته، أو حين تتشارك نظم كثيرة الخلل نفسه. و العلوم الاجتماعية والسلوكية جزء من المجال لأن آثار الذكاء الاصطناعي تتوقف على كيفية استخدام الناس له وثقتهم به واعتراضهم عليه.

02الرصد

نظرة عامة على المجال.

الشاشة التي قد يستخدمها فريق لمتابعة هذا الموضوع: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.

Field overview: the screen’s structure, terms and states for AI and autonomous systems.أسماء مثالية وقيم توضيحية؛ تصميم وليس سجلًا ولا نظامًا حيًا.
03لماذا يهم ذلك

يتحول الذكاء الاصطناعي إلى بنية تحتية.

  • ينتقل الذكاء الاصطناعي من أدوات استشارية إلى النظم تتصرف، عبر الوكلاء البرمجيين والاستقلالية المادية.
  • Public services increasingly use automated systems in decisions about people’s rights and access.
  • يقوم كثير من التطبيقات على عدد قليل من مزودي النماذج والمنصات السحابية وسلاسل إمداد الرقائق.
  • يتأخر علم التقييم عن القدرات، لذا كثيرًا ما يصعب التحقق من الادعاءات المتعلقة بالسلامة والأداء.
04ما يدرسه الخبراء

الأسئلة الأساسية.

  1. 01

    القياس

    هل تقيس التقييمات ما تدّعي قياسه، وهل تُعمَّم نتائجها؟ اطّلع على تقييم النماذج.

  2. 02

    الإجراء

    كيف ينبغي تفويض السلطة إلى النظم تتصرف؟ اطّلع على الأنظمة الوكيلة والنظم المادية المستقلة.

  3. 03

    الأمن

    كيف يمكن مهاجمة النماذج، وكيف يمكن للذكاء الاصطناعي أن يغيّر الهجوم والدفاع السيبرانيين؟ اطّلع على الذكاء الاصطناعي والأمن السيبراني.

  4. 04

    الاستخدام

    كيف يغيّر الذكاء الاصطناعي العلوم والخدمات العامة؟ اطّلع على الذكاء الاصطناعي في العلوم والذكاء الاصطناعي والخدمات العامة.

  5. 05

    الأسس والآثار

    على ماذا يعتمد الذكاء الاصطناعي، ومن يتأثر به؟ اطّلع على الحوسبة والطاقة والآثار على العمل والمجتمع.

05الروابط

كيف يمس الذكاء الاصطناعي المخاطر الأخرى.

يرتبط الذكاء الاصطناعي بالأمن السيبراني والطاقة وأسواق العمل والمالية وثقة الجمهور. وتشرح الترابطات والعواقب هذه الروابط. ويجري التنسيق بشأن الحوكمة عبر حوكمة الذكاء الاصطناعي والمجال الرقمي لدى المنتدى العالمي للمخاطر (Global Risks Forum، GRF)، وتُدرس مخاطر النموذج في القطاع المالي عبر مخاطر الذكاء الاصطناعي والنماذج المالية لدى التحالف العالمي للمخاطر (Global Risks Alliance، GRA).

06الصفحات

الصفحات في نظرة عامة على المجال.

07أسئلة

أسئلة وأجوبة.

هل هذا المجال هو نفسه أخلاقيات الذكاء الاصطناعي؟
يتداخل معه، لكن تركيزه على السلوك والإخفاق القابلين للقياس: الصلاحية والمتانة والأمن والموثوقية والآثار، مدروسةً بأساليب علمية.
على أي مناهج يعتمد المجال؟
التعلم الآلي، وهندسة ضمان الذكاء الاصطناعي، والحوسبة، والاحتمالات والإحصاء، والأمن السيبراني، والعلوم الاجتماعية، والروبوتات. وكل منها موصوف في صفحة الأساس ⁨STEM⁩.
هل يشمل المجال الذكاء الاصطناعي العسكري؟
The platform’s scope is civilian systems and their public effects. It does not work on weapons development.
التقاريرساهم

ساهم بأدلة من هذه الصفحة.

التقارير is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRIالذكاء الاصطناعي والنظم المستقلةالتقنيات الأسيةأدلة Labs
الذكاء الاصطناعي والنظم المستقلة

قدّم منهجية أو مجموعة بيانات أو سؤالا.

المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.