Skip to content

GCRI · प्रौद्योगिकी

कृत्रिम बुद्धिमत्ता और मशीन लर्निंग

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. Artificial Intelligence and Autonomous Systems stewards this page for the Nexus Consortium.

02पद्धति

What artificial intelligence and machine learning covers.

  1. 01

    मूल पद्धतियाँ

    पर्यवेक्षित अधिगम; गहन तंत्रिका नेटवर्क; प्रबलन अधिगम; निरूपण अधिगम; प्रायिकता आधारित मॉडलिंग; मॉडल व्याख्या।

  2. 02

    डेटा और उपकरण

    labelled training datasets; sensor and image archives; text corpora; simulation outputs; benchmark suites.

  3. 03

    सत्यापन

    मॉडलों का मूल्यांकन अलग रखे गए उस डेटा पर होता है जो स्थानिक, कालिक और समूह संरचना का सम्मान करता है। सटीकता के साथ-साथ सुदृढ़ता, अंशांकन और निष्पक्षता का परीक्षण होता है।

  4. 04

    सीमाएँ

    जब परिनियोजन परिस्थितियाँ प्रशिक्षण डेटा से भिन्न होती हैं तो प्रदर्शन घटता है। मॉडल पूर्वाग्रहों को समाहित कर सकते हैं और दुर्लभ घटनाओं पर स्पष्ट चेतावनी के बिना विफल हो सकते हैं।

  5. 05

    जोखिम निर्णयों में उपयोग

    मशीन लर्निंग परस्पर जुड़ी प्रणालियाँमें पहचान और पूर्वानुमान को बड़े पैमाने पर संभव बना सकती है। जब स्वचालित परिणाम महत्वपूर्ण निर्णयों का आधार बनें, तब उसकी अपनी विफलता के तरीकों को भी तौलना आवश्यक है।

03संदर्भ पद्धति

Machine learning in risk work is governed by AI risk frameworks and reporting standards.

संदर्भयह क्या निर्धारित करता है
NIST AI RMFRisk management functions for AI systems
ISO/IEC 42001AI management systems
TRIPOD (EQUATOR)Reporting of prediction models, including machine-learning extensions
04प्रक्रिया

प्रक्रिया कैसे चलती है।

Process explorer · Process

Artificial intelligence and machine learning: AI risk management (NIST)

9 steps5 stages1 gate

प्रक्रिया

Artificial intelligence and machine learning: AI risk management (NIST)

AI RMF Core के चार कार्य हैं: GOVERN, MAP, MEASURE और MANAGE, जिनमें GOVERN सर्वव्यापी है; चित्र में दिखाया गया क्रम एक प्रचलित पठन है, कोई जाँच-सूची नहीं।

  1. 01 शासन

    1. 01GOVERN: नीतियाँ, भूमिकाएँ और जवाबदेहीचरण · स्वतंत्र समीक्षकGOVERN एक अंतर-क्षेत्रीय कार्य है। यह AI जोखिम प्रबंधन में सर्वत्र समाया हुआ है और अन्य कार्यों को सक्षम बनाता है।
  2. 02 Map

    1. 02MAP: संदर्भ और अभिप्रेत उपयोगडेटासेटMAP कार्य किसी AI प्रणाली से जुड़े जोखिमों को रेखांकित करने का संदर्भ स्थापित करता है, जिसमें अभिप्रेत उद्देश्य और लोगों पर प्रभाव शामिल हैं।
  3. 03 मापन

    1. 03मापन: विश्वसनीय विशेषताओं का मूल्यांकनमॉडल बनाएँAI प्रणालियाँ का मूल्यांकन विश्वसनीयता की विशेषताओं के लिए किया जाता है। परिनियोजन से पहले और संचालन के दौरान नियमित रूप से उनका परीक्षण किया जाना चाहिए।
    2. 04MEASURE: पहचाने गए जोखिमों पर समय के साथ नज़र रखेंमॉडल बनाएँपहचाने गए AI जोखिमों पर, जिनमें अप्रत्याशित और उभरते जोखिम शामिल हैं, समय के साथ नज़र रखने की क्रियाविधियाँ मौजूद हैं।
  4. 04 प्रबंधन

    1. 05प्रबंधन: जोखिमों का उपचार करेंचरणजोखिम उपचार योजनाओं में घटनाओं पर प्रतिक्रिया, उनसे पुनर्प्राप्ति और उनके बारे में संचार शामिल हैं। संसाधन उन जोखिमों को दिए जाते हैं जिन्हें चिह्नित और मापा गया है।
    2. 06आगे बढ़ें या नहीं (MANAGE 1.1)गेट · स्वतंत्र समीक्षकयह निर्धारित किया जाता है कि प्रणाली अपने उद्देश्यों और लक्ष्यों को पूरा करती है या नहीं, और आगे बढ़ना है या नहीं। यह फ़्रेमवर्क कोई सीमा-मान निर्धारित नहीं करता।
    3. 07परिनियोजन निर्णयनिर्णय · स्वतंत्र समीक्षकप्रणाली का स्वामित्व रखने वाला संगठन यह तय करता है कि परिनियोजन करना है या नहीं और किन शर्तों पर।
    4. 08परिनियोजन-पश्चात निगरानी और घटनाएँमॉडल बनाएँतैनाती के बाद की निगरानी योजनाएँ लागू की जाती हैं। घटनाएँ और त्रुटियाँ संबंधित AI हितधारकों के साथ साझा की जाती हैं, जिनमें प्रभावित समुदाय भी शामिल हैं।
  5. 05 अभिलेख

    1. 09AI प्रणालियों की सूचीडेटासेटGOVERN 1.6 में AI प्रणालियों की सूची बनाने के लिए तंत्र की अपेक्षा की गई है। मॉडल कार्ड एक प्रचलित पद्धति है, पर फ़्रेमवर्क में उसका नाम नहीं दिया गया है।

किसी प्रकाशित बाहरी मानक या पद्धति की तटस्थ रूपरेखा, उसके जारीकर्ता निकाय से। यह संचालन का अभिलेख नहीं है। Nexus दर्शाए गए किसी भी चरण का निष्पादन, प्रमाणन या अनुमोदन नहीं करता। कोई द्वार या निर्णय उस पक्ष का है जिसका नाम स्रोत में दिया गया है। कार्रवाइयाँ आवश्यक रूप से चरणों का क्रमबद्ध समुच्चय नहीं हैं। EU AI Act इस प्रवाह में नहीं दर्शाया गया है।

05प्रणालीगत जोखिम कार्य में

Fast emulators, fragile extrapolation.

Machine learning speeds up risk analysis: emulators of expensive physical models, classification of imagery, forecasting from large datasets. Its weakness is extrapolation: a model trained on the historical climate or historical markets may fail exactly in the unprecedented conditions that systemic risk is about.

  • Test performance out of distribution, not only on held-out samples from the same period.
  • Report training data provenance and licence.
  • Keep a physical or mechanistic check where one exists.
  • Applications on AI and Autonomous Systems and Labs.
07प्रबंधकत्व

इस पृष्ठ का अनुरक्षण कौन करता है।

Artificial Intelligence and Autonomous Systems stewards artificial intelligence and machine learning: it keeps this description current and reviews how the method is applied across the platforms.

08स्रोत

Where this page’s references lead.

वे निकाय और दस्तावेज़ जिनके विरुद्ध यह पृष्ठ पढ़ा जाता है। स्थिति और संस्करण बदलते हैं; हर लिंक जारी करने वाले निकाय तक जाता है।

09प्रश्न

प्रश्न और उत्तर।

एक ही संस्था प्रत्येक पद्धति पृष्ठ की मेज़बानी क्यों करती है?
GCRI STEM कॉमन्स की मेज़बानी करता है ताकि प्रत्येक पद्धति का एक मानक विवरण हो। प्लेटफ़ॉर्म उसे दोहराने के बजाय उससे लिंक करते हैं, जिससे परिभाषाएँ सुसंगत रहती हैं।
मैं किसी पद्धति पृष्ठ में सुधार का सुझाव कैसे दूँ?
रिपोर्टयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

GCRI

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

वैश्विक जोखिम और नवाचार केंद्र (Global Centre for Risk and Innovation)

कोई विधि, डेटासेट या प्रश्न लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।