Skip to content

GCRI · कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ

AI मूल्यांकन और आश्वासन

AI evaluation and assurance engineering is the second method this platform stewards. It provides the evidence that an AI system is fit for a stated use: evaluations, red teaming, documentation, monitoring and the structured arguments that tie them together.

01रजिस्टर करें

AI evaluation and assurance on the record.

पद्धति अभिलेखSTEM पद्धति
  1. पद्धतिAI मूल्यांकन और आश्वासन अभियांत्रिकी
  2. संरक्षककृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
  3. इनमें लागूकृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
  4. डेटा4 इनपुट
  5. प्रामाणिक पृष्ठSTEM कॉमन्स
02आवेदन

What AI evaluation and assurance engineering does here.

AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence and data and compute, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on the STEM Commons.

Assurance cases for AI systems

Claims about a system’s safety and performance for a use are broken into sub-claims, each supported by evaluation evidence, with gaps and assumptions recorded.

संरचित रेड टीमिंग

Adversarial testing is planned around threat models, with testers, scope, time and findings documented so that coverage can be judged.

परिनियोजन-पश्चात निगरानी

Incidents, complaints and performance metrics are tracked after release, and triggers for review or rollback are defined in advance.

03निगरानी करें

Evaluation suite.

वह स्क्रीन जिसका उपयोग कोई टीम इस पद्धति का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।

Evaluation suite

AI and autonomous systems · AI evaluation and assurance · Run R-0951

One gate pendingGCRI · Artificial Intelligence and Autonomous Systems

Evaluation suites

क्षमता58589संस्करणउत्तीर्ण
सुदृढ़ता13372संस्करणउत्तीर्ण
Bias and fairness16981संस्करणउत्तीर्ण
Misuse red team14279परिनियोजनखुले निष्कर्ष

पद्धति कार्ड

पद्धति
AI मूल्यांकन और आश्वासन अभियांत्रिकी
मॉडल बनाएँ
M-196 v1
स्वामी
model risk function
लेबल
मॉडल-आधारित

निष्कर्ष

  1. F-1Unsafe completion on edge promptsMitigation before deploy5 d
  2. F-2Lower accuracy on minority dialectData augmentation9 d
Evaluation suite: the screen’s structure, terms and states for AI and autonomous systems.Example names and illustrative values; a design, not a record or a live system.
04डेटा

पद्धति क्या उपभोग करती है।

Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

डेटाभूमिकालेबल
मूल्यांकन परिणामEvidence for claimsप्रेक्षित
Red-team reportsFailure discoveryरिपोर्ट किया गया
Incident logsField evidenceरिपोर्ट किया गया
System documentationScope and assumptionsघोषित
05पद्धतियाँ और साक्ष्य

How AI evaluation and assurance is modelled, measured and tested.

मॉडल, उसकी मान्यताएँ, उसका डेटा और उसकी अनिश्चितता, उस रूप में जिसे कोई वैज्ञानिक या अभियंता जाँचेगा। संरचनाएँ प्रकाशित पद्धतियों का अनुसरण करती हैं। लिए गए मान उदाहरणात्मक हैं, निष्कर्ष नहीं।

मॉडल, समीकरण और मान्यताएँ

The model structure used for AI evaluation and assurance, the assumptions it makes and how each is tested.

तत्व i का जोखिमRi = f(Hi, Ei, Vi, Ci)संकट, जोखिम-संपर्क, भेद्यता और सामना करने की क्षमता
अपेक्षित वार्षिक हानिEAL = ∑k pk · Lkover events k with annual probability pk
युग्मित प्रणालियाँxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
धारणायह क्यों बनाया जाता हैइसका परीक्षण कैसे होता है
एक घटना के भीतर संकट और जोखिम-संपर्क स्वतंत्र हैंनुकसान समाकलन को हल करने योग्य रखता हैसंयुक्त अभिलेखों पर कोपुला फ़िट से तुलना करें
संचालन बिंदु के पास युग्मन रैखिक हैंझटकों को A के माध्यम से फैलने देता हैरैखिक सीमा से आगे विक्षोभ दें और तुलना करें
भेद्यता वक्र स्थानों के बीच स्थानांतरित होते हैंस्थानीय वक्र शायद ही कभी उपलब्ध होते हैंजहाँ प्रेक्षित हानियाँ मौजूद हों, उनके विरुद्ध सत्यापन करें
इनपुट
उद्गम के साथ संस्करणबद्ध डेटासेट
परिणाम
वितरण, कभी एकल संख्याएँ नहीं
Code
मॉडल कार्ड और परीक्षणों के साथ जारी
पुनरुत्पादन
वही डेटा, कोड, परिवेश और सीड
मानक जोखिम और अवस्था-समष्टि सूत्रीकरण; सूचीबद्ध धारणाएँ पद्धति की विशिष्ट धारणाएँ हैं, समीक्षा के लिए बताई गई, परिणाम नहीं।
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06सत्यापन

परिणामों की जाँच कैसे होती है।

Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.

जाँचेंयह कैसे किया जाता है
स्वतंत्र समीक्षाआश्वासन मामलों की समीक्षा ऐसे लोग करते हैं जो विकास में शामिल नहीं रहे
Evidence currencyEvidence is re-checked after model or deployment changes
कवरेज रिपोर्टिंगमूल्यांकन बताते हैं कि उन्होंने क्या परीक्षण नहीं किया

Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.

07प्रक्रिया

प्रक्रिया कैसे चलती है।

Process explorer · Process

AI evaluation and assurance: AI risk management (NIST)

9 steps5 stages1 gate

प्रक्रिया

AI evaluation and assurance: AI risk management (NIST)

AI RMF Core के चार कार्य हैं: GOVERN, MAP, MEASURE और MANAGE, जिनमें GOVERN सर्वव्यापी है; चित्र में दिखाया गया क्रम एक प्रचलित पठन है, कोई जाँच-सूची नहीं।

  1. 01 शासन

    1. 01GOVERN: policies, roles and accountabilityStep · AI risk committeeGOVERN is a cross-cutting function. It is infused throughout AI risk management and enables the other functions.
  2. 02 Map

    1. 02MAP: संदर्भ और अभिप्रेत उपयोगडेटासेटMAP कार्य किसी AI प्रणाली से जुड़े जोखिमों को रेखांकित करने का संदर्भ स्थापित करता है, जिसमें अभिप्रेत उद्देश्य और लोगों पर प्रभाव शामिल हैं।
  3. 03 मापन

    1. 03मापन: विश्वसनीय विशेषताओं का मूल्यांकनमॉडल बनाएँAI प्रणालियाँ का मूल्यांकन विश्वसनीयता की विशेषताओं के लिए किया जाता है। परिनियोजन से पहले और संचालन के दौरान नियमित रूप से उनका परीक्षण किया जाना चाहिए।
    2. 04MEASURE: पहचाने गए जोखिमों पर समय के साथ नज़र रखेंमॉडल बनाएँपहचाने गए AI जोखिमों पर, जिनमें अप्रत्याशित और उभरते जोखिम शामिल हैं, समय के साथ नज़र रखने की क्रियाविधियाँ मौजूद हैं।
  4. 04 प्रबंधन

    1. 05प्रबंधन: जोखिमों का उपचार करेंचरणजोखिम उपचार योजनाओं में घटनाओं पर प्रतिक्रिया, उनसे पुनर्प्राप्ति और उनके बारे में संचार शामिल हैं। संसाधन उन जोखिमों को दिए जाते हैं जिन्हें चिह्नित और मापा गया है।
    2. 06Proceed or not (MANAGE 1.1)Gate · AI risk committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Deployment decisionDecision · AI risk committeeThe organisation that owns the system decides whether and under what conditions to deploy.
    4. 08परिनियोजन-पश्चात निगरानी और घटनाएँमॉडल बनाएँतैनाती के बाद की निगरानी योजनाएँ लागू की जाती हैं। घटनाएँ और त्रुटियाँ संबंधित AI हितधारकों के साथ साझा की जाती हैं, जिनमें प्रभावित समुदाय भी शामिल हैं।
  5. 05 अभिलेख

    1. 09AI प्रणालियों की सूचीडेटासेटGOVERN 1.6 में AI प्रणालियों की सूची बनाने के लिए तंत्र की अपेक्षा की गई है। मॉडल कार्ड एक प्रचलित पद्धति है, पर फ़्रेमवर्क में उसका नाम नहीं दिया गया है।

किसी प्रकाशित बाहरी मानक या पद्धति की तटस्थ रूपरेखा, उसके जारीकर्ता निकाय से। यह संचालन का अभिलेख नहीं है। Nexus दर्शाए गए किसी भी चरण का निष्पादन, प्रमाणन या अनुमोदन नहीं करता। कोई द्वार या निर्णय उस पक्ष का है जिसका नाम स्रोत में दिया गया है। कार्रवाइयाँ आवश्यक रूप से चरणों का क्रमबद्ध समुच्चय नहीं हैं। EU AI Act इस प्रवाह में नहीं दर्शाया गया है।

09प्रबंधकत्व

पद्धति का रखरखाव कौन करता है।

Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.

10प्रश्न

प्रश्न और उत्तर।

What are the limits of AI evaluation and assurance engineering in this field?
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
परिणामों की जाँच कैसे होती है?
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
क्या इस पृष्ठ के मान वास्तविक हैं?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
यह पद्धति और कहाँ लागू होती है?
समाज को चलाने वाली प्रामाणिक पद्धति पृष्ठ उसे लागू करने वाले हर प्लेटफ़ॉर्म को सूचीबद्ध करता है।
रिपोर्टयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

GCRIकृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँघातांकीय प्रौद्योगिकीLabs साक्ष्य

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ

कोई विधि, डेटासेट या प्रश्न लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।