Skip to content

GCRI · Foundry

Foundry में AI और मशीन लर्निंग

कृत्रिम बुद्धिमत्ता और मशीन लर्निंग बड़े अभिलेखागारों में पहचान, वर्गीकरण और पूर्वानुमान का विस्तार करती हैं, और एजेंट उन्हें कार्रवाई तक ले जाते हैं। इस क्षेत्र में पद्धति स्वयं भी जोखिम का स्रोत है: ऐसे मॉडल जो परिस्थितियाँ बदलने पर विफल हो जाते हैं, ऐसे परिणाम जो अनिश्चित होने पर भी निश्चित लगते हैं, और ऐसे उपकरण जो त्रुटि को प्रभाव में बदल देते हैं।

02आवेदन

कृत्रिम बुद्धिमत्ता और मशीन लर्निंग यहाँ क्या करते हैं।

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In data and compute and methods and modelling, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Earth observation models with spatial validation

Land cover, building and damage models are trained and tested on spatially separated blocks, so reported accuracy reflects new places rather than the neighbours of training pixels.

Model cards and promotion records

Each model version carries its intended use, training data, evaluation by region and subgroup, known limits and red-team results, and is promoted only with a recorded review.

रसीदों सहित सीमित दायरे वाले एजेंट

Agents run analyses with a declared tool set, data classes, budget and kill-switch enforced at the policy gate, and every action produces a receipt for a reviewer.

03निगरानी करें

मॉडल प्रशिक्षण।

वह स्क्रीन जिसका उपयोग कोई टीम इस पद्धति का अनुसरण करने के लिए करेगी: इसके माप, अवस्थाएँ और निर्णय। नाम उदाहरण हैं और मान उदाहरणात्मक हैं।

मॉडल प्रशिक्षण

Foundry · AI and machine learning at Foundry · Run R-6794

Drift on one sliceGCRI · Foundry

खंड के अनुसार मूल्यांकन

सभी0.830.025712उत्तीर्ण
क्षेत्र A0.740.051098समीक्षा
क्षेत्र B0.760.05458समीक्षा
दुर्लभ वर्ग0.640.07160मानक से नीचे

पद्धति कार्ड

पद्धति
कृत्रिम बुद्धिमत्ता और मशीन लर्निंग
विभाजन
समय-आधारित, कोई रिसाव नहीं
विशेषताएँ
22
लेबल
मॉडल-आधारित

जनसंख्या स्थिरता

Model training: the screen’s structure, terms and states for Foundry.Example names and illustrative values; a design, not a record or a live system.
04डेटा

पद्धति क्या उपभोग करती है।

इस प्लेटफ़ॉर्म पर कृत्रिम बुद्धिमत्ता और मशीन लर्निंग द्वारा उपयोग किए जाने वाले डेटासेट और अभिलेख, प्रत्येक की भूमिका और उसके मानों के लेबल के साथ। स्रोत स्रोत रजिस्टर.

डेटाभूमिकालेबल
Labelled training setsपर्यवेक्षित अधिगमरिपोर्ट किया गया
Satellite image archivesInputs to classificationप्रेक्षित
Held-out and out-of-distribution test setsमूल्यांकनप्रेक्षित
Evaluation and red-team recordsPromotion decisionsरिपोर्ट किया गया
Datasheets for training dataOrigin, consent and licenceघोषित
05पद्धतियाँ और साक्ष्य

How AI and machine learning at Foundry is modelled, measured and tested.

मॉडल, उसकी मान्यताएँ, उसका डेटा और उसकी अनिश्चितता, उस रूप में जिसे कोई वैज्ञानिक या अभियंता जाँचेगा। संरचनाएँ प्रकाशित पद्धतियों का अनुसरण करती हैं। लिए गए मान उदाहरणात्मक हैं, निष्कर्ष नहीं।

मॉडल, समीकरण और मान्यताएँ

Foundry में AI और मशीन लर्निंग के लिए प्रयुक्त मॉडल संरचना, उसकी मान्यताएँ और प्रत्येक का परीक्षण कैसे किया जाता है।

तत्व i का जोखिमRi = f(Hi, Ei, Vi, Ci)संकट, जोखिम-संपर्क, भेद्यता और सामना करने की क्षमता
अपेक्षित वार्षिक हानिEAL = ∑k pk · Lkover events k with annual probability pk
युग्मित प्रणालियाँxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
धारणायह क्यों बनाया जाता हैइसका परीक्षण कैसे होता है
एक घटना के भीतर संकट और जोखिम-संपर्क स्वतंत्र हैंनुकसान समाकलन को हल करने योग्य रखता हैसंयुक्त अभिलेखों पर कोपुला फ़िट से तुलना करें
संचालन बिंदु के पास युग्मन रैखिक हैंझटकों को A के माध्यम से फैलने देता हैरैखिक सीमा से आगे विक्षोभ दें और तुलना करें
भेद्यता वक्र स्थानों के बीच स्थानांतरित होते हैंस्थानीय वक्र शायद ही कभी उपलब्ध होते हैंजहाँ प्रेक्षित हानियाँ मौजूद हों, उनके विरुद्ध सत्यापन करें
इनपुट
उद्गम के साथ संस्करणबद्ध डेटासेट
परिणाम
वितरण, कभी एकल संख्याएँ नहीं
Code
मॉडल कार्ड और परीक्षणों के साथ जारी
पुनरुत्पादन
वही डेटा, कोड, परिवेश और सीड
मानक जोखिम और अवस्था-समष्टि सूत्रीकरण; सूचीबद्ध धारणाएँ पद्धति की विशिष्ट धारणाएँ हैं, समीक्षा के लिए बताई गई, परिणाम नहीं।
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06सत्यापन

परिणामों की जाँच कैसे होती है।

मॉडलों का मूल्यांकन अलग रखे गए उस डेटा पर होता है जो स्थानिक, कालिक और समूह संरचना का सम्मान करता है। सटीकता के साथ-साथ सुदृढ़ता, अंशांकन और निष्पक्षता का परीक्षण होता है।

जाँचेंयह कैसे किया जाता है
स्थानिक और कालिक होल्ड-आउटTest data are separated in space and time from training data to prevent leakage
Probability calibrationपूर्वानुमानित प्रायिकताओं की तुलना अलग रखे गए डेटा पर देखी गई आवृत्तियों से की जाती है
ड्रिफ़्ट निगरानीउपयोग में आ रहे इनपुट और आउटपुट वितरणों की तुलना सत्यापन के समय के वितरणों से की जाती है, और अंतर होने पर समीक्षा शुरू होती है
Adversarial testingModels and agents are tested against prompt injection and misuse before promotion

जब परिनियोजन परिस्थितियाँ प्रशिक्षण डेटा से भिन्न होती हैं तो प्रदर्शन घटता है। मॉडल पूर्वाग्रहों को समाहित कर सकते हैं और दुर्लभ घटनाओं पर स्पष्ट चेतावनी के बिना विफल हो सकते हैं।

07प्रक्रिया

प्रक्रिया कैसे चलती है।

Process explorer · Process

AI and machine learning at Foundry: AI risk management (NIST)

9 steps5 stages1 gate

प्रक्रिया

AI and machine learning at Foundry: AI risk management (NIST)

AI RMF Core के चार कार्य हैं: GOVERN, MAP, MEASURE और MANAGE, जिनमें GOVERN सर्वव्यापी है; चित्र में दिखाया गया क्रम एक प्रचलित पठन है, कोई जाँच-सूची नहीं।

  1. 01 शासन

    1. 01GOVERN: नीतियाँ, भूमिकाएँ और जवाबदेहीचरण · मॉडल संरक्षकGOVERN एक अंतर-क्षेत्रीय कार्य है। यह AI जोखिम प्रबंधन में सर्वत्र समाया हुआ है और अन्य कार्यों को सक्षम बनाता है।
  2. 02 Map

    1. 02MAP: संदर्भ और अभिप्रेत उपयोगडेटासेटMAP कार्य किसी AI प्रणाली से जुड़े जोखिमों को रेखांकित करने का संदर्भ स्थापित करता है, जिसमें अभिप्रेत उद्देश्य और लोगों पर प्रभाव शामिल हैं।
  3. 03 मापन

    1. 03मापन: विश्वसनीय विशेषताओं का मूल्यांकनमॉडल बनाएँAI प्रणालियाँ का मूल्यांकन विश्वसनीयता की विशेषताओं के लिए किया जाता है। परिनियोजन से पहले और संचालन के दौरान नियमित रूप से उनका परीक्षण किया जाना चाहिए।
    2. 04MEASURE: पहचाने गए जोखिमों पर समय के साथ नज़र रखेंमॉडल बनाएँपहचाने गए AI जोखिमों पर, जिनमें अप्रत्याशित और उभरते जोखिम शामिल हैं, समय के साथ नज़र रखने की क्रियाविधियाँ मौजूद हैं।
  4. 04 प्रबंधन

    1. 05प्रबंधन: जोखिमों का उपचार करेंचरणजोखिम उपचार योजनाओं में घटनाओं पर प्रतिक्रिया, उनसे पुनर्प्राप्ति और उनके बारे में संचार शामिल हैं। संसाधन उन जोखिमों को दिए जाते हैं जिन्हें चिह्नित और मापा गया है।
    2. 06Proceed or not (MANAGE 1.1)Gate · Model stewardA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07परिनियोजन निर्णयनिर्णय · मॉडल संरक्षकप्रणाली का स्वामित्व रखने वाला संगठन यह तय करता है कि परिनियोजन करना है या नहीं और किन शर्तों पर।
    4. 08परिनियोजन-पश्चात निगरानी और घटनाएँमॉडल बनाएँतैनाती के बाद की निगरानी योजनाएँ लागू की जाती हैं। घटनाएँ और त्रुटियाँ संबंधित AI हितधारकों के साथ साझा की जाती हैं, जिनमें प्रभावित समुदाय भी शामिल हैं।
  5. 05 अभिलेख

    1. 09AI प्रणालियों की सूचीडेटासेटGOVERN 1.6 में AI प्रणालियों की सूची बनाने के लिए तंत्र की अपेक्षा की गई है। मॉडल कार्ड एक प्रचलित पद्धति है, पर फ़्रेमवर्क में उसका नाम नहीं दिया गया है।

किसी प्रकाशित बाहरी मानक या पद्धति की तटस्थ रूपरेखा, उसके जारीकर्ता निकाय से। यह संचालन का अभिलेख नहीं है। Nexus दर्शाए गए किसी भी चरण का निष्पादन, प्रमाणन या अनुमोदन नहीं करता। कोई द्वार या निर्णय उस पक्ष का है जिसका नाम स्रोत में दिया गया है। कार्रवाइयाँ आवश्यक रूप से चरणों का क्रमबद्ध समुच्चय नहीं हैं। EU AI Act इस प्रवाह में नहीं दर्शाया गया है।

09प्रबंधकत्व

पद्धति का रखरखाव कौन करता है।

कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ कंसोर्टियम के लिए कृत्रिम बुद्धिमत्ता और मशीन लर्निंग का संरक्षक है और प्लेटफ़ॉर्मों पर उसके अनुप्रयोग की समीक्षा करता है।

11प्रश्न

प्रश्न और उत्तर।

इस क्षेत्र में कृत्रिम बुद्धिमत्ता और मशीन लर्निंग की सीमाएँ क्या हैं?
जब परिनियोजन परिस्थितियाँ प्रशिक्षण डेटा से भिन्न होती हैं तो प्रदर्शन घटता है। मॉडल पूर्वाग्रहों को समाहित कर सकते हैं और दुर्लभ घटनाओं पर स्पष्ट चेतावनी के बिना विफल हो सकते हैं।
परिणामों की जाँच कैसे होती है?
मॉडलों का मूल्यांकन अलग रखे गए उस डेटा पर होता है जो स्थानिक, कालिक और समूह संरचना का सम्मान करता है। सटीकता के साथ-साथ सुदृढ़ता, अंशांकन और निष्पक्षता का परीक्षण होता है।
क्या इस पृष्ठ के मान वास्तविक हैं?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
यह पद्धति और कहाँ लागू होती है?
समाज को चलाने वाली प्रामाणिक पद्धति पृष्ठ उसे लागू करने वाले हर प्लेटफ़ॉर्म को सूचीबद्ध करता है।
रिपोर्टयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

GCRIFoundryFoundry Build and Readiness

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

Foundry

कोई विधि, डेटासेट या प्रश्न लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।

The Global Centre for Risk and Innovation (GCRI Canada) is a Canadian not-for-profit organisation, not a registered charity, with its registered office in Ontario.