Distribution shift analysis
Model performance is compared between training data and deployment data to detect shifts in inputs or labels that reduce accuracy, with monitoring set up to catch drift.
GCRI · कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
मशीन लर्निंग व्यवहार
Artificial intelligence and machine learning is the technology this platform stewards for the network. Here it is studied as a technology whose behaviour must be understood: how models learn from data, generalise, fail outside their training distribution and are adapted to specific uses.
01रजिस्टर करें
Machine learning behaviour on the record.
पद्धति अभिलेखSTEM पद्धति
- पद्धतिकृत्रिम बुद्धिमत्ता और मशीन लर्निंग
- संरक्षककृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
- इनमें लागूकृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
- डेटा3 inputs
- जाँचें3 सत्यापन चरण
- प्रामाणिक पृष्ठSTEM कॉमन्स
02आवेदन
कृत्रिम बुद्धिमत्ता और मशीन लर्निंग यहाँ क्या करते हैं।
Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and data and compute, machine learning can scale detection and forecasting across interconnected प्रणालियाँ. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on STEM Commons.
Fine-tuning for a specific use
General models are adapted to a narrow task with curated data, and the adapted model is evaluated for both task performance and retained safety behaviour.
Interpretability methods
Feature attribution and probing methods are used to examine which inputs drive a model’s outputs, with their limits as explanations stated.
03सिम्युलेटर
सामूहिक व्यवहार का एक सीमा मॉडल।
प्रत्येक एजेंट तब कार्य करता है जब उसके पर्याप्त संपर्क कार्य कर चुके हों; औसत सीमा या शुरुआती कर्ताओं में छोटे बदलाव तय करते हैं कि व्यवहार स्थानीय रहेगा या पूरी आबादी में शृंखलाबद्ध फैलेगा। बताए गए उदाहरणात्मक मानों वाला शिक्षण मॉडल, पूर्वानुमान नहीं।
नियंत्रण
- औसत सीमा (पड़ोसियों का हिस्सा)
- 18%
- सीमाओं का प्रसार
- 8 अंक
- शुरुआती कर्ता
- 2.0% लोग
- प्रति व्यक्ति संपर्क
- 8
पाठ्यांक
- साझा करें कि अंत में किसने कार्य किया
- 100%
- वैश्विक कैस्केड
- हाँ
- स्थिर होने के चरण
- 10
संख्याएँ, विधियाँ और स्रोत
| चरण | कार्रवाई करने वालों का हिस्सा (%) |
|---|---|
| 0 | 2.3 |
| 1 | 6.5 |
| 2 | 16.0 |
| 3 | 28.5 |
| 4 | 47.0 |
| 5 | 65.3 |
| 6 | 80.3 |
| 7 | 93.0 |
| 8 | 99.3 |
| 9 | 100.0 |
| 10 | 100.0 |
पद्धतियाँ
- सामूहिक व्यवहार के सीमा मॉडल Granovetter (1978), American Journal of Sociology 83
- यादृच्छिक नेटवर्कों पर वैश्विक कैस्केड Watts (2002), PNAS 99
- जटिल संक्रमण Centola and Macy (2007), American Journal of Sociology 113
- एक-एक करके संवेदनशीलता (टॉरनेडो) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
डेटा
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
छह स्तंभों में, Nexus Consortium के नेतृत्व में
- प्रयोग लैब
- में निर्मित Foundry में कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
- परीक्षण स्थल Universe में कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
- में संहिताबद्ध Standards में डिजिटल, साइबर और AI
- में प्रकाशित Reports में कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
- में पढ़ाया जाता है Academy में प्रौद्योगिकी और डिजिटल प्रणाली संकाय
04डेटा
पद्धति क्या उपभोग करती है।
इस प्लेटफ़ॉर्म पर कृत्रिम बुद्धिमत्ता और मशीन लर्निंग द्वारा उपयोग किए जाने वाले डेटासेट और अभिलेख, प्रत्येक की भूमिका और उसके मानों के लेबल के साथ। स्रोत स्रोत रजिस्टर.
| डेटा | भूमिका | लेबल |
|---|---|---|
| Training and validation datasets with documentation | Model development | घोषित |
| Deployment input logs | Shift detection | प्रेक्षित |
| Benchmark suites | तुलना | रिपोर्ट किया गया |
05पद्धतियाँ और साक्ष्य
How machine learning behaviour is modelled, measured and tested.
मॉडल, उसकी मान्यताएँ, उसका डेटा और उसकी अनिश्चितता, उस रूप में जिसे कोई वैज्ञानिक या अभियंता जाँचेगा। संरचनाएँ प्रकाशित पद्धतियों का अनुसरण करती हैं। लिए गए मान उदाहरणात्मक हैं, निष्कर्ष नहीं।
मॉडल, समीकरण और मान्यताएँ
The model structure used for machine learning behaviour, the assumptions it makes and how each is tested.
तत्व i का जोखिम
Ri = f(Hi, Ei, Vi, Ci)संकट, जोखिम-संपर्क, भेद्यता और सामना करने की क्षमताअपेक्षित वार्षिक हानि
EAL = ∑k pk · Lkवार्षिक प्रायिकता pkयुग्मित प्रणालियाँ
xt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error| धारणा | यह क्यों बनाया जाता है | इसका परीक्षण कैसे होता है |
|---|---|---|
| एक घटना के भीतर संकट और जोखिम-संपर्क स्वतंत्र हैं | नुकसान समाकलन को हल करने योग्य रखता है | संयुक्त अभिलेखों पर कोपुला फ़िट से तुलना करें |
| संचालन बिंदु के पास युग्मन रैखिक हैं | झटकों को A के माध्यम से फैलने देता है | रैखिक सीमा से आगे विक्षोभ दें और तुलना करें |
| भेद्यता वक्र स्थानों के बीच स्थानांतरित होते हैं | स्थानीय वक्र शायद ही कभी उपलब्ध होते हैं | जहाँ प्रेक्षित हानियाँ मौजूद हों, उनके विरुद्ध सत्यापन करें |
- इनपुट
- उद्गम के साथ संस्करणबद्ध डेटासेट
- परिणाम
- वितरण, कभी एकल संख्याएँ नहीं
- Code
- मॉडल कार्ड और परीक्षणों के साथ जारी
- पुनरुत्पादन
- वही डेटा, कोड, परिवेश और सीड
FAIR मार्गदर्शक सिद्धांत · GO FAIR और FORCE11W3C PROV · World Wide Web Consortiumअनिश्चितताओं के सुसंगत उपचार पर मार्गदर्शन · IPCCCEOS विश्लेषण-योग्य डेटा · Committee on Earth Observation Satellites
06सत्यापन
परिणामों की जाँच कैसे होती है।
मॉडलों का मूल्यांकन अलग रखे गए उस डेटा पर होता है जो स्थानिक, कालिक और समूह संरचना का सम्मान करता है। सटीकता के साथ-साथ सुदृढ़ता, अंशांकन और निष्पक्षता का परीक्षण होता है।
| जाँचें | यह कैसे किया जाता है |
|---|---|
| Held-out evaluation | Models are evaluated on data not used for training or tuning |
| Dataset documentation | Training data carry datasheets on origin, consent and limits |
| Drift monitoring | Deployed models are monitored for input and performance drift |
जब परिनियोजन परिस्थितियाँ प्रशिक्षण डेटा से भिन्न होती हैं तो प्रदर्शन घटता है। मॉडल पूर्वाग्रहों को समाहित कर सकते हैं और दुर्लभ घटनाओं पर स्पष्ट चेतावनी के बिना विफल हो सकते हैं।
08प्रबंधकत्व
पद्धति का रखरखाव कौन करता है।
कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ कंसोर्टियम के लिए कृत्रिम बुद्धिमत्ता और मशीन लर्निंग का संरक्षक है और प्लेटफ़ॉर्मों पर उसके अनुप्रयोग की समीक्षा करता है।
09प्रश्न
प्रश्न और उत्तर।
इस क्षेत्र में कृत्रिम बुद्धिमत्ता और मशीन लर्निंग की सीमाएँ क्या हैं?
जब परिनियोजन परिस्थितियाँ प्रशिक्षण डेटा से भिन्न होती हैं तो प्रदर्शन घटता है। मॉडल पूर्वाग्रहों को समाहित कर सकते हैं और दुर्लभ घटनाओं पर स्पष्ट चेतावनी के बिना विफल हो सकते हैं।
परिणामों की जाँच कैसे होती है?
मॉडलों का मूल्यांकन अलग रखे गए उस डेटा पर होता है जो स्थानिक, कालिक और समूह संरचना का सम्मान करता है। सटीकता के साथ-साथ सुदृढ़ता, अंशांकन और निष्पक्षता का परीक्षण होता है।
क्या इस पृष्ठ के मान वास्तविक हैं?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
यह पद्धति और कहाँ लागू होती है?
समाज को चलाने वाली प्रामाणिक पद्धति पृष्ठ उसे लागू करने वाले हर प्लेटफ़ॉर्म को सूचीबद्ध करता है।
रिपोर्टयोगदान दें
इस पृष्ठ से साक्ष्य का योगदान करें।
रिपोर्ट is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
GCRIकृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँघातांकीय प्रौद्योगिकीLabs साक्ष्य
- ईमेलगेटवे GW-GCRIइसे इसी पृष्ठ से भेजेंसाक्ष्य, सुधार, मामला, पद्धति, समीक्षा, अनुवाद या प्रोफ़ाइल इनपुट। यह इस पृष्ठ के टैग के साथ पहुँचता है, ताकि इसे सँभालने वाले संपादक को मिल जाए।
- Zenodoखुला जमाइसे जमा करें और समुदाय को प्रस्तुत करेंअपने ORCID iD के साथ Zenodo पर अपना अभिलेख प्रकाशित करें, फिर वहाँ Reports समुदाय को प्रस्तुत करें। संरक्षक उसकी समीक्षा करते हैं; DOI आपका ही रहता है।
- रिपोर्टGCRIयोगदान के सभी तरीके देखेंयोगदान के प्रकार, प्रत्येक की समीक्षा कैसे होती है, आपको क्या श्रेय मिलता है, लाइसेंस और क्या कभी स्वीकार नहीं किया जाता।
व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।
कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियाँ
कोई विधि, डेटासेट या प्रश्न लाएँ।
जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।
विधिक
कानूनी दस्तावेज़।
इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।