Skip to content

GCRI · زیرەکی دەستکرد و سیستەمە خۆسەرەکان

Statistics for AI evaluation

Probability and statistics make AI evaluation trustworthy: confidence intervals on scores, significance of differences between models, calibration of predicted probabilities and sampling designs for audits. In this field they stop small test sets and noisy metrics from being over-read.

پرسیارێک بنێرە Back to STEM foundation of Artificial Intelligence and Autonomous Systems
01تۆمارکردن

Statistics for AI evaluation on the record.

Method recordSTEM method
  1. ڕێگائەگەر و ئامار
  3. Applied inزیرەکی دەستکرد و سیستەم
  4. داتا3 inputs
  6. Canonical pageSTEM Commons
02Application

What probability and statistics does here.

Probability and statistics provide the mathematical framework for describing uncertainty and learning from data. They underpin estimation, testing and prediction in every risk discipline. In artificial intelligence and data and compute, statistical methods quantify the likelihood and uncertainty of losses across interconnected سیستەمە. They make the evidence behind risk decisions explicit and reproducible. The canonical description is on STEM Commons.

Uncertainty on benchmark scores

Bootstrap and analytical intervals are reported with every score, and differences between models are tested before rankings are stated.

Calibration assessment

Predicted probabilities are compared with observed outcomes to check whether a model’s confidence matches its accuracy.

Audit sampling

Samples of decisions are drawn with stated designs so that error rates for subgroups can be estimated with known precision.

03ڕێگا و بەڵگە

How Statistics for AI evaluation is modelled, measured and tested.

مۆدێلەکە، گریمانەکانی، داتاکانی و نادڵنیاییەکەی، بەو شێوەیەی زانا یان ئەندازیارێک دەیپشکنێت. پێکهاتەکان ڕێگا بڵاوکراوەکان دەگرنەبەر. بەهاکانی کێشراو نموونەییە، نەک دۆزینەوە.

مۆدێل، هاوکێشەکان و گریمانەکان

The model structure used for Statistics for AI evaluation, the assumptions it makes and how each is tested.

مەترسیی توخمی iRi = f(Hi, Ei, Vi, Ci)مەترسیدەر، ڕووبەڕووبوون، لاوازی و توانای مامەڵەکردن
زیانی ساڵانەی چاوەڕوانکراوEAL = ∑k pk · Lkبەسەر ڕووداوەکانی k بە ئەگەری ساڵانەی pk
سیستەمە هاوبەستەکانxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
گریمانەبۆچی دروست دەکرێتچۆن تاقی دەکرێتەوە
مەترسیدەر و ڕووبەڕووبوون لە ناو پێشهاتێکدا سەربەخۆنئینتێگراڵی زیان بە ئاسانی دەهێڵێتەوەبەراورد بکە لەگەڵ گونجاندنی کۆپیولا لەسەر تۆمارە هاوبەشەکان
هاوبەستییەکان لە نزیک خاڵی کارکردن هێڵینڕێگە دەدات شۆکەکان بڵاو ببنەوە لە Aلە دەرەوەی مەودای هێڵیی شڵەژێنە و بەراورد بکە
چەمکەکانی لاوازی لە شوێنێکەوە بۆ شوێنێکی تر دەگوازرێنەوەچەمکی ناوخۆیی بە دەگمەن بەردەستەلەگەڵ زیانە چاودێریکراوەکان پشتڕاستی بکەرەوە کە هەن
تێکردنەکان
کۆمەڵە داتای وەشانکراو لەگەڵ ڕەسەنایەتی
دەرچووەکان
دابەشبوون، نەک یەک ژمارە
کۆد
بڵاوکراوەتەوە لەگەڵ کارتی مۆدێل و تاقیکردنەوەکان
بەرهەمهێنانەوە
هەمان داتا، کۆد، ژینگە و تۆو
فۆرمۆلەکردنی مەترسی و دۆخ-بۆشایی ستاندارد؛ ئەو گریمانانەی لیست کراون ئاسایین بۆ ڕێگاکە، بۆ پێداچوونەوە ڕاگەیەندراون، نەک ئەنجام.
پرەنسیپە ڕێنماییەکانی FAIR · GO FAIR و FORCE11W3C PROV · World Wide Web Consortiumڕێنمایی بۆ مامەڵەی یەکسان لەگەڵ نادڵنیاییەکان · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
04داتا

What the method consumes.

Datasets and records used by probability and statistics on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

داتاڕۆڵناونیشان
Evaluation outputsScore estimationچاودێریکراو
Labelled audit samplesError estimationچاودێریکراو
Prediction logsCalibrationچاودێریکراو
05پرۆسە

چۆن پرۆسەکە کار دەکات.

Process explorer · Process

Statistics for AI evaluation: Catastrophe model pipeline

10 steps5 قۆناغ

پرۆسە

Statistics for AI evaluation: Catastrophe model pipeline

Catastrophe models usually have hazard, vulnerability, exposure and financial modules, and produce loss tables, تێکڕای زیانی ساڵانە, exceedance curves, PML and TVaR.

  1. 01 Hazard

    1. 01Event catalogueDataset · Model developerThe hazard module holds a large catalogue of simulated events that represents a wide range of plausible scenarios.
    2. 03Hazard moduleModel · Model developerFor each event the hazard module gives the local hazard intensity that the vulnerability module reads.

  2. 02 Exposure and damage

    1. 02ڕووبەڕووبوونDataset · Incident responderThe exposure module houses the portfolio data, such as location-specific information.
    2. 04Vulnerability moduleModel · Model developerThe vulnerability module quantifies the expected damage to the exposures from an event.

  3. 03 Financial

    1. 05Financial moduleModel · Incident responderThe financial module calculates losses from all event scenarios. Ground-up, gross and net losses differ as shown below.
    2. 06Event loss tableDataset · Incident responderAn event loss table lists each event with its annual occurrence probability and its loss for the portfolio.
    3. 07Year loss tableDataset · Incident responderSome models also sample simulated years from event losses. This outline does not describe their format.

  4. 04 Metrics

    1. 08Exceedance probability curvesModel · Incident responderThe occurrence curve gives the chance that the largest loss in a year exceeds an amount. The aggregate curve does so for the sum of losses.
    2. 09AAL, PML and TVaRModel · Incident responderAverage annual loss sums event probability times loss. PML is one point on the occurrence curve.

  5. 05 Use of results

    1. 10Use of resultsDecision · Incident responderThe tail metrics are used when considering a portfolio’s exposure and the level of catastrophe reinsurance an insurer requires.

Outline of an external standard or method, from its public sources. It describes what the framework says, not a record of any run. It does not show that Nexus or any partner performs, certifies or approves a step. A gate is a step of the method, never a Nexus approval.

06پشتڕاستکردنەوە

How results are checked.

Results are checked through diagnostics, cross-validation and sensitivity to assumptions. Independent replication confirms findings.

بپشکنەHow it is done
Interval reportingEvery metric is reported with its uncertainty
Multiple comparisonsComparisons across many tasks are corrected for multiple testing
Sample size planningAudit samples are sized to detect differences of stated magnitude

Inference depends on assumptions about independence, distribution and sampling that may not hold. Small or biased samples limit reliability.

07Connections

Topics that rely on this method.

08Stewardship

Who maintains the method.

زانستی سیستەمەکان و مۆدێلسازی stewards probability and statistics for the Consortium and reviews how it is applied across platforms.

Canonical page: Probability and statistics

09پەیوەست

ئەو شوێنانەی ئەم لاپەڕەیە لە ناو کۆنسۆرتیۆم بۆیان دەبات.

10پرسیارەکان

پرسیار و وەڵام.

What are the limits of probability and statistics in this field?
Inference depends on assumptions about independence, distribution and sampling that may not hold. Small or biased samples limit reliability.
How are results checked?
Results are checked through diagnostics, cross-validation and sensitivity to assumptions. Independent replication confirms findings.
Are the values on this page real?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Where else is this method applied?
ئەو canonical method page lists every platform that applies it.
Reportsبەشداربە

لەم لاپەڕەیەوە بەڵگە پێشکەش بکە.

Reports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

GCRIزیرەکی دەستکرد و سیستەمە خۆسەرەکانتەکنەلۆجیای ئێکسپۆنێنشیاڵبەڵگەی Labs

هەرگیز داتای کەسی، وردەکاریی هەستیاری ژێرخان یان هیچ شتێک مەنێرە کە مافی بڵاوکردنەوەت نییە. بەشدارییەک پێش بەکارهێنان پێداچوونەوەی بۆ دەکرێت؛ ناردنی ماف نابەخشێت بە نووسەرایەتی یان بەڕێوەبردنی ڕاگەیاندن، و پاڵپشتی دارایی هەرگیز دۆزینەوەیەک ناکڕێت.

زیرەکی دەستکرد و سیستەمە خۆسەرەکان

ڕێگایەک، کۆمەڵە داتایەک یان پرسیارێک بهێنە.

زانیاری و پرسیار ئەمڕۆ کراوەن. پرسیارێک ژمارەی ئاماژەی پێدەدرێت و هەنگاوی دواتر دیاری دەکات؛ داواکاری، پارەدان، تەرخانکردنی کۆمپیوتەر و تۆمارکردن تەنیا کاتێک دەکرێنەوە کە تیم، مەرج و توانای پێداچوونەوەیان هەبێت.

ڕێگایەک پێشنیار بکە بینینی هەموو ڕێگاکانی پەیوەندی
یاسایی

نەخشە، داتا و وێنەکانی ئەم ماڵپەڕە بۆ ناوەڕۆک و زانیاریی گشتی پیشان دراون. ئامۆژگاری، پێشبینی یان ئاگادارکردنەوە نین؛ سنوورەکانی زانیارییەکە لە ڕەتکردنەوەی بەرپرسیارێتی و ئاگاداریی داتادا دەستنیشان کراون.