Skip to content

GCRI · Labs

ラボ科学における機械学習

機械学習は、このラボにおいて道具であると同時に研究対象でもある。文献スクリーニング、実験計画、画像・配列解析、シミュレーションを支援する一方、独自の評価規律を必要とする。リーク、 分布シフト 、不透明な故障モードは、当然のものとして片づけるのではなく、検証すべき研究上のリスクである。

02申請

人工知能と機械学習がここで果たす役割。

人工知能と機械学習は、データからパターンを学習して分類、予測、出力生成を行うアルゴリズムを開発する。ハザードの検知、予報、意思決定支援にますます用いられており、それ自体がリスクの源でもある。研究とエビデンス、手法とモデリング、イノベーションにおいて、機械学習は相互接続された システム全体で検知と予測を拡大できます。自動化された出力が重大な意思決定に影響する場合には、機械学習自体の故障モードも考慮しなければなりません。正式な説明は STEM Commons.

Assisted screening for systematic reviews

Classifiers prioritise records for human screening; recall is measured against a fully screened sample, and the stopping rule is stated in the review protocol before screening starts.

Surrogate models to guide experiments

シミュレーションや過去の実行で学習したモデルが、次に実施すべき実験を提案する。不確実性を用いて探索と確認のバランスを取り、すべての提案は、成果として認められる前に物理的に検証される。

Image and signal analysis in the lab

Segmentation and classification models are validated against expert annotation from other sites and instruments, with failure cases catalogued and shared alongside the model.

03監視

モデルの学習。

この手法を追跡するためにチームが使う画面:その指標、状態、決定。名前は例であり、値はイメージです。

モデルの学習

Labs · 実験室における機械学習 · 実行 R-4300

1 つの切り口でのドリフトGCRI・Labs

切り口別の評価

すべて0.790.047294合格
地域 A0.840.041004審査
地域 B0.790.12594審査
希少クラス0.670.1467基準未満

手法カード

手法
人工知能と機械学習
分割
時間ベース、リークなし
特徴
22
ラベル
モデル化

集団の安定性

Model training: the screen’s structure, terms and states for Labs.Example names and illustrative values; a design, not a record or a live system.
04データ

手法が使用するもの。

このプラットフォームで人工知能と機械学習が用いるデータセットと記録。それぞれが果たす役割と、その値に付くラベルを示します。出典は 出典の登録簿.

データ役割ラベル
Annotated benchmark datasets訓練と評価報告値
Laboratory instrument outputs分析モデルへの入力観測
Simulation archivesTraining surrogate modelsモデル化
Model and dataset cards想定用途と既知の限界申告済み
05手法とエビデンス

実験室科学における機械学習は、どのようにモデル化、測定、検証されるか。

モデル、その仮定、データ、不確実性を、科学者やエンジニアが確認する形で示します。構造は公表された手法に従っています。描かれた値は例示であり、知見ではありません。

モデル、方程式、仮定

The model structure used for machine learning in laboratory science, the assumptions it makes and how each is tested.

要素 i のリスクRi = f(Hi, Ei, Vi, Ci)ハザード、エクスポージャー、脆弱性、対処能力
年間期待損失EAL = ∑k pk · Lkover events k with annual probability pk
結合システムxt+1 = A xt + B ut + εtA carries the couplings, u the shock, ε the error
仮定作られる理由検証の方法
一つの事象の中では、ハザードとエクスポージャーは独立している損失の積分を扱いやすく保つ同時記録に当てはめたコピュラと比較
結合は動作点の近くで線形であるショックを A を通じて伝播させる線形範囲を超えて摂動を与えて比較する
脆弱性曲線は場所を越えて適用できる地域固有の曲線はめったに得られない観測された損失がある場合はそれに照らして検証
入力
来歴付きのバージョン管理されたデータセット
成果物
分布であり、単一の数値ではない
コード
モデルカードと試験とともに公開
再現
同じデータ、コード、環境、シード
標準的なリスクおよび状態空間の定式化です。挙げた前提はこの手法に典型的なもので、審査のために示しており、結果ではありません。
FAIR 原則・GO FAIR と FORCE11W3C PROV・World Wide Web Consortium不確実性の一貫した扱いに関するガイダンス・IPCCCEOS 解析即応データ・地球観測衛星委員会
06検証

結果の確認方法。

モデルは、空間、時間、グループの構造を考慮した検証用データで評価されます。正確さとともに、頑健性、較正、公平性も検証されます。

確認実施方法
リーケージ監査Splits are made by subject, site or time as the question requires, and preprocessing is fitted on training data only
External validationPerformance is reported on data from a different source or period
較正と頑健性Probabilities are checked for calibration, and performance under plausible perturbations is reported
報告チェックリスト研究は、REFORMS、TRIPOD+AI または関連する分野別チェックリストに照らして報告されます

導入時の条件が学習データと異なると、性能は低下します。モデルはバイアスを内包することがあり、希少な事象では明確な警告なしに失敗することがあります。

07プロセス

プロセスの進め方。

Process explorer · Process

実験室科学における機械学習:AI リスク管理(NIST)

9 steps5 stages1 gate

プロセス

実験室科学における機械学習:AI リスク管理(NIST)

AI RMF コアには、GOVERN、MAP、MEASURE、MANAGE の 4 つの機能があり、GOVERN は横断的である。図に示した順序は一般的な読み方の一例であり、チェックリストではない。

  1. 01 ガバナンス

    1. 01GOVERN: 方針、役割、説明責任ステップ · 主任研究者GOVERN は分野横断的な機能である。AI リスク管理の全体に浸透し、他の機能を可能にする。
  2. 02 Map

    1. 02MAP:文脈と意図された用途データセットMAP 機能は、意図された目的や人々への影響を含め、AI システムに関連するリスクを捉えるための文脈を確立する。
  3. 03 測定

    1. 03MEASURE:信頼性に関わる特性を評価するモデル化するAI システム は、信頼性に関わる特性について評価されます。展開前に、また運用中も定期的にテストされるべきです。
    2. 04MEASURE: 特定されたリスクを経時的に追跡するモデル化する特定済みの AI リスクを、想定外のリスクや創発的なリスクも含めて、時間の経過に沿って追跡する仕組みが整備されています。
  4. 04 管理

    1. 05MANAGE: リスクを処理するステップリスク対応 計画は、インシデントへの対応、インシデントからの復旧、インシデントに関するコミュニケーションを対象とします。リソースは、特定され測定されたリスクに配分されます。
    2. 06進めるか否か (MANAGE 1.1)ゲート · 主任研究者システムが目的と目標を満たしているか、また先に進むかどうかを判断する。この枠組みはしきい値を定めていない。
    3. 07展開の判断決定 · 主任研究者システムを所有する組織が、展開するかどうか、またどのような条件で展開するかを決定します。
    4. 08展開後のモニタリングとインシデントモデル化する展開後モニタリング計画が実施されます。インシデントとエラーは、影響を受けるコミュニティを含む関係する AI アクターと共有されます。
  5. 05 記録

    1. 09AI システムの一覧データセットGOVERN 1.6 は、AI システムの一覧を作成する仕組みを求めている。モデルカードは一般的な慣行であるが、同フレームワークには明記されていない。

発行機関が公表した外部の標準または手法の中立的な概要です。運用の記録ではありません。Nexus は、示された手順のいずれも実施、認証、承認しません。ゲートや決定は、出典に記載された当事者に属します。これらの行動は、必ずしも順序立った手順ではありません。EU AI Act は、このフローには含まれていません。

09スチュワードシップ

手法を維持する者。

人工知能と自律システム は、コンソーシアムのために人工知能と機械学習のスチュワードを務め、プラットフォーム全体でのその適用をレビューします。

11質問

質問と回答。

この分野における人工知能と機械学習の限界は何ですか?
導入時の条件が学習データと異なると、性能は低下します。モデルはバイアスを内包することがあり、希少な事象では明確な警告なしに失敗することがあります。
結果はどのように確認されますか?
モデルは、空間、時間、グループの構造を考慮した検証用データで評価されます。正確さとともに、頑健性、較正、公平性も検証されます。
このページの値は実際のものですか?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
この手法は他にどこで適用されていますか?
社会を動かし続ける 正式な手法のページ には、それを適用するすべてのプラットフォームが掲載されています。
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

GCRIラボLabs のエビデンス手法と技術
ラボ

手法、データセット、または問いを持ち込んでください。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。