OSS×クラウド最新TOPICS 2019年5月15日 11:22
Microsoft Researchは、AIブラックボックス問題を解決するためのソフトウェアツールキット「lnterpretML」をオープンソース化した。
InterpretMLは、解釈可能なモデルを訓練し、ブラックボックスシステムを説明するためのソフトウェアツールキット。
MITライセンスの下でオープンソース化されたInterpretMLは「開発者がモデルやシステムを説明するためにさまざまな方法で実験できるようにする」ことを目的としている。
https://github.com/microsoft/interpret
InterpretMLは、一般化された加法モデルの改良である「Explainable Boosting Machine(EBM)」や、ブラックボックスモデルの動作や個々の予測の説明を生成するための手法など、複数のわかりやすいモデルを実装している。
また「LIME」「SHAP」「線形モデル」「部分依存」「決定木」「ルールリスト」などのメソッドもサポートしている。
Microsoftの研究者は『多くの了解度の方法にアクセスする簡単な方法を持つことによって、開発者は異なる方法によって生成された説明を比較し、彼らのニーズに最も適した方法を選択できるでしょう』と述べている。
以上、下記URLからの要約
https://opensourceforu.com/2019/05/microsoft-open-sources-lnterpretml-for-solving-ai-black-box-problem/
Manifoldとは Manifoldは、エンジニアや科学者が、MLデータスライスとモデル全体のパフォーマンス問題を特定し、データのサブセット間の機能分布の違いを明らかにすることで根本原因を診断するのに役立つデバッグツール。 「Apache License 2.0」で提供されている。
OSS×Cloud ACCESS RANKING