【OSS】Microsoft Research、AIブラックボックス問題を解決するためのソフトウェアツールキット「lnterpretML」をオープンソース化---最適モデルによる予測説明を生成

Microsoft Researchは、AIブラックボックス問題を解決するためのソフトウェアツールキット「lnterpretML」をオープンソース化した。

「lnterpretML」とは

InterpretMLは、解釈可能なモデルを訓練し、ブラックボックスシステムを説明するためのソフトウェアツールキット。

MITライセンスの下でオープンソース化されたInterpretMLは「開発者がモデルやシステムを説明するためにさまざまな方法で実験できるようにする」ことを目的としている。

https://github.com/microsoft/interpret

複数のモデルを実装

InterpretMLは、一般化された加法モデルの改良である「Explainable Boosting Machine(EBM)」や、ブラックボックスモデルの動作や個々の予測の説明を生成するための手法など、複数のわかりやすいモデルを実装している。

また「LIME」「SHAP」「線形モデル」「部分依存」「決定木」「ルールリスト」などのメソッドもサポートしている。

最適な手法選択が可能

Microsoftの研究者は『多くの了解度の方法にアクセスする簡単な方法を持つことによって、開発者は異なる方法によって生成された説明を比較し、彼らのニーズに最も適した方法を選択できるでしょう』と述べている。

以上、下記URLからの要約
https://opensourceforu.com/2019/05/microsoft-open-sources-lnterpretml-for-solving-ai-black-box-problem/