機械学習（ML）モデルは、DataRobotのようなツールを使うことで、簡単に大量に生成することができるようになりましたが、どのモデルを選ぶのが正しいのでしょうか？精度や、計算速度のような今までのモデル選択指標に加え、モデルの解釈可能性は、MLモデルを現実問題の解決に応用する上でしばしば決定的な要素として上がります。本講演では、革新的な手法を使って、MLモデルが学習したパターンと、モデルが計算する予測値の根拠をどうやって説明できるようになるのかをお話します。