Blog
tech diary

Evaluation of Similarity-based Explanations

2022-05-29

category: Evaluation of Similarity-based Explanations

どんなものか

説明性aiの手法の一つにモデルの予測の際に訓練データの中から類似のインスタンスを提供する方法がある。この類似を測るためにいくつかのrelevance metricsがある。本研究ではユーザーに合理的な説明を行うことができるrelevance metricsの検討をおこなった。

A Benchmark for Interpretability Methods in Deep Neural Networks

2022-05-29

category: A Benchmark for Interpretability Methods in Deep Neural Networks

どんなものか

vanilla gradient系の説明手法（backprop, smooth grad, var grad）に対して特徴量重要度評価法を提案した。具体的には重要だとハイライトされた部分を隠しモデルを通す評価方法を見直し、削除と再学習を行い評価するROAMという手法を提案した。

*****
Non sunt multiplicanda entia sine necessitate
Pudhina is a free Jekyll theme by Knhash.
copyright ©️ 2022 - 2024