説明可能AIとは

AIがどのような理由や根拠でその判断を下したのかを、人間が理解できるように説明する技術や仕組みのことです。判断の理由が分からないブラックボックス状態を防ぎ、医療や金融などの重要分野で安心して利用するために重視されています。

たとえるなら — 計算ドリルの答えだけでなく、途中の計算式や解き方のメモもしっかり残してくれる親切な回答者のようなものです。