説明可能AIとは、AIがなぜその予測や分類を出したのかを、人が理解・検証しやすい形で示す技術や設計の考え方です。英語ではXAIとも呼ばれます。
説明可能AIの表示例
融資の判断材料で、収入、返済履歴、入力漏れのどれが結果に強く影響したかを示す方法があります。ただし、表示された理由が因果関係そのものとは限りません。
AIの説明責任との違い
説明可能AIは出力理由を見やすくする技術です。説明責任は、誰が導入し、結果を確認し、誤りに対応するかという組織上の責任まで含みます。
誤解しやすい点：説明があるだけで正しいとは限らない
説明は誤りや偏りを見つける材料です。もっともらしい説明が表示されても、データや判断基準の妥当性は別に確認します。
説明可能AIを確認するときのポイント
- 説明の対象が個別結果か全体傾向か
- 元データを訂正できるか
- 最終判断を人が見直せるか
仕組みや暮らしへの影響は、AI判断の理由を説明できる？説明可能AIと確認ポイントで詳しく整理しています。