申しこんだ会社の書類選考に、AIが使われているらしい。落ちた時、理由は聞けるのだろうか。「AIが出した結果なので」と言われたら、それで終わりなのだろうか。

AIの説明責任とは、ひとことで言うと?

AIに関わる人や組織が、自分たちの役割と責任をはっきりさせ、必要な説明や問題への対応を行うことです。

レシートを示す客に対して、店員が帳簿を開いて内容を確かめる場面
機械が出した結果だけで話を終えず、担当者が記録を確認して対応する。説明責任を、店の会計にたとえた場面です。

店でいえば、レジの金額に疑問がある時、店の人にレシートを見せて確かめてもらう場面に似ています。機械の表示を伝えるだけでなく、記録を調べ、必要なら直す担当がいることが大切です。

AIでも、だれが何のために使い、結果をどう扱ったのかを確かめられるようにします。役割を決め、必要な記録を残し、問い合わせや問題に対応する。こうした取り組みを含む説明責任を、英語ではアカウンタビリティと言います。

相手に必要な情報を説明することは大切ですが、AIの中身をすべて公開するという意味ではありません。

透明性・説明可能AIとの違いは?

三つは、見ている所がちがいます。

言葉見ている所思いこみやすい点
透明性AIを使っているか、目的、できること・できないことを、必要な相手が確かめられるかAIの中身を、全員に全部公開することだと思う
説明可能性(説明可能AI)AIの動きや答えを、人が理解して確かめるための情報があるか画面に出た理由が、最後に決めた理由そのものだと思う
説明責任役割、記録、見守り、問い合わせ、止めて直す仕組みがあるか説明の文を一つ出せば、果たしたことになると思う

説明可能AIは、説明責任を支える道具の一つです。理由が画面に出るだけでは、最後に決めた部署、問い合わせ先、問題があった時の見直し方まではそろいません。

AIが示した主な理由と、会社が最後に決めた理由は、同じとは限りません。その理由が何を説明しているのか、会社の決定にどう使われたのかを分けて確かめます。

日本のAI法で、AIが決めた理由は教えてもらえる?

日本のAI法と指針には、すべてのAI判断について、だれもが同じように理由の説明を求められる権利を定めた規定はありません。問い合わせることと、相手に説明する義務があることを分けて考えます。

AI法は、2025年6月に公布され、同じ年の9月に全面施行された法律です。その第13条は、国が指針を作ることを定めています。個人が理由を求めたり、やり直しを求めたりする手続きを定めた条文ではありません。

指針は、2025年12月19日に国の人工知能戦略本部が決めました。AIに関わる人や組織に、自分から進んで適切な開発や利用に取り組むよう促すものです。どこまで取り組むかは、組織の大きさや立場、AIの使い道、リスクに合わせて変わります。リスクとは、損や危険が起きるおそれです。

指針は、責任の所在をはっきりさせ、責任を果たす仕組みを作ることを求めています。ただし、対応の水準は一律ではありません。採用、融資、保険、教育のどれでも、同じ説明義務や見直しの手続きがあるとは読めません。

経済産業省と総務省には、AI事業者ガイドライン(第1.2版)もあります。AIを作る人、サービスなどとして提供する人、使う人ごとに、取り組むことを分けています。

相手にどこまで説明や見直しを求められるかは、適用される法律や契約によります。問い合わせ先や見直しの方法は、会社の案内でも確かめます。

AIが出した結果なら、責任を取るのはAI?

AIを使ったことだけで、人や組織の責任がなくなるわけではありません。ただし、どの相手がどんな責任を負うかは、関わり方や起きたことによって違います。

説明する仕組みがあるかと、損害をだれが賠償するかは、分けて確かめる必要があります。経済産業省の手引きは、不法行為法や製造物責任法など、今ある法律をどう当てはめるかを、AIの使い方や想定した事例に沿って整理しています。

作る、提供する、設定する、入力する、見守る、承認する、保守する。だれがどの作業を受け持ち、損害にどう関わったかを見ます。問い合わせの担当者、契約で費用を負担する相手、法的に賠償する責任を負う相手は、同じとは限りません。

法律の当てはめは、事案ごとにちがいます。自分の場合を確かめたい時は、その分野の相談窓口や専門家に聞いてください。

AIが自分のことを決めた時、だれに何を聞く?

まず、その会社の問い合わせ先に、次の三つから聞いてみます。

  1. 「これを決めるのに、AIは使われましたか。どの場面で使われましたか」
  2. 「最後に決めたのは、どの部署ですか」
  3. 「まちがいがあった時、見直して直すようたのむ窓口はありますか」

「最後は人が確かめています」と返ってきたら、何をどう確かめたのかまで聞いてかまいません。人が承認したという事実だけでは、何を確認したかまでは分からないからです。

必要に応じて、何を決めるためのAIだったか、どんな情報を使い記録があるか、苦手なことは何か、どの法律や契約にもとづく決定かも尋ねられます。どこまで回答を受けられるかは、場面によって違います。

AIが使われたかもしれない選考や審査の通知が手もとにあれば、まず通知か会社のサイトで問い合わせ先を探してみてください。

「AIが出した結果なので」は、説明の終わりではなく、聞き始める所です。