一次選考にAIの採点ツールを入れる話が出た。「偏りが出ると聞くけれど、本当にあった話なのか」。そう聞かれて、答えにつまる。

顔認証では誤認率の差が調べられ、採用では自動で応募者を落とす設定が問題になりました。ただし、同じ仕組みで起きた話ではありません。二つの例から、偏りが入る場所と、導入前に確かめたいことを見ていきます。

AIバイアスの例は?実際の2つと6つの場面

AIの判断や結果に系統的な偏りが生じることを、AIバイアスと呼びます。この記事では、その偏りが人への不利益につながる場面を扱います。

例1:顔認証のまちがいに差(米国、2019年)

NIST(米国立標準技術研究所)は2019年12月、99の開発元が提出した189の顔認証アルゴリズムを調べた結果を発表しました。アルゴリズムは、情報を処理して結果を出すための手順です。市販製品全体の使い勝手や安全性を試した調査ではありません。

顔認証の誤りには、別人を同じ人と認めてしまう場合と、本人なのに認めない場合があります。

別人の二人を一致と判定する誤りと、同じ人の二枚を不一致と判定する誤りの比較
誤り方を説明する架空の図です。描かれた人物の属性や顔立ちで、誤認の起きやすさを示すものではありません。

1対1で照合する試験では、別人を同じ人と認める割合が、白人の画像よりアジア系・アフリカ系アメリカ人の画像で高くなる傾向がありました。差はアルゴリズムによって異なり、10倍から100倍に及ぶ例が多く見られました。

一方、アジアで開発された一部のアルゴリズムでは、アジア系と白人の画像の間に同じような大きな差はありませんでした。NISTは原因を特定しておらず、学習データとの関係を研究すべき可能性として挙げています。

これは2019年の試験条件での結果です。現在のすべての顔認証に同じ倍率を当てはめることはできません。

例2:年齢で自動で不採用(米国、2023年)

米国の雇用機会均等委員会(EEOC)は、2023年9月にiTutorGroupとの和解を発表しました。米国在住の講師を採用し、オンラインで英語を教える事業に関する訴えです。

EEOCによると、応募ソフトには55歳以上の女性と60歳以上の男性を自動で不採用にする設定があり、資格を満たす200人超の応募者が年齢を理由に落とされました。会社は36万5,000ドルの支払いなどで和解しました。

この発表が示すのは、人が入れた選別条件の問題です。AIが学習の末に年齢差別を身につけた、と確認された事例ではありません。自動化すると、不適切な条件も多くの人へ一度に適用されます。

起こりうる6つの場面

次の表は、個別の事件の一覧ではなく、偏りが生じうる仕組みの例です。

場面確かめたい偏り
採用過去に採用された人の経歴を、仕事に必要な能力の代わりに評価していないか
お金の審査(与信)住所などが属性の手がかりとなり、返済能力の評価と関係の薄い不利益を生んでいないか
医療データの少ない年代や地域の人で、誤りが増えていないか
教育家庭で使える機器や学習環境の差を、本人の能力の差として扱っていないか
広告求人や住宅の広告が、特定の人に届きにくくなっていないか
顔認証対象者や撮影条件によって、本人確認の誤りに差がないか

点数が違うことだけで、不当な差別と決まるわけではありません。何を比べ、どの条件で差が出たのかを調べる必要があります。

AIには感情がないのに、なぜ判断に偏りが出る?

データを集める時も、「正解」を決める時も、人の選択が入るからです。感情の有無だけでは、公平かどうかは分かりません。偏りの入り口を五つに分けると、確認する場所が見えてきます。

入り口起きうること
学習データ過去の判断や、集めた対象の偏りを引き継ぐ
目的の決め方測りやすい数字を、仕事に必要な能力などの代わりに使ってしまう
入力する情報必要な事情が欠け、別の特徴を手がかりに判断する
評価のしかた全体の成績に隠れて、一部の人に多い誤りを見落とす
使い方試していない対象や場面に使い、限界を確かめず結果を採用する

たとえば「過去に採用されたか」を正解として学ばせると、過去の選び方まで受け継ぐ可能性があります。それが、仕事で力を発揮できる人を選ぶ目的と一致するとは限りません。

顔認証の例では、学習データとの関係は原因の候補であり、調査で確定したわけではありません。採用ソフトの例では、人が指定した条件が問題でした。どちらも「データを増やせば直る」とは言えない理由です。

NISTも、AIの偏りを統計・計算の問題だけでなく、人や制度の問題として捉えています。こうした仕組みの偏りは、アルゴリズムバイアスとも呼ばれます。

性別や年齢の欄を消せば、公平になる?

欄を消すだけでは、公平性を保証できません。残った情報が、消した属性の手がかりになることがあるからです。

たとえば住所や経歴が、年齢や生活環境と関係している場合があります。属性を直接入力しなくても、別の情報を通じて結果に差が出る可能性があります。ただし、住所や学校名を使うと必ず差別になる、という意味ではありません。

確認したいのは、その情報が目的に必要か、使った結果にどんな差が出るかです。不要な情報を使わないことと、結果の偏りを調べることを、両方進めます。

公平性を調べるためでも、属性情報を無条件に集めてよいわけではありません。利用目的や取得できる範囲、取り扱い方を確認したうえで、担当者が必要な評価を設計します。

AIの公平性は、どこを見れば確かめられる?

まず、だれに対して、何の誤りを、何件で調べたかを見ます。「精度90%」という全体の数字だけでは、対象者による違いが分かりません。

全体では100件中90件正解でも、対象Aは50件中49件、対象Bは50件中41件となる架空の評価例
数字は説明用の架空例です。分子が正しく判定した件数、分母が調べた件数で、採用の合格者数ではありません。全体90%でも、Aは98%、Bは82%という違いがあります。

この図だけでは、差が生じた原因も、差別に当たるかどうかも分かりません。対象の集め方、件数の十分さ、判定する内容や条件を確かめます。顔認証なら、二種類の誤りを分けて見ることも必要です。

提供元への最初の質問は、「だれに対して精度を確かめましたか」。返答を聞いたら、自社で使う対象や場面に近いかを照らし合わせます。

返答にある情報続けて確かめること
全体の精度だけ対象別の結果と、試した件数は分かるか
対象別の数字同じ条件で比べているか。どんな誤りを数えたか
「人が確認する」という説明人が何を見て、誤りをどう訂正できるか

結果の偏り、理由の説明、見直しの仕組みは、それぞれ確認します。窓口があるだけで、結果まで公平だと証明されるわけではありません。

選ばれる側・使う側は、それぞれ何ができる?

結果を受け取った人が、システム全体を調べることは困難です。提供元と導入する組織が役割を分け、評価や問題への対応を進める必要があります。

立場確かめること
結果を受け取る人AIが使われた範囲、理由を聞く窓口、訂正や見直しの手続きと期限
仕事でAIを使う人今の対象や条件で使ってよいか。事情が合わない時にだれへ相談するか
導入・管理する人提供元の評価の条件、自社での結果、苦情から見つかった問題と対応
記事や説明を読む人「AIだから公平」という結論を支える調査や条件が示されているか

説明を求めることと、結果が変わることは同じではありません。それでも、使われた情報の誤りや、確認が必要な点を見つける入口にはなります。

AIによる差別の問題に、決まりはいつからできる?

AI向けの新しい規則が始まるまで、差別に関する法律がないわけではありません。iTutorGroupの事例も、既存の米国の年齢差別禁止法に基づく訴えでした。

日本の「AI事業者ガイドライン」は、公平性を共通の指針として挙げています。ガイドライン自体と、採用や個人情報など各分野に適用される法律は分けて確認します。

EUのAI法は2026年8月2日に主要部分が適用されました。一方、採用など附属書IIIに該当する高リスクAIへの規則は、2027年12月2日からの適用が予定されています。すべての採用ソフトを同じ扱いにする規定ではありません。

下の年表は、適用済みの項目と、今後の日程を分けて示しています。米コロラド州の制度は、対象となる自動意思決定や事業者の条件も併せて確認する必要があります。

2026年

  1. 2026年8月2日

    公表された日程記載の出来事を確認済み

    EUのAI法の大部分が適用され、取り締まりが始まった

    AIが作ったものだと分かるようにする透明性の規則などが対象。リスクの高いAIへの規則は、直前の2026年7月に発効した改正で先へ延ばされた。

    欧州委員会(2024年8月1日)公的機関Timeline for the Implementation of the EU AI Act確認日:2026年10月19日

2027年

  1. いま
  2. 2027年1月1日

    公表された日程延びた

    米コロラド州で、採用や融資などの判断に使う自動判定の技術を規制する法律が施行される

    2026年5月成立のSB26-189が旧法の規定を置き換える。州司法長官事務所は2026年10月6日に実施規則の中間案を公表し、10月26日に公聴会を予定。確認時点では規則案で、確定した規則とは区別する。

    米コロラド州 司法長官事務所(2026年5月14日)公的機関Colorado Automated Decision-Making Technology & Chatbot Safety Rulemaking確認日:2026年10月19日

  3. 2027年12月2日

    公表された日程延びた

    EUのAI法のうち、採用・教育・生体認証などリスクの高い使い方への規則が適用される

    附属書IIIに基づく高リスクAIの規則。2026年7月27日発効の改正(AIオムニバス)により、当初の2026年8月2日から延期。附属書Iの製品規制に関わる高リスクAIは2028年8月2日から。

    欧州委員会(2026年7月27日)公的機関AI Omnibus enters into force確認日:2026年10月19日

公表された日程
法律・政令・公的な計画などで日付や内容が公表されたもの。実施済みかは別に確認する

未来の年表をすべて見る

分かれ道:差別を防ぐ決まりが広がるか

制度が整うと、評価や説明を求められる場面は変わります。ただし、規則があることだけで偏りがなくなるとは限りません。二つの進み方を考えておきます。

こうなったら

広がったら

  • 対象となる提供元や導入組織では、評価結果や対応を示す必要が増える可能性がある
  • 本人が使える説明・見直しの手続きは、法律の対象や例外を確認する
  • 導入前の評価と、使い始めてからの結果をつなげて点検する

ならなかったら

広がらなかったら

  • 新しいAI専用規則がなくても、既存の法律や契約上の義務を確認する
  • 提供元の全体評価だけで、自社での公平性を判断しない
  • 不利益の訴えや対象別の誤りを、見直しの材料にする

どちらに寄っているかを確かめる目印目印は、米コロラド州の2027年1月1日、EUの附属書IIIに関わる2027年12月2日という日程に加え、対象・評価・見直しの手続きが実際にどう定まるかです。

どちらでも、今の対象者と使い方に合った評価が必要です。

今できること

導入前は、提供元への質問を一行書く。

「だれに対して精度を確かめましたか。どんな誤りを数えましたか。」次の打ち合わせで、この二点を聞けるようメモします。

導入後は、人数だけでなく割合と条件を見る。

採用なら、合格者数だけでなく応募者数や職種、選考条件も確認します。少人数の結果は偶然に左右されやすいため、短期間の数字だけで結論を出さず、担当者が評価方法を検討します。属性情報の取得・利用は、目的と取り扱いを確認した範囲で行います。

問題が見つかった時に、対応を引き継ぐ人を決める。

問い合わせを受ける人と、データや運用を見直せる人をつなぎます。名前を決めるだけでなく、必要な情報と対応する権限があるかも確かめます。

未来分岐点:公平さをAIに丸投げしない

「本当にあった話なのか」と聞かれたら、顔認証の調査と採用ソフトの和解を例に出せます。その時は、調べた条件と、人が設定した仕組みの違いも添えます。

次に考えるのは、自分たちが使う場面です。全体の精度に隠れた差はないか。誤りが分かった時に、だれが調べて直せるか。まだ分からない点も、メモに残せます。

書類選考の採点ツールについて確認したいこと
・提供元が試した対象者と件数
・どんな誤りを数えたか
・自社の応募者でも使えると判断した根拠

公平さを一つの数字で保証しようとせず、その数字が何を測り、何をまだ測っていないかを確かめるところから始められます。