AI書類選考のバイアス問題——企業が確認すべきポイント

AI書類選考は、応募書類の確認にかかる工数を減らし、選考を効率化する手段として活用が広がっています。その一方で、見落とされがちな問題があります。AIによる選考は、本当に公平なのでしょうか。

2018年、Reutersの報道で明らかになったAmazonの実験的な採用AIは、女性の応募者に関連する語や経歴を減点する傾向があり、最終的にプロジェクトが終了しました。この問題は過去のものではありません。2024年に発表された査読付き研究でも、同様の偏りが確認されています。

各国の規制当局はすでに動き出しています。本記事では、AI書類選考をめぐるバイアスの実態と、EU・米国で進む規制の内容を整理したうえで、企業が導入前に確認すべきポイントをチェックリストとして紹介します。

AI書類選考の「バイアス問題」とは何か

先に誤解しやすい表現との違いを記載しておきますが、AI書類選考における「バイアス」とは、AIの「誤判定」を指す言葉ではありません。

「誤判定」とは、AIが求人要件と経歴を正しく照合できず、本来通過すべき候補者を落とす、あるいは本来落ちるべき候補者を通過させることです。これはランダムに起こり得ます。

これに対して「バイアス」とは、性別・人種・年齢などの属性、あるいはそれらと関連する情報によって、特定の候補者群に対して系統的に（偶然ではなく、繰り返し同じ方向に）有利・不利な評価が生じることを指します。

注意が必要なのは、氏名、卒業年、出身校、職歴の空白期間といった項目が、属性そのものを尋ねなくても、結果として属性の代理変数として働く場合があることです。氏名から推測される性別や出身地域が、意図せず評価に影響することがあります。

なぜAI書類選考でバイアスが起きるのか

AIが突然、差別的な判断を生み出すわけではありません。バイアスの多くは、AI以前から存在していた偏りを、AIが再現・増幅する形で起きます。少なくとも次の3つの経路が指摘されています。

第一に、AIの学習データとなる過去の採用データ自体に偏りがある場合です。特定の属性の候補者が多く採用されてきた業界・職種では、その傾向を学習データがそのまま反映します。

第二に、職務遂行能力とは直接関係のない情報が、評価に影響する可能性がある点です。さきほど、「氏名、卒業年、出身校、職歴の空白期間」といった代理変数と呼んだ内容がこれにあたります。

第三に、AI以前の問題として、企業側が設定した評価基準そのものに偏りが含まれている場合があります。この場合、AIは既存の基準を忠実に再現しているにすぎません。

つまりバイアスは、「AIというブラックボックスが勝手に生み出すもの」ではなく、「既存のデータ・評価基準に含まれていた偏りを、AIが再現・増幅したもの」として理解する必要があります。次に、実際に確認された事例を見ていきます。

実際にどんなバイアスが確認されているのか

前章で述べた構造は、実際の事例・研究でも確認されています。

最も広く知られているのは、2018年にReutersが報じたAmazonのケースです。同社の実験的な採用AIでは、女性に関連する語や女子大学の経歴を減点する傾向が確認されました。Amazonは修正を試みましたが、最終的にプロジェクトを終了しています。採用担当者が推奨結果を参照したことはあったものの、そのランキングだけで採用判断をしていたわけではありません。

この問題は過去の話ではありません。ワシントン大学のKyra Wilson氏とAylin Caliskan氏が2024年に発表した査読付き研究（AAAI/ACM AIES学会）では、大規模言語モデルを基盤に、文書検索などに使えるよう調整された3種類の文章埋め込みモデル（Massive Text Embeddingモデル）を使い、公開データセットの554件の職務経歴書と571件の求人票を対象に、300万件を超える比較を行いました。職務経歴書と求人票をそれぞれ数値化し、両者の類似度を計算して、求人票に近い職務経歴書を上位に並べる方法で書類選考を再現しています。

その結果、比較の85.1%で、白人に結びつく名前の候補者が選好されました。黒人に結びつく名前が選好されたのは8.6%にとどまり、黒人男性に結びつく名前は、白人男性名との比較では一度も選好されませんでした。これは検証対象とした3種類のモデルにおける結果であり、市販されているすべてのAI書類選考ツールで同じ傾向が確認されたわけではありません。

AI書類選考のバイアスに、企業はどう備えるのか

実際にバイアスが起きるという前提に立つと、企業が書類選考にAIを使う際に確認すべき点が見えてきます。海外の規制が求める内容や、前述の事例・研究を踏まえ、実務上確認しておきたい点を5つに整理します。以下の5つすべてが、あらゆる地域で法的に義務づけられているわけではありません。

① 評価基準を説明できるか

AIが何を基準に候補者を評価しているかを、社内で把握・説明できる状態にしておくことです。基準がブラックボックスのままでは、氏名や卒業年といった代理変数が意図せず評価に影響していないかを確認しようがありません。EUでは、AIの利用を包括的に定める「EU AI Act」において、採用に使われる一部のAIを高リスクAIとして位置づけています。こうしたAIには、利用者が仕組みや出力を適切に理解できるための情報提供や、人がAIの判断を確認・介入できる体制を求める考え方が盛り込まれており、評価基準を説明できる状態にしておくこととも関係します。

② バイアス監査・検証を行っているか

前述のワシントン大学の研究が示すように、AIツール自体にバイアスが内在するリスクがあります。属性別に評価結果の偏りを定期的に検証することで、こうした偏りに気づける可能性が高まります。米ニューヨーク市では、採用などに使う自動化された意思決定ツールを対象とした「Local Law 144」が2023年から施行されています。この法律では、対象となるツールを利用する企業に対して、年1回の第三者によるバイアス監査と、その結果の公表を求めています。日本国内の採用について、これと同様の年次バイアス監査を一律に求める法的義務は、現時点では確認できません。

③ 候補者へAI利用を通知しているか

通知は、候補者が自分の選考にAIが関与していることを知り、必要であれば説明や訂正を求められる状態を作ります。イリノイ州法やEU AI Actには、採用・雇用判断でAIを使用する場合の通知に関する規定があります。

④ 人的レビューの仕組みがあるか

AIの判定だけで自動的に不合格にする運用になっていないか、という確認です。AIによる照合結果を、最終的に人が確認するプロセスが残っているかどうかは、見落としを防ぐ実務上の論点です。

⑤ ベンダーの第三者検証があるか（実務上の推奨事項）

これは各国の法的義務ではなく、実務上の確認ポイントとしての推奨です。ワシントン大学の研究のような独立した検証が、ベンダーの主張とは別に存在するかどうかは、導入前にそのツールのバイアスリスクを見積もる材料になります。

海外ではどう規制されているのか

上記5つのポイントの背景には、各国・各地域で進む法規制があります。

規制内容は地域ごとに異なりますが、バイアス監査、AI利用の通知、人的監督、差別防止などを通じて、採用AIの利用に一定の透明性やガバナンスを求める方向は共通しています。ただし、ニューヨーク州会計監査官が2025年12月に公表した監査報告書では、Local Law 144を執行する市の担当部署の苦情受付・執行体制に不備があると指摘されており、制度が整っていても執行が追いついていない地域があるという実態もあります。

日本では、NYC Local Law 144のように採用AIへバイアス監査等を直接義務づける個別規制は現時点で確認できません。一方で、2025年9月に全面施行された「AI法」（人工知能関連技術の研究開発及び活用の推進に関する法律）、2026年3月に第1.2版へ更新された総務省・経済産業省の「AI事業者ガイドライン」、そして既存の公正採用選考の原則や個人情報関連ルールは存在します。日本と海外では規制の枠組みが異なるため、単純に「規制がある・ない」で比較することはできません。

AI書類選考は使って大丈夫なのか

ここまで見てきた内容を踏まえると、AI書類選考そのものを避ける必要があるとは言えません。応募書類の情報整理、スキル・経験の照合、採用担当者の確認作業を支援する用途では、有効に活用できます。

一方で、AIの評価だけで自動的に不合格にするような使い方は、バイアスや説明責任のリスクを高めます。重要なのは「AIを使うかどうか」ではなく、AIにどこまで判断させ、どこに人の確認を残すかです。評価基準の説明可能性、バイアス監査・検証、候補者への通知、人的レビューを設計したうえで使うことで、AI書類選考のメリットを活かしながら、バイアスのリスクを抑えられます。

まとめ

AI書類選考のバイアス問題は、Amazonの事例やワシントン大学の研究が示すように、実際に起きている問題です。EU・米国ではすでに法規制が動き出していますが、制度があっても執行が追いついていない地域があることも、あわせて明らかになっています。

NYC Local Law 144のように採用AIへバイアス監査等を直接義務づける個別規制は、日本では現時点で確認できませんが、AI法やAI事業者ガイドラインは存在します。当社独自調査では採用担当者の17.6%がすでに書類選考へAIを活用しており、法的義務の有無にかかわらず、評価基準の説明可能性、バイアス監査、候補者へのAI利用通知、人的レビュー、ベンダーの第三者検証（実務上の推奨）という5つの視点を持っておくことが、企業にとっての実務的な備えになります。

AI書類選考をめぐる世界的な普及状況については、「世界のAI×採用最前線——書類選考はAIでどう変わったか【2026年版】」もあわせてご覧ください。

書類選考、AI採用にお悩みがあればお気軽にご相談ください

株式会社プロリクではAIで人材紹介からの推薦の書類選考を自動化したり、AIスカウト機能を持ったプロダクトを提供しています。もしご興味持っていただけるようでしたら、お気軽にお問い合わせいただけると幸いです。

弊社お問い合わせ窓口

AIスカウトも人材紹介会社管理もまるっとAIで自動化する採用AIエージェント｜PROREC-AI

候補者を探すところから、一人ひとりへの文面を書いて送るところまで。要件に合うかと返信が見込めるかを別々に採点し、毎営業日、条件に合う候補者へ自動で送信します。

aiscout.prorec.biz

👤

著者について

宮前 貴史（株式会社プロリク ）

大学卒業後、個人事業主として約5年半にわたり、BtoC・BtoB領域で営業から企画・運営までを一気通貫で経験。その後、ベンチャー企業にて採用担当として制度設計に従事し、さらにRPOサービスの立ち上げ責任者として、スカウト業務の仕組み化から実践までを牽引。プロリク参画後は、その豊富な実務経験を活かし、ITエンジニアのスカウト業務を中心に複数クライアントの採用成功を支援している

よくある質問

Q. AI書類選考には本当にバイアスがあるのですか？ あります。2018年にReutersが報じたAmazonの実験的な採用AIでは、女性に関連する語や女子大学の経歴を減点する傾向が確認され、最終的にプロジェクトが終了しました。2024年のワシントン大学の査読付き研究でも、比較の85.1%で白人に結びつく名前の候補者が選好され、黒人男性に結びつく名前は白人男性名との比較で一度も選好されませんでした。

Q. AI書類選考に関する規制はありますか？ あります。米ニューヨーク市のLocal Law 144（年次バイアス監査の義務化）、米イリノイ州のHuman Rights Act改正（雇用判断全般でのAI差別禁止、2026年1月施行）、EUのAI Act（高リスクAI分類、主要義務は2027年12月2日から適用）など、各国で説明責任を求める法規制が進んでいます。

Q. 規制さえ守っていれば問題ないのでしょうか？ そうとは言い切れません。ニューヨーク州の監査では、Local Law 144を執行する市の担当部署の苦情受付・執行体制に不備があると指摘されました。制度があることと、運用が機能していることは別問題です。

Q. 企業が導入前に確認すべきことは何ですか？ 評価基準を説明できるか、バイアス監査を定期的に実施しているか、候補者へAI利用を通知しているか、人的レビューの仕組みがあるか、の4点は各国の規制動向を踏まえた確認ポイントです。加えて、ベンダーの第三者検証があるかも実務上の推奨事項として確認しておくとよいでしょう。

Q. 日本企業もこうした対応が必要ですか？ NYC Local Law 144のように採用AIへバイアス監査等を直接義務づける個別規制は、日本では現時点で確認できませんが、AI法やAI事業者ガイドラインは存在します。当社独自調査では国内の採用担当者の17.6%がすでに書類選考へ生成AIを活用しており、規制が本格化する前に確認体制を整えておく余地があります。

Q. AI書類選考の「バイアス」と「誤判定」はどう違いますか？ 誤判定は、AIが求人要件と経歴を正しく照合できず、通過すべき候補者を落としたり、落ちるべき候補者を通過させたりすることで、偶然に起こります。バイアスは、性別・人種・年齢などの属性や、氏名・卒業年・出身校・職歴の空白期間のように属性を推測できる項目によって、特定の候補者群が繰り返し同じ方向に有利・不利に評価されることです。Amazonの採用AIが女性に関連する語や女子大学の経歴を減点した例は、バイアスにあたります。

Q. ワシントン大学の研究では、何をどう調べたのですか？ ワシントン大学のKyra Wilson氏とAylin Caliskan氏が2024年にAAAI/ACM AIES学会で発表した査読付き研究では、大規模言語モデルを基盤にした3種類の文章埋め込みモデル（MTEモデル）を使い、公開データセットの554件の職務経歴書と571件の求人票で300万件を超える比較を行いました。職務経歴書と求人票を数値化して類似度を計算し、求人票に近い職務経歴書を上位に並べる方法で書類選考を再現しています。白人に結びつく名前が選好されたのは比較の85.1%で、黒人に結びつく名前は8.6%でした。市販のAI書類選考ツールで同じ結果が出るかは、この研究では調べていません。

Q. EUのAI Actは、採用AIにいつから何を求めますか？ EUのAI Actは、応募書類の分析・フィルタリングを含む採用AIを「高リスクAIシステム」に分類しています。高リスクAIには、利用者が仕組みや出力を理解するための情報提供と、人がAIの判断を確認・介入できる体制が求められます。候補者への通知義務を含む主要義務は、当初2026年8月2日から適用される予定でしたが、2026年7月に成立した改正規則（Regulation (EU) 2026/1744、Digital Omnibus on AI）により、2027年12月2日に延期されました。

Q. AI書類選考は使っても大丈夫ですか？ 使うこと自体を避ける必要はありません。応募書類の情報整理、スキル・経験の照合、採用担当者の確認作業の支援には使えます。ただし、AIの評価だけで自動的に不合格にする使い方は、バイアスや説明責任のリスクを高めます。Amazonの採用AIでも、採用担当者はAIのランキングだけで採用を決めてはいませんでした。

参考文献、資料

• Reuters（Jeffrey Dastin）「Amazon scraps secret AI recruiting tool that showed bias against women」（2018年10月10日）: https://www.reuters.com/article/us-amazon-com-jobs-automationinsight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
• Kyra Wilson, Aylin Caliskan「Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval」AAAI/ACM AIES 2024（ワシントン大学、査読付き）: https://ojs.aaai.org/index.php/AIES/article/view/31748
• UW News「AI overwhelmingly prefers white and male job candidates in new test of resume-screening bias」（2024年10月31日）: https://www.washington.edu/news/2024/10/31/ai-bias-resume-screening-race-gender/
• New York State Office of the State Comptroller「Enforcement of Local Law 144 (Automated Employment Decision Tools)」監査報告（2025年12月2日）: https://www.osc.ny.gov/state-agencies/audits/2025/12/02/enforcement-local-law-144-automated-employment-decision-tools
• New York State Comptroller 公式プレスリリース「DiNapoli: New Yorkers Deserve a Transparent Hiring Process When Artificial Intelligence Is Used To Vet Their Job Applications」（2025年12月）: https://www.osc.ny.gov/press/releases/2025/12/dinapoli-new-yorkers-deserve-transparent-hiring-process-when-artificial-intelligence-used-vet-their
• DLA Piper「Critical audit of NYC’s AI hiring law signals increased risk for employers」: https://www.dlapiper.com/en-us/insights/publications/2026/01/critical-audit-of-nyc-ai-hiring-law-signals-increased-risk-for-employers
• Jones Day「Illinois Becomes Second State to Pass Broad Legislation on the Use of AI in Employment Decisions」（Illinois Human Rights Act改正/HB3773の解説）: https://www.jonesday.com/en/insights/2024/10/illinois-becomes-second-state-to-pass-broad-legislation-on-the-use-of-ai-in-employment-decisions
• Illinois State Bar Association「Illinois anti-discrimination law to address AI goes into effect on 1 January 2026」: https://www.isba.org/dailylegalnews/2025/05/02/illinoisantidiscriminationlawtoaddressaigoesintoef
• EU AI Act（Regulation (EU) 2024/1689）Annex III: https://artificialintelligenceact.eu/annex/3/
• Regulation (EU) 2026/1744（Digital Omnibus on AI、2026年7月24日EU官報掲載）: https://eur-lex.europa.eu/eli/reg/2026/1744/oj
• Gibson Dunn「EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines and Other Key Changes」（2026年5月27日、暫定政治合意時点の解説）: https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/
• Ogletree「Illinois Postpones Proposed Regulations on AI in Employment」: https://ogletree.com/insights-resources/blog-posts/illinois-postpones-proposed-regulations-on-ai-in-employment/
• トップコート国際法律事務所「2025年9月にAI新法全面施行」: https://topcourt-law.com/ai-iot/new-ai-law-2025
• 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（令和8年3月31日）: https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf
• 当社独自調査（国内採用担当者329名対象、2024年10月実施、社内データ）