バイアスが組み込まれた採用アルゴリズム｜選考の公平性を問う

近年、企業の採用ツールやLinkedInなどの求人サイトでは、多数の応募書類から有望な候補者を自動的に抽出する、AIとアルゴリズムを組み合わせた選考システムの導入が進んでいます。AIを活用した技術はすでに多くの分野で普及していますが、採用の場面では慎重な運用が必要です。というのも、実際にこれらのプログラムを使用している企業の人事担当者や応募者から、選考結果に偏りが見られるという指摘が相次いでいるためです。求人へのオンライン応募が一般的となるなか、マイノリティの応募者たちがAIによって不当に除外される可能性に、深刻な懸念が寄せられています。

AIの採用プログラムに組み込まれたジェンダーバイアス

数年前、LinkedInが導入していたAIによる求人マッチングプログラムに、ジェンダーバイアスが存在することが明らかになりました。本来であれば、応募者のスキルや経験を主体とした評価であるべきところ、このプログラムでは、LinkedIn上での「検索回数」を重視する設計になっていたのです。

そのため、AIは検索回数の多い応募者をより積極的な求職者とみなし、推薦の優先度を高く設定しました。ところが、一般的に検索頻度が高い傾向にあるのは男性であるため、女性よりも男性が優先的に求人に推薦されるという、ジェンダーに偏った結果を生んでしまったのです。

LinkedInはこの問題について既に修正を行ったと説明していますが、具体的な対応内容は明らかにされていません。こうした不透明さは、差別の排除を目指している企業や、差別の影響を受けやすい個人ユーザーにとって大きな懸念材料となっています。また、あるユーザーはAIの採用システムにおける年齢バイアスの存在を検証するため、年齢だけを変えた2通の履歴書を提出しました。すると、実年齢を記載した履歴書は書類選考で落とされたにも関わらず、年齢を若く記載した履歴書は、難なく次の選考ステップに進むことができたのです。

採用時のAI活用に反対する米国民の割合を示すグラフ
Credit: Large majority opposes using AI to make final call on hiring, but views are more mixed on having AI review applications, Pew Research Center, Washington, D.C. (April 10, 2023)

偏りがさらなる偏りを生むAI技術

こうした偏りの背景を理解するには、AIとアルゴリズムがどのように連携して学習し、選考を行なっているのかを知る必要があります。アルゴリズムは、応募者の履歴書やカバーレター、検索履歴に加え、企業の過去の採用データなどをもとに、理想的な候補者像を導き出します。このプロセスが進むにつれて、いわば雪だるま式に、もともとのデータに含まれていたバイアスが増幅されていきます。たとえば、過去の採用において特定の属性を持つ応募者が多かった場合、その属性を「好ましい特徴」とAIに判断されやすくなります。こうしてAIはその偏った結果を正しいものとして学習してしまいます。

AIによる採用に注目が集まるなか、各国ではユーザーを保護するための規制整備も進められています。EU（欧州連合）が導入した「AI法（AI Act）」では、AIによるデータの操作や改ざんが禁止されています。また、アメリカのバージニア州では「高リスクAI開発・運用者法（High Risk Artificial Intelligence Developer and Deployer Act）」が制定され、AIを導入する企業に対して明確な条件が定められています。さらに、オックスフォード大学のサンドラ・ウォッチャー教授らが共同開発した「条件付き人口統計格差テスト（Conditional Demographic Disparity Test）」は、アルゴリズムにバイアスが含まれているかを検証できる公開ツールであり、企業、個人を問わず誰でも利用することができます。

アルゴリズム主体の選考に対する違和感

私自身、これまで数多くの仕事にオンラインで応募してきましたが、返事すらもらえなかった理由の一部に、こうした偏ったAIの存在があったのではないかという疑念を拭いきれません。選考基準や判断がアルゴリズムも委ねられていることには、やはり不安や違和感があります。たしかに、規制が整備されつつあることは前進と言えますが、プログラムの中身が公開されていなければ、ルールが守られているかどうかを確かめる術もありません。私の経験を振り返っても、実際に採用に至ったのは、採用担当者との丁寧な対話を通じて、信頼関係が築かれたときでした。もちろん、人間にもバイアスはあります。しかし、AIが内包する「コード化されたバイアス」は、その影響がより広範かつ迅速に及ぶ可能性があります。だからこそ今後は、企業が自社のAI採用プログラムの仕組みを積極的に開示し、ユーザーが知らないうちに不利益を被らないよう、透明性を高めていくことが求められています。