AI採用で相次ぐ差別訴訟｜求められる企業の説明責任

ここ数年、企業の採用活動に大きな影響を与える「アルゴリズム・バイアス（AIによる偏った判断）」への懸念が、世界的に高まっています。企業によるAIツールの急速な導入が進む一方で、バイアスを軽減するための技術的な進歩や法的な整備はまだ十分ではなく、状況はむしろ悪化しているとも言えます。求人、選考、評価などAIの活用領域が広がる中、バイアスが引き起こすリスクは、もはや仮定の議論ではありません。人々が仕事を探し、書類や面接などの選考を経るなかで、日常的な障壁となりつつあるのが実情です。

AI導入で問われる責任の所在

AIの普及は、皮肉にもバイアスの問題への注目を高める契機ともなりました。AIを利用した採用選考基準に差別的要素があったとして、企業が訴えられるケースが出てきています。行政機関によるガイドラインの策定や、州による新たな規制が次々と登場するなか、企業は自らが導入したAIツールが内包するリスクへの厳格な対応を迫られています。その結果、議論の焦点が「AIは差別を生み出すのか」という問いから、「その差別の責任は誰にあるのか」へと移りつつあります。

人事部門で生成AIを導入した企業のうち、コスト削減と収益増加が発生した割合を示すチャート

人事領域における生成AI導入がもたらしたコスト削減（左）および、収益増加（右）を実現した企業の割合
Credit: The state of AI in early 2024, via McKinsey & Company

AIは客観的という誤解

これまで、AIを積極的に活用する企業は、AI採用における負の側面について触れることはなく、責任追及を免れようとする姿勢が見られました。AIを用いた採用の構造的な問題は、「説明責任の欠如」にあります。AIツールを活用する企業は、設計上の問題として、そのツールを提供したベンダーに責任があると主張します。一方のベンダー側は、ツールの運用や管理の問題であるとして、責任を転嫁します。

一般的に、AIは主観を交えず、客観的な判断ができる点が強みとされます。しかし、AIに学習させる過去のデータそのものに偏見が含まれていたり、人間による適切なガバナンスなしに運用されたりすると、過去の差別構造や偏見をAIが再現し、さらに増幅されてしまいます。人事領域におけるAIの活用は今も拡大を続けており、なかでも採用業務は代表的な活用例の一つとなっています。多くの応募者は、最初に対面する採用担当者が、実は人間ではなくアルゴリズムであることに気づかないまま、選考から外されている可能性もあります。

例えば、履歴書の自動選考ツールは、氏名、郵便番号、出身校、職歴の空白期間といった項目を評価基準としています。しかし、これらは単なる基礎情報に見えて、実際には人種や所得水準、年齢、ジェンダーなどの推測につながる「代理指標（属性を推測させる手がかり）」として機能するリスクが潜んでいます。また、オンライン面接の場合、その様子を録画し、AIが自動で候補者の話し方や声のトーン、顔の表情などを解析するといった評価ツールも存在します。そのため、コミュニケーション障がいやADHDなどの神経多様性(ニューロダイバーシティ)の特性を持つ人は、話し方や表情が多くの人と違うというだけで、能力があるにもかかわらず不当に低く評価されてしまう可能性が指摘されています。

法廷で問われ始めたAI採用の責任

企業側にとっては厳しい現実ですが、自社が採用したテクノロジーの運用結果に対して責任を負うのは最終的にその企業自身であり、近年の訴訟事例はその責任の重大さを物語っています。2023年、オンライン教育大手のiTutorGroupは、採用ソフトウェアが高齢の応募者を自動的に不採用にしていたとして、米国雇用機会均等委員会（EEOC）から提訴され、高額な和解金による決着を受け入れました。

また、人事や財務向けのクラウドサービスを手がけるアメリカの大手企業Workdayをめぐる訴訟は、さらなる本質的な問いを投げかけています。発端となったのは、40歳以上で障がいのある求職者が、Workdayのシステムを通じて100件以上の求人に応募したにもかかわらず、すべて不採用となったことでした。中には深夜に自動送信された不採用通知もあり、人間の採用担当者が審査に関与していないのではないかとの疑念から、原告は人種や年齢、障がいへの差別があったとしてWorkdayを提訴しました。この裁判で新たに問われているのは、AI採用システムが、人種や性別、年齢など、法律で差別が禁止されている属性を理由に応募者をフィルタリングしていた場合、その責任を誰が負うのかという点です。この裁判はまだ決着がついておらず、法律の専門家たちは、AI採用システムの提供企業が、企業に代わって採用業務を行う「代理人」として法的責任を負うかどうかを判断する、重要な試金石になるとして注視しています。

さらに、法規制の動きは個人の訴訟にとどまらず、AI採用に特化した州法や自治体の条例へと拡大しています。すでにニューヨーク州、カリフォルニア州、イリノイ州、コロラド州などでは、採用にAIの自動判定システムを利用する場合、その旨を応募者へ事前に通知することを企業に義務づける法律が定められています。また、これらのシステムに対しても差別禁止規定を適用し、AI主導の意思決定を規制する法律が導入されています。

企業の姿勢がAI採用の未来を決める

AIを今後も採用活動に利用するのであれば、企業は、そのシステムが導き出す結果に主体的に責任を持たなければなりません。そのためには、導入するシステムが特定の集団に不平等な結果を出していないかを継続的に検証し、ベンダー側には、学習データの内容や判定基準について透明性のある説明を求めることが必要です。また、応募者にはAIが利用されることを事前に知らせ、必要に応じて他の選考手段も選べるようにするとともに、最終的な意思決定のプロセスに人間が実質的に関与し続けることも欠かせません。

AIは、企業の採用活動の一助とはなりますが、差別の存在や責任の所在をうやむやにするための隠れ蓑になってはいけません。AI採用の未来は、テクノロジーが生み出す結果に対して、企業がどこまで厳格に自らの説明責任（アカウンタビリティ）を引き受ける覚悟があるか、その一点にかかっています。