AI公平性コストを定量化する新手法登場

機械学習モデルが人種や性別といった複数の属性が交差する個人に対して差別的な判定を下す問題は、金融、医療、採用など幅広い業界で規制上のリスクとして顕在化している。トロント大学のBruno Scarone氏らの研究チームは、こうした「交差的バイアス」を定量化し、その是正に必要なデータ修正の最小コストを整数線形計画法によって厳密に算出する手法を発表した。論文は査読前論文サーバー「arXiv」に公開されている。

従来のバイアス緩和手法は、すべての属性グループに対して偏りをゼロにすることを目標とするため、膨大な学習データを必要としていた。今回の手法は、許容する公平性の誤差範囲（フェアネス許容度）を設定することで、データ修正量を大幅に削減できる「公平性のコスト（Price of Fairness）」という概念を導入した。許容度とコストの関係を関数として明示することにより、実務担当者は法的要件を満たしつつ、データ購入・加工コストを最小化するトレードオフを定量的に判断できる。

さらに、マイノリティと多数派の両方の属性を持つ交差的サブグループが訓練データに十分含まれるよう担保する「カバレッジ制約」を組み込んだ点も特徴的である。実験では複数の公開データセットを用い、この制約がモデルの予測精度を維持しながらバイアスを低減することを確認した。

ビジネス上の影響は多岐にわたる。金融機関の与信審査部門では、EUのAI規制法（AI Act）や国内の貸金業法に基づく公平性要件への対応コストを事前にシミュレーションできる。具体的には、モデルの審査通過率における属性間の格差（公平性KPI）をどの水準まで許容するかを設定すると、追加で取得すべきデータ量とそのコストが自動的に算出される仕組みだ。これにより、コンプライアンス部門と財務部門が共通の数値根拠のもとで意思決定を行える。

採用・人事領域でも応用が期待される。大手企業の人事部門が候補者スクリーニングにAIを利用する場面では、性別と年齢が交差するグループへの不当な低評価が問題視されてきた。今回の手法を用いれば、採用合格率の属性間格差という指標を法令上の閾値以内に収めるために最低限必要なデータ補完量が算定でき、外部データベンダーへの発注規模の根拠として活用できる。

医療分野では、診断支援AIの精度が特定の民族グループで低下する問題が報告されており、病院の医療情報部門や保険会社のリスク評価部門が学習データの品質管理に活用できる場面がある。カバレッジ制約は、希少疾患患者や複合的なリスク属性を持つ患者群のデータが統計的に有意な水準で確保されているかを自動的に検証する仕組みとして機能する。

今後の課題として、実運用データへの適用においてカテゴリ数が増加した場合の計算量の拡張性が挙げられる。整数線形計画法はデータ規模によっては計算時間が増大するため、大規模データを扱う企業では近似アルゴリズムとの組み合わせが必要になる可能性がある。研究チームは手法の汎用化を進めており、データガバナンスの標準ツールとして実装されることへの期待が高まっている。