AIの外見偏見、15属性が8割を左右

米イリノイ大学アーバナ・シャンペーン校などの研究チームは、マルチモーダル大規模言語モデル（MLLM）が人物の外見に基づいて下す社会的判断を体系的に計測するベンチマーク「StylisticBias」を開発し、論文を公開した。

研究チームは500枚のフォトリアリスティックな顔画像を生成し、1枚あたり約50種類の単一属性変化バリエーションを作成することで、合計約2万5000枚の画像データセットを構築した。同一人物の同一性を保ちながら服装・体型・年齢表現・ヘアスタイルといった視覚属性を1つずつ変化させる設計により、モデルの判断変化を属性レベルで正確に分離・測定することを可能にした。

6種類の主要MLLMを対象に25種類の二値的社会判断シナリオで評価した結果、年齢と体型が個人識別レベルで最も大きな影響を与える一方、ファッションスタイルを含む外見的手がかりが属性レベルの判断変動を最も強く駆動することが示された。特に重要な発見として、全変動の約80%がわずか約15の視覚属性に集中しており、社会経済的地位やスタイルに関連する判断で感度が最も高いことが確認された。

この研究結果が最も直接的に影響を与えるのは、人事・採用領域である。履歴書スクリーニングや動画面接の自動評価にMLLMを活用する企業では、候補者のファッションや体型といった職務遂行能力と無関係な視覚情報が合否判定に影響するリスクが存在する。人事部門が追跡する採用プロセスの公平性指標（ダイバーシティ採用率、性別・年齢層別通過率）が、モデルの視覚バイアスによって歪められている可能性がある。

金融・フィンテック分野では、ビデオKYC（本人確認）や顧客対応の自動化にMLLMを組み込む場面でのリスクが顕在化する。外見の社会経済的手がかりに反応するモデルが、与信判断や優先サービス提供において間接差別を生む可能性があり、金融庁が注視する公正な貸付慣行への準拠（コンプライアンス達成率）に直結する問題となりうる。

医療分野においても、患者の画像情報を扱う診断支援や問診自動化システムにおいて、体型・年齢・外見的手がかりに基づく不当な優先順位付けが生じるリスクがある。患者満足度スコアや治療アクセスの均等性指標に対する悪影響が懸念される。

企業のAIガバナンス部門およびリスク管理部門にとっての実務的な意義は大きい。StylisticBiasは公開ベンチマークとして利用可能であり、自社が導入するMLLMの調達前評価や定期監査のツールとして活用できる。EU AI法やわが国の「AI事業者ガイドライン」が求める高リスクAIシステムへの適合性評価において、視覚バイアスの定量的な証跡を残す手段としての有用性が高い。

今後の展望として、研究チームは本ベンチマークをモデルのファインチューニングや出力フィルタリング設計にも応用可能と指摘している。企業側では、判断に用いる視覚情報を限定するプロンプト設計や、高感度と判明した15属性を入力段階でマスキングする技術的対策の検討が現実的な選択肢となる。AIの社会実装が加速する中、外見バイアスの「見える化」と定量管理は、企業のブランドリスクおよび法的リスクを低減するための不可欠な経営課題となりつつある。