チャットボットの自己訂正が信頼維持に有効

シンガポール国立大学の研究チームは、社会的チャットボットが誤りを犯した際の回復戦略が利用者の信頼に与える影響を定量的に検証した。120名を対象とした被験者間実験の結果、自己訂正を行ったチャットボットは外部による訂正を受けたチャットボットと比較して、信頼性および専門性の評価において有意に高いスコアを獲得した。

実験では三つの訂正手法を比較した。第一はウェブページによる訂正、第二は同一の社会的チャットボットによる自己訂正、第三は別の専門家チャットボットによる訂正である。誤情報の修正効果そのものは三手法で統計的差異がなかったが、チャットボットへの信頼評価は自己訂正条件においてのみ低下しなかった。外部訂正を採用した場合、利用者はチャットボットを信頼性の低い情報源と見なすようになった。

さらに重要な知見として、利用者とチャットボットの間に形成された社会的なつながりの強さが、訂正後の信念変化の大きさを予測することが示された。社会的魅力および自己開示の程度として測定したこの関係性は、チャットボットが自己訂正を行う場合にのみ訂正効果を増幅する機能を持ち、外部訂正ではそのリンクが完全に断絶された。つまり利用者との関係構築は単なるデザイン上の付加価値ではなく、訂正の効果そのものに直結する機能的な仕組みであることが明らかになった。

この研究が持つ事業上の含意は広範にわたる。まず医療・ヘルスケア分野では、患者向け問診補助や服薬指導を担うAIエージェントが誤情報を提供した際のリカバリー設計が直接的な患者安全KPIに影響する。誤答を外部の医療データベースや専門チャットボットに訂正させる設計は、利用継続率や回答遵守率を低下させるリスクがある。

金融機関のリテール部門においても同様の課題が存在する。資産運用アドバイスや投資情報を提供するチャットボットが誤情報を修正する際、外部ソースへの転送は顧客のNPS（ネット・プロモーター・スコア）や問い合わせ解決率に悪影響を与えかねない。自己訂正機能を備えた設計への移行が、顧客維持コストの削減につながる可能性がある。

EC・マーケティング領域では、パーソナライズされた接客チャットボットが誤った商品情報や価格を提示した場合の対応が購買転換率に直結する。本研究の知見に基づけば、同一エージェントが文脈を維持しながら誤りを訂正する設計が、訂正後の購買意欲の回復において優位性を持つ。

人事・組織開発部門においても示唆は大きい。従業員向けの研修AIやオンボーディングチャットボットが誤情報を提供した際、HRシステムや外部コンテンツへのリダイレクトは従業員の当該ツールへの信頼を損ない、利用率低下を招くことが懸念される。

企業のAI開発チームが実装段階で直ちに検討すべき設計原則として、本研究は「訂正責任の内在化」を提唱している。外部APIや別エージェントへの訂正委託ではなく、同一モデルが誤りを認識し修正する能力を持つことが長期的な信頼醸成に不可欠である。また社会的つながりを構築するための会話設計への投資は、ブランド好感度向上にとどまらず、誤情報リスクに対するバッファー機能を持つことが示された。

今後の課題として、自己訂正の頻度が許容限界を超えた場合の信頼崩壊メカニズムの解明が求められる。また本実験は英語圏の被験者を対象としており、文化的文脈が異なる日本市場における再現性の検証が必要である。