視覚トークン削減でAI推論コスト8割減

研究の概要

画像とテキストを同時に処理するマルチモーダル大規模言語モデル（MLLM）は、製造現場の品質検査から医療画像診断まで幅広い領域で活用が進む。しかし、画像を言語モデルが処理できる形式に変換した「視覚トークン」の数が膨大であるため、推論時の計算コストが課題となっていた。

北京大学・シンガポール国立大学などの共同研究チームが提案した**TOPS（Token Optimal Preservation Sets）**は、情報理論的な観点からトークン選択を定式化した初の手法である。従来のアテンション（注意機構）ベースの手法が冗長なトークンを保持しがちな問題や、多様性ベースの手法がユーザー指示を考慮しない問題を克服するため、研究チームは「タスク関連性」「情報カバレッジ」「意味的多様性」という3原則を導出した。

7種類のMLLMバックボーンと14種類のベンチマークを用いた実験では、代表的なモデルであるLLaVA-NeXTにおいて視覚トークンの77.8%を削除しながら、7Bモデルで性能100.0%、13Bモデルでは性能100.6%を維持した。後者の結果は、冗長トークンの除去が幻覚（ハルシネーション）の抑制にも寄与することを示唆している。

ビジネスへの示唆

TOPSが企業にもたらす直接的なインパクトは、AI推論コストの削減である。視覚トークン数は推論時の計算量に直結するため、トークン削減率はそのままクラウドGPUコストやレイテンシの改善率に近似する。影響を受ける主な業種・部門は以下の通りである。

• 製造業（品質管理部門）：ラインカメラによるリアルタイム外観検査AIの処理速度向上とサーバーコスト削減。スループット（単位時間あたり検査数）がKPIとなる。
• 小売・EC（マーケティング部門）：商品画像の自動タグ付けや類似商品レコメンドにおける推論レイテンシ短縮。顧客体験指標（CVR・直帰率）への波及が期待される。
• 医療（診断支援システム部門）：X線・MRI画像を扱う診断支援AIの応答速度改善。診断補助1件あたりのコストがKPIとなり、中小規模病院への導入ハードルを下げる。
• 金融（リスク管理部門）：契約書・伝票の画像OCR処理と内容審査を組み合わせたワークフローの高速化。処理件数／人件費比率の改善が見込まれる。

TOPSが「学習不要・モデル非依存」である点は、企業の既存投資を保護するうえで特に重要である。すでに自社環境に展開済みのMLLMに対し、再学習コストなしにモジュールとして組み込めるため、導入までのリードタイムが短い。IT部門や生成AIのPoC（概念実証）段階にある企業でも、比較的容易に効果検証が可能となる。

今後の展望

MLLMの活用が高度化するにつれ、エッジデバイスやオンプレミス環境での運用ニーズも高まっている。TOPSのようなトークン圧縮技術は、GPUリソースが限定されるエッジAIへの展開を加速する可能性がある。工場内の組み込みシステムや、通信環境が不安定な現場での利用など、クラウド依存を回避したいシナリオへの適用が今後の焦点となろう。

研究チームは7つのモデルで有効性を確認しており、今後は動画フレームを扱うマルチモーダルモデルへの拡張や、テキスト生成トークンの圧縮との組み合わせによるさらなる効率化が課題となる。企業のAIインフラ担当者にとっては、推論コストのベンチマーク評価にTOPSを組み込むことが、次世代モデル調達における判断基準のひとつになりつつある。