歴史的文書のLLM処理、簡易プロンプトで難易度６割減

研究の概要

欧州の大学・研究機関でLLMを活用したデジタルライブラリー構築が加速する中、歴史的文書の処理精度は長らく「均一な壁」として扱われてきた。エジンバラ大学のMaria Levchenko氏は、この困難を四つの独立した次元——トークン化コスト、予測不確実性（サプライザル）、意味的堅牢性、文脈感度——に分解する診断フレームワークを提案し、17世紀イタリア語文書、19世紀イタリア語、18世紀ロシア語の三データセットで検証した。

結果として明確な「解離」が確認された。ロシア語と近世イタリア語はいずれもトークン化に25〜30%のコスト増（現代語比）を示す一方、予測困難度は大きく異なる。17世紀イタリア語の平均サプライザルは現代語の2.4倍、学術散文に限れば3.2倍に達した。対してロシア語の増加は軽微にとどまる。しかし意味表現の類似度（埋め込み類似度）は全データセットで0.85以上を維持しており、生成が不安定な場合でも意味的な「理解」は保たれることが示された。

最も実用的な発見は、文書の時代情報を数語で示す「時間的文脈プロンプト」の効果である。モデルやアーキテクチャを問わず、このプロンプトを付加するだけで歴史的文書のサプライザルが約60%低下した。追加学習や専用モデルを必要としない点が、企業導入における障壁を大幅に下げる。

ビジネスへの示唆

この研究が直接影響を与える領域は広い。

• 法務・コンプライアンス部門：契約書や判例の歴史的文書検索において、意味検索（セマンティック検索）は現状のLLMでも高精度で機能する。一方、要約・ドラフト生成などの生成系タスクは時代プロンプトなしでは誤読リスクが高く、ワークフロー設計の見直しが必要となる。
• 金融・保険業界のアーカイブ管理：古文書を扱う信託業務や歴史的土地台帳の参照では、トークン化コスト増がAPI利用コストに直結する。25〜30%のトークン増加はバッチ処理コストの試算に組み込むべき固定費となる。
• 出版・文化財デジタル化事業：美術館・図書館のデジタルアーカイブプロジェクトでは、意味的インデックス作成にLLMを安全に活用できる根拠が得られた。KPIとして検索再現率（Recall）や意味的精度（Semantic Precision）を設定した場合、追加コストなしで現代語に近い水準が期待できる。
• EdTech・学術データベース企業：歴史語のコーパス検索機能をLLMで強化する際、生成系と検索系の機能を分離設計することが推奨される。

特に注目すべきは、意味検索と生成タスクの「分離管理」という設計原則である。同一モデルでも用途によってリスクプロファイルが異なるため、システム設計段階での機能分類が品質管理上の必須要件となる。

今後の展望

本研究は英語以外の歴史的言語を対象としているが、同フレームワークは日本語の古文・漢文、アラビア語古典文書、中世ラテン語にも応用可能である。日本国内では公文書館のデジタル化や法令全書の電子検索システム構築が進んでおり、同様の診断手法が導入評価のベンチマークとして機能すると見られる。

今後の課題としては、時代プロンプトの最適設計や、微細調整（ファインチューニング）との効果比較が挙げられる。また、トークン化コストの増加がリアルタイム処理システムのレイテンシに与える影響の定量化も、エンタープライズ導入における重要な検討事項となろう。デジタルライブラリーとLLMの統合は不可逆的な趨勢であり、本研究が示した「用途別リスク分離」の視点は、今後の調達・システム設計基準に組み込まれる可能性が高い。