OCR言語パックを更新すると、なぜドキュメントの埋め込み表現が変化するのですか？

エヴァ・ウォン

IceWhale author

エヴァ・ウォン は テクニカルライター であり ZimaSpaceの常駐ティンカーでもあります。 生涯のオタクであり、 ホームラボとオープンソースソフトウェアに情熱を持っています。彼女は複雑な技術的概念をわかりやすく、 実践的なガイドに翻訳することを専門としています。エヴァはセルフホスティングは楽しくあるべきで、怖がるものではないと信じています。彼女のチュートリアルを通じて、コミュニティが ハードウェアのセットアップを解明する手助けをしています。初めてのNAS構築からDockerコンテナの習得まで。

Why Do Document Embeddings Shift After an OCR Language Pack Is Updated? - Zima Store Online

OCRの言語を更新するとドキュメント埋め込みが変化するのは、新しい認識器によってエンコーダーに渡されるテキスト、トークン境界、またはレイアウトが変わるためです。

スキャンした請求書は見た目が同じでも、OCRの実行ごとに抽出テキストが変わることがあります。より優れた言語モデルはアクセント記号や単語を修正できますが、複合語の分割方法を変えたり、列の順序を入れ替えたり、別の文字体系として数字を認識したりすることもあります。その結果、後続処理でチャンクハッシュ、トークン列、ベクトル位置、最近傍が大きく変化します。

言語パックによって認識される記号列が変わる

OCRは、視覚的な情報を言語固有の文字セット、語彙、系列モデルと組み合わせます。これらのコンポーネントを更新すると、紛らわしい字形の置換、ダイアクリティカルマークの変更、単語の結合や分割が起こり、同じ曖昧な領域に対して別の文字体系が選択されることがあります。

多言語OCRトレーニングのフレームワークは、言語を考慮したトレーニングによって、小さくぼやけたテキストや空間的に分散したテキストに対するOCRの完全性と堅牢性が向上することを示しています。こうした改善は必然的に、後続の検索処理に渡される文字列を変化させます。この違いは、その後の家庭環境でのテストでも確認できます。

修正だけでも埋め込みは変化します。エンコーダーは新しい文字列を異なる方法でトークン化するためです。クエリがその識別子に依存している場合、1つの修正された製品コードが、複数の句読点の変更より大きな影響を与えることがあります。そのため、ベクトル距離は文字誤り率に直接対応しません。

レイアウトとチャンク分割が小さなOCR差分を増幅する

OCRの出力は通常、埋め込みの前に読み取り順序、段落、表、チャンクへ変換されます。改行や列の割り当てが変わると、文がチャンク境界をまたいで移動し、変更された文字だけから想定される以上に、エンコードされるコンテキストの多くが置き換わる可能性があります。

空間的なOCR関係に関する研究では、一次元の読み取り順序が、OCR単語間の空間的関係を正しく表せない可能性が指摘されています。この結果は、ページ画像が固定されていても、更新されたレイアウトや言語処理によって意味的な近傍が再編成される理由を説明します。

トークン数によるチャンク分割では、さらに別の不連続性が生じます。修正された単語のトークン数が異なると、その後の境界が移動し、安定したセクション境界で処理がリセットされるまで、後続のすべてのベクトルに含まれる文の組み合わせが変わる可能性があります。

より良いOCR結果でも検索の安定性が低下することがある

改善されたテキストは、ドキュメントを本来の意味的近傍へ近づける可能性がありますが、古いOCRベクトルと新しいOCRベクトルが混在するインデックスは内部的に一貫しなくなります。重複したページでも、異なるパイプラインのバージョンで処理されたというだけで順位が変わることがあります。

OCR対応ハイブリッド検索に関する研究では、疎検索と密検索の前にノイズの多いOCRテキストを強化し、検索アーキテクチャを変更せずに検索性能を改善できることが報告されています。これは、上流のテキスト品質が、下流の語彙マッチングとベクトル表現の両方に影響することを示しています。

すべてのベクトル変化を言語パックのせいにすることはできません。パーサーのバージョン、正規化、埋め込みモデル、チャンクサイズ、浮動小数点カーネル、インデックス量子化もベクトルを動かす可能性があります。これらの段階を固定し、OCRを原因と判断する前に、まず抽出テキストを比較してください。

Featured

ZimaCube 2 パーソナルクラウドホームNAS

ZimaCube2

OCRから埋め込みまでのパイプラインをバージョン管理して再現する

アクセント記号、複数の文字体系、表、手書き文字、製品コード、明瞭な単一言語テキストを含むページを選びます。パーサー、正規化、チャンク分割、埋め込みモデル、精度、インデックス設定を固定したまま、同一の画像に対して古い言語パックと新しい言語パックを実行します。自動化を進める前に、中間結果を検査できる状態にしておく必要があります。

文字の変更とレイアウトの変化をOCRの不整合と照合し、読み取り順序、チャンク境界、トークン数、コサイン距離の変化、最近傍の重複率、検索再現率、引用の正確性を記録します。単なるベクトルの違いと改善を分けて評価してください。この境界は、現実的な運用条件の下で個別に測定する必要があります。

新しいOCRバージョンによって、保持していないデータでの検索性能または根拠の品質が向上する場合に限り、コレクション全体を一貫した方法で再インデックスします。一部の言語で性能が低下する場合は、バージョン別の出力を保持するか、検出した言語に応じてページを振り分けます。ラベルのないOCR生成物を混在させたまま、順位の変化をモデルドリフトと呼んではいけません。