歴史的写真の説明生成において、言語モデルの事前学習と視覚モデルの事前学習の最適なバランスは、両者の特性を考慮した統合的なアプローチに依存します。研究によると、視覚モデルは現代の画像から効果的に特徴を抽出できる一方で、歴史的な画像においては、視覚的な変動や文脈の違いが存在します。このため、視覚モデルの事前学習には、歴史的なデータに特化した合成画像を使用することが有効です。さらに、言語モデルは、特にマイノリティ言語において、言語の近接性がパフォーマンスに大きく影響することが示されています。したがって、言語モデルの事前学習には、リソースが豊富な言語からの知識移転が重要です。最適なバランスは、視覚モデルが歴史的な文脈を捉えられるようにしつつ、言語モデルが適切な言語的特徴を学習できるようにすることです。このように、両者の事前学習を組み合わせることで、歴史的写真の説明生成の精度を向上させることが可能です。