現在の学習データにおける視覚的テキストと画像の組み合わせの問題を解決するためには、以下のアプローチが考えられます。
データセットの多様性の向上: 学習データセットにおいて、視覚的テキストと画像の組み合わせが安全であることを保証するために、多様なデータを収集し、危険なコンテンツを含まないサンプルを増やすことが重要です。特に、視覚的テキストが含まれる画像の正確なキャプションを持つデータを増やすことが求められます。
データクリーニングとフィルタリング: 学習データに含まれる不適切なコンテンツを特定し、除去するためのフィルタリング手法を強化する必要があります。これにより、モデルが学習する際に危険な情報を含まないようにすることができます。
アノテーションの精度向上: 視覚的テキストと画像の関係性を正確にアノテーションするための基準を設け、専門家によるレビューを行うことで、データの質を向上させることが重要です。これにより、モデルがより正確に視覚的テキストを理解し、安全なコンテンツを生成できるようになります。
生成モデルの改良: 視覚的テキストの生成能力を向上させるために、キャラクター認識に特化したエンコーダーを使用するなど、モデルのアーキテクチャを改良することが求められます。これにより、視覚的テキストの正確な生成が可能となり、誤解を招くリスクを低減できます。