PDF形式の農業技術文書を用いた表構造認識ベンチマークTOITA

農業の技術継承は，高齢化が進む日本において，極めて重要な課題となっている[1]．技術継承の問題としては，高齢化や後継者不足に加え，地域特有の作物の栽培技術や土壌管理法など，経験に基づく技術が多く存在すること，デジタル技術との融合が進んでいないことなどが挙げられる．このような技術継承の課題に対する取り組みとして，RAG(Retrieval-AugmentedGeneration)を用いた方法が検討されている[2]．RAGとは大規模言語モデルにおける追加学習を伴わずに外部知識を活用する手法のことで，外部文書をベクトルに変換し，データベースに保存することで検索を可能にしている．これによりハルシネーションのリスクを軽減させ，信頼性の高い出力を期待できる．しかしながら，RAGにおいて「表」を含む文書が，正しく表構造認識されずに利用されることで，ハルシネーションを引き起こす要因となる可能性がある．特に，栽培技術や土壌管理・作付け体系など，表の形式で記述されることが多い農業分野の文書においては，RAGへの適用が困難である[3]．そのため，文書に含まれる表構造を正確に認識・変換する処理が重要となる．ICDAR2013のTablecompetitionでは，PDFからの表の位置検出と構造認識タスクが提案されたが，データセット含まれていない日本語データに対する認識精度は明らかでない[4]．現状では，日本語に対応した表構造認識を行うツールは数多く存在するものの，各ツールの性能を体系的に検証する手段は確立されていない．そこで，本研究では，農業の技術継承にも用いられ，表形式データを数多く含む「長崎県農林業基準技術」の文書を基に，各ツールの表構造認識の精度を評価するための正解データセット，および，評価ベンチマークであるTechnicalObtainmentandInterpretationofTablesinAgriculturaldocument(TOITA)を構築した．本研究の貢献は，以下の3点である．•農林業基準技術の文書に含まれる70種類の表に対して，人手による正解データを作成した•長崎県農林業基準技術の文書を基に，表構造理解のデータセットを構築した•表構造認識の評価手法GriTSを用いたベンチマークTOITAを構築した