数学的表現の構造的情報のトークン化手法によるProcessBERTの性能改善

化学や鉄鋼などのプロセス産業では，プロセスの設計や運転に物理モデルに基づくプロセスシミュレータが用いられている．物理モデルの構築にはプロセスに関する深い理解と専門知識だけでなく，精度向上のための試行錯誤的な取り組みが必要とされる．このため，物理モデルの構築には多大な労力がかかる．本研究の最終目的は，複数の文献から物理モデルを自動で構築するシステム(Automatedphysicalmodelbuilder;AutoPMoB)を開発することである．AutoPMoBの実現には，物理モデル構築に必要な情報を文献から抽出し，抽出した情報の表記を統一する必要がある．本研究の目的は，表記を統一するために，異なる文献から抽出した変数の定義が同じかどうか(同義性)を正確に判定する手法を開発することである．本研究では，1)約80万報の化学工学関連論文を収集し，2)BERTモデルが数学的表現の構造的情報を学習できるような前処理手法を提案し，BERTモデルをゼロから学習する．そして，提案手法と既存手法で構築したBERTモデルによる変数定義の同義性判定性能を比較する．