合成データを用いた日本語電子カルテ文書の構造化

電子カルテ文書には，診断や検査結果といった患者の臨床情報が自由記述で記載されており，これらを一定のフォーマットや表項目に従って情報抽出できれば，予後の予測や医薬品有害事象などの臨床研究といった多様な二次利用につながる[1,2]．こうしたテキストからの情報抽出については，臨床概念を抜き出す固有表現抽出や，概念同士の関係性を特定する関係抽出などが研究されてきた[3]．しかし，臨床現場での実用性を高めるためには，個別の概念や関係性の抽出にとどまらず，抽出した情報を診療の文脈に即して体系的に再構成し，構造化して出力する必要がある．そこで本研究では，診療録から診断名や検査値などの事前に定義した項目に対応する情報を抽出し，日付を軸に診断名と検査値や有害事に用意した項目に対して情報を抽出し，日付に沿って診断名と検査値や有害事象などの内容別に医療イベントとして構造化を行う．項目の値は，ステージ分類などのカテゴリが入る項目や，検査値のように，数字，または，陽性・陰性などの2値が入る項目，診断名のような文字列が入るものがある．象などの内容を医療イベント単位で整理するタスクを構造化と定義し，これを情報抽出の応用形態と位置づける．さらに，1文書から得られる医療イベントの集合を構造化結果と呼ぶ．例えば，図1のように，自由記述の診療録を構造化することで，腫瘍サイズやステージといった検査値が2025年2月5日の右肺上葉に対するものであると整理できる．構造化は従来，固有表現認識，正規化，事実性判定などの複数の処理のパイプラインからなる複雑なタスクであったが，近年では，LLMを情報抽出器として用いることで，完結かつ高精度に構造化が実現できる可能性が示されている[4,5]．しかし，医療現場では，電子カルテが個人情報を含むため外部API型LLMの利用は制約される[6]．さらに，大規模なモデルの院内等のオフライン環境での運用は，高い計算コストを要するため，困難となる．この問題に対処するため，計算コストを抑え，かThisworkispublishedwithoutpeerreviewandislicensedbytheauthor(s)underCCBY4.0(https://creativecommons.org/licenses/by/4.0/).org/licenses/by/4.0/).のAbstractは簡潔に記述されるため，検査値，診断，治療経過などの詳細な臨床情報が省略されることが多い．そこで，退院サマリおよび診療録の生成時には，Abstractの記述と整合する範囲で不足する臨床情報をLLMで補完する．（ii）については，実際の電子カルテ文書のフォーマットを再現するため，模擬電子カルテ文書をICLの例として与え，文書フォーマットを制御する．3.2知識蒸留計算コストを抑えつつ，高性能な構造化モデルを構築するため，LLMからSLMへの知識蒸留を行う．まず，生成した診療録に対して，LLMにより構造化の自動アノテーションを行う．具体的には，生成された診療録の中から抽出項目を取り出し，図1のように，構造化結果を医療イベントのまとまりとして出力する．ここで，各抽出項目の値は，ステージ分類のようなカテゴリ値，検査値のような数値や陽性・陰性などの2値，診断名のような文字列など，項目に応じて異なる．この際，出力形式を制御するため，人手でアノテーションした模擬診療録と構造化結果のペアをICL例として与える．次に，自動アノテーションで得られた“生成された診療録”と“自動アノテーションされた構造化結果”のペア（合成学習データ）を用いてSLMをQLoRAによりファインチューニングする[13]．これにより，外部API型LLMの利用が難しい環境でも動作可能な，構造化タスク特化の小規模モデルを得る．4実験4.1材料PubMed収録文献の中から，「肺がん」と「患者の年齢」を含む症例報告を文字列一致により抽出し，得られた合計3,787件を用いた．フォーマット変換のためのICL例には，模擬退院サマリおよび模擬診療録を3文書（3-shot），構造化の自動アノテーションには，人手でアノテーションされた2文書（2-shot）を用いた．自動アノテーションの結果，抽出項目が全く検出されなかった文書を除外し，最終的に3,529件の合成学習データが得られた．ファインチューニングの評価には，LLMによる合成データとは別に，人手により作成およびアノテーションを行った計100文書の模擬診療録と構造化結果のペアを用意した．そのうち，ICL例に用いた2文書を除く98文書を評価に用いた．4.2実験設定対象タスク：肺がん診療録の構造化本研究で検証する具体的なタスクは肺がん診療録の構造化である．本タスクは，自由記述で書かれた診療録から肺がんに関わる重要情報を抽出し，日付を軸に医療イベントをまとめて出力することを目的とする．抽出項目は41項目あり，基本情報（例：日付，診断名），腫瘍情報（例：発生部位，腫瘍サイズ等），有害事象（例：患者の反応，毒性グレード），検査所見（例：TTF1，NapsinA等），治療（例：治療内容，放射線総量，放射線照射回数）から成る．検査所見には，肺がんの診断や治療方針の決定で使われる項目が多く含まれる．全項目の一覧は付録の表A.1に示す．合成データ生成（症例報告Abstractの日本語翻訳，退院サマリ，診療録）および自動アノテーションにはDeepSeek-V3.2（Non-thinkingMode）を使う．このモデルは，生成出力を学習データとして二次利用可能であることを考慮して選定した．構造化モデルにはLlama-3.1-Swallow-8B-Instruct-v0.5を採用し，知識蒸留は，QLoRAによりファインチューニングする．ハイパーパラメータは，LoRAを𝑟=16，𝛼=64，dropout=0.05，学習をepoch数3，学習率2×10−4，実効バッチサイズ16とした．ベースラインは，同一の基盤モデルをファインチューニングせずに，自動アノテーション時と同じプロンプトとICL例を付与して構造化を行う．これにより，知識蒸留による精度の変化を比較する．4.3評価方法本研究では，合成学習データの網羅性と，知識蒸留により得られた構造化モデルの性能を評価する．合成学習データの網羅性評価作成した合成学習データが事前に用意した抽出項目をどの程度含むかを網羅性として確認するため，各項目の出現数を集計する．具体的には，各診療録に当該抽出項目が1回以上出現するかを判定し，出現した診療録の件数をカウントする．構造化性能の評価構造化性能は，SLMの出力と正解の構造化結果に含まれる医療イベントを1対1に対応付け，micro平均のPrecision，Recall，F1で評価する．対応付けの方法は，抽出項目と値が一致した数の合計が最大となる医療イベントの組み合わせを採用する．具体的には，対応付けられた出力と正org/licenses/by/4.0/).スラインを上回った．手法PrecisionRecallF1ベースライン0.6060.5140.556提案手法0.6520.6480.650解の医療イベントにおいて，同一の抽出項目と値の両方が一致した場合のみ正解とした（例：値が同じリンパ節でも，転移部位=リンパ節と再発部位=リンパ節は別項目のため一致しない）．5結果と考察合成学習データの網羅性合成データにおける各項目を含む文書数について，作成した合成学習データでは，全41の抽出項目が少なくとも一度は含まれており，提案手法により網羅的な合成データ生成が可能であることが示された．詳細は，付録の表A.1に示す．一方で，項目間の出現文書数には偏りが見られ，「日付」，「診断名」，「腫瘍関連の基本情報」，「治療」など，多くの症例で言及されやすい項目は高頻度に出現するのに対し，「超音波気管支鏡下穿刺吸引」，「オンコマイン」，「NGS」，「ROSE」の検査項目では，出現文書数が100件未満にとどまった．構造化性能Recall，F1を示す．ファインチューニングされたSLMの性能はベースラインと比較して，Precision，Recall，F1がそれぞれ，0.046，0.134，0.094向上し，特にRecallが大きく向上した．41項目の項目別の指標について，評価データに出現しない2項目を除く，39項目で比較すると，向上した項目は27件，低下した項目は6件，同等は6件であった．このことから，精度の向上は幅広い項目に及んでいることが分かる．結果の詳細は，付録の表A.2に示す．その中でも特に性能変化の大きい項目を図3に示す．差分上位の抽出では，出現数が少ない項目は推定値が不安定になるため，出現数が10以上の項目に限定した．複数の項目で大きな上昇が見られた一方，性能が低下した項目はいずれも低下幅が0.1未満にとどまった．したがって，提案手法は一部項目での小さな低下を伴いながらも，全体として構造化性能を底上げすることに成功した．6おわりに本研究では，公開症例報告から日本語退院サマリと診療録を合成し，肺がんを対象として，事前に定位5項目の比較．全体として性能向上への寄与は大きく，性能低下の影響は小さかった．義した抽出項目に基づくLLMでの構造化の自動アノテーションを行った．これにより，診療録テキストを入力，自動アノテーションの構造化結果を出力とした合成学習データを作成した．さらに，作成した合成学習データを用いてSLMをファインチューニングし，オフライン環境で運用可能な構造化モデルの構築を試みた．実験の結果，合成データ3,529件において抽出項目の全てが少なくとも一度は観測され，項目の観点からは構造化学習に必要な網羅性を満たすことを確認した．加えて，構造化モデルはICLベースラインに対してmicroF1を0.556から0.650へ向上し，合成データ生成と自動アノテーションに基づく知識蒸留が，日本語電子カルテ文書の構造化性能向上に寄与する可能性を示した．一方で，項目の出現頻度には依然として偏りが見られ，低頻度項目において学習や評価の安定性に欠ける点が課題である．さらに，今回は項目の出現数のみに注目したが，各項目が取り得る値の範囲を十分に網羅できているかについては検証の余地がある．今後は，低頻度項目を意図的に含め，かつ，値の多様性を満たす生成制御やサンプリング戦略の改善を進める．これらを通じて，オフライン環境で運用可能なSLMによる日本語電子カルテ文書構造化の社会実装を目指す．org/licenses/by/4.0/).