近年，拡散言語モデルを用いた言語生成が注目されている．拡散言語モデルには，状態を連続値で表現する連続型拡散言語モデル，及び，状態をトークンとして扱う離散型拡散言語モデルの二つがある．しかし，連続型には丸め込む際の誤差に，離散型には大域的意味構造の表現にそれぞれの課題を持つ．一方で，連続型には状態の微量かつ滑らかな変化を捉えることが可能であり，離散型には言語モデルの回帰的な性質を表現しやすいなどの利点が存在する．そこで，本研究では両者のモデルを交互に学習させることでそれぞれの長所を取り込み，短所を補えることを可能にするハイブリッド拡散言語モデルを提案する．提案手法では，拡散時間に応じてモデルと損失関数を切り替えることで，トークンレベルの正確性と文全体の意味的一貫性の両立を図る．結果として、連続型拡散言語モデル単体を上回る性能を実現できたが、離散型拡散言語モデル単体には及ばず、改善の余地がある.

拡散モデルは画像生成分野での成功を背景に，言語生成への応用も活発に研究されている[1][2]．言語生成における拡散モデルは，拡散過程を連続空間で定義する手法と，離散空間で直接定義する手法に大別される．連続型拡散モデルは，トークン列を連続表現に埋め込みガウスノイズによる拡散を行うことで，理論的に安定した学習と文全体の意味構造を捉えやすいという利点を持つ．一方で，生成時には連続表現から離散トークンへの復元が必要となり，丸め込み誤差や不自然な語彙選択が生じる可能性がある.これに対し，離散拡散モデルはトークン空間上で直接拡散を行うため，生成結果のトークンレベルの正確性が高いが，長距離依存関係や文全体の大域的意味構造のモデル化が難しいという課題を持つ．このように，連続型拡散と離散拡散は補完的な性質を持つが，両者を統合的に扱う枠組みは十分に検討されていない．