言語処理学会 第30回年次大会 発表論文集（2024年3月）

文字列中からの単語の発見と感覚情報に基づく
単語の意味づけを通じた SIR 名付けゲームによる言語の創発堀江孝文 1 谷口彰 2 萩原良信 3 谷口忠大 2
1 立命館大学大学院 情報理工学研究科 2 立命館大学 情報理工学部
3 立命館大学 総合科学技術研究機構{horie.takafumi,a.taniguchi,yhagiwara,taniguchi}@em.ci.ritsumei.ac.jp

概要

単語の意味

相互分節化仮説とは，複数のエージェントによる文のやり取りを通じ，文の分節化と状況の分節化が同時に行われることで，人間の言語が誕生したとする仮説である．本研究では，相互分節化仮説に着想を得て，観測した感覚情報を表現する文字列のやり取りを通じ，エージェントが文字列中から単語を発見し，単語と分類された感覚情報の関係を推論する
ことで，言語が創発する過程のモデル化を目指す．
そこで本稿では，教師なしで文を分節化するためのモデル NPYLM と，色や形といった複数の属性を含
む感覚情報と単語との結びつきを学習する交差状
況学習のモデル CSL-PGM を統合してエージェントを構成し，二体のエージェントを接続したモデル
Inter-CSL+NPYLM を構築する．また，エージェント間における推論を，文のやり取りに基づく言語ゲー
ムである SIR 名付けゲームにより実現する．実験では，提案手法が比較手法よりもエージェント間の発話の編集距離を小さくすることが確認された．一方で，提案手法が文の分節化誤りの影響を大きく受けたことで，エージェント間で多くの単語が共有されなかったことも明らかになった．

1

はじめに

相互分節化仮説とは，文を構成する文字列の一部と分節化された状況が対応付けられることで，言語が誕生したとする仮説である [1]．この仮説では，
複数のエージェントが共有された状況の中で発話す
る中で，発話された文の分節化と，状況の分節化が同時に行われていき，言語が創発したと考える．本
研究では，この相互分節化仮説に着想を得て，分節化されていない文字列のやり取りを通じ，エージェ
ントが文字列を分節化しつつ，複数の属性を含む感

語順
ymj qfqq dtz ...
lwxfu nx wji ...

“wji”

“lwf”

“gfqq”

dtz scip rrx ...

交差状況学習mjwjidtzlwfnxgfqq

文の分節化

mj/wji/dtz/_____lwf/nx/gfqq

図 1: 本研究で扱う言語の創発の概要．分節化されていない文字列のやり取りを通じ，エージェントが単語を発見しつつ，単語と感覚情報を結びつける．

覚情報のカテゴリゼーションを行い，単語と感覚情報を結びつけていくことで，言語が創発する過程のモデル化を目指す（図 1）．
切れ目のない文字列のやり取りを通じた言語の創発をモデル化するためには，文を分節化すること，状況を分節化すること，分節化によって得られた単語を感覚情報と対応付けることが必要である．これに関し，言語の創発の計算論的なモデル化を扱ったこれまでの研究が多数提案されている [2]．
Chaabouni らは，深層強化学習に基づいた言語ゲー
ムを通して，単語と感覚情報が結びつけられていく過程をモデル化した [3]．また萩原らは，エージェ
ントが複数の単語を組み合わせて観測を説明する言語ゲームを通じて，記号が創発する過程をモデル化した [4]．しかし，これらのモデルは用いる単語の種類を制限しており，また切れ目のない文によるコ― 2227 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

ミュニケーションを扱っていなかった．

ジ ェ ン ト の CSL-PGM 部 分・NPYLM 部 分 の 確 率

本研究では相互分節化仮説における文の分節に よ っ て 計 算 す る こ と が で き る．な お，𝑃(ℓ𝑑 |化 と 状 況 の 分 節 化 を 同 時 に モ デ ル 化 す る た め，

𝑤 ∗𝑑 , v∗ ), 𝑃(𝑤 ∗𝑑 | 𝑇 ∗ ), 𝑃(𝑤 ∗𝑑 | Ω∗ ) の具体的な計算式に

NPYLM [5] と Cross-situational learning with Bayesian

ついては Appendix を参照されたい．

probabilistic generative model (CSL-PGM) [6] という二B
ℓ𝑑 , 𝑤 A
𝑑 , 𝑤 𝑑 以外の変数のうち，CSL-PGM 部分に

つ の モ デ ル を 統 合 す る．NPYLM は，教 師 な し で対応する変数の生成・推論過程は，オリジナルの文字列を分節化することができる言語モデルであCSL-PGM と同様である [6]．また，NPYLM 部分にる．本研究では，例えば図 1 で文を “mj gfqq dtz lwf

対応する変数は，階層 Pitman-Yor 過程 [5] により生nx wji” のように単語へと分割するために用いる．

成される．

CSL-PGM は，交差状況学習に基づき，感覚情報を分類しつつ単語と結びつく属性・感覚情報を推論す

2.2

SIR 名付けゲームるモデルである．ここで交差状況学習とは，単語とInter-CSL+NPYLM では，文のやり取りを通じた感覚情報の共起を学習することで，単語と結びつい

エージェント間の推論を，SIR 名付けゲームとしてている属性（例: “wji” は色属性，“lwf” は形属性など）と，感覚情報のカテゴリ（例: “wji” は赤，“lwf”

モデル化する．これは，確率的生成モデルを接続す
る SERKET フレームワーク [8, 9] における，SIR 法は球など）を推論することである．

に基づいた手続きである．なお以下では，エージェ

本稿では，CSL-PGM と NPYLM を統合したエー

ント A, B のうち話し手を Sp，聞き手を Li とする．

ジェントを構成し，そのエージェント二体を接続

SIR 名付けゲームは，式 (1) を重点サンプリング

したモデル Inter-CSL+NPYLM を提案した．また，と SIR 法により近似する．SIR 名付けゲームの具体Inter-CSL+NPYLM 上での推論を，観測した感覚情報

的な手続きを以下に示す．

に結び付いた文をやり取りする言語ゲーム Sample
Importance Resampling 名付けゲーム (SIR 名付けゲー
ム，SIRNG) により定式化した．

(i)話し手側エージェントは，CSL-PGM 部分によSp
Sp(𝑟 )
り，𝑤 の仮のサンプル 𝑤¯, (𝑟 = 1, · · · , 𝑅 speak )𝑑

提案手法: Inter-CSL+NPYLM with2

ラム確率によって各サンプルの重み

SIRNG
2.1

(𝑟 )
W¯𝑑 = ∏

Inter-CSL+NPYLM

図 2 に Inter-CSL+NPYLM のグラフィカルモデルを示す. また，表 1 に各変数のうち後述の SIR 名付ある．

rescaling [7] を用いて以下のように近似する．なお
以下では，CSL-PGM に対応する部分の変数のうち，(𝑟 )Sp(𝑟 )に 比 例 す る 確 率 で 𝑤¯ 𝑑

(2)

𝑑,𝑛

をリサンプ

𝑑

Sp(𝑞)

(iii)話 し 手 側 の 単 語 列 𝑤 𝑑𝑑

を vSp(𝑞) に よ り 変

換 し，切 れ 目 の な い 文 字 列 ℓ𝑑 の サ ン プ ルℓ𝑑(𝑞) (𝑞 = 1, · · · , 𝑄) を得る．

(iv)聞き手側エージェントは ℓ¯𝑑(1) , · · · , ℓ¯𝑑(𝑄) をそれ
Li(q,r)
ぞれ分節化し 𝑤 Li¯𝑑(𝑟 =𝑑 の仮のサンプル 𝑤Li(q,r)1, · · · , 𝑅 segment ) を得たうえで，各 𝑤¯ 𝑑

に対し

重み

B
A A B B
A
B
𝑃(ℓ𝑑 , 𝑤 A
𝑑 , 𝑤𝑑 | v , 𝑇 , v , 𝑇 , Ω , Ω )𝑃(ℓ𝑑 | 𝑤 B𝑑 , vB )𝑃(𝑤 B𝑑 | 𝑇 B )𝑃(𝑤 B𝑑 | ΩB )×∏
B𝑑,𝑛 𝑃(𝑤 𝑑,𝑛 )𝑑,𝑛𝑑𝑤 ∗𝑑 以外のものに関する集合を Ω∗ と表記する．
A
A
A
A
A
𝑃(ℓ𝑑 | 𝑤 A
𝑑 , v )𝑃(𝑤 𝑑 | 𝑇 )𝑃(𝑤 𝑑 | Ω )∏∏A𝑑,𝑠 𝑃(ℓ𝑑,𝑠 )𝑑,𝑛 𝑃(𝑤 𝑑,𝑛 )𝑑,𝑠

を vSp によって変換し得られる文字列である．

B
本 研 究 で は，隠 れ 単 語 列 𝑤 A
𝑑 , 𝑤𝑑 お よ び 文 字

列 (character sequence) ℓ𝑑 の 生 成 過 程 を，unigram𝑑,𝑠

リ ン グ し，発 話 さ れ る 単 語 列 の サ ン プ ル
Sp(𝑞)𝑤¯(𝑞 = 1, · · · , 𝑄) を得る．なお，ℓ¯(𝑟 ) は 𝑤¯ (𝑟 )数の定義については Appendix を参照されたい．なお， ∗ ∈ {A, B} は任意のエージェントを示す記号でSp(𝑟 )

𝑃( 𝑤¯ 𝑑| 𝑇 Sp(𝑟 ) )∏𝑃( ℓ¯(𝑟 ) )𝑃( 𝑤¯ (𝑟 ) )を計算する．
(ii)W¯𝑑けゲームに関係するものの定義を示す．その他の変≈∝𝑑を得たのち，NPYLM 部分，および文字ユニグ(1)

W ′(𝑞,𝑟 ) =)𝑃( 𝑤¯ Li(𝑞,𝑟| 𝑇¯ Li(𝑞) )𝑑)𝑃( 𝑤¯ Li(𝑞,𝑟| ℓ¯𝑑(𝑞) , v̄Li(𝑞) , 𝑇¯ Li(𝑞) )𝑑×B
こ の 近 似 に よ り，ℓ𝑑 , 𝑤 A
𝑑 , 𝑤𝑑 の 生 成 確 率 を 各 エ ー― 2228 ―)𝑃( 𝑤¯ Li(𝑞,𝑟| Ω′Li(𝑞,𝑟 ) )𝑑)𝑃( 𝑤¯ Li(𝑞,𝑟| ℓ¯𝑑(𝑞) , v̄Li(𝑞) , 𝑇¯ Li(𝑞) )𝑑This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

(3)

Agent A

𝐷𝐷

𝜏𝜏

𝛼𝛼 𝑢𝑢

𝛼𝛼 𝑎𝑎

𝜋𝜋𝑢𝑢A

𝜋𝜋aA

A
𝑧𝑧𝑢𝑢,𝑑𝑑,𝑚𝑚A
𝑧𝑧a,𝑑𝑑

𝐹𝐹𝑑𝑑A

𝑁𝑁𝑑𝑑A

A
𝑂𝑂𝑢𝑢,𝑑𝑑,𝑚𝑚
𝑀𝑀𝑑𝑑

A
𝑂𝑂a,𝑑𝑑

Υ𝑑𝑑A

𝑤𝑤𝑑𝑑A

A
𝜑𝜑𝑢𝑢,𝑘𝑘

𝐾𝐾 𝑢𝑢

�
𝑈𝑈

𝛽𝛽 𝑢𝑢

A
𝜑𝜑a,𝑘𝑘

𝐾𝐾 𝑎𝑎

𝛽𝛽 𝑎𝑎

Sensory
Category

Agent B

NPYLM

CSL-PGM

𝜓𝜓

𝐿𝐿A

𝜖𝜖

𝜌𝜌A

𝜌𝜌B

𝜖𝜖

𝑇𝑇 A

𝐯𝐯 A

𝐯𝐯 B

𝑇𝑇 B

ℓ𝑑𝑑

𝜃𝜃𝑙𝑙A

𝛾𝛾

Word
Distribution

CSL-PGM

NPYLM

𝜏𝜏

𝜓𝜓

𝑁𝑁𝑑𝑑B
𝑤𝑤𝑑𝑑B
𝜃𝜃𝑙𝑙B

𝛾𝛾

表 1: Inter-CSL+NPYLM の各変数の定義

𝛼𝛼 𝑎𝑎

𝛼𝛼 𝑢𝑢

𝜋𝜋aB

𝜋𝜋𝑢𝑢B

𝐹𝐹𝑑𝑑B

B
𝑧𝑧a,𝑑𝑑B𝑧𝑧𝑢𝑢,𝑑𝑑,𝑚𝑚

Υ𝑑𝑑B

B
𝑂𝑂a,𝑑𝑑B
𝑂𝑂𝑢𝑢,𝑑𝑑,𝑚𝑚B
𝜑𝜑a,𝑘𝑘B
𝜑𝜑𝑢𝑢,𝑘𝑘

𝛽𝛽 𝑎𝑎

𝛽𝛽 𝑢𝑢

𝐿𝐿B

𝐾𝐾 𝑎𝑎

Word
Distribution

𝑁 𝑑∗
ℓ𝑑
𝑤 ∗𝑑
𝐹𝑑∗

𝑀𝑀𝑑𝑑

𝐾𝐾 𝑢𝑢

Sensory
Category

�
𝑈𝑈

𝜃 𝑙∗
𝑇∗
v∗
𝜌∗

ℓ𝑑 中の単語の数
𝑑 番目の観測に対応する文字列(ℓ𝑑,1 , · · · , ℓ𝑑,𝑠 , · · · , ℓ𝑑, |ℓ𝑑 | )ℓ𝑑 を生成する，単語のインデックスの列 (𝑤 ∗𝑑,1 , · · · , 𝑤 ∗𝑑,𝑛 , · · · , 𝑤 ∗𝑑, 𝑁𝑑 )𝑤 ∗𝑑 に 対 応 す る 属 性 の 列∗ , · · · , 𝐹∗ , · · · , 𝐹∗
(𝐹𝑑,1
𝑑,𝑛
𝑑, 𝑁𝑑 )
感覚情報カテゴリ 𝑙 での単語確率𝑤 ∗𝑑 を生成する n-gram 確率 {𝑇𝑡 ′ ,𝑡 } ∀𝑡 ′ ,𝑡 ．
𝑇𝑡 ′ ,𝑡 は単語列 𝑡 ′ の直後における単語 𝑡の確率
単語辞書 {𝑣 𝑖 } ∀𝑖 ．𝑣 𝑖 は単語インデック
ス 𝑖 に対応する文字列𝑇 ∗ , v∗𝑖 を生成するパラメータの集合

図 2: Inter-CSL+NPYLM のグラフィカルモデルを計算する．ここで，Ω′Li(𝑞,𝑟 ) は 𝑤¯𝑑 Li(q,r) をす

バージェンスを用いた．

べて用い，ΩLi のうち 𝐹𝑑Li , 𝜃 𝑙Li を Gibbs sampling
で学習して得られる，ΩLi のサンプルである．

3.1

実験条件

)
(v)求めた W𝑑(𝑞,𝑟 ) に比例する確率で ℓ¯𝑑Li(𝑞) , 𝑤¯ Li(𝑞,𝑟𝑑

実験においては，萩原らの先行研究 [4] で用いを リ サ ン プ リ ン グ し，最 終 的 な サ ン プ ル

られていた感覚情報のデータセットを用いる．こℓ𝑑Li(𝑞) , 𝑤 Li(𝑞)(𝑞 = 1, · · · , 𝑄) を得る．
𝑑のデータセットには，感覚情報とエージェント間

聞 き 手 は，以 上 の 手 続 き で 得 た サ ン プの共同注視の情報が含まれている．感覚情報は，, 𝑤 𝑑 Li(𝑞) } 𝑄
𝑞=1 を 用 い て CSL-PGM 部 分，

iCub シミュレータを用いて取得された，各属性（ロボットの触覚と体性感覚: Action，物体の位置情報:

ル {ℓ𝑑

Li(𝑞)

NPYLM 部分のパラメータを Gibbs sampling で学習する．
本稿では，各エージェントにおいて ℓ𝑑∗ , 𝑤 ∗𝑑 を a かPosition，物 体 の 形 状 情 報: Object，物 体 の 色 情 報:
Color）の情報で構成されている．

ら z のアルファベットで構成されるランダムな文字実験では，三つの異なる手法を比較した．なおモ

列で初期化し，𝑤 ∗𝑑 と感覚情報を用いてあらかじめデルのパラメータの設定については Appendix を参CSL-PGM 部分を学習させたうえで凍結する．その照されたい．

うえで，両エージェントが聞き手と話し手の立場を• SIRNG: 本 研 究 の 提 案 手 法 で あ る Inter-

入れ替えながら SIR 名づけゲームのステップ (i)-(v)CSL+NPYLM with SIRNG．

と凍結されていない部分の Gibbs sampling を繰り返

• no communication:

すことで，モデル全体の学習を実現する．

SIRNG に お い て，各 エ ー ジ ェ ン ト が 相 手 の3Inter-CSL+NPYLM with

発話を受け取らず，代わりに自分の発話を受け実験取る手法．エージェントがコミュニケーション

本研究では，各エージェントが感覚情報と単語を対応付けられているか，またエージェントの間で単語とその語順が共有されているかを検証するため，実験を行った．エージェント間で単語・語順が共有を行っていない場合に相当する．
• no listener resampling Inter-CSL+NPYLM withSIRNG に お い て，Speaker エ ー ジ ェ ン ト が 相手の発話を受け取った際，文を単語へ分節化しされているかについては，同じ状況に対する発話のた後の resampling を行う手法．聞き手が相手の類似度を評価した．具体的には，編集距離を比較対発話をそのまま受け入れる場合に相当する．

象のうち長い方の文の文字数で割って得られる値（以下，文字あたり編集距離）と，各エージェントが発話した単語列における tri-gram 確率の間の JS ダイ― 2229 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

“hhhhh”(position)“hjda”(object)“iiig”(position)

AgentA“gcc”(color)

表 2: エージェントの発話の類似度に関する定量評
価．“編集距離” はエージェント間の文字あたり編集
距離，“JS 距離” は文字 tri-gram の JS ダイバージェ
ンスを示している“hhhhh”(position)“hjdaa”(position)“iii”(position)

AgentB“gcc”(color)

図 3: 各エージェントの発話に含まれていた単語のmethod編集距離↓

JS 距離↓mean

mean

t-testt-test

SIRNG

0.758

-

0.346

-

w/o listener resampling

0.775

n.s.

0.346

n.s.

w/o communication

0.843

**

0.347

n.s.

例．
（）内は単語の属性を示す．一部の単語が共有されていた一方，似た綴りの語が異なる感覚情報と3.2.2

結び付けられる例が多く見られた．

り編集距離，および単語 tri-gram 確率の間の JS ダイ

エージェント間での単語・語順の共有

表 2 に，エージェント間における発話の文字あた
バージェンスを示す1）．

3.2

表 2 を見ると，比較手法に比べ，提案手法の方が文字当たり編集距離が小さいことが分かる．このこ

実験結果と考察とから，聞き手が話し手の文をそのまま受け入れる
3.2.1のではなく，SIR 法に基づきリサンプリングするこ

感覚情報と単語の対応・共有

図 3 に，提案手法において学習後のエージェント
が用いていた単語と，それに対応する状況の例を示
す．実験では，図の “gcc” や “hhhhh” のように，両エージェントが一部の単語を共有し，同じ感覚情報を指す言葉として学習していることが確認された．
しかし，大部分の単語は共有されず，同じ状況に対して各エージェントが全く異なる単語で会話する現象がみられた．
エージェント間で共有されていない単語に注目す
ると，片方のエージェントでつかわれている単語とよく似ているのにもかかわらず，異なる感覚情報と結び付けられている単語が多数確認された．具体的には，図 3 の “hjda” と “hjadaa” のように異なる属性の感覚情報を表す語として学習されているものや，“iiig” と “iii” のように同じ属性の異なる感覚情報を表す語として学習されているものが存在した．
これは，Inter-CSL+NPYLM のうち，感覚情報と単語を結びつける CSL-PGM 部分において，単語の文字列としての類似度を考慮していなかったためだと考えられる．CSL-PGM 部分では，単語同士の文字列としての類似度を考慮せず，一字でも違う単語は全く別の単語として扱っていた．しかし，文のやり取りにおいては，聞き手の分節化誤りなどが発生し，本来同じである単語が異なる文字列で表現されることが考えられる．ゆえに，違う綴りの単語を全く異なる単語として扱ったことが，エージェント間における単語の意味の共有を妨げたと考えられる．

とが言語の共有を促すと考えられる．
一 方 で，ど の 手 法 も 文 字 あ た り 編 集 距 離 が 0.7
を 上 回 っ て い る こ と や，エ ー ジ ェ ン ト 間 の 単 語
tri-gram 確率に関する JS divergence がほとんど同じになっていることも確認できる．これは 3.2.1 節での議論の通り，エージェント間で単語の意味の共有が十分にできていないためだと考えられる．

結論

4

本稿では，切れ目のない文字列によるコミュニ
ケーションを通じ，エージェントが単語を発見しつつ感覚情報を分類し，単語と感覚情報を結びつけることで，言語が創発する過程をモデル化した．
具体的には，CSL-PGM と NPYLM に基づきモデル
Inter-CSL+NPYLM を構築した．また，エージェント
間での推論を文のやり取りとして実現する SIR 言語
ゲームを提案した．
今後の展望としては，エージェント間で単語が共有されない問題を解決するため，単語と感覚情報を結び付ける際に単語の文字列としての類似度を考慮することが挙げられる．また，相互分節化仮説 [1] による言語の創発をシミュレーションするため，エージェントによる感覚情報の分類を，コミュ
ニケーションと同時に行わせることも課題である．
1） mean はそれぞれ，5 回の実験で得た値の平均を示してい
る．t-test は提案手法との t 検定の結果を示しており，p 値が0.05 以上である場合を n.s.，0.05 未満である場合を *，0.01未満である場合を ** として示している．

― 2230 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

謝辞
本 研 究 は JSPS 科 研 費 JP21H04904 お よ び
JP23H04835 の助成を受けたものです．

参考文献[1] Kazuo Okanoya and Bjorn Merker. Neural substrates forstring-context mutual segmentation: A path to human language. In Emergence of communication and language,
pp. 421–434. Springer, 2007.
[2] Lukas Galke, Yoav Ram, and Limor Raviv. Emergent communication for understanding human language evolution:
What’s missing? In Emergent Communication Workshop at ICLR 2022, 2022.
[3] Rahma Chaabouni, Eugene Kharitonov, Diane Bouchacourt, Emmanuel Dupoux, and Marco Baroni. Compositionality and generalization in emergent languages. In
Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 4427–4442,

[4]

[5]

[6]

[7]

[8]

[9]

Online, July 2020. Association for Computational Linguistics.
Yoshinobu Hagiwara, Kazuma Furukawa, Takafumi Horie,
Akira Taniguchi, and Tadahiro Taniguchi. Symbol emergence as interpersonal cross-situational learning: the emergence of lexical knowledge with combinatoriality. arXiv
preprint arXiv:2306.15837.
Daichi Mochihashi, Takeshi Yamada, and Naonori Ueda.
Bayesian unsupervised word segmentation with nested
pitman-yor language modeling. In Proceedings of the
ACL-IJCNLP, pp. 100–108, 2009.
Akira Taniguchi, Tadahiro Taniguchi, and Angelo Cangelosi. Cross-situational learning with bayesian generativemodels for multimodal category and word learning in robots.
Frontiers in neurorobotics, Vol. 11, p. 66, 2017.
Daniel Gildea and Thomas Hofmann. Topic-based language models using em. In Sixth European Conferenceon Speech Communication and Technology, pp. 2167–
2170, 1999.
Tomoaki Nakamura, Takayuki Nagai, and Tadahiro
Taniguchi. Serket: an architecture for connecting stochastic
models to realize a large-scale cognitive model. Frontiersin neurorobotics, Vol. 12, p. 25, 2018.
Tadahiro Taniguchi, Tomoaki Nakamura, Masahiro Suzuki,
Ryo Kuniyasu, Kaede Hayashi, Akira Taniguchi, Takato
Horii, and Takayuki Nagai. Neuro-serket: developmentof integrative cognitive system through the composition ofdeep probabilistic generative models. New Generation
Computing, Vol. 38, No. 1, pp. 23–48, 2020.

― 2231 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

表 3: Inter-CSL+NPYLM の各変数の定義（補足）Ξ∗𝑑エージェントが 𝑑 番目の観測で注視している物体の番号
𝑑 番目の観測における Action 属性の情報
𝑑 番目の観測における 𝑚 番目の物体についての属性 𝑢 の感覚情報
𝑑 番目の観測における 𝑚 番目の物体での，属性 𝑢 のカテゴリのインデックス
𝑧 𝑢𝑑,𝑚 を生成するカテゴリ分布のパラメータ
カテゴリ 𝑘，属性 𝑢 の感覚情報を生成するガ
ウス分布のパラメータ𝑂 ∗a,𝑑𝑂 ∗u,𝑑,𝑚𝑧 ∗𝑢,𝑑,𝑚𝜋𝑢∗
𝜑∗𝑢,𝑘𝛼𝑢 , 𝛽𝑢 , 𝛾,𝜖, 𝜏, 𝜓, 𝜙
𝐷
𝑀𝑑
𝐾𝑢
𝑈¯
𝐿∗

④ passing sentences

It is red and hard

Iｔisredandhard

It is raed ad haredThis is red and hard

Itisraedadhared③ resamplingSp

Thisisredandhard

Li

It is red and hard ?
Red raed hard it is ?
It raed hard is is this ?
Ft is ret hard red ?
It is raed ad hared ?
This is red and hard ?

ハイパーパラメータ
観測の数
𝑑 番目の観測に含まれる物体の数
属性 𝑢 におけるカテゴリの集合
物体に関する感覚情報の属性の集合
すべての属性に対するカテゴリの集合① sampling by
CSL-PGM part

0.9
0.2
0.2
0.1
0.9
0.6

② importance by
NPYLM part(a) 話し手側の手続き④ passing sentences

A

付録

A.1

Inter-CSL+NPYLM with SIRNG の補足⑤ sampling by
NPYLM part

Iｔisredandhard

Iｔ/is/red/and/hard ?
Iti/sred/an/dhard ?

0.9
0.2

Itisraedadhared

Iｔ/is/rae/dad/hared ?
It/is/raed/ad/hared ?

0.2
0.1

This/is/red/and/hard ?
Thi/si/sred/and/hard ?

0.9
0.6

Li

ThisisredandhardInter-CSL+NPYLM の変数のうち，表 1 で省略した

Li

ものの定義を表 3 に示す．また，SIRNG の流れをまとめたものを図 4 に示す．

A.2

This/is/red/and/hard !!
Iｔ/is/red/and/hard !!

近似式 (1) の詳細

Thi/si/sred/and/hard !!

式 (1) に お け る 𝑃(ℓ𝑑 | 𝑤 ∗𝑑 , v∗ ), 𝑃(𝑤 ∗𝑑Ω∗ ) は，以下のように計算される:∗

𝑃(ℓ𝑑 | v , 𝑤 ∗𝑑 ) =

𝑁𝑑∗

∗
𝑆𝑑,𝑛

∏∏
𝑛=1 𝑠=1| 𝑇 ∗ ), 𝑃(𝑤 ∗𝑑

|

𝑁𝑑
∏
𝑛=1
𝑁𝑑
∏
𝑛=1

(4)

る際に，SIR 法 [8, 9] による近似が行われている．
いる．また，x は，対応する単語が機能語もしくは𝑃(𝑤 ∗𝑑,𝑛 | Ω∗ )(5)

Cat(𝑤 ∗𝑑,𝑛 | 𝑇𝑤word). (6)
𝑑,𝑛−1:𝑛−𝜁 −1 ,𝑤𝑑,𝑛

分節化誤りであることを示す属性である．

A.3

実験におけるモデルのパラメータ

実 験 に お い て，CSL-PGM 部 分 の ハ イ パ ー パ ラ
メ ー タ に つ い て は 全 手 法 で 𝛼∗ = 1.0，𝛾 = 0.1，

ただし，
𝑃(𝑤 ∗𝑑,𝑛 | Ω∗ )(b) 聞き手側の手続きを決定する際，および聞き手が分節化結果を評価す∗∗𝛿(ℓ𝑑,𝑆∗∗ ,𝑠 )+𝑠 , 𝑣 𝑤𝑑,𝑛𝑑, (𝑛−1)∗𝑃(𝑤 ∗𝑑 | 𝑇 ∗ ) =⑦ resampling

図 4: SIR 名付けゲームの流れ．話し手が発話する文∗𝑃(𝑤 ∗𝑑 | Ω∗ ) =⑥ importance by
CSL-PGM part𝑚 0∗ = Odim∗ ，𝜅 0∗ = 0.001，𝑉0∗ = 0.01𝐼dim∗ ，𝜈0∗ = dim∗ + 2

(

)



Cat 𝑤 ∗𝑑,𝑛 | 𝜃 x





=
(
)



∗

∗
 Cat 𝑤 𝑑,𝑛 | 𝜃 𝑙=𝑧𝐹∗ ,𝑑,Ξ∗𝑑,𝑛𝑑とする．ただし，dim∗ は属性 ∗ の感覚情報の次元数であり，Odim∗ は dim∗ 次元の零ベクトル，𝐼dim∗ は(if 𝐹𝑑,𝑛 = x)(7)(otherwise),

で あ る．こ こ で，𝜁 は NPYLM 部 分 の 単 語 n-gram
オーダー，𝑆 𝑑,𝑛 は 𝑑 番目の観測に対応する文字列における 𝑛 番目の単語境界の位置，𝛿(·) はクロネッ
カーのデルタ，Cat(·) はカテゴリカル分布を示して

dim∗ 次の単位行列である．属性列 𝐹𝑑 の定義域 𝜆 については，集合 {a, p, o, c, x} の元からなる長さ 𝑁 𝑑 の重複を許した順列全てとする．NPYLM 部分では，文字モデルを 可変長 𝑛-gram，単語モデルを trigram(3-gram) とする．また SIR 名付けゲームにおいては，毎回のイテレーションで文中の単語の数 𝑁 𝑑 を
3〜7 の一様乱数で設定している．

― 2232 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).