2ch.net の書き込みデータの統計的法則と Pitman 分布
Pólya urn and Pitman sampling formula in 2ch.net posting data

∗1守真太郎 ∗1

久門正人 ∗2

Shintaro Mori

Masato Hisakado

北里大学理学部物理学科

Department of Physics, Kitasato University∗2

Fintech Lab.
Fintech Lab.

2ch.net の投稿時系列データを解析する。過去 r 回の投稿に出現したスレッドの分布と次に投稿されたスレッドの関係を有限記憶のポリア壺過程としてモデル化する。このモデルでは過去 r 回の投稿に出現したスレッドの定常確率分布はPitman 分布に従う。2ch.net のニュース系掲示板のデータで検証し、r が十分小さいとき、投稿がポリア壺過程で記述されることが分かった。

1.

複雑系経済学から経済物理学へ

1990 年前後、経済学が複雑系研究の 1 分野として盛んに研究されました。経済学が複雑系の研究対象となったのは、時間変化する環境での適応的な多体系というアイデアが、生物・生命現象だけでなく市場および市場参加者にも適用できたからです。複雑系研究の中心はアメリカのサンタフェであり、複雑系経済学をリードしたのが Arthur でした。Arthur は、経済学では負のフィードバックを仮定し均衡状態が 1 つとしてきたが、正のフィードバックが働く財も存在し、均衡状態が複数出現することがあることを示しました [Arthur 1989]。2 つの商品
A,B があったとき、A,B の品質は同じでも、多数の消費者に選ばれることで優位となる外部性が働き、1 つの商品が市場を独占することがあります。Arthur が例として挙げたのが、ガソリン車と石炭車、タイプライターのキーボードの配列、そして日本人には馴染の深い、家庭用録画機の VHS とベータマッ
クスのビデオデッキの規格です。こうした市場の選択による外部性をモデル化するときに Arthur が用いた数学がポリア壺です。ポリア壺のモデルでは、A,B の 2 商品の場合、市場における A 商品の比率を z として、次の消費者が A を選ぶ確率をf (z) という関数で表します。すると、消費者の選択とともにz は時間変化し、f (z) の安定な固定点、つまり f (z) のグラフが対角線を上から下に横切る (downward crossing) f (z) = zの解 z∗ に収束します。安定な固定点 z∗ が複数存在する場合、どの安定な固定点にも収束する確率は正です。Arthur は外部性によりフィードバックが働くとき f (z) はシグモイド関数のように S 字カーブを描き、安定な固定点が 2 個存在しうることを示唆したわけです。どちらの固定点に収束するかはランダムであり、経済学が想定する唯一の均衡状態のアイデアと対立することになります。この複雑系としての経済学研究の流れは進化経済学という名前で今でも活発な研究が行われています。
一方、正のフィードバックによる複数の安定固定点の可能性は経済物理学の問題として検証されました。経済物理学では、株価や為替などの高頻度の時系列データに見られる統計的な性質をエージェント間の相互作用をベースに理解することが 1つの目標となっています。我々はエージェント間の相互作用を実験室実験で計測し、系のミクロ・マクロを理解すること、また、単に統計的な性質を再現するモデルを提案するのではな
く、統計物理学の文脈として新しい数理を見つけることが経済物理学が物理学であること必要条件であると考えました。S 字連絡先: shintaro.mori@gmail.com∗1

カーブの検証は情報カスケード実験により行われました。情報カスケードとは、二択クイズなどの離散的な選択において多数のヒトが順番に不確かな情報と、過去に回答したヒトの選択情報をもとに選択したとき、自分が正しいと考える選択肢ではなく、多数派の選択肢を選ぶ傾向のことです。ある選択肢の過去の選択での比率 z の関数 f (z) としてヒトがその選択肢を選ぶ確率を記述すると、情報カスケードでの選択の時系列はポリア壺となります。実験では、二択クイズの難易度の変化により、安定固定点の個数が 1 個から 2 個へと変化することが観測されました [Mori 2012]。また、ポリア壺の安定固定点の個数の変化は統計物理学での非平衡相転移であり、平衡系の相転移とは異なる普遍類に属するだけではく、非平衡相転移としても新しいことを示しました [Mori 2015]。

図 1: ニュース速報 (Breaking News) の 10ヶ月約 2000 万回の投稿の散布図。x 軸は s 回目の投稿でのスレッド番号 n(s)、y 軸は投稿時刻 t(s)（日）. この時系列データを y 軸に垂直に薄切りにすると Pitman 分布が現れます。図 3 参照してください。
こうして、経済現象、社会現象といったヒトの集団挙動の研究は経済学、心理学から始まり物理学の対象にもなってきました。近年の情報技術、特に Wwww の発展によりヒトの詳細な行動データが集積され、ビッグデータと呼ばれる膨大なデータが研究対象に加わり、経済物理学、社会物理学に加えて情報科学で盛んに研究が行われるようになっています。本講演では「2 ちゃんねる」と呼ばれる電子掲示板 2ch.net の投稿過程のモデル化の研究について報告します。この研究はヒトの選択に影響するファクターを明らかにすることで、ヒトの相互作用、他人の選択のヒトの選択への社会的影響の法則性について知る
経済物理学的な興味と、有限記憶ポリア壺のパラメータの推定法、モデルの妥当性の検証方法に関する数理統計的な興味の 2つの興味に関するものです。

2.

ポリア壺と Pitman 分布

生態学データの基本データは観測数 r、観測した種の数 K 、捕獲した種 i の個体数 ci ,i ∈ {1, 2, · · · , K} の 3 つの整数です．

∑Kr = i=1 ci . この {c1 , c2 , · · · , cK } を r の確率分割とみなし、Pitman 分布、または Pitman 確率分割に従うとすると、θ, α の2 つのパラメータを用いて K および ⃗c = (c1 , c2 , · · · , cK ), ci >0 の確率分布はn!θ[K:α] ∏(1 − α)[ck −1]
θ[r]KPr (⃗c) =(1)k=1となります。ここで、α, θ は α ≥ 0 のときは、θ > −α、α < 0のときは、ある正の整数 M > 0 を用いて θ = −M α とします。また、x[j] = x(x + 1) · · · (x + j − 1), x[j:α] = x(x +α) · · · (x + (j − 1)α),x[j:1] = x[j] です。⃗c の順序を無視して、∑δに関寸法指標と呼ばれる同じ大きさの ck の数 sj =i ci ,jする確率分布 P (⃗s), ⃗s = (s1 , s2 , · · · , sr ) としたものを Pitman
分布、Pitman 確率分割 (Ewens-Pitman sampling formula)
EPSF(θ, α) と呼びますが、ここでは式 (1) の Pr (⃗c) を Pitman
分布 ESPF(⃗c|θ, α) と呼ぶことにします。また、種の数 K の確率分布 Pr (K) は、次の漸化式を解くことにより求めることができます。

Pr+1 (K) =θ + (K − 1)αr − Kα·Pr (K)+·Pr (K −1) (2)θ+rθ+r

初期条件は P1 (1) = 1 であり、境界条件は Pr (0) = 0, Pr (r +1) = 0 です。この漸化式の解を ESPF K(K|θ, α) と書きます。
Pitman 分布のパラメータ θ, α の意味を理解するために、ポリア壺過程として Pitman 分布をモデル化します [Sibuya 2001,Yamato 2003]. まず、番号のついた無限個の壺 U1 , U2 , · · · と番号のついた玉 B1 , B2 , · · · を用意し、番号の順番に壺にいれていくとします。まず、玉 B1 は壺 U1 にいれます。r = 1 でc1 = 1 であり、確率分布 P (⃗c) = P (c1 ) は P1 (1) = 1 となります。次に r 個の玉 B1 , · · · , Br を K 個の壺にいれた状態∑⃗c = (c1 , · · · , cK ), j cj = r, cj > 0 で、次の r + 1 の玉 Br+1を新しい壺 BK+1 に確率 (θ + Kα)/(θ + r) でいれるか、Pr(K → K + 1) =

θ + Kα,θ+r

すでに玉の入っている壺 Uj , j = 1, · · · , K の何れかに確率(cj − α)/(θ + r) で入れます。

Pr(cj → cj + 1) =cj − α.
θ+rα < 0 のときは、壺 UM +1 , UM +2 , · · · には玉は入りません。このとき、r 個玉をいれたときの ⃗c の確率分布は、Pitman 分布Pr (⃗c) に、また、玉の入っている壺の数 K の確率分布は Pr (K)となります。この確率法則から、ボールを新しい壺へいれる確率は α > 0 のとき K の増加関数です。また α = 0 のとき、新しい壺への玉の追加は確率 θ/(θ +r) でおき、K −1 の分布は二項分布 Bi(r − 1, θ/(θ + r)) となります。θ が大きいときは新しい壺にボールを入れる確率は大きくなります。玉の入っている
壺 Uj , j ≤ K への玉を追加確率は cj に比例し、(θ + r), α の減少関数となっています。α = 0 のとき、追加確率は cj /(θ + r)なので、θ が大きくなると減少します。
上記のポリア壺では、1 個の壺から出発し、r 個の玉を加えたときの壺 Uj に入る玉の個数 cj が Pitman 分布に従うというものです。つまり、非定常分布として Pitman 分布を導いています。ポリア壺の確率過程を次のように変更することで、定常分布として Pitman 分布を導くことができます [Hisakado 2017]。
まず、r 個の番号のついた玉 B1 , · · · , Br を用意し、r を K 個∑Kに分割して ⃗c = (c1 , C2 , · · · , cK ), j=1 cj = r に合わせて K個の壺に玉をいれて初期状態を用意します。そして、次の玉Br+1 を上記のポリア壺過程と同じ確率で壺に入れます。そして、一番番号が小さい玉 B1 を取り除き、壺に入っている玉の総数を r に保ちます。同様に、次の玉 Br+2 もポリア壺過程に従って壺に追加し、玉 B2 を取り除きます。この操作を繰り返したとき、Uj に入る玉の個数 cj > 0 の定常確率分布はPitman 分布 Pr (⃗c) に従い、また、玉の入っている壺の個数 Kは確率分布 Pr (K) に従うことを示すことができます。このポリア壺では、Bt , t ≥ r + 1 を追加するとき、Bt−r , · · · , Bt−1の r 個の玉の情報のみを参照していることになるので、有限記憶のポリア壺過程と呼ぶことにします。このポリア壺過程では、壺の実力に差はなく、入っている玉の個数で次の玉が入る確率が決まります。以下、2ch.net の解析では玉を投稿、壺をスレッドと読み替えますが、ポリア壺過程ではスレッドの実力（投稿を促す力）を無視する単純化を行っていることに注意してください。

3.

2ch.net の投稿時系列データの解析

2ch.net は日本最大の電子掲示板であり、非常に幅の広い話題を扱っています。各々の掲示板はニュース、食、文化などのカテゴリーとよばれる大きな分類で区別され、さらにジャンルにあたる板により細分化されます。板は数百のスレッドと呼ばれる電子掲示板を持ち、ユーザーはスレッドの投稿を読んだり投稿します。ここでは、ニュースジャンルの 5 つの板、ビジネ
スニュース、東アジアニュース、ライブニュース、音楽ニュース速報＋、ニュース速報＋、の投稿の時系列データを解析します。各々の板は数百のスレッドを持ち、管理者は古いスレッドを削除しながら新しいスレッドを追加して板のスレッドの数をほぼ一定に保ちます。ニュースジャンルの板ではユーザーがスレッドに投稿できるのは数日間です。1 つのスレッドの最大投稿数は 1000、または容量が 500KB なので、それを超えた場合、管理者が続き番号で同じスレッドタイトルのスレッドを追加します。この場合、最大投稿数 1000、投稿可能期間の制限はなくなることになります。表 1 は、解析で扱った板の基本的な統計情報です。2009 年の約半年から 10ヶ月の間、毎日 1 度2ch.net サーバーにアクセスし、全スレッドを読み込んで 10桁のスレッド番号（スレッド ID）、投稿日時、ユーザー ID を記録したものを使っています。1000 回投稿のあった続きのスレッドの場合、最も古い同じスレッドタイトルのスレッドのスレッド ID も記録しますが、各スレッドの最初の投稿でそのスレッドが続きのスレッドかどうかを判定するため、続きスレッドであるにも関わらず新規スレッドと記録している可能性は排除できません。
表 1 の N は、続きのスレッドを同一視したときの各板に現れたスレッド数です。S は投稿総数ですが、表では 1 つのスレッドあたりの平均の投稿数 S/N と、スレッドの投稿数の最大値を示しています。スレッド数は数千から数万、投稿数は 80万から 2000 万程度の巨大なデータであることが分かります。
また、寿命はスレッド毎の最初の投稿と最後の投稿の時間差の平均値を示しています。

表 1: 2ch.net の投稿データの統計. 全スレッド数 N , スレッドあたりの投稿数 S/N とその標準偏差, 最大投稿数、スレッドの寿命（日）.
板名
ビジネスニュース
東アジアニュース
ライブニュース
音楽ニュース
ニュース速報

N
8248
8225
15307
23000
33677

S/N
14038853332658

最大投稿数
7707
27966
30443
78388
113220

寿命7.5
7.5
2.0
2.82.9

最大投稿数と S/N の差が大きいことから予想されるように、各スレッドの投稿数の分布は裾の厚い分布になりますが、べき則には従わず対数正規的な振る舞いを示します。板ごとにスレッドを n ∈ {1, · · · , N } でラベルし、s 回目の投稿が t[s] にスレッド n に行われたとき、(t(s), n(s)) と表します。Figure
1 はニュース速報の (t(s), n(s)), s = 1, · · · , S の散布図です。
スレッドは有限の寿命を持っているので、帯状のパターンを確認できます。非常に長い寿命のスレッドも存在しますが、それは続きのスレッドを同一視したためです。

3.1

確率法則の検証とパラメータ推定

2ch.net の電子掲示板の投稿過程を有限記憶のポリア壺過程を用いて記述します。掲示板には数百のスレッドが存在し、ユーザーはスレッドを選択して投稿を行います。s 回目の投稿において、s − r, s − r + 1, · · · , s − 1 回の過去 r 回の投稿を調べ、投稿が行われたスレッド数を K 、またスレッドに古い投稿が行われた順にスレッドに番号 1, 2, · · · , K をつけます。ス∑
レッド j の投稿数を cj , j = 1, · · · , K とすると、 j cj = rが成立します。s 回目の投稿が有限記憶のポリア壺過程となっているとき、スレッド j に行われる確率は (cj − α)/(θ + r)
、過去 r 回の投稿には現れていないスレッドへの投稿確率は(θ + Kα)/(θ + r) です。s = 104 · · · , 101 × 104 の 100 万回の投稿データ (n(s), t(s)) を用いてパラメータ θ, α を最尤法で評価しました。
確率法則をデータから直接計算したものと最尤法で有限記憶
ポリア壺の確率法則でパラメータをデータから推定したものを比較します。図 2 が結果です。r ∈ {10, 30, 70} の 3 つのケー
スでのニュース速報の確率法則をプロットしています。新規ス
レッドへの書き込み確率の K 依存性は r が大きくなると傾きが小さくなり、α が減少することが分かります。r を数百から1000 程度にすると α の推定値はほぼゼロになり、確率法則のK 依存性も消滅することを確認しました。十分大きな r では、新規スレッドへの投稿はポアッソン的に行われることを示唆します。また、既存スレッドへの投稿の確率の c 依存性も r とと

図 2: ニュース速報の確率法則：上図：投稿数 c の既存スレッドへの投稿確率の c 依存性を示したもの。下図：スレッド数
K のときの新規スレッドへの投稿確率の K 依存性を示したもの.r ∈ {10, 30, 70}. 点線は理論モデルのフィッティングの結果、丸はデータの解析結果。

もに傾きが減少していますが、これは r の増加により c のレンジが広くなったためです。実際、c/r に対してプロットすると r 依存性は消滅し、対角線に乗ります。これらの結果から、
r が小さいとき、つまり投稿仮定を薄切りにして断面を見た時に有限記憶のポリア壺の確率法則が確認できました。図 2 では、ニュース速報の r ∈ {10, 30, 70} の結果しか示していませんが、他の板でも同様の振る舞いが確認できています。このことはニュース系の板では一般的に成立することを示唆します。

3.2

Pr (K) と Pr (⃗c) の検証

4.

結論

本稿では、2ch.net の投稿過程を有限記憶のポリア壺としてモデル化し、投稿データで検証しました。投稿の時系列データを薄切りにして調べたとき、既存スレッドへの投稿確率は投稿数に比例し、ポジティブフィードバックが働いていることが分かりますが、線形なので情報カスケードで見られる S 字カーブのような均衡点が複数存在するものではありません。また、投稿数の分布、スレッド数の分布も Pitman 分布に従うことが分かり、2ch.net のニュース系掲示板のミクロ・マクロの部分的な記述には成功していると考えます。
これからの課題のひとつが 2ch.net の記憶 r の推定方法です。r が大きくなると α がゼロに近づき、一方 θ は増加します。これはポアッソン的に確率 θ/(θ + r) で新規スレッドへの投稿が行われることを示唆しますが、一方で Pr (K), Pr (⃗c) はデータを用いて計算した K, ⃗c の分布と一致しなくなります。
記憶長 r には限界があるか、または、ポリア壺過程で無視されているスレッドの実力が無視できなくなることを示唆します。
有限記憶ポリア壺の r, θ, α の推定方法、また、θ, α の r 依存性、壺の実力 (適合度) など、確率モデルの数理として興味深
い問題と、2ch.net における投稿過程というヒトの集団挙動の解明が渾然一体となって、本研究が実り多いものになることを期待しています。

参考文献[Arthur 1989]
W.B.Arthur, ”Competing Technologies,Increasing Returns, and Lock- in by Historical
Events.” Econ. J.99,(1989),116-31.
[Mori 2012] S.Mori, M. Hisakado and T. Takahashi, ”Phasetransition to two-peaks phase in an information cascade voting experiment”, Phys.Rev.E86(2012),026109026118.
[Mori 2015] S. Mori and M. Hisakado, ”Correlation function for generalized Polya urns: Finite-size scalinganalysis”, Phys.Rev.E92(2015),052112-052121.
[Sibuya 2001] M.Sibuya and H.Yamato, ” Pitman smodel of random partitions”, 数理解析研究所講究録
1240(2001),6473.
[Yamato 2003] 大和元、渋谷政昭,”ピットマン確率分割と関連する話題”, 統計数理 (2003) 第 51 巻第 2 号 351-372.

図 3: ニュース速報の K と ⃗c の分布関数をプロット．上図：
Pr (K) をプロット．下図：Pr (⃗c) から、⃗c を降順で並べたときの c1 ≥ c2 ≥ c3 の分布と cj の分布をプロット。点線は理論モデルの計算結果、丸はデータの解析結果。
次はスレッド数 K の確率分布 Pr (K) と投稿数 ⃗c の確率分
布 Pr (⃗c) を検証します。図 3 はニュース速報の投稿データから計算した K の分布と ⃗c を降順に並べたときの、c1 ≥ c2 ≥ c3の分布と cj , j = 1, · · · K の分布と Pr (K) および Pr (⃗c) をプロットしたものです。上図は r ∈ {10, 30, 70} での K の分布、
下図は r = 70 での c1 , c2 , c3 および c の分布をプロットしています。この結果から、r ≤ 70 程度で薄切りした断面は Pitman
分布に従うことが分かります。

[Hisakado 2017] M. Hisakado and S.Mori,”Pitman sampling formula in Equilibrium and Non-equilibrium processes”, preprint.