単語共起頻度データベース (Version 1)
2009/12/24 初版
2010/03/31 ２版（ファイル容量の追記）※ 概要
本データベースは，大量のウェブ文書を用いて，様々な条件で２つの単語が共に出現する頻度（共起頻度）を計算し，各単語について，３種の共起スコアの高い順に，単語とそのスコアを記録したものです．
３種類の共起スコアとは，Dice 係数，ディスカウンティングファクター有りの相互情報量[Pantel 04] (以降，Dpmi とする)，共起頻度です．
[Pantel 04] P. Pantel and D. Ravichandran: Automatically Labeling Semantic Classes,
In Proc. of HLT / NAACL, pp. 321-328 (2004).

Dice 係数は，２つの単語，t1，t2 があった場合，C(t1,t2)を t1 と t2 の共起頻度，C(t1)を t1 の出現頻度，C(t2)を t2 の出現頻度とした場合，Dice(t1, t 2) =C (t1, t 2)
C (t1) + C (t 2)となります．
Dpmi は，相互情報量(Point-wise Mutual Information)が低頻度の単語に正のバイアスがかかることが知られているため，その影響を減らしたスコアです．N
は，頻度の計算対象のデータ総数です．
dpmi (t1, t 2) = pmi (t1, t 2) ×C (t1, t 2)min(C (t1), C (t 2))
×C (t1, t 2) + 1 min(C (t1), C (t 2)) + 1⎛ C (t1, t 2) ⎞⎟⎜N⎟pmi (t1, t 2) = log⎜
⎜ C (t1) × C (t 2) ⎟⎟⎜N ⎠⎝ N共起頻度は，C(t1,t2)そのものです．
例えば，「野球」の Dice 係数の上位の単語は，サッカー:0.362974 格闘技:0.227781 プロ野球:0.220464
ゴルフ:0.210349
テニス:0.208742 試合:0.173582 選手:0.158105
高校野球:0.157891 バスケットボール:0.144332 競馬:0.136342
スポーツ:0.135528 バレーボール:0.133510 阪神:0.12301 巨人:0.115695となっています．このように，関連の深い語が上位に来ています．
ただし，上記はあくまでも１例で，全単語について，上記のように関連の深い語が上位に来ているとは限りません．詳しくは，本ドキュメント「利用に関する注意」もご参照ください．
本データベースには，ダウンロード配布の上記データベースの他に，その元となるデータも含まれます．ただし，それらデータは非常にデータ量が多いため，USB の外付け HDD で配布いたします．基本的には，HDD を送付し，データをコピーして返却いただく形になります．
HDD 配布による全データをご希望の方は，以下の言語資源サイトの「言語資源の入手の手順」の「言語資源取得申請書」に，必要事項をご記入の上，高度言語情報融合フォーラム事務局まで送付してください．
http://nlpwww.nict.go.jp/corpus/gｓet/how-to-get.html
また，本データベースを便利に利用するためのツールを公開いたします．ツー
ルは下記からダウンロードできます．使用法も記載しておりますので，ご参照ください．
http://nlpwww.nict.go.jp/SortedFileSearch/※ ファイル本データベースで，ダウンロード配布するデータベースは以下の通りです．１
GB を超えるファイルは、ファイル名の右に容量を示しています。ダウンロード

配布の全ファイルの記憶には、圧縮前で約 5G、展開後で約 12G のディスク容量が必要です。
---

1m-0.1k.100m-docs.dice(gzip 圧縮：約 1.1G
展開後：約 2.4G)¾ 約 100 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1，t2 が共に出現する文書の頻度として，dice係数の上位 100 語とそのスコアを記録．
1m-0.1k.100m-docs.dpmi (gzip 圧縮：約 1.1G 展開後：約 2.3G)¾ 約 100 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1，t2 が共に出現する文書の頻度として，dpmiの上位 100 語とそのスコアを記録．
1m-0.1k.100m-docs.freq(gzip 圧縮：約 0.4G 展開後：約 1.2G)¾ 約 100 万語，約 1 億文書を用いて，C(t1,t2)を t1，t2 が共に出現する文書の頻度として，共起頻度の上位 100 語とそのスコアを記録．

-1m.100m-docs.tf¾ 約 100 万語，約 1 億文書を用いて，各単語の出現頻度を記録．

-1m.100m-docs.df¾ 約 100 万語，約 1 億文書を用いて，各単語の文書頻度を記録．
500k-0.1k.100m-docs.w4.dice （gzip 圧縮：約 0.5G 展開後：約 1.2G）¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が近接 4 文内に共に出現する文書の頻度として，dice 係数の上位 100 語とそのスコアを記録
500k-0.1k.100m-docs.w4.dpmi （gzip 圧縮：約 0.5G 展開後：約 1.1G）¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が近接 4 文内に共に出現する文書の頻度として，dpmi の上位 100 語とそのスコアを記録-----

500k-0.1k.100m-docs.w4.freq¾ 約 50 万語，約 1 億文書を用いて，C(t1,t2)を t1,t2 が近接 4 文内に共に出現する文書の頻度として，共起頻度の上位 100 語とそのスコアを記録
500k-0.1k.100m-docs.w0.dice（gzip 圧縮：約 0.4G 展開後：約 1.1G）¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が 1 文内に共に出現する文書の頻度として，dice 係数の上位 100 語とそのスコアを記録
500k-0.1k.100m-docs.w0.dpmi（gzip 圧縮：約 0.4G 展開後：約 1G）¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が 1 文内に共に出現する文書の頻度とし

て，dpmi の上位 100 語とそのスコアを記録-

500k-0.1k.100m-docs.w0.freq¾ 約 50 万語，約 1 億文書を用いて，C(t1,t2)を t1,t2 が 1 文内に共に出現する文書の頻度として，共起頻度の上位 100 語とそのスコアを記録-

500k.100m-docs.tf¾ 約 50 万語，約 1 億文書を用いて，各単語の出現頻度を記録．

-

500k.100m-docs.df¾ 約 50 万語，約 1 億文書を用いて，各単語の文書頻度を記録．

HDD 配布では，さらに以下が加わります．HDD 配布の全ファイルの記憶には、圧縮前で約 1.2T、展開後で約 4T のディスク容量が必要です。
-------

1m-1m.100m-docs.data(gzip 圧縮：約 750G 展開後：約 2.4T)¾ 約 100 万語，約 1 億文書を用いて，全ての単語の組み合わせについて，2 つの単語が共に出現する文書の頻度を記録．
500k-500k.100m-docs.w4.data(gzip 圧縮：約 66G 展開後：約 196G)¾ 約 50 万語，約 1 億文書を用いて，全ての単語の組み合わせについて，2つの単語が近接 4 文内に共に出現する文書の頻度を記録
500k-500k.100m-docs.w0.data(gzip 圧縮：約 19G 展開後：約 61G)
¾ 約 50 万語，約 1 億文書を用いて，全ての単語の組み合わせについて，2つの単語が 1 文内に共に出現する文書の頻度を記録
1m-10k.100m-docs.dice(gzip 圧縮：約 91G 展開後：約 238G)¾ 約 100 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1，t2 が共に出現する文書の頻度として，dice係数の上位 1 万語とそのスコアを記録．
1m-10k.100m-docs.dpmi(gzip 圧縮：約 89G 展開後：約 211G)¾ 約 100 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1，t2 が共に出現する文書の頻度として，dpmiの上位 1 万語とそのスコアを記録．
1m-10k.100m-docs.freq(gzip 圧縮：約 70G 展開後：約 200G)¾ 約 100 万語，約 1 億文書を用いて，C(t1,t2)を t1，t2 が共に出現する文書の頻度として，共起頻度の上位 1 万語とそのスコアを記録．
500k-5k.100m-docs.w4.dice （gzip 圧縮：約 20G 展開後：約 49G)
¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が近接 4 文内に共に出現する文書の頻度として，dice 係数の上位 5 千語とそのスコアを記録

-----

500k-5k.100m-docs.w4.dpmi(gzip 圧縮：約 20G 展開後：約 43G)
¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が近接 4 文内に共に出現する文書の頻度として，dpmi の上位 5 千語とそのスコアを記録
500k-5k.100m-docs.w4.freq(gzip 圧縮：約 12G 展開後：約 30G)
¾ 約 50 万語，約 1 億文書を用いて，C(t1,t2)を t1,t2 が近接 4 文内に共に出現する文書の頻度として，共起頻度の上位 5 千語とそのスコアを記録
500k-5k.100m-docs.w0.dice(gzip 圧縮：約 13G 展開後：約 34G)
¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が 1 文内に共に出現する文書の頻度として，dice 係数の上位 5 千語とそのスコアを記録
500k-5k.100m-docs.w0.dpmi(gzip 圧縮：約 13G 展開後：約 30G)
¾ 約 50 万語，約 1 億文書を用いて，C(t1)，C(t2)をそれぞれ，t1，t2 の出現文書頻度，C(t1,t2)を t1,t2 が 1 文内に共に出現する文書の頻度として，dpmi の上位 5 千語とそのスコアを記録
500k5k.100m-docs.w0.freq(gzip 圧縮：約 7.4G 展開後：約 21G)
¾ 約 50 万語，約 1 億文書を用いて，C(t1,t2)を t1,t2 が 1 文内に共に出現する文書の頻度として，共起頻度数の上位 5 千語とそのスコアを記録※ ファイルフォーマット
*.dice,*.dpmi,*.freq のファイルは，以下のフォーマットとなっています．
ただし，ダウンロード配布のファイルは，gzip 圧縮されています．
文字コードが UTF8 で，正規表現で表すと，一行が以下のフォーマットで書かれたファイルが生成されます．

<単語>([::space::]<単語>:<スコア>)+¥nここで，<単語>は，任意の単語の文字列，[::space::]は，空白とします．
(<単語>:<スコア>)は，行頭の単語との共起スコアの降順に並んでいます．つまり，行頭の単語にとって，n 番目の（<単語>:<スコア>）は各種共起スコアの n位の単語とその共起スコアとなります．

*.data のファイルは，文字コードが UTF8 で，正規表現で表すと，一行が以下のフォーマットで書かれています．

<単語>([::space::]<単語>:<共起頻度>)+¥n
行頭の単語は unix 系 OS の”env LC_ALL=C sort”のソート順と同じ並びとなっています．また，その単語に対応する各(<単語>:<スコア>)も，単語について，同じソート順で並んでいます．2 分探索など，ソート順が関係する探索プログラムを作成する場合に留意してください．
*,tf,*.df のファイルは，文字コードが UTF8 で，一行が<単語>[::space::]<頻度>¥nとなっています．
行頭の単語は unix 系 OS で”env LC_ALL=C sort”のソート順と同じ並びとなっています．

※ 生成方法本データベースの作成の対象の文書データは，Tsubaki[Shinzato 2008]で収集された日本語の約１億ウェブページです．
[Shizato 2008]K. Shinzato, T. Shibata, D. Kawahara, C. Hashimoto, and S. Kurohashi,
Tsubaki: An open search engine infrastructure for developing new Information access, Inproc of the 3rd IJCNLP, pp. 189-196, 2008.

本データベースの「文」とは，Tsubaki の Standard Format の<S>です．
カウント対象の「単語」は，Alagin フォーラムで公開されている「文脈類似語データベース version 1」に準拠しています．つまり，本データベースの 100万語，50 万語は，基本的には，それぞれ以下と同様です．
100 万語:1m-2k.s1.data ,1m-2k.s1.data, 1m-2k.s2.data,1m-2k.s1+s2.data

50 万語:

1m-rv100k.data
old.500k-2k.data

ただし，文書の解析に用いられた形態素解析(Juman)，構文解析(Knp)のバージョン違いや，単語のフィルタ規則の違いによって，100 万語の方は約 2000 語，50 万語の方は約 1 万語，それぞれ抽出されなかったため，必ずしも全単語は含まれません．

※ 利用条件
本データベースの利用には，（独）情報通信研究機構と利用許諾契約を結ぶ必要があります．詳しくは，http://www.alagin.jpを御覧下さい．

※ 利用に関する注意
本データベースは，インターネットホームページ等，（独）情報通信研究機構以外の第三者が作成した文書等のデータから，語彙の抽出及び統計処理等によって作成されたものです．そのため本データベースの内容は，（独）情報通信研究機構の主体的な意思決定・判断を示すものではありません．本データベースの生成は，電子的な方法又は一様の選別基準による機械的判定によって行われています．そのため本データベースの内容の正確性，真実性及び相当性は一切保証されません．以上の理由により，（独）情報通信研究機構は，本データベースの内容について，責任を負いかねます．本データベースの使用に関連して生ずる損失，損害等についても，一切責任を負いかねます．本データベースには，意図せず，第三者への誹謗中傷，差別用語，個人情報などが含まれている場合があります．本データベースを利用の際はこれらによる権利侵害に十分な注意をお願いいたします．利用者においては，本データベースの以上の特質をよくご理解の上で，本データベースをご利用下さい．

※ 本データベースに関する問い合わせ先
独立行政法人情報通信研究機構
知識創成コミュニケーション研究センター
MASTAR プロジェクト 言語基盤グループ
Email: alagin-lr@khn.nict.go.jp