ホログラフ埋め込みに基づく
CCG構文解析持橋大地
統計数理研究所
daichi@ism.ac.jp
NAIST データサイエンス特別講義
2023-10-13 (金)※ 立命館大学 山木さん(D1)・谷口忠大教授との共同研究“Holographic CCG Parsing”, ACL 2023 (main, oral presentation)自己紹介
l 2005年 NAIST博士修了– 1998年 東大教養学部
基礎科学科第二卒業
l 2003年〜2011年
ATR音声言語コミュニケーショ
ン研究所、
NTTコミュニケーション科学基礎研究所
l 2011年〜 統計数理研究所 (東京・立川市)
l 専門：統計的自然言語処理、機械学習

教科書 (1)l 『ガウス過程と機械学習』

講談社機械学習プロフェッショナルシリーズ(MLP),
2019年発売– 持橋大地・大羽成征著(二人ともNAIST出身)– Amazonレビュー122件
l 線形回帰モデルの非常にやさしい導入から入っています教科書 (2)l 『パターン認識と機械学習』翻訳チーム (2006年頃)– 10章(下巻)の変分ベイズ法の翻訳を担当– 今でも機械学習の最も標準的な教科書

今日の話の概要
l 構文解析とは／その必要性
l CFG (文脈自由文法)とCCG (組み合わせ範疇文法)
l ニューラル構文解析
l ホログラフ埋め込み (Nickel+ 2016)とその性質
l ホログラフ埋め込みに基づくCCG構文解析 (Hol-CCG)
l 実験結果l 複素埋め込み (Trouillon+ 2016)との等価性と解釈
l 画像生成を用いたテキスト理解

構文解析とはl 言語の文を見て、構文木に変換するタスク– 自然言語処理のかつての花形分野
S

×

○

VP

S

NP
VP

PP
NP
N

NP
V

DT

VP

NP
N

P DT NI saw the girl with a hat

NP

V

N

NP
N

PP
P

DT DT VI saw the girl with a hat

構文解析の難しさ
l 動的計画法を使っても、文長NについてO(N3)の計算時間 (CYKアルゴリズム)
l 与えられた文に対して可能な膨大な木構造の中から、正解の一つだけを選ぶタスク
詳しくは
こうした
教科書を
参照

構文解析は必要?
l かつては、構文解析をしなければ言語のまともな理解は不可能だと思われていたà 形態素解析に次ぐ、NLPの基礎ステップ
l 現代のニューラル言語モデルは、明示的に構文解析をしなくても言語を理解できる– 内部的には、構文構造をかなり正確に捉えている– ニューラル言語モデルのとらえている構文構造を取り出すことは、部分的には可能構文解析は必要? (2)l ロボットへの指示文を構文解析して、論理形式に変換– Matuszek&Fox (Experimental Robotics, 2013)l 解析しないと、とんでもない動作をする危険性がある(「雰囲気NLP」は怪しい)言語の構造をとらえる
l 言語の単語列は本来線形ではなく、明らかに構造があるきのう見た猫が隣を横切ったのは五時
寝る前には毛布をかけるようにして下さい
l 言語の構造を捉える方法：– 構文解析 (PCFG・CCG・依存構造解析)– Semantic Parsing
直接、意味的関係を文から抽出する(ただし、そのために通常は構文解析を利用)

PCFG (確率的句構造文法)
S

S
VP

VP
NP

NP
N

NP
V

DT

N

PP

VP

PP
NP

NP

P DT N

N

NP
V

DT

NP
N

P DT

N

I saw the girl with a hat I saw the girl with a telescopel 句構造規則：DT NàNP , P NPàPP , NP PPàNP ,V NPàVP , NP VPàS , VP PPàVPl N: 名詞, DT: 冠詞, P: 前置詞, NP: 名詞句, VP: 動詞句PCFGの問題
l タグに文法的な意味がない– PPàin, with, on, at, ... の確率が高くても、それらが名詞を補語としてとることは言えない(計算機からみると、PPは単なる数字)– 同様に、動詞は主語と場合によって目的語をとり文の主辞である、ことはわからない
l 教師なし学習する時、Y->X1 X2 に対応してinfinite PCFGでは∞x∞の確率行列が必要

Compositional Vector Grammar (CVG)l Socher+ (2013)で提案、構文に沿ったベクトル合成
l ベクトルの合成 AàB Cに、それぞれ行列 WBCが必要

à 膨大なパラメータ！ (ex. 500x500=250000個の要素/ルール)

組み合わせ範疇文法 (CCG)l カテゴリとして、文Sと名詞Nしか仮定しない– 先験的な“動詞”のような概念を仮定しない
l 例：– “the” の意味: the box のように名詞を右にとって、全体で名詞になる à N/N (冠詞)– “sing” の意味: we sing のように名詞を左にとって、全体で文になる à S＼N (動詞)– “take” の意味: take them のように名詞を右にとって、全体で S＼N (=動詞)になる à (S＼N)/N (他動詞)– などCCGの解析例
l “They sing a song” をCCGで解析する例

They

sing

a

song

N (S＼N)/N N/N

N
N

S＼N
S
l willのような助動詞は動詞句 (S＼N)を右にとって、また動詞句となるので (S＼N)/(S＼N) になるなど実際はもっと複雑組み合わせ範疇文法 (CCG)l 語を構文木に沿って組み合わせることで、句構造に対応する表現を生成
l 最終的に、Sが得られれば解析終了
l 途中の句構造に、その下にある単語の情報が反映されている

CCGの問題点

l 単語につけられた (S＼N)/Nのようなタグが離散的à 埋め込みベクトル化したい– 上位の句構造のベクトルが、合成された単語のベクトルを反映できる
l すべての単語に、あらかじめ人手でこうしたタグを付与する必要がある (教師なし学習; 今回は範囲外)

Holographic CCG
l 基本的なアイデア: CCGをベクトル合成と組み合わせられないか？
l CVGのように合成毎にパラメータがあると、厖大なパラメータが必要で過学習してしまう
l 何か、2つのベクトルを合成する見通しのよい

数学的な方法はないか？
à Holographic composition (Plate 1995)

Holographic compositionl 知識グラフの埋め込み手法として、Nickel+(AAAI 2016)

で提案 (最初の提案はPlate(1995))l Circular correlation (巡回相関)

c=a?b
Pd 1
[c]k = i=0 ai b(k+i)mod d<latexit sha1_base64="betML5pmy0QecyJ0yEHjqPFjNTM=">AAAHinichZXNbtNAEMenLeBSCk3hgsQlImrEKdoEJL6E1EIrUbWq2oS0qZoq8rrr1IqdWLaTNonyAog7B04gcUDcuMKNCy/AoY+AOBaJCwfGa1tO4mnrKNmdmd9/MuNdr7ltGq7H2MnE5NSly1eU6asz12av35hLzd/cdlttRxNlrWW2nApXXWEaTVH2DM8UFdsRqsVNscMbL/z4Tkc4rtFqvvK6tti31HrT0A1N9dBVS2Wrluodcr2vDdLP0pGhDqqupzqRyQe1VIblmLzSyUk+nGQgvDZb81NZqMIBtECDNlggoAkezk1QwcXPHuSBgY2+feijz8GZIeMCBjCD2jZSAgkVvQ38raO1F3qbaPs5XanW8F9M/DqoTMMC+8k+sVP2g31mv9i/M3P1ZQ6/li6OPNAKuzb3+nbp74UqC0cPDmPVOQqO9Pk9eaDDI9mLgb3Z0uN3qQX5O723p6UnxYV+ln1gv7G/9+yEfccOm50/2sctUXwnsx+gRsexg6MGGbzDfbSiSjnG+tI7CKuJ+WOCPCa4LsF1Ca5HcD2COyK4I4LTCU4nuAbBNQhuieCWCG6V4FYJbo3g1giuQnAVgtsluF2CYwTHEhwP19ffh9S68nBdg3hyPbncxVFcEHELd2xMVKWdpGys0RjhAg9FugnSJUm/Ng/7H2YjX5L271LEDyti/4BQmfKZ5+gZ1w1HKOVmouPNMzouobcuV3KYjr1JxfpIVbFmfaymYdVGWL+GMRNPlo0EsTK2ozjaKwmqSFDFBLUsT5sMFCSt4/nsn3vBakYnflBHcCrRkYKfF98/+fG3TXKyXcjl7+cKWw8yi8/DN9E03IG7cA/zP4RFeIn3v4w1vIEv8BW+KbNKQXmsPA3QyYlQcwtGLmX5PwfZkMg=</latexit>

l 定義:<latexit sha1_base64="HGh733nN5Yn4WsVr8Q7JUjEqxCs=">AAAHoXichZXNbtNAEMenLZBSPprCBYmLRdSqCFptAhIIqVILVKJqVaUpbVMlxfI6m2DFji3bSZtafgFegAMnQBwQj8EFriAOfQTEsUhcODBeO0oaT4ujZHdnfv/JzO56lzum4fmMHY2Mjp07fyEzfnHi0uUrVyezU9e2Pbvt6mJLt03bLXPNE6bRElu+4Zui7LhCs7gpdnjzSeTf6QjXM+zWc7/riD1La7SMuqFrPprU7EJF31ObyoJS9cWB7/ldU0xUvbalBsYCC18Etbl8qGiqoXA1mG3eMW4HVddSLLsWVu/WQjWbY/NMPkq6k086OUieoj01NgNVqIENOrTBAgEt8LFvggYefiqQBwYO2vYgQJuLPUP6BYQwgdo2UgIJDa1N/G3gqJJYWziOYnpSreO/mPh1UanANPvBPrJj9oV9Yj/Z31NjBTJGlEsXWx5rhaNOvrqx+ee/KgtbH172VWcoONJn1+RDHR7KWgyszZGWqEo9jt85fH28+ag0Hcywd+wX1veWHbHPWGGr81v/sCFKb2T0Gmrq2Haw1SGHMxzgqJcpR18grWGSTZ8/IMgDgusSXJfgDgnukOD2CW6f4OoEVye4JsE1CW6J4JYIboXgVghuleBWCa5McGWC2yW4XYJjBMdSHE/WN9qH1LryZF1jf3o9udzFPb8g/Bbu2D5RleM05WCOxgkutlCklyI9koxy87H+QbZnS9PRLPX4QUXfHhIqU77zHC3DukEPpSymKi6eUvEmWhtyJQfpvjWtWDuRVV+zNpTToGo9yV9Hn4kny3qKWB7aURzHyymqRFClFPVUnjY5KEi6judzdO7Fq9k78eM84lOJ9hSiuHj/5Idvm3RnuzCfvzdf2LifW3yc3ETjcBNuwSzGfwCL8AznfwtzeA9f4Rt8z+QyK5liphSjoyOJ5jqceDKVf4/jmEg=</latexit>

a
b 0
b 1
b 2
b 3
<latexit sha1_base64="oiesVcH+dhxk+byjfr5IEcTBvdY=">AAAHaXichZXNbtNAEMenLTSlfLSBSwWXCqsVp2gTkECcWqASVauqTUiTqqkqr7sOVpzYsp20iZUX4MYJiZ5A4oB4DC68AIc+AuqxSFw4MF47cpKdFkfJ7s78/pMZ73rMXdvyA8bOJianrl2fzszcmL156/adufns3V3faXuGKBuO7XhVrvvCtlqiHFiBLaquJ/Qmt0WFN15G/kpHeL7ltN4EXVccNPV6yzItQw/QVKl1hBHq/cN5jeWYvBbVST6ZaJBc2052ahlqcAQOGNCGJghoQYBzG3Tw8bMPeWDgou0AQrR5OLOkX0AfZlHbRkogoaO1gb91XO0n1hauo5i+VBv4LzZ+PVQuwhL7yb6yC/aDfWO/2N9LY4UyRpRLF0cea4V7OPduofTnv6omjgG8TVVXKDjSV9cUgAnPZC0W1uZKS1SlEcfv9D5clJ4Xl8Jl9pmdY32f2Bn7jhW2Or+NLzuieCqjH6HGxLGDowEa3uEQV4NMOfpCae0n2aT8CUGeEFyX4LoE1yO4HsEdE9wxwZkEZxJcg+AaBLdKcKsEt05w6wS3QXAbBFcluCrB7RHcHsExgmMKx5P9jc4hta882dfYr+4nl6d44BeEv4knNiVqcq1SLuZojXCxhSJ9hfRJMsotwPqH2YFNpaO7NOCHFam9T6hs+cxztIzrhj2UclupePuSiktorcudHKZTq6rYHMkq1WyO5TSs2kryN9BnY2fZUoi1sRPFcb2mUEWCKirUK9ltNChI2sT+HPW9eDcHHT/OI+5KtKcQxcX3T378baNOdgu5/ONcYeeJtvIieRPNwAN4CI8w/lNYgdd4/8uy976Hj3A6fZ7JZhYy92N0ciLR3IORK6P9Azw5hEg=</latexit><latexit sha1_base64="j6Dmaf07Gg/R402UbafYOlQBc9g=">AAAHe3ichZXNbtNAEMenLTSlfDSFA0hcIqxWCKFoE0AgTi1QiapVlSakTdVUkdddByt2bNlO2sTKC/ACHDgB4oCAp+DCC3DoIyCOReICEuO1I6fxtDhKdnfm95/MeNdj7piG5zN2NDE5de78dGbmwuzFS5evzGXnr255dsfVRFWzTdutcdUTptEWVd/wTVFzXKFa3BTbvPU09G93hesZdvuF33PEnqU224ZuaKqPpkb2er0rtIAPGkFQ9yzVNOvN5iDHBo2swvJMXrn0pBBPFIivkj0/tQh12AcbNOiABQLa4OPcBBU8/OxCARg4aNuDAG0uzgzpFzCAWdR2kBJIqGht4W8TV7uxtY3rMKYn1Rr+i4lfF5U5WGDf2Ud2zL6xT+wH+3NqrEDGCHPp4cgjrXAac69uVH7/V2Xh6MPLRHWGgiN9dk0+6PBI1mJgbY60hFVqUfxu//Vx5XF5IVhk79hPrO8tO2JfscJ295f2YVOU38jo+6jRceziqIGCdzjA1TBTjr5AWgdxNgl/SJCHBNcjuB7B9QmuT3AHBHdAcDrB6QTXIrgWwS0T3DLBrRLcKsGtEdwawdUIrkZwOwS3Q3CM4FiK4/H+hueQ2lce72vkT+8nl6d46BeE38ITmxB1uU5TDuZonOAiC0V6KdIjyTA3H+sfZYe2NB3epSE/qkjsA0Jlymeeo2VcN+qhlKVUxaVTKq6gtSl3cpROrGnF+omsEs36WE6jqo04fw19JnaWjRSxMnaiOK5XUlSZoMop6pnsNgoUJa1jfw77XrSbw44f5RF1JdpTDOPi+6cw/rZJT7aK+cK9fHHzvrL0JH4TzcBNuAW3Mf5DWILneP+rsqu+h8/wZfpvRsncydyN0MmJWHMNTlyZB/8AHLWLWA==</latexit><latexit sha1_base64="FUy6smyVQ2UWmjvcfUxkR36puK8=">AAAHe3ichZXNbtNAEMenLTSlfDSFA0hcIqxWCKFoE0AgTi1QiapVlSakTdVUkdfdBCt2bNlO2sTyC/ACHDgB4oCAp+DCC3DoIyCOReICEuO1I6fxtDhKdnfm95/MeNdjbhu66zF2NDE5de78dGbmwuzFS5evzGXnr265VtfRRFWzDMupcdUVht4RVU/3DFGzHaGa3BDbvP009G/3hOPqVueF17fFnqm2OnpT11QPTY3s9XpPaD4PGr5fd03VMOqtVpArBI2swvJMXrn0pBBPFIivkjU/tQh12AcLNOiCCQI64OHcABVc/OxCARjYaNsDH20OznTpFxDALGq7SAkkVLS28beFq93Y2sF1GNOVag3/xcCvg8ocLLDv7CM7Zt/YJ/aD/Tk1li9jhLn0ceSRVtiNuVc3Kr//qzJx9OBlojpDwZE+uyYPmvBI1qJjbba0hFVqUfze4PVx5XF5wV9k79hPrO8tO2JfscJO75f2YVOU38jo+6hp4tjDUQMF77CPq2GmHH2+tAZxNgl/SJCHBNcnuD7BDQhuQHAHBHdAcE2CaxJcm+DaBLdMcMsEt0pwqwS3RnBrBFcjuBrB7RDcDsExgmMpjsf7G55Dal95vK+RP72fXJ7ioV8QfhNPbELU5TpN2ZijfoKLLBTppkiXJMPcPKx/lB3a0nR4l4b8qCKxB4TKkM88R8u4btRDKUupikunVFxBa0vu5CidWNOK9RNZJZr1sZxGVRtx/hr6DOwsGyliZexEcVyvpKgyQZVT1DPZbRQoSrqJ/Tnse9FuDjt+lEfUlWhPMYyL75/C+NsmPdkq5gv38sXN+8rSk/hNNAM34RbcxvgPYQme4/2vyq76Hj7Dl+m/GSVzJ3M3QicnYs01OHFlHvwDI7WLWQ==</latexit><latexit sha1_base64="ykMAEAcPlH4FkxmMymQ8kmgM7eU=">AAAHe3ichZXNbtNAEMenLTSlfDSFA0hcIqJWCKFoE0AgTi1QiapVlSakTdVUkdddByv+ku2kTay8AC/AgRMgDgh4Ci68AIc+AuJYJC4gMV47chpPi6Nkd2d+/8mMdz3mjqF7PmNHE5NT585PZ2YuzF68dPnKXHb+6pZnd1xV1FTbsN06Vzxh6Jao+bpviLrjCsXkhtjm7aehf7srXE+3rRd+zxF7ptKydE1XFR9Nzez1RleoAR80g6DhmYphNFqtQa40aGbzrMDklUtPivEkD/FVtuenFqEB+2CDCh0wQYAFPs4NUMDDzy4UgYGDtj0I0ObiTJd+AQOYRW0HKYGEgtY2/rZwtRtbLVyHMT2pVvFfDPy6qMzBAvvOPrJj9o19Yj/Yn1NjBTJGmEsPRx5phdOce3Wj+vu/KhNHH14mqjMUHOmza/JBg0eyFh1rc6QlrFKN4nf7r4+rjysLwSJ7x35ifW/ZEfuKFVrdX+qHTVF5I6Pvo0bDsYujCnm8wwGuhply9AXSOoizSfhDgjwkuB7B9QiuT3B9gjsguAOC0whOI7g2wbUJbpnglgluleBWCW6N4NYIrk5wdYLbIbgdgmMEx1Icj/c3PIfUvvJ4XyN/ej+5PMVDvyD8Jp7YhGjIdZpyMEf9BBdZKNJLkR5Jhrn5WP8oO7Sl6fAuDflRRWIfECpDPvMcLeO6UQ+lLKcqLp9ScRWtLbmTo3RiTSvWT2SVaNbHchpVbcT5q+gzsLNspIiVsRPFcb2SoioEVUlRz2S3yUNJ0hr257DvRbs57PhRHlFXoj2lMC6+f4rjb5v0ZKtUKN4rlDbv55eexG+iGbgJt+A2xn8IS/Ac739NdtX38Bm+TP/N5DN3MncjdHIi1lyDE1fmwT8qtYta</latexit><latexit sha1_base64="4c/k9OCRGA2Jnu7EwzAS4e1lvLc=">AAAHe3ichZXNbtNAEMenLTSlfDSFA0hcIqJWCKFok4JAnFqgElWrKk1Im6qpIq+7CVb8pdhJm1h5AV6AAydAHBDwFFx4AQ59BMSxSFxAYrx2lI+dto6S3Z35/Scz3vWYu6bh+YwdT0xOXbg4nZi5NHv5ytVrc8n569ue02rqoqQ7ptMsc80TpmGLkm/4pii7TaFZ3BQ7vPEs9O+0RdMzHPul33HFvqXVbaNm6JqPpmryZqUt9ID3qkFQ8SzNNCv1ei+11Ksm0yzD5JVSJ9l4kob4yjvzU4tQgQNwQIcWWCDABh/nJmjg4WcPssDARds+BGhr4syQfgE9mEVtCymBhIbWBv7WcbUXW21chzE9qdbxX0z8NlGZggX2g31iJ+w7+8x+sr+nxgpkjDCXDo480gq3Ovf6VvHPuSoLRx9eDVRnKDjSZ9fkQw0ey1oMrM2VlrBKPYrf7r45KT4pLASL7D37hfW9Y8fsG1Zot3/rH7dE4a2MfoCaGo5tHHVI4x0OcNXPlKMvkNZenM2APyLII4LrEFyH4LoE1yW4Q4I7JLgawdUIrkFwDYJbIbgVglsjuDWCWye4dYIrE1yZ4HYJbpfgGMExhePx/obnkNpXHu9r5Ff3k8tT3PcLwm/hiR0QFblWKRdzNEa4yEKRnkJ6JBnm5mP9w2zfptLhXerzw4qBvUeoTPnMc7SM64Y9lDKvVJw/peIiWutyJ4fpgVVVbIxkNdBsjOU0rNqM89fRZ2Jn2VSI1bETxXG9qlAFgioo1HPZbdKQk3QN+3PY96Ld7Hf8KI+oK9GeXBgX3z/Z8beNOtnOZbJLmdzWg/Ty0/hNNAO34Q7cxfiPYBle4P0vya76Ab7A1+l/iXTiXuJ+hE5OxJobMHIlHv4HMbWLWw==</latexit>

c0
c1
c2
c3
<latexit sha1_base64="b5IvOCc6K6PJhEJw1UDNMoBpW2U=">AAAHZXichZXPTxNBFMcfoBRRBNQYEw8SG4inZlpNNJ5AJZFASGktlABpdpbZuun+yu620Db9B0y8ysGTJh6Mf4YX/wEP/AXGeMTEiwffzm6zbeeB27Qz897n+/rezOwM9ywzCBk7HRufuHR5MjN1ZfrqtZnrs3PzN7YDt+nroqK7lutXuRYIy3REJTRDS1Q9X2g2t8QObzyP/Dst4Qem67wK2544sLW6YxqmroVoKus1VpvLshyTz4LaySedLCRP0Z2fWIJ9OAQXdGiCDQIcCLFvgQYBfvYgDww8tB1AF20+9kzpF9CDadQ2kRJIaGht4G8dR3uJ1cFxFDOQah3/xcKvj8oFWGTf2Wd2xr6xL+wn+3turK6MEeXSxpbHWuHVZt/cKf/5r8rGNoTXqeoCBUf64ppCMOCJrMXE2jxpiarU4/itzslZ+WlpsbvEPrJfWN8Hdsq+YoVO67f+aUuU3svoh6gxsG1hq0MWZ7iLo36mHH1dae0l2aT8MUEeE1yb4NoE1yG4DsEdEdwRwRkEZxBcg+AaBLdCcCsEt0ZwawS3TnDrBFcluCrB7RLcLsExgmMKx5P1jfYhta48WdfYr64nl7u47xeE38YdmxL7cqxSHuZoDnGxhSIDhQxIMsotxPoH2b5NpaNZ6vODitTeI1SWfOc5WkZ1gx5KWVQqLp5TcRmtdbmSg3RqVRUbQ1mlmo2RnAZVm0n+OvosPFk2FWJ1ZEdxHK8qVImgSgr1Qp42WShI2sDzOTr34tXsn/hxHvGpRHsKUVy8f/Kjt43a2S7k8g9zha1H2eVnyU00BXfhPjzA+I9hGV7i/Fcwhzq8hXdwMvkjM5O5lbkdo+NjieYmDD2Ze/8AhVyCHw==</latexit><latexit sha1_base64="1tpSYsr1RV/Lnjt/wubcNh6mc28=">AAAHZXichZVBTxNBFMcfoBRRBNQYEw8SG4inZraaaDyBSiKBkNJaKAHS7CyzddPt7mZ3W2ibfgETr3LwpIkH48fw4hfwwCcwxiMmXjz4dnabbTsP3Kadmfd+/9f3ZmZnuGdbQcjY6dj4xKXLk5mpK9NXr81cn52bv7EduE3fEGXDtV2/wvVA2JYjyqEV2qLi+UJvcFvs8PrzyL/TEn5guc6rsO2Jg4ZecyzTMvQQTSWjqlXnsizH5LOgdrSkk4XkKbjzE0uwD4fgggFNaIAAB0Ls26BDgJ890ICBh7YD6KLNx54l/QJ6MI3aJlICCR2tdfyt4WgvsTo4jmIGUm3gv9j49VG5AIvsO/vMztg39oX9ZH/PjdWVMaJc2tjyWCu86uybO6U//1U1sA3hdaq6QMGRvrimEEx4ImuxsDZPWqIqjTh+q3NyVnpaXOwusY/sF9b3gZ2yr1ih0/ptfNoSxfcy+iFqTGxb2BqQxRnu4qifKUdfV1p7STYpf0yQxwTXJrg2wXUIrkNwRwR3RHAmwZkEVye4OsGtENwKwa0R3BrBrRPcOsFVCK5CcLsEt0twjOCYwvFkfaN9SK0rT9Y19qvryeUu7vsF4W/gjk2JfTlWKQ9ztIa42EKRgUIGJBnlFmL9g2zfptLRLPX5QUVq7xEqW77zHC2jukEPpSwoFRfOqbiE1ppcyUE6taqKjaGsUs3GSE6Dqs0kfwN9Np4smwqxOrKjOI5XFapIUEWFeiFPmyzkJW3i+Ryde/Fq9k/8OI/4VKI9+Sgu3j/a6G2jdrbzOe1hLr/1KLv8LLmJpuAu3IcHGP8xLMNLnP8y5lCDt/AOTiZ/ZGYytzK3Y3R8LNHchKEnc+8fjFuCIA==</latexit><latexit sha1_base64="zIQKyfP+VMLBgSpAADtOKKk8A7M=">AAAHZXichZVBTxNBFMcfoBRRBNQYEw8SG4inZrqaaDyBSiKBkNJaKAHS7CyzddPt7mZ3W2ibfgETr3LwpIkH48fw4hfwwCcwxiMmXjz4dnabbTsP3Kadmfd+/9f3ZmZnuGdbQcjY6dj4xKXLk5mpK9NXr81cn52bv7EduE3fEGXDtV2/wvVA2JYjyqEV2qLi+UJvcFvs8PrzyL/TEn5guc6rsO2Jg4ZecyzTMvQQTSWjqlXnsizH5LOgdvJJJwvJU3DnJ5ZgHw7BBQOa0AABDoTYt0GHAD97kAcGHtoOoIs2H3uW9AvowTRqm0gJJHS01vG3hqO9xOrgOIoZSLWB/2Lj10flAiyy7+wzO2Pf2Bf2k/09N1ZXxohyaWPLY63wqrNv7pT+/FfVwDaE16nqAgVH+uKaQjDhiazFwto8aYmqNOL4rc7JWelpcbG7xD6yX1jfB3bKvmKFTuu38WlLFN/L6IeoMbFtYWtAFme4i6N+phx9XWntJdmk/DFBHhNcm+DaBNchuA7BHRHcEcGZBGcSXJ3g6gS3QnArBLdGcGsEt05w6wRXIbgKwe0S3C7BMYJjCseT9Y32IbWuPFnX2K+uJ5e7uO8XhL+BOzYl9uVYpTzM0RriYgtFBgoZkGSUW4j1D7J9m0pHs9TnBxWpvUeobPnOc7SM6gY9lLKgVFw4p+ISWmtyJQfp1KoqNoaySjUbIzkNqjaT/A302XiybCrE6siO4jheVagiQRUV6oU8bbKgSdrE8zk69+LV7J/4cR7xqUR7tCgu3j/50dtG7WxrufzDnLb1KLv8LLmJpuAu3IcHGP8xLMNLnP8y5lCDt/AOTiZ/ZGYytzK3Y3R8LNHchKEnc+8fk1qCIQ==</latexit><latexit sha1_base64="w2bl39ATPsmx16fG1/Zz1uAmEPg=">AAAHZXichZVBTxNBFMcfoBRRBNQYEw8SG4inZlpMIJ5AJZFASGktlABpdpbZuul2d7O7LbRNv4CJVzl40sSD8WN48Qt44BMY4xETLx58O7vNtp0HbNPOzHu//+t7M7Mz3LVMP2DsbGR07Nr18dTEjcmbt6ZuT8/M3tnxnYani5LuWI5X5povLNMWpcAMLFF2PaHVuSV2ee1F6N9tCs83Hft10HLFYV2r2qZh6lqApqJeWazMpFmGyWdO7WTjThriJ+/Mji3AARyBAzo0oA4CbAiwb4EGPn72IQsMXLQdQgdtHvZM6RfQhUnUNpASSGhoreFvFUf7sdXGcRjTl2od/8XCr4fKOZhnP9gXds6+s6/sF/t3YayOjBHm0sKWR1rhVqbfPij+vVJVxzaAN4nqEgVH+vKaAjBgWdZiYm2utIRV6lH8Zvv0vPisMN9ZYJ/Yb6zvIztj37BCu/lH/7wtCh9k9CPUGNg2sdUhjTPcwVEvU46+jrR242wS/oQgTwiuRXAtgmsTXJvgjgnumOAMgjMIrkZwNYJbJbhVglsnuHWC2yC4DYIrE1yZ4PYIbo/gGMExhePx+ob7kFpXHq9r5FfXk8td3PMLwl/HHZsQB3KsUi7maA5wkYUifYX0STLMLcD6+9meTaXDWerx/YrE3iVUlnznOVqGdf0eSplXKs5fUHERrVW5kv10YlUVmwNZJZrNoZz6VVtx/jr6LDxZthRibWhHcRyvKVSBoAoK9VKeNmnISdrA8zk896LV7J34UR7RqUR7cmFcvH+yw7eN2tnJZbKLmdz20/TK8/gmmoCH8BieYPwlWIFXOP8lzKEK7+A9nI7/TE2l7qXuR+joSKy5CwNP6tF/mlmCIg==</latexit>

Holographic composition (2)l 注: 巡回相関は実際には、高速フーリエ変換と逆変換を使うことで、以下で計算できる
a?b=F<latexit sha1_base64="kXDQVIxurV+fQFQ7UAgevufOBEc=">AAAHwHichZXNbtNAEMenLZASPprCBYmLRdQqORBtAhIICdQCRVStqjalbaq6RF5301pxYmO7aRPLL8ALcOAEEgfEW8CFF+DQNwBxgiJx4cB47ZAPT4ujZHdnfv/xzO5ml9um4XqMHY2Mjp05ey41fj594eKlyxOZySvrrrXv6GJNt0zLqXDNFabRFGue4ZmiYjtCa3BTbPD6o9C/0RKOa1jNZ17bFtsNbbdp1Axd89BUzahqS+i+Fiiq62mOIkc8UO6nfVXXTOVJ8Ny/WQxyadXCKOFLYnsu1uUDBX07lvdPkItj5NP5aibLCkw+SrJTjDtZiJ9la3JsGlTYAQt02IcGCGiCh30TNHDxswVFYGCjbRt8tDnYM6RfQABp1O4jJZDQ0FrH310cbcXWJo7DmK5U6/gWE78OKhWYYl/Ye3bMPrMP7Bv7c2IsX8YIc2ljyyOtsKsTL6+t/v6vqoGtB3s91SkKjvTpNXlQg7uyFgNrs6UlrFKP4rc6r45X75Wn/Gn2ln3H+t6wI/YJK2y2funvVkT5tYy+g5oati1sdcjiDPs46mbK0edLaxBn0+MPCfKQ4NoE1ya4DsF1CO6A4A4IrkZwNYKrE1yd4GYJbpbg5glunuAWCG6B4CoEVyG4TYLbJDhGcCzB8Xh9w31IrSuP1zXyJ9eTy13c9QvC38Ad2yNUOU5SNuZoDHCRhSLdBOmSZJibh/X3s11bkg5nqcv3K3r2gFCZ8j/P0TKs6/dQyuVExcsnVLyK1l25kv10z5pULA5k1dMsDuXUr1qK89fRZ+LJspQg5oZ2FMfxXIIqE1Q5QT2Wp00WSpKu4fkcnnvRanZP/CiP6FSiPaUwLt4/xeHbJtlZLxWKtwqlldvZmQfxTTQO1+EG5DD+HZiBpzj/a5jDR/gKP+Bn6mFqL2WlXkTo6EisuQoDT6rzF9CAo98=</latexit>

1

(F(a)

F(b))

– 計算量 O(d)àO(d logd)– 実は、戻さずに最後まで周波数空間で考えてもよい(最後に議論します)– は要素ごとの積 (アダマール積)<latexit sha1_base64="mcx9x4Tek/5N7vEY72OD3MXky94=">AAAHZ3ichZXPTxNBFMcfoBTxR0ETQ+IFbSCemmkx0XgClUQCIaW1UEIJ2dnO1k23u5vdbaFt+g948ajGkyYejH+GF/8BD/wJxCMmXjz4dnabbTsP3Kadmfc+39f3ZmZnuGuZfsDY6cTk1JWr06mZa7PXb9y8lZ6bv73rOy1PF2XdsRyvwjVfWKYtyoEZWKLiekJrckvs8cbz0L/XFp5vOvaroOOKw6ZWt03D1LUATeWqU3OCo7kMyzL5LKqdXNzJQPwUnPmpZahCDRzQoQVNEGBDgH0LNPDxcwA5YOCi7RB6aPOwZ0q/gD7MoraFlEBCQ2sDf+s4OoitNo7DmL5U6/gvFn49VC7CEvvJvrJz9oN9Y2fs74WxejJGmEsHWx5phXuUfrNQ+vNfVRPbAF4nqksUHOnLawrAgCeyFhNrc6UlrFKP4re7785LT4tLvWX2mf3C+j6xU/YdK7Tbv/UvO6L4UUavocbAto2tDhmc4R6OBply9PWktR9nk/AnBHlCcB2C6xBcl+C6BHdMcMcEZxCcQXANgmsQ3BrBrRHcBsFtENwmwW0SXIXgKgS3T3D7BMcIjikcj9c33IfUuvJ4XSO/up5c7uKBXxD+Ju7YhKjKsUq5mKM5wkUWivQV0ifJMLcA6x9mBzaVDmdpwA8rEnufUFnynedoGdcNeyhlQam4cEHFJbTW5UoO04lVVWyNZJVotsZyGlZtx/nr6LPwZNlWiPWxHcVxvK5QRYIqKtQLedpkIC9pA8/n8NyLVnNw4kd5RKcS7cmHcfH+yY3fNmpnN5/NrWTzO48yq8/im2gG7sEDeIjxH8MqvMT5L2MOJryF9/Bh+iyVTt1NLUTo5ESsuQMjT+r+P7xLg1M=</latexit>

Holographic composition (3)l 性質:– Non-commutative: 方向を保存
a ? b 6= b ? a<latexit sha1_base64="b4z3f7MXT9/NusZ36TG5Psmu7tU=">AAAHnHichZXNbtNAEMenLeASPprCBQkJRUStOFWbgETFqYVWokqp0oSkqZoq8rrr1IrjGNtJm0R5AV6AAxISSBwQjwEHLnDj0EdAHIvEhQPjtSMn8bR1lOzOzO8/mfGu19w2Dddj7GRqeubS5SvK7NXEtes3bs4l52+V3Vbb0URJa5ktp8JVV5iGJUqe4ZmiYjtCbXJT7PDGMz++0xGOa7Ssl17XFvtNtW4ZuqGpHrpqyeVqU/UOud5XB1XXU52hyQepqiVeJSJ7LKwOask0W2LySsUnmXCShvDKt+ZnFqEKB9ACDdrQBAEWeDg3QQUXP3uQAQY2+vahjz4HZ4aMCxhAArVtpAQSKnob+FtHay/0Wmj7OV2p1vBfTPw6qEzBAvvJPrFT9o19Zr/YvzNz9WUOv5YujjzQCrs29/pO8e+FqiaOHhxGqnMUHOnze/JAh2XZi4G92dLjd6kF+Tu9N6fFJ4WF/iL7wH5jf+/ZCfuCHVqdP9rHbVF4K7MfoEbHsYOjBmm8w320hpVyjPWldxBWE/HHBHlMcF2C6xJcj+B6BHdEcEcEpxOcTnANgmsQ3CrBrRLcBsFtEFyO4HIEVyG4CsHtEtwuwTGCYzGOh+vr70NqXXm4rkE8vp5c7uJhXBDxJu7YiKhKO07ZWKMxxgUeinRjpEuSfm0e9j/KDn1x2r9LQ35UEfkHhMqUzzxHz6RuNEIp87GO82d0XERvXa7kKB1544rNsaoizeZETaOqrbB+DWMmnixbMWJ9YkdxtNdjVIGgCjFqTZ42achKWsfz2T/3gtUcnvhBHcGpREeyfl58/2Qm3zbxSTm7lHm4lN1+lF55Gr6JZuEu3IcHmP8xrMBzvP8lrOEdfIXv8EO5p6wpOeVFgE5PhZrbMHYp5f8hppkF</latexit>– Non-associative: 構造を保存(a ? b) ? c 6= a ? (b ? c)
– 構文構造を保存: たとえば “loves to eat”のベクトルはv“loves to eat” = vloves ? v“to eat” = vloves ? (vto ? veat )<latexit sha1_base64="COWYPVcsXmuAhlhz86G/Hn287Ho=">AAAHwHichZXfT9NQFMcPoA7nD4a+mPiyuEDghdxNE41PgJJIIAQ2ByOMkN5yuzXr2tKWwbb0H/Af8MEnTXww/hf64j/gA/+BxifFxBcfPL1t0209YMnovd/z+Z6d03t3y21Ddz3GzsbGJ65cvZaZvJ69cfPW7anc9J1t1zp2VFFVLcNyalxxhaGbourpniFqtiOUNjfEDm89C+I7HeG4umW+9Lq22G8rDVPXdFXxUDrI1efqbcVrcq2v+HXXU5x4yv35vBTysaL62bopjrIjhrnEMZRA9ecPcgW2wOSVTw+K0aAA0bVpTU/MQh0OwQIVjqENAkzwcGyAAi7+7UERGNio7UMfNQdHuowL8CGL3mOkBBIKqi3838DZXqSaOA9yutKt4rcY+HHQmYcZ9pV9YOfsC/vIvrO/F+bqyxxBLV2889Ar7IOpV/cqf/7rauPdg2biusTBkb68Jw80eCJ70bE3WypBl2qYv9N7fV55Wp7pz7J37Af295adsc/Yodn5rb7fEuU3MvshejS8d/CuQgGfcB9ncaUcY32p+lE1CX9KkKcE1yW4LsH1CK5HcCcEd0JwGsFpBNciuBbBLRHcEsGtEtwqwa0R3BrB1QiuRnC7BLdLcIzgWIrj0foG+5BaVx6taxhPryeXuziOCyLexh2bEHU5T1M21qgPcaFCkW6KdEkyqM3D/gfZWEvTwVOK+UFHovuEy5C/eY7KqG8wQjk3Ux1vXtBxBdWGXMlBOlHTjvWhqhLP+khNg66NqH4VYwaeLBspYmVkR3Gcr6SoMkGVU9RzedoUoCRpDc/n4NwLVzM+8cM6wlOJjpSCvPj+KY6+bdKD7dJC8eFCaetRYXE5ehNNwn14AHOY/zEswgt8/lWs4RN8g5/wK7OcaWaszFGIjo9FnrswdGV6/wAXXKe3</latexit><latexit sha1_base64="IwjFc5ntcnCxR18R5wzTfKSOCpI=">AAAIEXicjZVLb9NAEMcnLZASHm3pBYlLRNQHl2oTkHhISH1QiapV1aakTdVUie1uihUntuyN29TyF+DKgQMnkDggxAfghuCCxJlDPwLiWCQuHBivHSW1py2Okt2d+f0nM7vrXdUydEcwdpQaGLxw8VJ66HLmytVr14dHRm9sOGbb1nhJMw3TLquKww29xUtCFwYvWzZXmqrBN9XGfODfdLnt6GbrmehYfKep7LX0uq4pAk3VkY8Vl2ue61e9iuAHwqvVDNPlTlaYWa6IyUnfzzzOxhhJ+H624gjFjjtrtf+XZqZibmGeFhYj+v6d6kiOTTP5ZJOdfNTJQfSsmqODE1CBXTBBgzY0gUMLBPYNUMDBzzbkgYGFth3w0GZjT5d+Dj5kUNtGiiOhoLWBv3s42o6sLRwHMR2p1vBfDPzaqMzCOPvB3rNj9o19YD/Z31NjeTJGkEsHWzXUcqs6/OLm+p9zVU1sBTzvqc5QqEifXZOAOjyQtehYmyUtQZVaGN89fHW8/qg47k2wt+wX1veGHbGvWGHL/a29W+PF1zL6Lmrq2LrYapDDGfZw1M1URZ8nrX6UTY8/IMgDgusQXIfgDgnukOD2CW6f4OoEVye4BsE1CG6W4GYJbpHgFgluieCWCK5McGWC2yK4LYJjBMcSnBqtb7APqXVVo3UN/cn1VOUu7vo54W/iju0RFTlOUhbmqJ/gQgtFOgnSIckgN4H197NdW5IOZqnL9yt6dp9QGfKdV9ES1/V7KOVqouLVUypeR+ueXMl+umdNKpZPZNXTLMdy6letRPlr6DPwZFlJEAuxHaXieCFBFQmqmKCeyNMmBwVJ1/F8Ds69cDW7J36YR3gq0Z5CEBfvn3z8tkl2NgrT+bvThbV7uZm56CYagltwG6Yw/n2Ygac4/yXQUmOph6m51Hz6ZfpT+nP6S4gOpCLNGJx40t//AYLQx1A=</latexit>l これは (vloves ? vto ) ? veat とは異なる<latexit sha1_base64="kPHIxt1IBDXt0aaHSFY7+sIcoT0=">AAAHsnichZXNbtNAEMenLZASPprCBYlLRNSqXKJNqATi1AKVqFpFaULalKaKbHcTrDixZW/cJJZfgBfgwAkkDogrb8CFF+BQrnBBHIvEhQPjtaN8eNo6SnZ35vefzOyud1XL0B3B2MnM7Nyly1cS81eT167fuLmQWry165hdW+MVzTRMu6oqDjf0Dq8IXRi8atlcaasG31NbTwP/nsttRzc7L0Tf4odtpdnRG7qmCDTVU4WVmss1z/XrXk3wnvAM0+WO76drjlDsdHLKK0zfvx/5plxcEb5fT2VYlsknHe/kok4GoqdoLs4tQw2OwAQNutAGDh0Q2DdAAQc/B5ADBhbaDsFDm409Xfo5+JBEbRcpjoSC1hb+NnF0EFk7OA5iOlKt4b8Y+LVRmYYl9o19ZKfsK/vEfrF/Z8byZIwglz62aqjlVn3h9Z3y3wtVbWwFvBqpzlGoSJ9fk4AGPJK16FibJS1BlVoY3x28OS0/Li15y+w9+431vWMn7AtW2HH/aB92eOmtjH6Emga2LrYaZHCGPRwNM1XR50mrH2Uz4nsE2SO4PsH1CW5AcAOCOya4Y4JrEFyD4FoE1yK4dYJbJ7hNgtskuC2C2yK4KsFVCW6f4PYJjhEci3FqtL7BPqTWVY3WNfTH11OVu3jo54S/jTt2RNTkOE5ZmKM+wYUWinRipEOSQW4C6x9nh7Y4HczSkB9XjOw+oTLkO6+iZVo37qGUxVjFxTMqLqO1KVdynB5Z44rtiaxGmu2pnMZVhSh/DX0GniyFGLExtaNUHG/EqBJBlWLUM3naZCAv6Qaez8G5F67m8MQP8whPJdqTD+Li/ZObvm3ind18Nvcgm99Zzaw9iW6iebgL92AF4z+ENXiO81/BHD7Dd/gBPxOriZcJJaGF6OxMpLkNE0/C+A8DC6MC</latexit>

知識グラフでの使用(Nickel+ 2016)l 知識グラフ: 主語sと目的語oが関係rにあるかどうか– 例: s=“Obama”, o=“Hawaii”, r=“born in”
l そうなる確率:<latexit sha1_base64="1Xu0p+aJDOgRXOddj0zQnmGhPQQ=">AAAHsXichZXPbxJREMenrUrFH6V6MfFCJW0gMeRBTTQmTVq1iU1r0wJtaboV920fsGFhN7sLLSD/gP+AB0+aeDAe/RO8+A946FVPxmNNvHhw9u0ilJ3WJfDezHy+w8y+t2+5ZeiOy9jx2PjEhYuXIpOXo1euXrs+FZu+se2YTVsTW5ppmHaRq44w9IbYcnXXEEXLFmqdG2KH1x578Z2WsB3dbBTctiX262qloZd1TXXRVYo9s5KKVdVLdtK5a6aUmQVlJvNSKVSFq6aiC1HF0St1Nam0hNYVvZL9vBD/ZzhxxXFVO963zVSqFEuwNJNXPDzJBJMEBNeGOT0xBwocgAkaNKEOAhrg4twAFRz87EEGGFjo24cu+myc6TIuoAdR1DaREkio6K3hbwWtvcDbQNvL6Ui1hv9i4NdGZRxm2Vf2gZ2wL+wj+8H+nJmrK3N4tbRx5L5WWKWpV7fyv/+rquPoQnWgOkfBkT6/JxfK8ED2omNvlvR4XWp+/lbn9Un+YW62O8fesZ/Y31t2zD5jh43WL+39psi9kdkPUFPGsYWjBgm8w120+pVyjHWltxdUM+CPCPKI4NoE1ya4DsF1CO6Q4A4JrkxwZYKrEVyN4JYIbongVghuheBWCW6V4IoEVyS4XYLbJThGcCzE8WB9vX1IrSsP1tWPh9eTy13cjwsiXscdOyAUaYcpC2vUT3G+hyKdEOmQpFebi/0Ps31fmPbuUp8fVgz8PUJlyGeeo2dUNxyhlBuhjjfO6DiP3opcyWF64A0r1k5VNdCsjdQ0rFoP6tcwZuDJsh4ilkd2FEd7OUTlCCoXop7I0yYBWUmX8Xz2zj1/Nfsnvl+HfyrRkayXF98/mdG3TXiynU1n5tPZzXuJxUfBm2gSbsMdSGL++7AIT/H+b2ENn+AYvsH3yHxkN/Iiwn10fCzQ3IRTV6T2F3GCneU=</latexit>p( r (s, o) = 1|⇥) = (eTr (es ? eo ))– sとoの埋め込みベクトルのホログラフ合成に対するロジスティック回帰

知識グラフでの使用 (2)l WordnetおよびFreenet知識グラフでの、学習データにない関係の予測精度– 他の手法をはるかに超えて、きわめて高い精度で予測可能

Holographic CCG (2)l Hol-CCGのイメージ– 単語ベクトル自体を最適化して、合成して最終的に文Sのベクトルが得られるようにする

実際の学習の様子 “My sister loves to eat”
Phrase Category
Classifier
Span Existence
Discriminator“sister”“eat”
Word Category
Classifier“loves”“My”“to”

l 合成した結果ベクトルがそれぞれの句に正しく分類されるよう、逆伝播で最初の単語ベクトルを最適化
l 最終的には、文SとなればよいTransformerから始める場合
l 各単語の入力埋め込みとしてRoBERTaを使用

学習の目的関数
l 単語・句のベクトルをFFNNに通して３種類の確率を計算，誤差を逆伝搬– 𝑃_𝑤 (𝑖,𝑖+1): 単語に対するカテゴリ割当の確率分布(supertagging) -> ℒ_𝑤– 𝑃_𝑝 (𝑖,𝑗): スパン(句)に対するカテゴリ割当の確率分
布 -> ℒ_𝑝– 𝑃_𝑠 (𝑖,𝑗): スパン自体の存在確率-> ℒ_𝑠l 単語ベクトルを使うより、BERTの埋め込みを使う方が高性能：
単語埋め込みの最適化à「BERT埋め込みの変換」の最適化(計算にはRoBERTaを使用)

実験結果
l CCGBankというWall Street Journalのデータで評価
l 現在、ヒューリスティックな方法を抜いて世界最高性能

実際のベクトルの合成の様子

l 768次元のベクトル空間をPCAで3次元に可視化

文法に即した穴埋め
l 「句」のベクトルから、ランダムに単語に戻すことが可能 à 文法に準拠した穴埋めが可能に

CCGとλ計算
l CCG構文解析により、λ式による意味計算が可能になる
l ccg2lambda: Pascual+ (ACL2016), Tanaka+ (NLP2016)など

複素埋め込みとの関係
l 巡回相関は、複素埋め込み (Trouillon+, ICML 2016)と数学的に等価 (Hayashi+, ACL 2017)
à フーリエ変換して、すべて周波数空間で計算
してもよい
a?b=F

1

(F(a)

<latexit sha1_base64="kXDQVIxurV+fQFQ7UAgevufOBEc=">AAAHwHichZXNbtNAEMenLZASPprCBYmLRdQqORBtAhIICdQCRVStqjalbaq6RF5301pxYmO7aRPLL8ALcOAEEgfEW8CFF+DQNwBxgiJx4cB47ZAPT4ujZHdnfv/xzO5ml9um4XqMHY2Mjp05ey41fj594eKlyxOZySvrrrXv6GJNt0zLqXDNFabRFGue4ZmiYjtCa3BTbPD6o9C/0RKOa1jNZ17bFtsNbbdp1Axd89BUzahqS+i+Fiiq62mOIkc8UO6nfVXXTOVJ8Ny/WQxyadXCKOFLYnsu1uUDBX07lvdPkItj5NP5aibLCkw+SrJTjDtZiJ9la3JsGlTYAQt02IcGCGiCh30TNHDxswVFYGCjbRt8tDnYM6RfQABp1O4jJZDQ0FrH310cbcXWJo7DmK5U6/gWE78OKhWYYl/Ye3bMPrMP7Bv7c2IsX8YIc2ljyyOtsKsTL6+t/v6vqoGtB3s91SkKjvTpNXlQg7uyFgNrs6UlrFKP4rc6r45X75Wn/Gn2ln3H+t6wI/YJK2y2funvVkT5tYy+g5oati1sdcjiDPs46mbK0edLaxBn0+MPCfKQ4NoE1ya4DsF1CO6A4A4IrkZwNYKrE1yd4GYJbpbg5glunuAWCG6B4CoEVyG4TYLbJDhGcCzB8Xh9w31IrSuP1zXyJ9eTy13c9QvC38Ad2yNUOU5SNuZoDHCRhSLdBOmSZJibh/X3s11bkg5nqcv3K3r2gFCZ8j/P0TKs6/dQyuVExcsnVLyK1l25kv10z5pULA5k1dMsDuXUr1qK89fRZ+LJspQg5oZ2FMfxXIIqE1Q5QT2Wp00WSpKu4fkcnnvRanZP/CiP6FSiPaUwLt4/xeHbJtlZLxWKtwqlldvZmQfxTTQO1+EG5DD+HZiBpzj/a5jDR/gKP+Bn6mFqL2WlXkTo6EisuQoDT6rzF9CAo98=</latexit>

F(b))

l 入力を先にFFTで変換しておけば、複素共役＋単なる要素ごとの積でOK– ↵ = F(a), = F(b) とおけば、<latexit sha1_base64="XGuTGFCcD2SKOm7JBdAf1Um1CLE=">AAAHoXichZXPTxNBFMcfoC7WH4BeTLwQGwgkpJlWE40JCagYCYSUVqCkS8jOMgubbtvN7rZQNvsP+A948KTGg/HP8KJXjQf+BOMREy8efDu7TUvngdu0M/Pe5/v63szsDHcd2w8YOxkaHrl0+Yo2ejVz7fqNm2PjE7c2/WbLM8WG2XSaXoUbvnDshtgI7MARFdcTRp07YovXnsb+rbbwfLvZeBl0XLFTN/YbtmWbRoCm3fF5nddD3XDcAyOaD3XTcCafRzN6W5ihEc3O6XMZCXARKH4eze6OZ1mOyWdS7eTTThbSp9icGJkGHfagCSa0oA4CGhBg3wEDfPxUIQ8MXLTtQIg2D3u29AuIIIPaFlICCQOtNfzdx1E1tTZwHMf0pdrEf3Hw66FyEqbYD/aRnbIv7BP7yf6eGyuUMeJcOtjyRCvc3bFXd8p//quqYxvAQU91gYIjfXFNAVjwSNZiY22utMRVmkn89vHr0/Lj0lQ4zd6xX1jfW3bCPmOFjfZv88O6KL2R0fdQY2HbxtaELM5wiKNuphx9obRGaTY9/oggjwiuQ3AdgjsmuGOCOyS4Q4KzCM4iuBrB1QhukeAWCW6Z4JYJboXgVgiuQnAVgtsmuG2CYwTHFI6n6xvvQ2pdebquiV9dTy53cdcvCH8dd2yP0OVYpVzM0T7DJRaK9BXSJ8k4twDr72e7NpWOZ6nL9yt69ohQOfKd52gZ1PV7KGVRqbh4TsVltO7Lleyne1ZVsXomq55mdSCnftVamr+JPgdPljWFWBrYURzHSwpVIqiSQj2Tp00WCpK28HyOz71kNbsnfpJHcirRnkIcF++f/OBto3Y2C7n8/Vxh/UF24Ul6E43CXbgHMxj/ISzAC5z/DczhPXyFb/Bdy2rLWlErJejwUKq5DWcerfoPmB6Y2A==</latexit><latexit sha1_base64="kHvPO6maXBEDZboXMSgM1VapJf8=">AAAHq3ichZXNbtNAEMenLZASPprCBYlLRNSqHKg2AQmEhNQCBapWVZqQNm1dRV5nk1pxYst20iaWX4AX4MAJJA4I8RRcuCMOleABEMciceHAeO0oH54WV6l3//P7T2a8mzW3DN1xGTuemJw6d/5CYvpi8tLlK1dnUrPXthyzbWuipJmGaZe56ghDb4mSq7uGKFu2UJvcENu88SSIb3eE7ehm66XbtcR+U6239JquqS5KldRzT9FUI/3MX1A6QvNUX3Fc1ZZj7t9OPkorJtqD7J7Cm56iGtaB6vsoV003LSUuXNWvpDJskckrHR9ko0EGoitvzk7NgwJVMEGDNjRBQAtcHBuggoN/e5AFBhZq++ChZuNIl3EBPiTR20ZKIKGi2sD/dZztRWoL50FOR7o1/BYDPzY60zDHvrEP7IR9YR/ZT/b31FyezBHU0sU7D73Cqsy8ulH8819XE+8uHAxcZzg40mf35EINHshedOzNkkrQpRbm7/RenxQfFua8efaO/cL+3rJj9hk7bHV+a+83ReGNzF5FTw3vHbxrkMEn7OGsXynHmCdVP6pmwB8R5BHBdQmuS3A9gusR3CHBHRJcjeBqBNcguAbBLRPcMsGtEtwqwa0R3BrBlQmuTHA7BLdDcIzgWIzj0foG+5BaVx6taxiPryeXu7gfF0S8iTt2QChyHqcsrFEf4UKFIp0Y6ZBkUJuL/Q+zfS1OB0+pzw87BrpPuAz5m+eojPuGI5QzH+s4f0rHRVTrciWH6YEad6yPVDXwrI/VNOzaiOrXMGbgybIRI1bGdhTH+UqMKhBUIUY9ladNBnKSruH5HJx74Wr2T/ywjvBUoiO5IC++f7Ljb5v4YCu3mL27mNu8l1l6HL2JpuEm3IIFzH8fluAFPv8S1vAJvsJ3+JG4kygmdhNKiE5ORJ7rMHIlxD/app5Q</latexit>

F(a ? b) = ↵複素埋め込みとの関係 (2)F(a ? b) = ↵l ↵ = (↵1 , ↵2 , · · · , ↵D ), = ( 1 , 2 , · · · , D )とおくと、↵= (↵1 1 , ↵2 2 , · · · , ↵D D )<latexit sha1_base64="kHvPO6maXBEDZboXMSgM1VapJf8=">AAAHq3ichZXNbtNAEMenLZASPprCBYlLRNSqHKg2AQmEhNQCBapWVZqQNm1dRV5nk1pxYst20iaWX4AX4MAJJA4I8RRcuCMOleABEMciceHAeO0oH54WV6l3//P7T2a8mzW3DN1xGTuemJw6d/5CYvpi8tLlK1dnUrPXthyzbWuipJmGaZe56ghDb4mSq7uGKFu2UJvcENu88SSIb3eE7ehm66XbtcR+U6239JquqS5KldRzT9FUI/3MX1A6QvNUX3Fc1ZZj7t9OPkorJtqD7J7Cm56iGtaB6vsoV003LSUuXNWvpDJskckrHR9ko0EGoitvzk7NgwJVMEGDNjRBQAtcHBuggoN/e5AFBhZq++ChZuNIl3EBPiTR20ZKIKGi2sD/dZztRWoL50FOR7o1/BYDPzY60zDHvrEP7IR9YR/ZT/b31FyezBHU0sU7D73Cqsy8ulH8819XE+8uHAxcZzg40mf35EINHshedOzNkkrQpRbm7/RenxQfFua8efaO/cL+3rJj9hk7bHV+a+83ReGNzF5FTw3vHbxrkMEn7OGsXynHmCdVP6pmwB8R5BHBdQmuS3A9gusR3CHBHRJcjeBqBNcguAbBLRPcMsGtEtwqwa0R3BrBlQmuTHA7BLdDcIzgWIzj0foG+5BaVx6taxiPryeXu7gfF0S8iTt2QChyHqcsrFEf4UKFIp0Y6ZBkUJuL/Q+zfS1OB0+pzw87BrpPuAz5m+eojPuGI5QzH+s4f0rHRVTrciWH6YEad6yPVDXwrI/VNOzaiOrXMGbgybIRI1bGdhTH+UqMKhBUIUY9ladNBnKSruH5HJx74Wr2T/ywjvBUoiO5IC++f7Ljb5v4YCu3mL27mNu8l1l6HL2JpuEm3IIFzH8fluAFPv8S1vAJvsJ3+JG4kygmdhNKiE5ORJ7rMHIlxD/app5Q</latexit><latexit sha1_base64="xi40Yq+rl/w0QtbdJp6CaCavZDA=">AAAHwHichZXPbxJREMenrboVf5TqxcRLI2nTJoQ80ERjYtJWmti0aShIS1Masm95wIaFXdmFFgj/gP+AB0+aeDD+F3rxH/DQ/0DjSWvixYOzb5cssNN2Cbx5M5/vMLPv7VtuGbrtMHY6NT1z5eo1ZfZ65MbNW7fnovN39myz3dJEXjMNs1Xgqi0MvSnyju4YomC1hNrghtjn9edufL8jWrZuNl86XUscNdRqU6/omuqgqxQtFnmjX1QNq6YOni17RikZ941UvKiVTcceztMr8YgUcOFI3h1dXI4BLafplVI0xhJMXgthI+kbMfCvjDk/swRFKIMJGrShAQKa4KBtgAo2fg4hCQws9B1BH30ttHQZFzCACGrbSAkkVPTW8beKs0Pf28S5m9OWag3/xcBvC5ULsMi+sY/sjH1ln9gP9u/cXH2Zw62liyP3tMIqzb2+l/t7qaqBowO1QHWBgiN9cU8OVOCJ7EXH3izpcbvUvPyd3puz3NPsYn+JvWc/sb937JR9wQ6bnT/ah12RfSuzl1FTwbGDowYxvMN9nA0r5RjrS+/ArybgTwjyhOC6BNcluB7B9QjumOCOCa5CcBWCqxNcneDWCG6N4DYJbpPgtghui+AKBFcguAOCOyA4RnAsxHF/fd19SK0r99fVi4fXk8tdPIwLIt7AHRsQRTkPUxbWqI9xnoci7RBpk6Rbm4P9j7JDX5h279KQH1UE/gGhMuQzz9EzqRuNUMpMqOPMOR3n0FuVKzlKB96wYnusqkCzPVHTqGrHr1/DmIEny06I2JjYURznGyEqS1DZEJWWp00MUpKu4Pnsnnveag5PfK8O71SiIyk3L75/kpNvm7Cxl0okHyZSu49iq+v+m2gW7sMDWMb8j2EVXuD9z2MNn+E7/ILfyrpSU0zllYdOT/mauzB2Kb3/IbCkWw==</latexit><latexit sha1_base64="doaNKL/MYj2TfclW5d5oJ4N0B9w=">AAAH6nichZXPTxNBFMdfQS3WHxS8mOChsYFgYsi0mmhMTEBLIoGQUgRKKGl2ttOy6ba76S6FdrNXDx69GMNJowfjn+HFf8ADf4LRGyZePPh2dpv+mAcuKTvzfZ/v63s701lum4bjMnYaGxu/dPlKfOJq4tr1Gzcnk1PT24512NLFlm6ZVqvINUeYRlNsuYZriqLdElqDm2KH158H8Z22aDmG1Xzpdmyx39BqTaNq6JqLUjn5qmRhOHB7Jd7wSpppH2i+nypZFctNSIkLV/NTT1PzA6jEyhlfBsuZ+wkllo1iWYzpmMshmFzE5O6Vk2m2wOSVUgeZaJCG6MpbU+NzUIIKWKDDITRAQBNcHJuggYN/e5ABBjZq++Ch1sKRIeMCfEig9xApgYSGah3/13C2F6lNnAc5HenW8VtM/LTQmYJZ9p19ZmfsG/vCfrC/5+byZI6glg7eeegVdnny9e3NP/91NfDuwkHfdYGDI31xTy5U4bHsxcDebKkEXeph/nb37dnmk8KsN8c+sJ/Y33t2yr5ih832b/3ThiicyOwV9FTx3sa7Dml8wh7OepVyjHlS9aNq+vwxQR4TXIfgOgTXJbguwR0R3BHBVQmuSnB1gqsT3BLBLRHcCsGtENwqwa0SXJHgigS3S3C7BMcIjikcj9Y32IfUuvJoXcO4up5c7uJeXBDxBu7YPlGSc5WysUZjiAsVinQU0iHJoDYX+x9ke5pKB0+pxw86+rpPuEz5m+eojPoGI5Qzr3ScP6fjTVRrciUH6b6qOtaGqup71kZqGnStR/XrGDPxZFlXiOWRHcVxvqxQBYIqKFROnjZpyEq6iudzcO6Fq9k78cM6wlOJjmSDvPj+yYy+bdTBdnYh82Ahu/EwvfgsehNNwAzchXnM/wgW4QU+/y2s4VdsOjYTuxM342/i7+InIToWizy3YOiKf/wHJOy0uw==</latexit>

l 各複素数 ↵k , k のノルムを1にすれば、ベクトル合成は<latexit sha1_base64="RL4lAVh9uq6Fmt19yNvc5luWwYM=">AAAHdXichZXNbtNAEMenLTSlfDSBCxJCigiNOKCwCUggTi1QiapV1SakTdVUkdddp1Yc27KdpEmUF+AFOCAOIAFCPAYXXoBDHwFxLFIvHBivHTmJp62jZHdnfv/JzO56l9uG7nqMHU9Nz1y6PJuYuzJ/9dr1GwvJ1M1t12o5qiirlmE5Fa64wtBNUfZ0zxAV2xFKkxtihzde+v6dtnBc3TLfeF1b7DeVuqlruqp4aKolU1XFsA+VWuNhusqFh51aMsNyTD7peCcfdjIQPptWaiYLVTgAC1RoQRMEmOBh3wAFXPzsQR4Y2Gjbhz7aHOzp0i9gAPOobSElkFDQ2sDfOo72QquJYz+mK9Uq/ouBXweVaVhkv9g3dsJ+su/sN/t3Zqy+jOHn0sWWB1ph1xbe3i6dXqhqYuvBYaQ6R8GRPr8mDzR4JmvRsTZbWvwq1SB+u/fupPS8uNjPsk/sD9b3kR2zH1ih2f6rft4Sxfcy+gFqNGzb2KqQwRnu42iYKUdfX1oHYTYRf0SQRwTXJbguwfUIrkdwHYLrEJxGcBrBNQiuQXDLBLdMcKsEt0pwawS3RnAVgqsQ3C7B7RIcIzgW43i4vv4+pNaVh+sa+OPryeUuHvoF4W/ijo2IqhzHKRtz1Me4wEKRbox0SdLPzcP6R9mhLU77szTkRxWRfUCoDPnOc7RM6kY9lHIzVvHmGRWX0FqXKzlKR9a4Yn0sq0izPpHTqGojzF9Fn4Eny0aMWJnYURzHKzGqSFDFGPVKnjYZKEhaw/PZP/eC1Rye+EEewalEewp+XLx/8pO3TbyzXcjlH+cKW08ySy/Cm2gO7sA9eIDxn8ISvMb5L2MOHfgAX+Dr7GnibuJ+Ihug01Oh5haMPYlH/wEfPIgk</latexit>

周波数空間で、高次元角度ベクトルを次元毎に回転していることに相当する！(検討中)↵2

Im<latexit sha1_base64="fqf5aYEGr/T17updfz8OhpSv53s=">AAAHaXichZXPTxNBFMcfoBTxB1QvRC/EDcRTMy0mGg8GoiQSCCmtpSWUkJ1ltmy63W52t4W26T/gzZOJnDTxYPwzvPgPeOBPMBwx8eLBt7PbbNt54DbtzLz3+b6+tzP7lru25QeMnU9MTt24OZ2auTV7+87de3Pz6fu7frPlGaJkNO2mV+G6L2zLEaXACmxRcT2hN7gtyrz+KvSX28LzrabzNui44qCh1xzLtAw9QFO5ykWgH64czmssw+S1qE6y8USD+Mo301PLUIUjaIIBLWiAAAcCnNugg4+ffcgCAxdtB9BDm4czS/oF9GEWtS2kBBI6Wuv4W8PVfmx1cB3G9KXawH+x8euhchGW2E/2lV2yH+wb+8X+XhmrJ2OEuXRw5JFWuIdz7xaKf/6rauAYwHGiukbBkb6+pgBMeC5rsbA2V1rCKo0ofrv74bL4orDUW2af2QXW94mds+9YodP+bXzZEYUzGf0INSaObRwN0PAO93A1yJSjryet/TibhD8lyFOC6xBch+C6BNcluBOCOyE4k+BMgqsTXJ3g1ghujeA2CG6D4DYJbpPgKgRXIbg9gtsjOEZwTOF4vL/hOaT2lcf7GvnV/eTyFA/8gvA38MQmRFWuVcrFHK0RLrJQpK+QPkmGuQVY/zA7sKl0eJcG/LAisfcJlS2feY6Wcd2wh1LmlYrzV1RcRGtN7uQwnVhVxdZIVolmayynYdV2nL+BPhs7y7ZCrI+dKI7rdYUqEFRBoV7LbqNBTtIm9uew70W7Oej4UR5RV6I9uTAuvn+y428bdbKby2RXMrmdp9rqy/hNNAOP4DE8wfjPYBXe4P0vyd77Hj7C2fRFKp1aSD2M0MmJWPMARq6U9g9b2oPb</latexit>↵33<latexit sha1_base64="VupuRDr71c+uOtSKDn+Gc2NKAqE=">AAAHanichZXPTxNBFMcfoBTxBz+8aLgQK8RTMy0mGg8GoiQSCCmthRJKmp1ltmy63d3sbgtt03/AoxcPeNHEg/HP8OI/4IE/wegNEy8efDu7zbadB27Tzsx7n+/rezOzM9y1TD9g7HxsfOLa9cnU1I3pm7du35mZnZvf9Z2mp4uS7liOV+aaLyzTFqXADCxRdj2hNbgl9nj9RejfawnPNx37ddB2xWFDq9mmYepagKZyRbPcY626Up1NswyTz6LaycadNMRP3pmbWIYKHIEDOjShAQJsCLBvgQY+fg4gCwxctB1CF20e9kzpF9CDadQ2kRJIaGit428NRwex1cZxGNOXah3/xcKvh8pFWGLf2Wd2wb6xL+wH+3tprK6MEebSxpZHWuFWZ97cK/75r6qBbQDHieoKBUf66poCMOCprMXE2lxpCavUo/itzruL4rPCUneZfWQ/sb4P7Jx9xQrt1m/9044onMnoR6gxsG1hq0MaZ7iLo36mHH1dae3F2ST8KUGeElyb4NoE1yG4DsGdENwJwRkEZxBcneDqBLdGcGsEt0FwGwS3SXCbBFcmuDLB7RPcPsExgmMKx+P1Dfchta48XtfIr64nl7u47xeEv4E7NiEqcqxSLuZoDnGRhSJ9hfRJMswtwPoH2b5NpcNZ6vODisTeI1SWfOc5WkZ1gx5KmVcqzl9ScRGtNbmSg3RiVRVbQ1klmq2RnAZV23H+OvosPFm2FWJ9ZEdxHK8rVIGgCgr1Up42achJ2sDzOTz3otXsn/hRHtGpRHtyYVy8f7Kjt43a2c1lsiuZ3M7j9Orz+CaaggV4AI8w/hNYhVc4/yV5y7yFM3g/+Ss1n7qfWojQ8bFYcxeGntTDf27khE8=</latexit><latexit sha1_base64="FyOpe4/Zl1o19tvdogHPIcoJT5g=">AAAHanichZXPTxNBFMcfoBTxBz+8aLgQK8RTMy0mGg8GoiQSCCmthRJKmp1ltmy63d3sbgtt03/AoxcPeNHEg/HP8OI/4IE/wegNEy8efDu7zbadB27Tzsx7n+/rezOzM9y1TD9g7HxsfOLa9cnU1I3pm7du35mZnZvf9Z2mp4uS7liOV+aaLyzTFqXADCxRdj2hNbgl9nj9RejfawnPNx37ddB2xWFDq9mmYepagKZyRbPcY62aq86mWYbJZ1HtZONOGuIn78xNLEMFjsABHZrQAAE2BNi3QAMfPweQBQYu2g6hizYPe6b0C+jBNGqbSAkkNLTW8beGo4PYauM4jOlLtY7/YuHXQ+UiLLHv7DO7YN/YF/aD/b00VlfGCHNpY8sjrXCrM2/uFf/8V9XANoDjRHWFgiN9dU0BGPBU1mJiba60hFXqUfxW591F8VlhqbvMPrKfWN8Hds6+YoV267f+aUcUzmT0I9QY2Law1SGNM9zFUT9Tjr6utPbibBL+lCBPCa5NcG2C6xBch+BOCO6E4AyCMwiuTnB1glsjuDWC2yC4DYLbJLhNgisTXJng9glun+AYwTGF4/H6hvuQWlcer2vkV9eTy13c9wvC38AdmxAVOVYpF3M0h7jIQpG+QvokGeYWYP2DbN+m0uEs9flBRWLvESpLvvMcLaO6QQ+lzCsV5y+puIjWmlzJQTqxqoqtoawSzdZIToOq7Th/HX0WnizbCrE+sqM4jtcVqkBQBYV6KU+bNOQkbeD5HJ570Wr2T/woj+hUoj25MC7eP9nR20bt7OYy2ZVMbudxevV5fBNNwQI8gEcY/wmswiuc/5K8Zd7CGbyf/JWaT91PLUTo+FisuQtDT+rhP2flhE4=</latexit>↵1<latexit sha1_base64="wtNgN5WtYfx1bk2rUIdrHB/u/cI=">AAAHanichZXPTxNBFMcfoBTxBz+8aLgQK8RTMy0mGg8GoiQSCCmthRJKmp1ltmy63d3sbgtt03/AoxcPeNHEg/HP8OI/4IE/wegNEy8efDu7zbadB27Tzsx7n+/rezOzM9y1TD9g7HxsfOLa9cnU1I3pm7du35mZnZvf9Z2mp4uS7liOV+aaLyzTFqXADCxRdj2hNbgl9nj9RejfawnPNx37ddB2xWFDq9mmYepagKZyRbPcY62arc6mWYbJZ1HtZONOGuIn78xNLEMFjsABHZrQAAE2BNi3QAMfPweQBQYu2g6hizYPe6b0C+jBNGqbSAkkNLTW8beGo4PYauM4jOlLtY7/YuHXQ+UiLLHv7DO7YN/YF/aD/b00VlfGCHNpY8sjrXCrM2/uFf/8V9XANoDjRHWFgiN9dU0BGPBU1mJiba60hFXqUfxW591F8VlhqbvMPrKfWN8Hds6+YoV267f+aUcUzmT0I9QY2Law1SGNM9zFUT9Tjr6utPbibBL+lCBPCa5NcG2C6xBch+BOCO6E4AyCMwiuTnB1glsjuDWC2yC4DYLbJLhNgisTXJng9glun+AYwTGF4/H6hvuQWlcer2vkV9eTy13c9wvC38AdmxAVOVYpF3M0h7jIQpG+QvokGeYWYP2DbN+m0uEs9flBRWLvESpLvvMcLaO6QQ+lzCsV5y+puIjWmlzJQTqxqoqtoawSzdZIToOq7Th/HX0WnizbCrE+sqM4jtcVqkBQBYV6KU+bNOQkbeD5HJ570Wr2T/woj+hUoj25MC7eP9nR20bt7OYy2ZVMbudxevV5fBNNwQI8gEcY/wmswiuc/5K8Zd7CGbyf/JWaT91PLUTo+FisuQtDT+rhP2DmhE0=</latexit><latexit sha1_base64="hRQWbeDHQy7u2JBZaNeKUwNLYkw=">AAAHaXichZXNbtNAEMenLTSlfLSBSwWXCqsVp2gTkEAcUCuoRNWqShPSpGqqyOuugxUntmwnbRLlBbhxQqInkDggHoMLL8Chj4B6LBIXDozXjpxkp8VRsrszv/9kxrsec9e2/ICxs6npmWvXZ1NzN+Zv3rp9Z2ExfXfPd9qeIUqGYzteheu+sK2WKAVWYIuK6wm9yW1R5o2Xob/cEZ5vOa03QdcVh0293rJMy9ADNJWrXAR6LVtb1FiGyWtZnWTjiQbxlXfSM6tQhSNwwIA2NEFACwKc26CDj58DyAIDF22H0EebhzNL+gUMYB61baQEEjpaG/hbx9VBbG3hOozpS7WB/2Lj10PlMqywn+wru2A/2Df2i/29NFZfxghz6eLII61wawvvlop//qtq4hjA20R1hYIjfXVNAZjwTNZiYW2utIRVGlH8Tu/DRfF5YaW/yj6zc6zvEztj37HCVue38WVXFE5l9CPUmDh2cDRAwzvcx9UwU46+vrQO4mwS/oQgTwiuS3BdgusRXI/gjgnumOBMgjMJrkFwDYJbJ7h1gtskuE2C2yK4LYKrEFyF4PYJbp/gGMExhePx/obnkNpXHu9r5Ff3k8tTPPQLwt/EE5sQVblWKRdztMa4yEKRvkL6JBnmFmD9o+zQptLhXRryo4rEPiBUtnzmOVomdaMeSplXKs5fUnERrXW5k6N0YlUV22NZJZrtiZxGVTtx/gb6bOwsOwqxMXGiOK43FKpAUAWFeiW7jQY5SZvYn8O+F+3msONHeURdifbkwrj4/slOvm3UyV4uk32cye0+0dZexG+iOXgAD+ERxn8Ka/Aa739J9t738BFOZ89T6dRS6n6ETk/FmnswdqW0f03cg9k=</latexit>

Re<latexit sha1_base64="FEEQvNUDoT8prMWBv8yzkEkuk5w=">AAAHd3ichZXNbtNAEMenLTSlfDSlFyQOVESNeqrWAQnEAbWCSlStqjQhbaqmimx3nVpxbMt20iZWXoAX4MABgYRExWNw4QU49BEQxyIhJA6M146cZKfFUbK7M7//ZGZ3vau5lukHjJ1PTE5duz6dmbkxe/PW7Ttz2fm7u77T9nRe0R3L8aqa6nPLtHklMAOLV12Pqy3N4nta80Xk3+twzzcd+3XQdflhS23YpmHqaoCmenah5qA7Uoc11XKP1brSr2dzbIWJZ1HuKEknB8lTdOan8lCDI3BAhza0gIMNAfYtUMHHzwEowMBF2yGEaPOwZwo/hz7MoraNFEdCRWsTfxs4OkisNo6jmL5Q6/gvFn49VC7CEvvOztgF+8a+sB/s76WxQhEjyqWLrRZruVufe3Ov/Pu/qha2ARynqisUGtJX1xSAAU9FLSbW5gpLVKUex+/03l6Un5WWwjz7yH5ifR/YOfuKFdqdX/qnHV56J6IfocbAtoOtDjmc4RBHg0w19IXC2k+ySflTgjwluC7BdQmuR3A9gjshuBOCMwjOILgmwTUJbo3g1ghug+A2CG6T4DYJrkpwVYLbJ7h9gmMExyROS9Y32ofUumrJusZ+eT01sYsHfk74W7hjU6ImxjLlYo7mCBdbKNKXSJ8ko9wCrH+YHdhkOpqlAT+sSO19QmWJd15Dy7hu2EMpi1LFxUsqLqO1IVZymE6tsmJrJKtUszWW07BqO8lfR5+FJ8u2RKyP7SgNx+sSVSKokkS9FKdNDgqCNvB8js69eDUHJ36cR3wq0Z5CFBfvH2X8tpE7u4UV5dFKYedxbvV5chPNwH14CMsY/wmswiuc/wrm0IX38BnOpv9kHmTymeUYnZxINAsw8mSUf5c0iaQ=</latexit>

1<latexit sha1_base64="oIqk/AAKJlXPTPGQs45ID0WMq4I=">AAAHaXichZXNbtNAEMenLTSlfLSBSwWXCqsVp2gTkEAcUCuoRNWqShPSpGqqyOuugxUntmwnbRLlBbhxQqInkDggHoMLL8Chj4B6LBIXDozXjpxkp8VRsrszv/9kxrsec9e2/ICxs6npmWvXZ1NzN+Zv3rp9Z2ExfXfPd9qeIUqGYzteheu+sK2WKAVWYIuK6wm9yW1R5o2Xob/cEZ5vOa03QdcVh0293rJMy9ADNJWrXAR6LVdb1FiGyWtZnWTjiQbxlXfSM6tQhSNwwIA2NEFACwKc26CDj58DyAIDF22H0EebhzNL+gUMYB61baQEEjpaG/hbx9VBbG3hOozpS7WB/2Lj10PlMqywn+wru2A/2Df2i/29NFZfxghz6eLII61wawvvlop//qtq4hjA20R1hYIjfXVNAZjwTNZiYW2utIRVGlH8Tu/DRfF5YaW/yj6zc6zvEztj37HCVue38WVXFE5l9CPUmDh2cDRAwzvcx9UwU46+vrQO4mwS/oQgTwiuS3BdgusRXI/gjgnumOBMgjMJrkFwDYJbJ7h1gtskuE2C2yK4LYKrEFyF4PYJbp/gGMExhePx/obnkNpXHu9r5Ff3k8tTPPQLwt/EE5sQVblWKRdztMa4yEKRvkL6JBnmFmD9o+zQptLhXRryo4rEPiBUtnzmOVomdaMeSplXKs5fUnERrXW5k6N0YlUV22NZJZrtiZxGVTtx/gb6bOwsOwqxMXGiOK43FKpAUAWFeiW7jQY5SZvYn8O+F+3msONHeURdifbkwrj4/slOvm3UyV4uk32cye0+0dZexG+iOXgAD+ERxn8Ka/Aa739J9t738BFOZ89T6dRS6n6ETk/FmnswdqW0f1Tbg9o=</latexit>↵1<latexit sha1_base64="R/pFJBVmZhRq1iLs5XqXcZh6Rf8=">AAAHfnichZXNbtNAEMenLeBSPprCBcGlImrEhbIJSFQcUCuoRNWqShPSpmqqyOuuUyuObdlO2sSKxJkX4MAJJJAQB3gHLrwAhz4C4lgkLhwYrx05iafFUbK7M7//ZGZ3vcsd0/B8xk4mJqcuXLykTF+euXL12vXZzNyNbc9uu5qoaLZpu1WuesI0LFHxDd8UVccVaoubYoc3n4X+nY5wPcO2XvpdR+y31IZl6Iam+miqZ27XbHSH6qCmms6hWs/3a1z42NYzWbbI5DOf7uTjThbip2jPTeWgBgdggwZtaIEAC3zsm6CCh589yAMDB237EKDNxZ4h/QL6MIPaNlICCRWtTfxt4Ggvtlo4DmN6Uq3hv5j4dVE5DwvsB/vETtl39pn9ZH/PjBXIGGEuXWx5pBVOffb1rfKf/6pa2PpwmKjOUXCkz6/JBx2WZC0G1uZIS1ilFsXv9N6clp+UFoIce89+YX3v2An7hhVand/ahy1ReiujH6BGx7aDrQZZnOEAR4NMOfoCae3H2ST8MUEeE1yX4LoE1yO4HsEdEdwRwekEpxNck+CaBLdCcCsEt0ZwawS3TnDrBFcluCrB7RLcLsExgmMpjsfrG+5Dal15vK6RP72eXO7igV8Q/hbu2ISoyXGacjBHY4SLLBTppUiPJMPcfKx/mB3Y0nQ4SwN+WJHY+4TKlO88R8u4bthDKYupiotnVFxGa0Ou5DCdWNOKjZGsEs3GWE7Dqs04fw19Jp4smylidWxHcRyvpqgSQZVS1HN52mShIGkdz+fw3ItWc3DiR3lEpxLtKYRx8f7Jj9826c52YTH/cLGw9Si7/DS+iabhDtyFexj/MSzDC5z/CubwCj7CF/iqgJJT7isPInRyItbchJFHWfoHj1KLcw==</latexit>↵1 1

2<latexit sha1_base64="xs+p1MqYtZ007u4u4ZbVTyMLWx8=">AAAHfnichZXNbtNAEMenLeBSPprCBcGlImrEhbIJSFQcUCuoRNWqShPSpmqqyOuuUyuObdlO2sSKxJkX4MAJJJAQB3gHLrwAhz4C4lgkLhwYrx05iafFUbK7M7//ZGZ3vcsd0/B8xk4mJqcuXLykTF+euXL12vXZzNyNbc9uu5qoaLZpu1WuesI0LFHxDd8UVccVaoubYoc3n4X+nY5wPcO2XvpdR+y31IZl6Iam+miqZ27XbHSH6qCmms6hWi/0a1z42NYzWbbI5DOf7uTjThbip2jPTeWgBgdggwZtaIEAC3zsm6CCh589yAMDB237EKDNxZ4h/QL6MIPaNlICCRWtTfxt4Ggvtlo4DmN6Uq3hv5j4dVE5DwvsB/vETtl39pn9ZH/PjBXIGGEuXWx5pBVOffb1rfKf/6pa2PpwmKjOUXCkz6/JBx2WZC0G1uZIS1ilFsXv9N6clp+UFoIce89+YX3v2An7hhVand/ahy1ReiujH6BGx7aDrQZZnOEAR4NMOfoCae3H2ST8MUEeE1yX4LoE1yO4HsEdEdwRwekEpxNck+CaBLdCcCsEt0ZwawS3TnDrBFcluCrB7RLcLsExgmMpjsfrG+5Dal15vK6RP72eXO7igV8Q/hbu2ISoyXGacjBHY4SLLBTppUiPJMPcfKx/mB3Y0nQ4SwN+WJHY+4TKlO88R8u4bthDKYupiotnVFxGa0Ou5DCdWNOKjZGsEs3GWE7Dqs04fw19Jp4smylidWxHcRyvpqgSQZVS1HN52mShIGkdz+fw3ItWc3DiR3lEpxLtKYRx8f7Jj9826c52YTH/cLGw9Si7/DS+iabhDtyFexj/MSzDC5z/CubwCj7CF/iqgJJT7isPInRyItbchJFHWfoHnViLdQ==</latexit>↵2 2<latexit sha1_base64="ibwhdD28WYFfkzQV2EQIfdxPOgQ=">AAAHfnichZXNbtNAEMenLeBSPprCBcGlImrEhbBJkag4oFZQiapVlSakTdVUkdddp1Yc27KdtEkUiTMvwIETSCAhDvAOXHgBDn0ExLFIXDgwXjtyEk9bR8nuzvz+k5nd9S53TMPzGTuZmJy6dPmKMn115tr1GzdnU3O3tj275WqirNmm7Va46gnTsETZN3xTVBxXqE1uih3eeB74d9rC9QzbeuV3HLHfVOuWoRua6qOplrpbtdEdqHtV1XQO1dpiv8qFj20tlWZZJp/5ZCcXddIQPQV7bioDVTgAGzRoQRMEWOBj3wQVPPzsQQ4YOGjbhx7aXOwZ0i+gDzOobSElkFDR2sDfOo72IquF4yCmJ9Ua/ouJXxeV87DAfrLP7JT9YF/YL/bvzFg9GSPIpYMtD7XCqc2+uVP6e6Gqia0Ph7HqHAVH+vyafNBhSdZiYG2OtARVamH8dvftaelpcaGXYR/Yb6zvPTth37FCq/1H+7gliu9k9APU6Ni2sdUgjTPcw9EgU46+nrT2o2xi/pggjwmuQ3AdgusSXJfgjgjuiOB0gtMJrkFwDYJbIbgVglsjuDWCWye4dYKrEFyF4HYJbpfgGMGxBMej9Q32IbWuPFrX0J9cTy538cAvCH8Td2xMVOU4STmYozHChRaK9BKkR5JBbj7WP8wObEk6mKUBP6yI7X1CZcp3nqNlXDfsoZSFRMWFMyouobUuV3KYjq1JxcZIVrFmYyynYdVmlL+GPhNPls0EsTq2oziOVxNUkaCKCeqFPG3SkJe0judzcO6Fqzk48cM8wlOJ9uSDuHj/5MZvm2RnO5/NLWbzW4/Ty8+im2ga7sF9eIDxn8AyvMT5L2MOr+ETfIVvCigZ5aHyKEQnJyLNbRh5lKX/q16Ldw==</latexit>↵3 3

画像解析/生成への応用(NLP2023 優秀研究賞)

l 問題: 今の画像処理は、画像のキャプション文の文法的な構造を明示的にとらえていない– 「雰囲気NLP」– 工学的な適用を考えると危険性が大きい
l 認知的にみても、人間は画像のような外界情報と言語の構造を同時に学習している

画像解析/生成への応用
l Attention GANによる画像/キャプションの対応モデル

を拡張– Hol-CCGによる句構造ベクトルを、アテンションで画像と対応させる

実験結果
l 入力テキスト: “large yellow sphere is to the left frontof small blue cylinder, and large yellow sphere is tothe left behind of small green sphere”– 提案手法は、構文構造を利用して物体の位置関係(“to the left front of”) をより正確に再現

実験結果 (2)l 数値評価でも、ベースラインより性能を改善
l ただし、GANベースなので、Stable Diffusionベースにしないと実際の画像生成の品質は微妙(現在検討中)まとめl 潜在空間で二つのベクトルを合成する巡回相関(ホログラフ埋め込み)演算を再帰的に用いた、Holographic CCG 構文解析を提案– C&Cパーザを用いる中で世界最高精度– 完全ブラックボックスのTransformerと同程度の性能
l ルール毎に厖大なパラメータが必要だったCVG(Socher+ 2013)のパラメータを不要に
l 材料科学など、ベクトルを再帰的に合成する必要のある分野への応用も期待できる
l 複素埋め込みと等価＝周波数空間におけるdisentangling (因子分解)