DEIM Forum 2023 3b-8-2

代表アカウントによるオンデバイスプライバシー保護推薦システム
新田 洸平†

加藤誠††† 筑波大学大学院 情報学学位プログラム 〒 305–8550 茨城県つくば市春日 1-2†† 筑波大学 図書館情報メディア系 〒 305–8550 茨城県つくば市春日 1-2
E-mail: †s2221648@s.tsukuba.ac.jp, ††mpkato@acm.org
あらまし

本論文では，ユーザが自身のデータを推薦システムに提供したくない場合に，ユーザがデータを提供しな

くても推薦の恩恵を受けられ，システムを改変せずにユーザの持つデバイス上のみで興味に応じた結果を提示できる手法を提案する．具体的には，既にデータ提供しているユーザの特徴量を集約して特徴に応じて推薦結果を出力する
代表アカウントを作成，各ユーザの持つデバイスにおいてデータをシステムに提供せず，代表アカウントへの推薦結果
をユーザに応じてデバイス上で組み合わせることで興味に応じた推薦を実現する．実験では推薦システムの評価デー
タセットを用いて，既存手法と提案手法を比較検討し，代表アカウントを利用したオンデバイス推薦が性能にどのような影響を与えるかについて検証した．
キーワード オンデバイス推薦, ユーザモデリング, プライバシ, パーソナライゼーション, 推薦モデルに取り組む研究が多く提案されている．しかし，既存手法のオ

1 はじめに推薦システムにおいて，ユーザの興味に応じて提示するア
イテムのパーソナライゼーションは重要であり，ユーザ体験の満足度をより向上することにつながる．パーソナライゼーションを行うために，推薦システムは閲覧履歴や購買履歴といったユーザ行動ログデータを収集・利用する必要がある．これまで，
推薦システムのパーソナライゼーションに関する多くの研究が盛んに行われている．
しかし，従来の研究はユーザの個人情報やパーソナルデータに該当するようなデータを必要としており，ユーザの個人情報やパーソナルデータに該当するようなデータが含まれている．

GDPR 1 や CCPA 2 などをはじめとする個人情報に関する法律が世界各国で整備されており，個人情報やパーソナルデータに該当するようなデータの取り扱いにはますます規制がかかっている．加えて，スマートフォンを利用する多くのユーザが自身のデータを提供しない選択をしていることもわかっており，ア
プリ分析サービスを提供している Flurry 社 3 は全世界の iOS
ユーザにおけるオプトインの許可率が 15% 程度にとどまっていることを示している 4 ．法制度による規制やユーザがデータを提供しないことで安全性は向上するが，データが使えないことで推薦システムの精度の低下につながりユーザ満足度を下げることにつながる．こういった状況に対して，プライバシーを保護しつつユーザデータを利用して推薦システムの精度向上

ンデバイス推薦に関する研究の多くは，推薦システムを運用する事業者視点からの提案であり，サーバサイドの改変を必要とする．
そこで，本研究ではユーザがデータを提供しなくても推薦の恩恵を受けられ，システムを改変せずにユーザの持つデバイス
上のみで興味に応じた結果を提示できる手法を提案する．具体的には，既にデータ提供しているユーザの特徴量を集約して特徴に応じて推薦結果を出力する代表アカウントを作成，各ユー
ザの持つデバイスにおいてデータをシステムに提供せず，代表
アカウントへの推薦結果をユーザに応じてデバイス上で組み合わせることで興味に応じた推薦を実現する．
具体的な実現方法として既にデータ提供しているユーザの特徴量を集約して特徴に応じて推薦結果を出力する代表アカウン
トを作成，各ユーザの持つデバイスにおいてデータをシステムに提供せず，代表アカウントへの推薦結果をユーザに応じてデバイス上で組み合わせることで興味に応じた推薦を行った．
提案手法の有効性を検証するために推薦システム評価のデー
タセットである MovieLens を用いて実験を行った．提案手法
では，サーバサイドで利用可能なデータとデバイスサイドで利用可能なデータが分かれるため，実験ではデータセットをサー
バサイドとデバイスサイドに対応するように分けて実験を行った．性能比較実験として，データ利用範囲の違いによる性能の比較，システム改変の有無による性能の比較を行った．
本研究の貢献は以下のとおりである：（ 1 ） 推薦システムにおいてユーザが自身のデータを提供し1：https://gdpr-info.eu/
2：https://oag.ca.gov/privacy/ccpa
3：https://www.flurry.com/
4：https://www.flurry.com/blog/ios-14-5-opt-in-rate-att-restrictedapp-tracking-transparency-worldwide-us-daily-latest-update/

なくても推薦の恩恵を受けられる手法の提案を行った．
（ 2 ） 推薦システムにおいてサーバサイドの仕組みを変更することなくプライバシー保護を実現できる手法の提案を行った．
本論文の構成は次の通りである. 第 2 節では関連研究として

オンデバイス推薦の研究と，ユーザ特徴の集約の研究についてう．つまり，パラメータであってもサーバに送信することがな

述べる．第 3 節では提案手法である代表アカウントによるオン

いような手法である．

デバイス推薦の詳細について述べる．第 4 節ではデータセット

このようなオンデバイス機械学習モデルを用いた研究が，情や比較するベースライン，評価指標などの実験設定について述報推薦の文脈においても研究が行われるようになってきていべる．第 5 節では実験結果を示し考察について述べる．第 6 節

る [14] [15] [16] [17] [18] [19] [20] [21] [22]. Han らは，モバイル

では本論文の結論と今後の課題を述べる．

デバイス上で行われる E コマースサービスのシーケンシャル
推薦をアイテム候補とモデルをデバイスに送信して，デバイス

2 関連研究
本節では，関連研究について述べる．関連研究としてプライバシー保護推薦システムの研究，ユーザ特徴に注目した推薦シ
ステムの研究という２つのトピックについてそれぞれ述べる．

2. 1 プライバシー保護推薦システム

上のみで行動ログデータを利用することで，データやパラメー
タを外部に漏らすことなく推薦する手法の提案を行なっている [16]. Xu らは，モバイルデバイスにおける文字入力のパー
ソナライズにおける予測モデルをオンデバイスで学習する手法の提案を行なっている [21]. Epasto らは，プライバシー保護を目的としてソーシャルネットワークを利用したオンデバイス推

プライバシー保護推薦システムの関連研究について述べる．

薦システム手法の提案を行っている [19]. また他にも関連した

プライバシーに関する法制度の整備やユーザのデータ提供の拒

オンデバイス手法の研究として，モバイルデバイスでショート

否の増加などの課題から，プライバシー保護を目的とした推薦メッセージの類似検索を手法の研究 [23]，デバイス上の類似文システムの研究が盛んに行われている．プライバシー保護に関

検索タスクにおける文の埋め込みを精度をなるべく落とさず軽する研究として連合学習を用いた推薦の研究，オンデバイスな量化する手法の研究 [24] などがある．

推薦の研究について述べる．

さらに，ユーザサイド検索・ユーザサイド推薦と呼ばれる手

2. 1. 1 連合学習による推薦法がいくつかある [25] [26] が，これらの研究もサーバサイドに

連合学習 [1] [2] とは，クライアントのデータをサーバに送信

対してデータやパラメータの送信を行わず，デバイス上のみですることなく，クライアントにおけるモデルのパラメータのみ

モデルの構築・学習やデータの処理を行うことから，オンデバをサーバに送信することで，サーバのモデルを更新して学習を

イス推薦手法と問題設定を共有しており強く関連する．

行うような機械学習手法の一つである．データを直接第三者に本研究における提案手法は，オンデバイス推薦の手法の一つ提供する必要がないためユーザの観点からはプライバシー保護として位置付けられる．既存研究と提案手法の違いは，サーバにつながり，サーバの観点からは個人情報やパーソナルデータの改変が不要であるという点である．既存手法は，サーバサイを保持するリスクなく安全にモデルの更新ができる．また，プドの観点から取り組まれており，サーバにおけるモデルをデバ

ライバシー保護という観点以外にも，エッジコンピューティン

イス上でいかに利用するかという点に焦点が当たっている．一

グの観点から通信の効率化などの側面もある．これらのことか方で，提案手法ではサーバサイドの改変は不要である．Sato にら，連合学習の研究は近年盛んに行われており [3] [4] [5] [6]，特よるオンデバイス推薦の研究 [25] は，完全にオンデバイスな推に，情報推薦や情報検索の文脈においても研究が行われるよう

薦手法の研究ではあるが，公平性を担保するような手法でありになってきている [7] [8] [9] [10] [11] [12]．

目的が異なっており，アイテムを入力としてアイテムを出力す

これらの連合学習による推薦と提案手法の違いは，提案手法においてサーバの改変が不要であるという点である．連合学習による推薦手法は，サーバサイドの観点から取り組まれており，サーバにおけるグローバルモデルをいかに更新するかということを前提としている．一方で，提案手法では，既に実装されているモデルの出力から代表アカウントを生成し，ユーザサイド
であるデバイス上にある推薦モデルによって推薦を行うため，
サーバサイドの改変は不要である．

2. 1. 2 オンデバイス推薦
オンデバイスとは，ユーザが持つスマートフォンやデスクトップコンピュータなどのデバイス上で行われる処理のことである．連合学習と同様に，プライバシーにおけるメリットやオ
フラインでも機械学習モデルを利用できるなどのメリットがあり，特に，オンデバイス機械学習モデルの研究が近年盛んに行われている [13]．連合学習との違いとして，オンデバイス機械
学習モデルはサーバからモデルを一方向で受け取ってモデルの学習を行うもしくは完全にデバイス上のみでモデルの学習を行る推薦であるという点で問題設定が異なる．

2. 2 ユーザ特徴に注目した推薦システム
ユーザ特徴に注目した推薦システムの関連研究について述べる．ユーザの興味は１つではなくさまざまな興味を持つ．また，
時間や場所，これまでの消費アイテムなどといったコンテキス
トに応じて興味は時間変化する．そのため，その時々のユーザの興味に応じた推薦結果を提示することが重要であり，ユーザの特徴に注目してその時々の興味をいかに捉えるかが重要である．そこで，ユーザの特徴や興味をモデル化する研究が盛んに行われている [27] [28] [29] [30]．ユーザの行動ログから特徴量生成モデルによってユーザの特徴をモデル化することで，ユーザの特徴をより詳細に捉えて精度良く推薦を行うことができる．
これらのユーザ特徴に注目した推薦システムと提案手法の違いは，提案手法においてサーバにユーザ自身のデータ送信が不要であるという点である．既存研究では，ユーザ自身のデータをサーバに送る必要があり，送信されたデータを利用することでユーザ特徴を捉えようとしている．一方，本研究ではユーザデバイスサイド

サーバサイド
⾏動ログ
データ

ユーザ

アイテム

送信

クリック/評価

…

アイテム

変換

Account 1

⼊⼒

代表アカウ
ントの作成

1

オンデバイス
推薦モデル※新たなベクトルは作らず
既存のユーザを選択する

Account 2

出⼒
2

⼊⼒

3

Account 3

異なるユーザ特徴を持つアカウント
各アカウントはアイテムとアイテムに対する観測値を出⼒

図1

提⽰
推薦結果

評価値⾏列

代表アカウント

新規ユーザ
クリック/評価

送信

Items 1

Items 2Items 3…

…

…

代表アカウントによるオンデバイスプライバシー保護推薦システムの構成がサーバにデータを送信しない場合を想定しているため，ある行列 ri,j ∈ R が与えられる．また，各ユーザの特徴量を x とユーザの興味を他のユーザの興味から再現する必要があり既存する．

研究とは異なる．

本研究では，サーバとデバイスで利用可能なデータが異なる．
想定として，サーバではサーバに対してデータ提供を許可した

3 提案手法本節では提案手法について述べる．2 節で述べたように，推薦システムにおけるプライバシーを実現するために，2. 1 のプ
ライバシー保護推薦システムの研究において 2. 1. 1 の連合学習による推薦，2. 1. 2 のオンデバイス推薦ではサーバの改変を必要としている．また，2. 2 のユーザ特徴に注目した推薦システ
ムでは，ユーザ自身のデータをサーバに送信する必要がある．
そこで，本研究では，ユーザが自身のデータをサーバに提供しなくても推薦の恩恵を受けられ，システムを改変せずにユーザの持つデバイス上のみで興味に応じた結果を提示できるシステ
ムを提案する．

3. 1 提案システムの概要
提案システムの概要について述べる．提案システムにおいて，（１）ユーザのデータをデバイスからサーバに送信しない，（２）
サーバの推薦モデル自体を改変しない，という２つの要件を設定する．これら２つの要件を達成するために，代表アカウント
モデル，オンデバイス推薦モデルを含むプライバシー保護推薦システムを提案する．提案システムの全体構成図を図 3 に示す．

3. 2 問 題 設 定

ユーザのデータのみが利用可能であり，デバイスではデバイスを利用しているユーザ自身のデータのみが利用可能である．ここで，サーバにおけるユーザ集合を U S = {uS1 , ..., uSn }，サーバ
Sにおけるアイテム集合を V S = {v1S , ..., vm}，サーバにおける
S∈ RS とする．また，デバイスにおけるユーザ
評価行列を ri,jD
集合を U D = {uD
1 , ..., un }，デバイスにおけるアイテム集合をD
D∈ RD とV D = {v1D , ..., vm}，デバイスにおける評価行列を ri,jする．デバイスにおける評価行列は，デバイスを利用している
ユーザのデータにのみアクセスできるため，1 × m となる．
最終的な出力として，システムはユーザに対して推薦アイテ
ムの順位付けされたリストを出力する．

3. 3 代表アカウントモデル
代表アカウントモデルについて述べる．代表アカウントモデ
ルの目的は，サーバに送信されたユーザのアイテムに対する行
動ログデータから多くのユーザの興味をよりカバーするような特徴を持つユーザを選択することである．選択したユーザの特徴を用いることで，データ提供した引用なユーザに対しても，他のユーザの特徴とその特徴に対する推薦結果から，興味に応じた推薦を再現するためである．
代表アカウントモデルは，サーバにおけるユーザ，アイテム，

推薦システムを利用するユーザ u のアイテム v に対する評

行動ログを入力として，複数のアカウントと各アカウントに紐価を r とする．ここで，，推薦システムに対する入力としてユー

づく推薦アイテムを出力する．本研究における代表アカウント

ザ集合 U = {u1 , ..., un }, アイテム集合 V = {v1 , ..., vm }，評価モデルは 3 段階で構成される．
（ 1 ） 全てのユーザのアイテムに対する行動ログデータから

まず，全ての代表アカウントの中からユーザの興味に適合す

ユーザ特徴量を生成（ 2 ） ユーザ特徴量から代表となるような特徴量を複数選択

るアカウントを選択する．選択方法として，Oosterhuis と de（ 3 ） 選択した特徴量と近似するようなユーザを選択してア

Rijke によって提案されたインターリービング手法の一つであカウントに割り当て

る Pairwise Preference Multileaving [31] を用いる．代表アカ

以上の操作は，ユーザ・アイテム評価データを提案システムにウントをランキングアルゴリズムと捉えて，代表アカウントに入力するだけであり，サーバにおいて機能やモデルの改変をよる出力を交互に配置してランキングを生成する．配置された

行っていない．

ランキングに対してデバイス上の学習データをクリックと捉え

まず，ユーザ特徴量を生成するために，ユーザのアイテムて，ユーザに対してどの代表アカウントが良いかを算出して重に対する行動ログを行列として，特異値分解（Singular Value

み付けを行う．予測時には，より重みの大きい代表アカウント

Decomposition, SVD）を行い，サーバサイドにおける全てのの出力から優先的にユーザに対して出力するようにランキング

ユーザの特徴量を生成する．評価値行列 R に対する特異値分を生成する．

解を式 1 に示す：

Rn×m = PT
n×k Qk×m

4 実験設定(1)
本節では実験設定について述べる．本研究では，ユーザが自

ここで，P はユーザの潜在因子を表す行列，Q はアイテムの潜身のデータをサーバに提供しなくても推薦の恩恵を受けられ，在因子を表す行列であり，n はユーザ数,m はアイテム数，k はシステムを改変せずにユーザの持つデバイス上のみで興味に応

特徴量となる因子の数を表す．また，未知のアイテムに対するじた結果を提示できるシステムを提案し，ユーザのデータをデユーザの予測評価値を式 2 で求める：

バイスからサーバに送信しないこと，サーバの推薦モデル自体

r′nm = pT
n qm

(2)

を改変しないことという２つの要件を設定した．要件を達成するために提案した代表アカウントモデル，オンデバイス推薦モ

次に，代表となるような特徴量を選択するために k-medois

デルを含む提案システムについて実験を通して性能評価を行う．

法を用いて，式 1 で求めたユーザ特徴量 P に対してクラスタ

既存の推薦システムの実験では，データセットを全て利用可能

リングを行い，各クラスタの重心となる特徴量を取得する．式であるが，本研究ではデータ利用に制約をかけるため，既存手3 に示す.

法を性能で上回ることはないと想定される．そのため，本研究X

arg minx∈Xid(x, y)(3)

y∈(Xi −{x})においては既存手法に対して提案手法の性能をいかに近づけられるかという観点で実験を行う．

ここで，Xi はユーザ特徴のクラスタであり，x はユーザ特徴

本研究におけるリサーチクエスチョンは次の通りである.

量，d(x, y) はデータ間の非類似度を表す．k-medois 法によっ

（RQ）提案手法は既存の推薦手法に対してどの程度パフォーマて選択した特徴量と最も近似するユーザの特徴量をアカウント

ンスを近づけられるか？

として選択し，この操作をクラスタ数に応じて繰り返すことで，
表1

代表アカウントとする．

データセットの統計

そして，求めた代表アカウントに式 2 で求めた予測評価値を

Dataset

Users

Items

Actions

対応づけることで各代表アカウントに対してアイテムの推薦をMovieLens 1M

6,040

3,900

1,000,209行う．代表アカウントに対する推薦アイテムのみを利用することで，デバイスにおけるユーザへの推薦を可能とする．

4. 1 データセット
3. 4 オンデバイス推薦モデル

データセットについて述べる．提案モデルの性能を評価す

オンデバイス推薦モデルについて述べる．オンデバイス推薦

るために推薦システムのデータセットである MovieLens 1M

モデルの目的は，複数の代表アカウントの中からをユーザの興Dataset 5 を用いた．MovieLens 1M Dataset の統計情報を表 1

味に適合するアカウントを選択して，選択したアカウントの出に示す．提案システムでは，サーバサイドとデバイスサイドで力結果をユーザの興味に適合するように混合し並べて出力する

利用可能なデータが分かれている．また，一般的な推薦システことである．本研究において注目しているユーザは，サーバにムの実験では評価やクリックなどの行動データを軸に学習デー

対してデータを送っておらず，推薦システムの恩恵を受けられタとテストデータを分割するが，本研究ではユーザを軸にサーない．そのため，代表アカウントとデバイス上のデータを利用

バサイドのユーザ，デバイスサイドのユーザという設定で分割することで興味に応じた推薦を行う．

する．そのため，まず，データセットにおけるユーザをサーバ

オンデバイス推薦モデルは２段階で構成される．

サイドとデバイスサイドそれぞれ 5 : 5 の割合で分割する．次（ 1 ） 複数の代表アカウントの中でユーザの興味により応じに，分割したデバイスサイドのユーザに対応する行動データをた出力を得られそうなアカウントの選択

ユーザごとに学習とテストそれぞれ 5 : 5 の割合で分割して実（ 2 ） 選択したいくつかのアカウントの出力をユーザの興味に応じてランキングの生成

5：https://grouplens.org/datasets/movielens/1m/

表 2 Train/Test の統計

ServerDevice

Train

Train

Test

Dataset

Users

Items

Actions

Users

Items

Actions

Users

Items

Actions

MovieLens 1M

3,020

3,616

491,281

3,020

3,440

253,743

3,020

3,525

255,185

験に用いる．サーバサイドに該当するユーザに対応する行動
データは全てサーバサイドのモデルの学習に用いる．分割結果
を表 2 に示す．

4. 3 ベースライン
ベースラインについて述べる．提案手法の比較手法となる
ベースラインは， SVD による推薦を用いる．ベースライン手法では，既存研究における一般的な推薦システムにおける実験

4. 2 評 価 指 標
評価指標について述べる．まず，サーバサイドの性能を測定するために，ベースラインの設定に対して行う評価の指標として推薦システムの評価に一般に用いられる MAE（Mean

Absolute Error）と RMSE（Root-Mean-Square Error）を用いる．MAE を式 4， RMSE を式 5 にそれぞれ示す．

1X
MAE =
|ŷi − yi |n i=1を設けない．つまり，サーバとデバイスで分けた区別は関係なく，単に学習データとテストデータで分けて学習と評価を行う
こととなり，表 2 における Server Train と Device Train で学習してDevice Test によって評価することとなる．データ

セットにおける評価値は疎であることから，学習データに出現

n

v
u
n
u1 X
(ŷi − yi )2
RMSE = tn i=1と同じ設定にするために，学習において利用するデータの制約(4)

しないユーザとアイテムの予測評価値が多く存在するが，この場合は平均評価値を用いる．
また，ベースライン手法の性能について参考として以下の表(5)3 にベースライン手法に対して RMSE, MAE によって性能評価を行った結果を示す．ベースライン手法が一般的な推薦シス

ここで， ŷi はモデルによる予測評価値， yi は正解である実際

テムにおける性能であると考えることができ，ベースラインのの評価値， n は評価対象となるテストデータ数，つまり評価対性能に対して提案手法がどの程度性能を近づけられるかを明ら象となるユーザ数であるである．MAE と RMSE はどちらもかにすることが実験の要点となる．

予測評価値と実際の評価値の誤差をデータ数で平均しているた

表3

め，値がより小さいほどモデルの性能が良いことが示される．

ベースラインにおける RMSE, MAE

Model

RMSE

MAE

Baseline

0.8436

0.6687

次 に ，デ バ イ ス サ イ ド の ユ ー ザ に 対 す る 最 終 的 な 推
薦 結 果 の 評 価 指 標 と し て MRR(Mean reciprocal rank) とnDCG(Normalized discounted cumulative gain) を 用 い る ．
RR を式 6，MRR を式 7，DCG を式 8,nDCG を式 9 にそれぞれ示す．

RRu =MRR(U ) =DCGu =

max⟨i,v⟩∈Ru

relu (v)i

RR(u1 ) + ... + RR(un )|U |X
2relu (v)⟨i,v⟩∈Ru

DCGu
nDCGu =
IDCGu

log2 (i + 1)

(6)
(7)

5 実験結果と考察
実験結果と考察について述べる．表 4 に実験結果を示す．@Kとなっている数字は上位 K 件を評価したことを表す．
表 4 の実験結果より，ベースライン手法の MRR, nDCG の
スコアがいずれ評価対象数においても提案手法より大きく上(8)回っており，提案手法がベースラインよりも性能が低いことが
わかる．

(9)

リサーチクエスチョンとして，提案手法は既存の推薦手法に対してどの程度パフォーマンスを近づけられるか？という問いを立てたが，一般的な推薦モデルであるベースライン手法をか

ここで，u ∈ U は評価対象のユーザ,⟨i, v⟩ ∈ Ru はユーザに対する推薦アイテム v と順位 i のペア，relu (v) はユーザに対するアイテムの適合性である．MRR はユーザごとの Reciprocal

rank を平均した値となる．nDCG はテストデータから算出した理想的な DCG と評価対象となるユーザへの推薦結果の適合性から算出した DCG によって算出した値となる．本研究では，

Burges らによって提案された Microsoft バージョンの nDCGを用いる [32]．

なり下回る結果となり，ほぼ近づけられなかったことがわかる．
考察として，提案手法は利用可能なデータに制限があり，制限なくデータを利用できるベースラインよりも低いことは想定したため，妥当であると考えられる．また，デバイス上でのランキング生成において，利用可能なデータをより多く使ったり，データに基づいて単純なランキング生成と重み付けだけでなく学習をおこなったりする必要があると考えられる．

表4

Model

MRR@1

ベースラインと提案手法の実験結果

MRR@30

MRR@50nDCG@1nDCG@30

nDCG@50

Baseline

0.83510.87630.87640.83510.82440.8075

Proposal

0.09970.22890.22890.02060.30330.3033

6 まとめと今後の課題
本論文では，ユーザが自身のデータを推薦システムに提供したくない場合に，ユーザがデータを提供しなくても推薦の恩恵を受けられ，システムを改変せずにユーザの持つデバイス上のみで興味に応じた結果を提示できる手法を提案した．具体的には，既にデータ提供しているユーザの特徴量を集約して特徴に[8]

応じて推薦結果を出力する代表アカウントを作成，各ユーザの持つデバイスにおいてデータをシステムに提供せず，代表アカウントへの推薦結果をユーザに応じてデバイス上で組み合わせ[9]ることで興味に応じた推薦を実現した．実験では推薦システムの評価データセットを用いて，既存手法と提案手法を比較検討し，代表アカウントを利用したオンデバイス推薦が性能にどのような影響を与えるかについて検証した．実験結果として，提案手法がベースラインよりも性能が低いことが性能評価実験か[10]

ら明らかとなった．
今後の課題として，代表アカウントモデルがよりユーザを表現できるような改善やオンデバイス推薦システムのユーザの興[11]

味により応じた結果を提示できるような改善，複数ドメインのデータセットを用いた実験による性能検証などが考えられる．
また，コールドスタート問題への対策やシーケンシャル推薦へ[12]の対応も考えられる．
謝辞 本研究は JSPS 科研費 21H03775 の助成を受けたもの[13]です．ここに記して謝意を表します．
文

献[1] Qiang Yang, Yang Liu, Yong Cheng, Yan Kang, Tianjian
Chen, and Han Yu. Federated Learning. Synthesis Lectures
on Artiﬁcial Intelligence and Machine Learning. Morgan &Claypool Publishers, 2019.
[2] H. Brendan McMahan, Eider Moore, Daniel Ramage, SethHampson, and Blaise Agüera y Arcas. Communicationeﬃcient learning of deep networks from decentralized data.
2016.
[3] M. G. Sarwar Murshed, Christopher Murphy, Daqing Hou,
Nazar Khan, Ganesh Ananthanarayanan, and Faraz Hussain. Machine learning at the network edge: A survey. ACM
Comput. Surv., 54(8), oct 2021.
[4] Jie Zhang, Zhihao Qu, Chenxi Chen, Haozhao Wang,
Yufeng Zhan, Baoliu Ye, and Song Guo. Edge learning:
The enabling technology for distributed big data analytics
in the edge. ACM Comput. Surv., 54(7), jul 2021.
[5] Paolo Bellavista, Luca Foschini, and Alessio Mora. Decentralised learning in federated deployment environments: A
system-level survey. ACM Comput. Surv., 54(1), feb 2021.
[6] Sin Kit Lo, Qinghua Lu, Chen Wang, Hye-Young Paik, andLiming Zhu. A systematic literature review on federated
machine learning: From a software engineering perspective.
ACM Comput. Surv., 54(5), may 2021.
[7] Matthias Paulik, Matt Seigel, Henry Mason, Dominic

[14]

[15]

[16]

[17]

[18]

Telaar, Joris Kluivers, Rogier van Dalen, Chi Wai Lau, Luke
Carlson, Filip Granqvist, Chris Vandevelde, Sudeep Agarwal, Julien Freudiger, Andrew Byde, Abhishek Bhowmick,
Gaurav Kapoor, Si Beaumont, Áine Cahill, Dominic
Hughes, Omid Javidbakht, Fei Dong, Rehan Rishi, andStanley Hung. Federated evaluation and tuning for ondevice personalization: System design & applications,2021, 2102.08503. https://arxiv.org/abs/2102.08503, (accessed 2023-1-11).
Jialiang Han and Yun Ma. c3 drec: Cloud-client cooperative deep learning for temporal recommendation in the
post-gdpr era. arXiv.org e-Print archive, 2021, 2101.05641.
https://arxiv.org/abs/2101.05641, (accessed 2023-1-11).
Shuchang Liu, Shuyuan Xu, Wenhui Yu, Zuohui Fu,
Yongfeng Zhang, and Amelie Marian. Fedct: Federated
collaborative transfer for recommendation. In Proceedingsof the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval, SIGIR’21, page 716–725, New York, NY, USA, 2021. Association
for Computing Machinery.
Qinyong Wang, Hongzhi Yin, Tong Chen, Junliang Yu,
Alexander Zhou, and Xiangliang Zhang. Fast-adapting
and privacy-preserving federated recommender system. The
VLDB Journal, 31(5):877–896, oct 2021.
Ben Tan, Bo Liu, Vincent Zheng, and Qiang Yang. A federated recommender system for online services. In Proceedingsof the 14th ACM Conference on Recommender Systems,
RecSys ’20, page 579–581, New York, NY, USA, 2020. Association for Computing Machinery.
Liu Yang, Ben Tan, Vincent W. Zheng, Kai Chen, andQiang Yang. Federated Recommendation Systems, pages
225–239. Springer International Publishing, Cham, 2020.
Sauptik Dhar, Junyao Guo, Jiayi (Jason) Liu, Samarth Tripathi, Unmesh Kurup, and Mohak Shah. A survey of ondevice machine learning: An algorithms and learning theory
perspective. ACM Trans. Internet Things, 2(3), jul 2021.
Cong Wang, Yifeng Zheng, Jinghua Jiang, and Kui Ren. Toward privacy-preserving personalized recommendation services. Engineering, 4(1):21–28, 2018. Cybersecurity.
Renjie Gu, Chaoyue Niu, Yikai Yan, Fan Wu, Shaojie Tang,
Rongfeng Jia, Chengfei Lyu, and Guihai Chen. On-device
learning with cloud-coordinated data augmentation for extreme model personalization in recommender systems, 2022.
Jialiang Han, Yun Ma, Qiaozhu Mei, and Xuanzhe Liu.
Deeprec: On-device deep learning for privacy-preserving sequential recommendation in mobile commerce. In Proceedings of the Web Conference 2021, WWW ’21, page 900–911,
New York, NY, USA, 2021. Association for Computing Machinery.
Sugam Garg, Harichandana SS, and Sumit Kumar. Ondevice document classiﬁcation using multimodal features.
In Proceedings of the 3rd ACM India Joint International
Conference on Data Science & Management of Data (8th
ACM IKDD CODS & 26th COMAD), CODS-COMAD ’21,
page 203–207, New York, NY, USA, 2021. Association for
Computing Machinery.
Tong Chen, Hongzhi Yin, Yujia Zheng, Zi Huang, Yang
Wang, and Meng Wang. Learning elastic embeddings forcustomizing on-device recommenders. In Proceedings of the27th ACM SIGKDD Conference on Knowledge Discovery

[19]

[20]

[21]

[22]

[23]

[24]

[25]

[26]

[27]

[28]

[29]

& Data Mining, KDD ’21, page 138–147, New York, NY,
USA, 2021. Association for Computing Machinery.
Alessandro Epasto, Hossein Esfandiari, and Vahab Mirrokni. On-device algorithms for public-private data with absolute privacy. In The World Wide Web Conference, WWW’19, page 405–416, New York, NY, USA, 2019. Association
for Computing Machinery.
Qingqing Cao, Noah Weber, Niranjan Balasubramanian,and Aruna Balasubramanian. Deqa: On-device question
answering. In Proceedings of the 17th Annual International
Conference on Mobile Systems, Applications, and Services,
MobiSys ’19, page 27–40, New York, NY, USA, 2019. Association for Computing Machinery.
Mengwei Xu, Feng Qian, Qiaozhu Mei, Kang Huang, andXuanzhe Liu. Deeptype: On-device deep learning for input personalization service with minimal privacy concern.
Proc. ACM Interact. Mob. Wearable Ubiquitous Technol.,2(4), dec 2018.
Mikko Honkala and Yanqing Cui. Automatic on-device ﬁltering of social networking feeds. In Proceedings of the 7th
Nordic Conference on Human-Computer Interaction: Making Sense Through Design, NordiCHI ’12, page 721–730,
New York, NY, USA, 2012. Association for Computing Machinery.
Arun D Prabhu, Nikhil Arora, Shubham Vatsal, Gopi Ramena, Sukumar Moharana, and Naresh Purre. On-device
sentence similarity for sms dataset. In 2021 IEEE 15th
International Conference on Semantic Computing (ICSC),
pages 140–146, 2021.
Dinghan Shen, Pengyu Cheng, Dhanasekar Sundararaman,
Xinyuan Zhang, Qian Yang, Meng Tang, Asli Celikyilmaz,
and Lawrence Carin. Learning compressed sentence representations for on-device text processing. In Proceedings of
the 57th Annual Meeting of the Association for Computational Linguistics, pages 107–116, Florence, Italy, jul 2019.
Association for Computational Linguistics.
Ryoma Sato. Private Recommender Systems: How Can
Users Build Their Own Fair Recommender Systems without Log Data?, pages 549–557.
Ryoma Sato. Retrieving black-box optimal images from external databases. In Proceedings of the Fifteenth ACM International Conference on Web Search and Data Mining,
WSDM ’22, page 879–887, New York, NY, USA, 2022. Association for Computing Machinery.
Aditya Pal, Chantat Eksombatchai, Yitong Zhou, Bo Zhao,
Charles Rosenberg, and Jure Leskovec. Pinnersage: Multimodal user embedding framework for recommendations at
pinterest. In Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining, KDD ’20, page 2311–2320, New York, NY, USA, 2020.
Association for Computing Machinery.
Chao Li, Zhiyuan Liu, Mengmeng Wu, Yuchi Xu, Huan
Zhao, Pipei Huang, Guoliang Kang, Qiwei Chen, Wei Li,
and Dik Lun Lee. Multi-interest network with dynamic
routing for recommendation at tmall. In Proceedings of the
28th ACM International Conference on Information andKnowledge Management, CIKM ’19, page 2615–2623, New
York, NY, USA, 2019. Association for Computing Machinery.
Heng-Tze Cheng, Levent Koc, Jeremiah Harmsen, Tal
Shaked, Tushar Chandra, Hrishi Aradhye, Glen Anderson,
Greg Corrado, Wei Chai, Mustafa Ispir, Rohan Anil, Zakaria Haque, Lichan Hong, Vihan Jain, Xiaobing Liu, andHemal Shah. Wide & deep learning for recommender systems. In Proceedings of the 1st Workshop on Deep Learning for Recommender Systems, DLRS 2016, page 7–10, New
York, NY, USA, 2016. Association for Computing Machinery.

[30] Jason Weston, Ron J. Weiss, and Hector Yee. Nonlinear latent factorization by embedding multiple user interests. In
Proceedings of the 7th ACM Conference on Recommender
Systems, RecSys ’13, page 65–68, New York, NY, USA,
2013. Association for Computing Machinery.
[31] Harrie Oosterhuis and Maarten de Rijke. Sensitive and scalable online evaluation with theoretical guarantees. In Proceedings of the 2017 ACM on Conference on Information
and Knowledge Management, CIKM ’17, page 77–86, New
York, NY, USA, 2017. Association for Computing Machinery.
[32] Chris Burges, Tal Shaked, Erin Renshaw, Ari Lazier, Matt
Deeds, Nicole Hamilton, and Greg Hullender. Learning torank using gradient descent. In Proceedings of the 22nd International Conference on Machine Learning, ICML ’05,
page 89–96, New York, NY, USA, 2005. Association for
Computing Machinery.