船井情報科学振興財団 第 4 回留学報告書

Pittsburgh にも Zipair が来て欲しい長谷川公大

kimihiro@andrew.cmu.edu
2023 年 12 月
2022 年 5 月から米国カーネギーメロン大学計算機科学大学院言語技術研究所*1 の博士課程に在籍しています、長谷川公大と申します。前回の報告（2023 年 7 月）から 2023 年 12 月現在に至るまでの留学生活について、簡単にではありますがご報告させて頂きます。*2

学業夏学期の後半は学会や船井財団の交流会へ参加し、秋学期に入ってからはピッツバーグで黙々と研究に励む日々を送りました。

ACL2023 への参加
前回のレポートでも少しだけお伝えしたのですが、7 月にトロントで開かれた ACL2023 という学会に、聴講としてではありますが、参加してきました。コロナ期間中対面で学会参加ができなかった分、自分の発表のあるなしに関わらず、今年度の学会への参加費を一度支援してあげるよとの学科の計らいがあったのが大きな理由です。車で行ったのですが、ピッツバーグから片道５・6 時間とちょうど良い距離のドライブになりました。学会中は、なるべくたくさんの人と交流がしたいなと思って、ポスターセッションを中心に参加し、自分の興味と近そうな研究を中心にではありますが、多くの人との交流ができました。ポスターセッションで一つ印象に残っているのは、自分と似たようなトピックに取り組んでいる学生が、大規模言語モデル（LLM）による existencial crisis 的な疑問*3 を聞いてきたことでした。私自身、今年の初めの方は少し悶々としていた時期もあったのですが、学科内で開かれたセミナーで教員・学生を混ぜて話をする機会があったり今回の学会で話をしたりすることで、その熱は通り過ぎたかなと感じています。研究以外で印象に残っているのは、学会のバンケットで「君のアクセントスイス人みたいだね、もしかしたスイス人？」というあからさまな冗談をかましてくる他大学の学生に出会ったことです。「いや違うけど」と真面目に返事をしてしまい、その後自分の中の関西人としてのアイデンティのクライシスを感じながらも、他大学の学生・研究者と楽しいひとときを過ごすことができました。学会への参加が中心でトロントも一部しか観光できませんでしたが、総じてご飯が美味し*1 Carnegie Mellon University, School of Computer Science, Language Technologies Institute の訳です。
*2 副題と本文に特に関係はありません。
*3 大規模言語モデルでかなり色々なことができるようになったのに、今の自分の研究をやってる意味があるのだろうか、のような疑問です。

1

く、街並みも綺麗で、*アメリカに比べると*物価もそれほど高くなく、良い街だなという印象を受けました。
学会ともトロントとも関係のないところで印象に残っているのは、車での道中立ち寄ったベトナム料理屋さんです。料理が美味しかったのはもちろんのこと、アメリカ・カナダの飲食店でよくある店員さんが定期的に”iseverything okay?”と聞いてくる感じもなく*4 、そういうところも含めて、学会＋運転で疲れていた自分には心地いいものでした。ピッツバーグに戻って以来、ベトナム料理店の開拓に勤しんでいるのですが、残念ながらまだあのお店に匹敵するお店には出会えていません。

FOS 夏の交流会への参加
一言で申し上げると、大変充実した三泊四日でした。行きの飛行機が出発 3 時間前に欠航になり空港内で新しい航空券を取り直すというバタバタから始まりましたが、なんとか 2 時間遅れほどで済みました。交流会では、初めてお会いする他の代の方々・久しぶりに会う同期、同じ情報系の方・他分野の方々とお話しできて、縦・横の繋がりの広がりを感じることができました。みなさん多方面でご活躍されており、それでいて、それを鼻にかけるような様子もなくフレンドリーで、こういう方々と知り合いになれる機会を得られて大変ありがたいなと改めて感じました。また今回、藤田さんを筆頭とし伊藤さん・五十嵐さんで構成された学生運営チームに参加させていただいたのですが、そのおかげでより多くの方々と交流する機会を持てた側面もあったかなと思います。交流会の日程は益田先生の原案をもとに学生で詰めた形で、益田先生の交流会を良いものとしたいというお気持ちを知れたのもよかったです。船井さんや事務局の斉藤さん・近藤さんによるその他諸々のサポートあってのことだったので、改めて感謝申し上げたいと思います。

研究活動
今期は LLM の評価をするプロジェクトに取り組んでいました。つい先日論文を投稿したばかりで、厳密には anonimity period*5 の最中なので、念の為内容の詳細はぼかしてお話ししたいと思います。anonimityperiod を過ぎた暁には詳細含め改めてご報告させていただきたいと思います。今回のプロジェクトはデータを作る部分とそのデータ含めいくつかのデータセットで LLM を評価する部分の二つで構成されていました。
ありがたいことに両方の部分で力を貸してくれる人が現れ、複数人でのプロジェクトを私が率いる形になりました。データ作成には、2 人のアノテーターさん*6 に協力していただきました。これまで私の指導教員といくつものプロジェクトに取り組んできてこられた経験豊かな方々で、アノテーション作業自体ははもちろんのこと、ガイドライン作成において経験に基づいたアイデアを出していただいたり、私の中での方針の甘い部分等の指摘をしていただきました。具体的にはまず、私が参考文献や今回のプロジェクトの方針から最初のガイドラインを作成し、細かい部分を具体例を見ながら少しづつ決めていくという作業から始めました。言語の表現の幅の広さや私の考えの甘いところを見つけるたびに、自分の作りたいデータはなんなのだろうか、何を評価したいデータなのだろうかという基本の問いに何度も立ち返ることになりました。時間はかかりクラウドソー
シングよりも数は少ないものの、質の高いデータを作ることができたのではと考えています。また、これまでの言語資源を作ってきた研究者へ想いをはせることができたのも良い経験でした。もう一方の評価をする方には、学科の修士の学生に協力してもらうことになりました。一部のプロフェッショナルマスターの学生には卒*4 アメリカにおいてチップはこの確認サービスへの対価だったりすると思うのですが、美味しかったのでチップを払って帰りました。
*5 投稿締め切り 1 ヶ月前から数ヶ月は double blind での査読を行うために公式の場での公開や宣伝を控えるというルールです。議論の渦中のルールです。
*6 knowledge engineer ともいうとのことです2

業要件に教員（およびそ指導学生）と一緒に研究を行うことが含まれており、いくつかのプロジェクトの中から私のプロジェクトに興味を持ってくれました。これまでも他の学生と共同でプロジェクトを行うことはあったのですが、どちらかというと役割を分担してある程度独立して行うことが多く、今回のように私が都度都度作業をお願いするのはあまり慣れておらず、勉強になりました。単純に人手が増えたのは大変助かったものの、自分の作業を定期的に切り分けて自分がやってしまった方が早いこと、お願いできること・したいことを随時考えて計画に盛り込み、週単位で変更していくという作業は、今までのプロジェクトとは違った難しさがありました。自分が勝手に当たり前だと思い込んで伝えそびれた部分があったり、自分が慣れでやってしまっている慣れ親しんだ面倒なやり方に気付かされたり、そもそも他人にもわかるコードの書き方、コードベースの構成の仕方などなど、途中で修正しながら進めました。締め切りギリギリになりながらも、他にも、研究内容および論文の下書きに丁寧なフェードバックをくれた同じ研究グループの学生や指導教員のおかげで、なんとか提出にこぎ着けました。どのような査読が返ってくるのか楽しみです。

余暇・趣味
M1 グランプリの予選動画を見たり前回の報告書にも書きましたドライブをしたりして気分転換を行なっていました。あとは料理中に指を切ったりしていました。

州立公園へのドライブ
学業からの気分転換として、週末は近所の公園でランニングをしたり、州立公園 (写真 1a, 1b) にドライブに行ったりしました。秋の花粉のせいか外出が少し辛い時期もあったのですが、運動をすると身体は疲れるのに、気分はスッキリしたりするので、改めて運動って大事だなと感じています。また、同じ研究グループの学生のおすすめを聞いて、近くの州立公園（片道 30 分〜1 時間）ぐらいにドライブに何度か行きました。紅葉の時期は森が色づいていて大変綺麗でした。今のところ事故もなく安全に乗れているので今後とも安全運転で楽しめたらなと思います。ちなみにストリートパーキングなので、縦列駐車が少しうまくなってきた気がします（攻めた幅のところに入れようとチャレンジして諦めることもありますが）。また、おそらくただの気のせいですが、サングラスをしていると周りの車が道を譲ってくれることが多い気がします。

料理中のアクシデント
冷凍の豚肉を切ろうとして、左の中指の付け根を切り、４針縫いました。骨が見えるほどではなかったのですが、内側の新鮮な肉が見えました。とりあえず大学の保健センターに連絡したところ、近くの病院の urgentcare（急病診療所）に行くように言われ行きました。病院の待ち受けに着くや否やあれこれ説明しようとして、受付の人に「まぁ座ってくれ」といなされるくらいには動揺していました。受付して 1 時間半ぐらい待ち、「ややこしいとこやな（意訳）」と医者に５回ほど言われながらもなんとか縫ってもらい、保険が効いたのもあって、$25 だけ支払って帰りました。
他には、FOS2023 の金村さんの歓迎会や誕生日会*7 を FOS2021 の荒川さんが企画してくれて何度か楽しく喋る機会があったり、それに加え FOS2019 のファムさんとはオフィスのある建物およびフロアが同じなた
めたまに廊下ですれ違うことがあり、立ち話をしたり・お昼ご飯を食べたり・一緒に公園を散歩 (図 1c) した*7 実は、この誕生日会の日に私が指を切り、幹事の荒川さんにはご迷惑をおかけしました。
。

3

りしました。また指導教員に Thanksgiving Dinner に呼んでいただいて、ターキーを頂いたりもしました。
ターキー美味しかったです。

謝辞
指を切ったのには焦りましたが、その他には体調を大きく崩すこともなく研究に継続して精力的に取り組むことができた楽器ではなかったかと思います。来学期も、健康に気を遣いながら、研究に集中して取り組んでまいりたいと思います。最後になりましたが、このように集中して研究に取り組めるのも船井財団から金銭的にご支援していただいているおかげです。改めて感謝申し上げます。

(a) Racoon Creek Park(b) Keystone State Park4(c) Schenley Park(大学裏の公園)