初のKaggleで銅メダル、初のSIGNATEで金メダルを獲ったおはなし

# 1.はじめに
どうも初心者です。
機械学習コンペへの人生初参加から二連続でメダルを獲得できたので今まで自分なりにしてきたことを軽く書こうと思います。

# 2.参加コンペ
## Kaggle  "[ICR - Identifying Age-Related Conditions](https://www.kaggle.com/competitions/icr-identify-age-related-conditions)"
### コンペ概要
2023/5/12~2023/8/11に行われた加齢に伴う健康状態を表す特徴量をもとに匿名化された3種類の病気のいづれかに罹患しているか否かを予測するテーブルデータコンペ。比較的単純なタスク設定だったので約6500ものチームが参加し、とても大きなコンペとなりました。
### 結果
🥉 581位
## SIGNATE  "[Student Cup 2023](https://signate.jp/competitions/1050)"
### コンペ概要
2023/7/24~2023/8/24に行われた中古車に関する情報を特徴量として中古車の価格を予測するテーブルデータコンペ。学生限定で開催され約600人の学生が参加しました。
### 結果
🥇 10位
# 3.出場に至るまで
## 独学初期
昨年(2022年)の冬あたりから機械学習に興味を持ち始め、とりあえず「機械学習 独学 ロードマップ」でググるようなテンプレムーブをして、下記のような初学者向けの本で雰囲気を掴もうとしました。特に深層学習系に興味があったためほとんどその系統の本やサイトしか読まなかったため、後に他の手法を理解するのに時間を要することになりますが、このおかげで深層ニューラルネット系の理論や実装に自信を持てました。

https://www.oreilly.co.jp/books/9784873117584/

https://bookplus.nikkei.com/atcl/catalog/19/273470/

下記は東京工業大学の岡崎直観先生によって作られた初学者向けでかつシンプルな大学数学を使って解説された機械学習独学サイトです。実装に関してはこれに非常にお世話になりました。2個目のGithubのレポジトリは実際に機械学習帳を使って勉強した方が学習ノートのように簡単にまとめてくれているものです。練習問題を解いたものも載せてくれているのでこれにも非常にお世話になりました。

https://chokkan.github.io/mlnote/index.html

https://github.com/icoxfog417/mlnote-note

## コンペを意識し始める
上記の独学初期から時は過ぎ、今年(2023年)の春休みに時間ができたこともあり、コンペに向けた勉強を始めようと思い、「[Kaggle本](https://www.google.com/search?sca_esv=559959589&sxsrf=AB5stBhU9igwH_rx7gogjtofvbiHGLnyJw:1692968003651&q=Kaggle%E3%81%A7%E5%8B%9D%E3%81%A4%E3%83%87%E3%83%BC%E3%82%BF%E5%88%86%E6%9E%90%E3%81%AE%E6%8A%80%E8%A1%93&stick=H4sIAAAAAAAAAONgVeLVT9c3NEwryCgoyTG1NOLMTkxPz0l9NmfNKUZUKRi_MC89ubAs1wQuX5JjnpeckgbjZ5sYm6ZXWeTA-EVVliZp2ZUGMH5xZWV5fFp2Mpyfkl1pUl5oCOMnlRcUpeXFm8L1VxQVZJcUw_VnmVhUWhTlwO3PTk6uKLKwNEXor8wtT0_LgvHzTLMMc42NK2D89Iy0YhPDskK4eTlZphbGJsVw_xRnpaVbFpTD5XMtKwqzi-D8ZLP48orccrj5BSkFJZbZZmZw_dkmSXlp6VWPGO8ycgu8_HFPWOoy46Q1J68xnmHkEvDJzy9OzakMSs1JLElNCckXkuBic80rySypFOKT4uHi0s_VN0jPTUkxKxRy5OIOTi0JyffNT8lMqxQyEjLg4vRNzU1KLSr2TxNS5uJyzs_JSU0uyczPExKVEuYS1E-GC-gn5ednFytFGrntujTtHJuDIAMQnGkNdpDS0BLkYnPJz03MzBO8a9z7fM3PB_ZawlwcIYkV-Xn5uZWCCxNPxJmeeGuvxMkJ1OOg9_-9vRbDBCbGpn0rDrFxcDAKMBgxcTBUMfAsYlX3BieWx43Ln3bPfdy45HFz--PmPY-b9j_taHs2b8LjxnXPuhpeLJw8gY0RAOjg6v9qAgAA&sa=X&cshid=1692968109149304&lei=Q6ToZPCZJ-u94-EPjYK48A8)」と呼ばれる実際にKaggleで輝かしい成績を残されている方々によって書かれ、Kaggleで勝つための技術が詰まった本を読みました。ここで自分の今までの独学の偏りに気付かされました。先に言及した通り、深層ニューラルネットワーク関連に偏った勉強をしていたため、実際のコンペで用いられるモデル（決定木、アンサンブル系etc）や前処理など知識として不足している点が散財していました。そのため、Kaggle本によって一通りの知識を入れることができましたが、それらの理解を深めるために一連の流れを手を動かす必要がありました。そこで非常に役に立ったのが以下のKaggle上の練習用コンペです。これらをKaggle本を握りしめながら復習も兼ねて行いました。これによって、コンペの基本的な流れやちょっとしたTipsのようなものを得ることができました。

https://www.kaggle.com/competitions/titanic

https://www.kaggle.com/competitions/house-prices-advanced-regression-techniques

https://www.kaggle.com/competitions/digit-recognizer

## いよいよ参加
上記まででコンペに参加できるレベルには達したと思ったので、いよいよ参加を決意しました。初めて参加したKaggleの[ICR - Identifying Age-Related Conditions](https://www.kaggle.com/competitions/icr-identify-age-related-conditions)は[kaggler-ja](https://kaggler-ja.slack.com/join/shared_invite/zt-20qj1xjnb-9MPnVnTU8uFvLQ32_0G8~g#/shared-invite/email)という日本のKagglerの方々が一堂に会しているSlackワークスペースにて共有されていたため知りました。このSlackはKaggleについての情報や機械学習における知識共有などが行われ、begginerにとっては非常に有益な場であると思います。

# コンペ振り返り
これについては別稿として投稿したいと思います。拙い文章でしたが最後までお読みいただきありがとうございました。何かご質問、ご意見、お文句などありましたらお気軽にお申し付けください。