基盤モデル×Robotics関係の参考サイト集

# はじめに
基盤モデル×RoboticsのAdventCalendarの6日目です！
（残り40分で7日目に....時間が...今回はゆるく書きます...何卒です。）

今回は基盤モデル関係で私がざーっと調べたおすすめサイトを共有させて頂きます！
他にもおすすめサイトや論文あればぜひコメントで教えてください！！！

### 基盤モデル×Robotics Advent Calendarはこちらへ
https://qiita.com/advent-calendar/2022/robot-ai

## 基盤モデル関係おすすめサイト

私がざーっと調べたおすすめサイトを共有させて頂きます！
他にもおすすめサイトや論文あればぜひコメントで教えてください！！！

- [On the Opportunities and Risks of Foundation Models](https://arxiv.org/abs/2108.07258)
- [【メタサーベイ】基盤モデル / Foundation Models](https://www.slideshare.net/cvpaperchallenge/foundation-models)
- [ソニー社内講演】拡散モデルと基盤モデル](https://www.youtube.com/watch?v=HfTD5__gZX4&feature=youtu.be)
<iframe width="560" height="315" src="https://www.youtube.com/embed/HfTD5__gZX4" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>

- [2022.9.7 NAIST DSCサマーセミナー「Vision and Language技術の最新動向」](https://speakerdeck.com/sei88888/2022-dot-9-7-naist-dscsamasemina-vision-and-languageji-shu-nozui-xin-dong-xiang)

- [【メタサーベイ】Transformerから基盤モデルまでの流れ / From Transformer to Foundation Models](https://www.slideshare.net/cvpaperchallenge/transformer-from-transformer-to-foundation-models)

- [巨大な基盤モデルはもはや言語だけのものではない、波がロボット制御にも到来](https://xtech.nikkei.com/atcl/nxt/mag/rob/18/012600001/00102/?fbclid=IwAR1cfKRmYTknIdzCKLE08sip3wUq4Shhvec4Xe9CeL9y3y7h0k41KRL9pww&utm_source=pocket_mylist)

- [AI開発の新たなパラダイム「基盤モデル」とは](https://blog.recruit.co.jp/data/articles/foundation_models/)

- [画像生成AI Advent Calendar 2022](https://adventar.org/calendars/7766)

- [DIS22 Keynote: Foundation models - the future of enterprise AI? - Hagay Lupesko, Meta AI](https://www.youtube.com/watch?v=T6dygpvmSeI)
<iframe width="560" height="315" src="https://www.youtube.com/embed/T6dygpvmSeI" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>

- [Workshop on Foundation Models: Day 1](https://www.youtube.com/watch?v=dG628PEN1fY)
<iframe width="560" height="315" src="https://www.youtube.com/embed/dG628PEN1fY" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>

- [コンピュータビジョン最前線 Summer 2022](https://www.kyoritsu-pub.co.jp/book/b10012674.html)


### ロボット応用
- [Do As I Can, Not As I Say:Grounding Language in Robotic Affordances](https://say-can.github.io/)
- [Code as Policies](https://code-as-policies.github.io/)
- [Housekeep：Tidying Virtual Households using Commonsense Reasoning](https://yashkant.github.io/housekeep/)
- [CLIP-Fields: Weakly Supervised Semantic Fields for Robotic Memory](https://arxiv.org/abs/2210.05663)
- [LM-Nav: Robotic Navigation with Large Pre-Trained Models of Language, Vision, and Action](https://sites.google.com/view/lmnav)
- [VIMA: General Robot Manipulation with Multimodal Prompts](https://vimalabs.github.io/)
- [CLIPort: What and Where Pathways for Robotic Manipulation](https://cliport.github.io/)
- [ADAPT: Vision-Language Navigation with Modality-Aligned Action Prompts](https://arxiv.org/abs/2205.15509)

# おまけ
ほんとうはモデル毎に全部調べてみようと思ったんですが、、、間に合いませんでした。。。すみません。

## モデルリスト
Language Solver
- Transformer
- BERT
- GPT
- Megatron
- T5
- Megatron-Turning NLG
- Gopher
- Chinchilla
- PaLM

Vision Solver
- ViT

Audio Solver
- wav2vec
- wav2vec 2.0
- HuBERT
- XLS-R

Language and Vision Solver
- CLIP

Audio and Vision Solver
- Perceiver

Text to Image Generator
- DALL・E
- GLIDE
- DALL・E2
- Imagen
- Parti


Multi Modal Solver
- Perceiver IO
- Gato

## 自然言語処理(NLP)
### Transformer
- Self-Attention(自己注意)機構により系列データを一括同時処理可能
---- 
- 参考
- [Transformerとは？AI自然言語学習の技術を解説](https://crystal-method.com/topics/transformer-2/)
- [深層学習界の大前提Transformerの論文解説！](https://qiita.com/omiita/items/07e69aef6c156d23c538)

### BERT
- BERTとは、Bidirectional Encoder Representations from Transformers の略で、2018年10月にGoogleのJacob Devlinらの論文で発表された自然言語処理モデル
---- 
- 参考
- [BERTとは｜Googleが誇る自然言語処理モデルの仕組み、特徴を解説](https://ledge.ai/bert/)

### GPT
- GPT-1〜3まであり、拡張される度にパラメータすう/学習テキストが一気に増加
- ChatGPT
- GPT-3はFine-tuningなしで20種類以上の事前言語処理タスクに適応

---- 
- 参考
- [Language Models are Few-Shot Learners](https://arxiv.org/abs/2005.14165)

-----
こちらもぜひ！！！

https://qiita.com/advent-calendar/2022/robot-ai

- １日目

https://trail.t.u-tokyo.ac.jp/ja/blog/22-12-01-foundation-model/

- ２日目

https://trail.t.u-tokyo.ac.jp/ja/blog/22-12-02-clip/

- ３日目

https://qiita.com/MeRT/items/e7cfaa83205fdf907e55

- ４日目

https://qiita.com/MeRT/items/735fd77ad768fc60cd42

- ５日目

https://trail.t.u-tokyo.ac.jp/ja/blog/22-12-05-clip-fields/