DOKでDeepSeekを実行する

[DOK](https://www.sakura.ad.jp/koukaryoku-dok/)はコンテナー型のGPUサービスで、NVIDIA V100やH100を実行時間課金で利用できるサービスです。

[コンテナー型GPUクラウドサービス 高火力 DOK（ドック） | さくらインターネット](https://www.sakura.ad.jp/koukaryoku-dok/)

今回はこのDOKを使って、Ollama経由でDeepSeekを使ってみます。ローカルにGPUがなくとも、速いレスポンスが得られます。

## 必要なもの

[Docker](https://www.docker.com/ja-jp/)（ローカル。強力なGPUは不要です）

## Ollamaとは

Ollamaは、LLMを簡単に実行できるオープンソース・ソフトウェアです。Llama 3やMistral、そして今回試すDeepSeekなど、さまざまなモデルに対応しています。CLIで利用することが多いですが、今回はWeb APIとして立ち上げて、Open WebUIから操作します。

![FireShot Capture 396 - Open WebUI - localhost.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/197026/acf27cb8-572d-0427-938c-d7f5a2fe8430.jpeg)


## 実行する

DOKで、下記の条件でタスクを作成します。

| 項目       | 設定          |
| ---------- | ------------- |
| イメージ   | ollama/ollama |
| HTTPポート | 11434         |

実行して、しばらく待つとHTTPアクセスできるURL（ `https://UUID.container.sakurausercontent.com` のような）が発行されます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/197026/7b296aff-e6bc-6d55-0b2c-b24815cf6673.png)


## Open WebUIで操作する

ローカルで実行します。これはGPUが不要なので、Dockerさえ実行できれば、どこでも実行できます。先ほど出力されたURLを `OLLAMA_BASE_URL` として指定します。

```bash
docker run -p 8080:8080 \
# 発行されたURLに置き換え               
-e OLLAMA_BASE_URL=https://UUID.container.sakurausercontent.com \
-v open-webui:/app/backend/data \
--name open-webui --restart always ghcr.io/open-webui/open-webui:main
```

そして、ブラウザで `http://localhost:8080` にアクセスします。以下のような画面が表示されます。

![FireShot Capture 394 - Open WebUI - localhost.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/197026/776bf498-d84a-8097-ab57-abd8c7d0db86.jpeg)

## モデルの追加

設定の中にある接続設定から、モデルを追加します。今回はdeepseek-r1を追加しました。デフォルトでは7bがインストールされます。追加として、deepseek-r1:14bもインストールしています。ダウンロードはDOK側で行われます。

![FireShot Capture 504 - 管理者パネル - Open WebUI - 0.0.0.0.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/197026/af12a589-51a8-4e2a-af7a-466e5a7f35e0.jpeg)

ダウンロードさえ終われば、チャットが利用できます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/197026/ba3dc663-7f77-4d34-aeb2-fe8af8358575.png)


## チャットでの利用

`夏目漱石について日本語で教えて` と入力すると、返答が返ってきます。

7Bの場合、かなり間違った返答が返ってきます。 `夏夏漱石（便利店）` とはなんぞ…

```:7b
夏夏漱石（便利店）は、日本の地方での便利店 Chainsとして知られています。特に、埼玉市の漱石に設所され、名前「夏夏漱石」の由来は、1983年に埼玉市の deployed &q=夏夏漱石)&f=l">便利店を営む人たちの ganz氏で、1984年に設所されました。该店は、 stationed at 漢 donji（大分町） within the area of 城崎町（城崎市）と関西市のエリアに位置し、名前「夏夏漱石」は、1983年に行った某キャンペーンの advertising として使用され、1984年に設所されました。

夏夏漱石は、便利店のnormsを守りつつ、現代的なサービスを提供しています。店内はもちろん、食料や菓子が充填してお климат赶定中。
```

14Bの場合、より正確（とおぼしき）な答えが返ってきます。なお、生誕日は1867年2月9日が正解です。我が輩は猫である（私は猫である、になっていますが）が、坊ちゃんの通称になっています…。

```:14b
夏目漱石（natsume sōseki、1867年10月9日 - 1916年12月9日）は、日本の近代文学を代表する小説家、詩人、批評家です。彼の作品はユニークな文体と深い思想性で知られ、日本だけでなく世界中の文学ファンにも影響を与えました。

主な作品
『坊ちゃん』（通称「私は猫である」）
一匹の猫が人間社会を批判的に観察する物語。当時の日本の偽善や矛盾をhumorousに描き、人気を集めた。
『心』
孤独や自我探求について描いた作品で、漱石文学の代表作のひとつ。学生とその教授との交流を通じて深く人性を探ります。
『三四郎』
大学院生活を舞台にした小説で、主人公である三四郎が東京での生活を通して成長していく様を描きます。
『明暗』
光と闇、善悪の境界線上にある人間の葛藤をテーマに据えた作品。漱石の晩年の深遠な思想が詰まっています。
文学スタイル
漱石はhumorousでironicな文体で知られ、社会風刺や哲学的考察を多く取り入れました。彼の作風は「猫の視点」や「傍観者の眼差し」として著名で、読者に深く共感を与える一方で、鋭い批判も込めています。

影響と地位
漱石は日本の近代文学を牽引した重要な作家です。彼の作品は現代日本社会や文化を理解する上で欠かせません。また、欧米にも大きな影響を与え、世界文学の歴史にその名を刻んでいます。

夏目漱石の生涯は短く、1916年に亡くなりましたが、その残した作品は今も多くの人々に読み継がれています。
```

ChatGPTなどでは、日本語で質問しても英語で返ってくることがありますが、DeepSeekの場合は中国語で返ってくることが多々ありました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/197026/66ad94c5-8062-4652-a6bb-2520a4e7a50d.png)

## 日本語を利用する場合はDeepSeek-R1-Distill-Qwen-14B/32B-Japaneseが良さそう

[サイバーエージェント社が日本語データで追加学習したモデル](https://gihyo.jp/article/2025/01/deepseek-r1-japanese) `DeepSeek-R1-Distill-Qwen-14B/32B-Japanese` は [yuma/DeepSeek\-R1\-Distill\-Qwen\-Japanese:14b](https://ollama.com/yuma/DeepSeek-R1-Distill-Qwen-Japanese:14b) にて公開されています。14Bが9.0GB、32Bが20GBで公開されています。

このモデルを使うと、日本語での質問に対して、正確（と思われる）な答えが得られました。

```:14b
夏目漱石（なつめ そうせき）は日本の近代文学史上にその地位を確立した文豪であり、1867年2月9日生まれ、1916年12月9日に59歳で没しました。彼の人生と作品は多面的であり、以下のように整理できます。

---

### **1. 生涯**
- **出生**：東京・本所（現在の中央区）に農家出身。
- **家庭環境**：厳格な教育を受けるも、文学への志を抱く。母から和歌や俳句を学び、西洋文学にも興味を持つ。
- **留学**：1884年英米文学学校で欧米文学を修め、1893～96年にイギリス・オックスフォード大学に留学（医学）。
- **教育活動**：帰国後は東京高等師範学校（現筑波大学）で英語科教鞭をとり、「漱石塾」として後進の育成にも尽力。

---

### **2. 文学的特徴**
- **二重構造のテーマ**：西洋との衝突・自己探求が中心。『坊ちゃん』（1906年）は少年主人公「三四郎」を通して、都会と田舎、西洋思想と日本の伝統を対比。
- **文体**：欧米文学の影響を受けつつ、日本語として自然な表現を追求した。漱石調の「言外の情熱的反訳」と呼ばれる手法で、表面的には冷静だが内面に強い感情が宿る。
- **代表作**
  - **『坊ちゃん』**：日本の近代文学における金字塔。虚脱感や恋愛葛藤を描く。
  - **『三四郎』（1908年）**：主人公の成長物語で、人間関係への疑問を投げかける。
  - **『明暗』（1912年）**：政治問題を題材にした社会派作品。
- **晩年の転機**：1907年に『草紙』が発表され、『坊ちゃん』で国民的人気を得るも、晩年は体調不良と思想の変化（キリスト教への接近）を経験。

---

### **3. 評価と影響**
- **文壇での地位**：明治文学期に「第二の新思潮」を牽引。谷崎潤一郎らは漱石を先師として尊敬。
- **現代における評価**：芥川賞の受賞作や映画化が続く『坊ちゃん』など、社会現象になる作品多数。特に「夏目三味線」「漱石の赤い毛布」などの名言は引用され続ける。
- **国際的影響力**：ロマン主義文学と日本の精神を融合させた点で、世界文学にその名が広まる。

---

### **4. 生涯の軌跡**
- 1907年に『三四郎』発表後、国民的人気を得る。
- 1915年には「漱石の病」として体調不良を公言。晩年はキリスト教に傾倒し、「神道は西洋より劣る」と発言するなど保守的と批判されたことも。
- 没後の『未完』（1916年）は自殺願望に取りつかれる作品で、当時は禁忌視されましたが、現代では精神疾患の描写として評価される。

---

### **5. 評伝との比較**
漱石は「文学的二重性」を持ち、表面的には冷めた態度をとりながらも内面では熱情的であった。この矛盾が作品に深みを与え、読者の共感を誘う。特に女性の描写には優れた洞察力があり、「夏目三味線（女の手）」と称される。

---

### **まとめ**
夏目漱石は西洋文学と日本の精神性を融合させた先駆者であり、個人の内面探求と社会問題への関与を両立させた。彼の文学は「国民的人気」と「深刻なテーマ」の狭間で揺れながらも、現代まで続くその影響力を証明しています。
```

日本語環境で使う場合には、このモデルを利用すると良さそうです。

## 注意点

DOK上でコンテナが実行されている限り、課金が発生します。使い終わったら、タスクを終了してください。

なお、執筆時点（2025年1月現在）では、v100-32gbが無料、h100-80gbが0.11円/秒とキャンペーン中になっています（H100は2025年4月末までの価格）。

## まとめ

今回はDOKでDeepSeekを試しました。v100-32gbを使いましたが、より大規模なモデルを利用するならh100-80gbもあります。大規模LLMの学習や評価に使うと、ローカルのGPUを使うよりも早く結果が得られます。ぜひ試してみてください。

DOKはタスク実行用途での利用が多いですが、HTTPアクセスを使えば[Jupyter Notebookなども利用できます](https://knowledge.sakura.ad.jp/38980/)。ぜひAI・機械学習に活用してください。

[コンテナー型GPUクラウドサービス 高火力 DOK（ドック） \| さくらインターネット](https://www.sakura.ad.jp/koukaryoku-dok/)