ノートPCに「LM Studio」をインストールして「Gemma3」を使ってみた際の手順

ノートPCに **LM Studio** をインストールして **Gemma3** を使ってみました。その時の手順をメモとして残します。

# 1. 環境
|項目|詳細|
|:---|:---|
|CPU|Intel(R) Core(TM) i7-9750H CPU @ 2.60GHz   2.59 GHz|
|メモリ|16.0 GB|
|グラフィックス カード|NVIDIA GeForce GTX 1650 (4 GB)<br>Intel(R) UHD Graphics 630 (128 MB)|
|OS|Windows 10 Home バージョン 2009（OSビルド 19045.5854）|

# 2. LM Studio のダウンロード

ブラウザで「[LM Studioの公式ページ](https://lmstudio.ai/ "LM Studio - Discover, download, and run local LLMs")」のページを開き、「Download LM Studio for Windows」をクリックします。

![1-1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/c7311b6c-64ff-41d3-8d27-d53bb49954c7.png)

&nbsp;

`LM-Studio-0.3.16-8-x64.exe`がダウンロードされます。

![1-2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/738ee7ea-b178-45f5-846e-c96efd06a767.png)

&nbsp;


# 3. LM Studio のインストール

ダウンロードした`LM-Studio-0.3.16-8-x64.exe`を実行します。

「このコンピューターを使用しているすべてのユーザー用にインストールする」を選択し「次へ」をクリックします。

![1-4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/cbde6215-a3bb-4f72-aa03-60db7ef161dd.png)

&nbsp;

インストール先はデフォルトのままで「インストール」をクリックします。
![1-5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/a4ea9f76-7485-4b7c-98e7-5547021237e5.png)

&nbsp;

インストールが開始されるので、しばらく待ちます。

![1-6.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/89ad606e-c8d6-491d-98af-8ba86f79f483.png)

&nbsp;

「完了」をクリックします。
![1-7.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/c17ef731-4543-49b1-88cf-765589dad5c7.png)

&nbsp;

「LM Studio」が起動します。
![1-11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/8a849c73-115b-4a07-aba2-ea20de6daadb.png)

&nbsp;

# 4. モデルの設定

右上の「Skip」をクリックします。

![1-11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/8a849c73-115b-4a07-aba2-ea20de6daadb.png)

&nbsp;

左側の「Discover」をクリックします。

![1-12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/61c9a016-af83-4aad-be18-45a65ab8596f.png)

&nbsp;

「Gemma 3 4B」を選択し「Download」をクリックします。

![1-13.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/495e09ea-fbce-4dcc-9d16-58290812a9c1.png)

&nbsp;

ダウンロードが完了するまでしばらく待ちます。

![1-15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/ec52306c-8b15-4745-8769-edd37a12ef74.png)

&nbsp;

ダウンロードが完了したら「Load Model」をクリックします。

![1-16.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/4ceed56c-bfbd-456e-93a0-d7d826bbd8b3.png)

&nbsp;

<font color="red">この時に以下のエラーが発生しました。</font>
どうやらモデルのロードに失敗したようです。リソース不足の時にもこのエラーが出るようです。

![1-18.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/fbf1e421-82ec-4bca-9c79-036485fe895c.png)

&nbsp;

左側の「My Models」をクリックします。

![1-19.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/39967526-8b21-403a-a368-cbf89a3182e7.png)

&nbsp;

「Gemma3」の右側の「Edit model default config」をクリックします。

![1-20.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/6affcd9e-643a-4c76-92f5-8318738b8a7b.png)

&nbsp;

ここでは
GPU Offload: 8
CPU Thread Pool Size: 4
を設定していました。

![1-21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/e0c01025-8e8e-4cc8-b7ba-ead1beb7f3f7.png)

&nbsp;

左側の「Chat」をクリックします。

![1-24.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/151c2331-00b9-41e2-82bf-7c5cdcb3ff2a.png)

&nbsp;

上の「Select a model to load」をクリックしします。

![1-25.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/34aa208d-a2a0-4be9-a0bb-95b717717026.png)

&nbsp;

「Gemma 3 4B」を選択します。

![1-26.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/febd2069-d405-4136-85be-9f8107a85e69.png)

&nbsp;

今度は上手くロードできたようです。

![1-27.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/443e9e00-7c47-48fc-85aa-2a45bfeb5512.png)


# 5. お試し会話

試しに「あなたの言語モデルは何ですか？」を入力してみます。

![1-28.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/fd2019b4-cad6-40ae-9b40-059fb41d077f.png)

&nbsp;

応答が返ってきました。

![1-30.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/292434/bf871ba9-3d8c-4024-8f2f-0e2e3f0ff2d2.png)

&nbsp;

---
以上