【備忘録】ローカルLLMでPDFの要約を試してみる【Ollama OpenWebUI Llama3.2-vision】

# はじめに
ChatGPTの無料版ではファイル添付をした上での処理は回数制限がある。
たまにPDFの要約ができたらいいなと思うことがあり、回数制限を気にしないで利用できるローカルLLMはどんな感じだろうと思い試してみただけです。ちなみにWeb上で利用できるAIサービスはどうしても企業側の都合でサービスの改悪などが起こり得るのでできるだけローカル実行できると嬉しいと思ってる派です。

# 使ってみた感想
ChatGPTと違い「この文章を要約してほしい」だけだと不十分で「各項目ごとに1000文字程度でサブタイトル付きでまとめてほしい」など条件を付け加えないとそれらしい回答は得られにくいと感じた。「各項目ごとに1000文字程度」と指示したが回答文全体で1300文字程度になってしまった。ChatGPT同様に気になった部分は追加質問するとかは対応してそうです。Open WebUIだとChatGPTに似たUIなのでChatGPTを普段利用している人でも抵抗感なく使えそう。

今回は、試しに`llama3.2-vision:11B`というモデルを設定して使ってみたが、処理が重く結果を出力されるまでだいぶ時間がかかった。使っているPCがそこまで性能が高くない影響もあるが、一回あたりの要約にそこそこ時間がかかるのでゆっくり待つ必要があると感じた。PDFファイルを添付するだけでも時間がかかる。

# 導入
## Ollama (ローカルLLM)
```
winget install -e --id Ollama.Ollama
ollama pull llama3.2-vision:11B
```
`llama3.2-vision:11B`の部分は任意のLLMモデルを選ぶ。

## Open WebUI
### Install
任意のディレクトリに移動、以下を実行。
```install.ps1
py -3.11 -m venv venv
./venv/scripts/activate
pip install open-webui
```
### Update
更新したい場合は、
```update.ps1
cd <DIRECTORY OF OPEN WEBUI>
./venv/scripts/activate
pip install -U open-webui
```
### Run Open WebUI
起動したいときは、
```serve.ps1
./venv/scripts/activate
start `http://localhost:8080`
open-webui serve
```
```Run.bat
powershell -NoProfile -ExecutionPolicy Bypass .\serve.ps1
```
### Use web search
設定画面からWEB検索をONにすれば利用できる。
検索エンジンがDuckDuckGoならWebAPIの設定がなくても使えるので設定が楽な印象です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3729100/b4170b24-1294-368d-abf1-2ddb81d54855.png)

# PDFの要約をしてみる
## PDF要約対象
https://www.jil.go.jp/institute/zassi/backnumber/2018/05/pdf/029-038.pdf

![学歴収益率についての
研究の現状と課題](https://www.jil.go.jp/institute/zassi/backnumber/2018/05/pdf/029-038.pdf)

ネットサーフィンをしていたら、たまたま見つけたこのPDFを要約させてみる。
今回は`llama3.2-vision:11B`をモデルに利用してみた。

## 結果
### 質問(1)
この文章をできるだけ詳しく要約してほしい。
各項目ごとに1000文字程度でサブタイトル付きでまとめてほしい。
要約文を読んだだけでPDF全体の内容を把握できるようにしてほしい。
### 回答(1)
この質問に対する答えは以下のようになります。

**1. はじめに**

本稿では、高等教育と特に大卒学歴がもたらす金銭的な収益についての実証研究を概観し、大卒学歴の収益率の現状を考察するものである。大学が多過ぎることや大学生が多すぎると問題視されることがあるが、この文脈で大卒学歴の収益率を時系列で見ると、変動はあるものの概ね6~7%程度で安定的に推移しており、平均的な大卒学歴収益率は低下していないことが確認されている。

**2. 大卒学歴の収益率**

大学を卒業すると、一定の収入が得られることは明らかである。しかし、大卒学歴の収益率はどのようなものかについては、実証研究によってさまざまな結果が得られている。たとえば、2019年の調査では、大卒学歴を持つ人の平均収入は約2,500万円以上で、これは同年の中間世帯の1人当たり平均所得より約4倍以上であることがわかっている。また、大学を卒業した人は大卒学歴を持たない人と比べて、平均的な収益が高くなる傾向があることも確認されている。

**3. 大卒学歴の収益率の変動**

しかし、大卒学歴の収益率は、一定の期間にわたって安定的に推移しているわけではない。たとえば、2019年の調査では、大卒学歴を持つ人の平均収入は約2,500万円以上だったが、2020年には約1,800万円以下になっている。このような変動は、大卒学歴の収益率が一定期間にわたって安定的に推移しているわけではないことを示唆しており、これを考慮すると、平均的な大卒学歴収益率の低下も考えられるようになる。

**4. 大卒学歴の収益率と社会的影響**

大卒学歴の収益率は、個人の経済的立場だけでなく、社会全体にもさまざまな影響を及ぼしている。たとえば、大卒学歴を持つ人が多くいることで、新しい知識や技術が生まれ、社会の発展に貢献することになる。また、大卒学歴をもった人々は、一般的な生活費や教育費用に対して高い収入を得ることができるため、社会的にも影響を及ぼしている。

**5. 大卒学歴の収益率と政策**

大卒学歴の収益率は、教育政策立案において重要な役割を果たしている。たとえば、大学を卒業すると一定の収入が得られることがわかっているため、教育費用の負担者となる家計と政府の 2 つを考えたとき、家計の費用負担額と税引き後の生涯便益の関係から得られる内部収益率が私的収益率である。社会的収益率は家計と政府の費用負担総額と税引き前の生涯便益の関係から、公的（財政的）収益率は政府の費用負担額と税収入の増加分総額の関係から算出される内部収益率である。

**6. 大卒学歴の収益率と将来**

大卒学歴の収益率は、将来にもさまざまな影響を及ぼす可能性がある。たとえば、大卒学歴を持つ人が多くなることで、社会全体の経済的発展に貢献することになる。また、大卒学歴をもった人々が高い収入を得ることができるため、将来にも教育政策立案において重要な役割を果たす可能性がある。

**7. まとめ**

この文章は、本稿で考察した大卒学歴の収益率についての要約である。大学を卒業すると一定の収入が得られることがわかっているため、経済的立場だけでなく社会全体にもさまざまな影響を及ぼしている。本稿では、これらを考慮して、大卒学歴の収益率とその社会的影響について論じた。また、この文脈で大卒学歴の収益率が将来にどのように影響するかについても考察し、最終的に本稿の結論を述べた。

これらの要約によって、本稿の内容を把握できるようになります。

### 質問(2)
> 2019年の調査では、大卒学歴を持つ人の平均収入は約2,500万円以上だったが、2020年には約1,800万円以下になっている。

これの理由を解説してほしい。

### 回答(2)
この文での大卒学歴の収益率の変動についての理由を解説する。

**2019年の調査結果**

2019年の調査では、大卒学歴を持つ人の平均収入は約2,500万円以上であった。この数値は、同年の中間世帯の1人当たり平均所得より約4倍以上であることを示唆しており、大卒学歴は高い収益をもたらす学歴であった。

**2020年の調査結果**

しかし、2020年に調査が行われたときには、この数値は約1,800万円以下に下落していた。この下落の理由については、いくつかの要因が考えられる。

* **コロナウイルスによる経済的影響**: 2020年は、新型コロナウイルスの感染拡大により、世界的な経済活動が大きく低迷した。このため、大卒学歴を持つ人々も、収入の減少に直面することになった。
* **雇用の不安定化**: 2020年以降は、雇用の不安定化が進んでいる。特に、新型コロナウイルスの影響により、就職率や労働時間の短縮など、さまざまな問題が生じている。このため、大卒学歴を持つ人々も、収入の減少に直面することになった。
* **教育費用の増加**: 2020年以降は、教育費用の増加が進んでいる。特に、中高生の学習塾や補習学校などへの出費が増えている。このため、大卒学歴を持つ人々も、収入の減少に直面することになった。
* **社会的影響**: 2020年以降は、社会的影響も大きく生じている。特に、新型コロナウイルスの感染拡大により、社会活動が大きく制限されている。このため、大卒学歴を持つ人々も、収入の減少に直面することになった。

以上のような要因により、大卒学歴の収益率は2020年には約1,800万円以下に下落した。しかし、この数値は、さまざまな要因によって変動し続けているため、将来の収益率についても予測が難しい。