工数を抑えて社内LLMを導入！ 「Open WebUI」とは? ～難しいことはわからないデザイナーがざっくり解説～

# はじめに
こんにちは！ 株式会社WebCrewのデザイナー@wc-nakagomiです。
所属チームの目標の一つに「社内における生成AI活用推進」があり、その一環として「Open WebUI」を用いて、セキュアな社内LLM（大規模言語モデル）を2か月で導入しました。


今回は、**「社内で生成AIを活用したいが、難しいことはちょっと…」とお考えの方** や **「Open WebUI」に少しでも興味がある方** に向けて、難しいことはわからないデザイナーが「Open WebUI」についてざっくり解説します。
もちろん、本格的に導入する際にはエンジニアの力が必要ですが、まずは参考情報としてお読みいただければ幸いです！

# そもそも「Open WebUI」って何？
#### 複数のLLM（大規模言語モデル）を手軽に利用できるツールです！
「Open WebUI」のドキュメントに記載してある説明を和訳すると下記の通りとなっています。


> Open WebUI は、完全にオフラインで動作するように設計された、拡張可能で機能が豊富でユーザーフレンドリーなセルフホスト型 AI プラットフォームです。OllamaやOpenAI 互換 APIなどのさまざまな LLM ランナーをサポートし、 RAG 用の推論エンジンを内蔵しているため、強力な AI 展開ソリューションとなっています。
https://docs.openwebui.com/

横文字だらけでなんのこっちゃ？ですがスーパーざっくりに言うと **ChatGPTやGeminiなど複数のLLMをローカル環境で利用でき、** そのLLMを**操作できるインターフェースを提供してくれる**ツールです。

# Open WebUIの魅力は？
#### セキュリティが高く、低コストで運用、制作コストも抑えられる！
「そもそも、 **ChatGPTやGemini** 、複数のLLMの回答を得たいのであれば [Genspark](https://www.genspark.ai/agents)や[天秤AI](https://tenbin.ai/workspace/welcome)といった他のLLMで十分では？」と感じられる方もいるかもしれません。しかし、社内利用を前提とすると「Open WebUI」には主に2つのメリットがあります。

#### ① セキュアな環境で利用可能
「Open WebUI」はローカル環境で動作するため、データが外部のサーバーに送信されることがありません。よってセキュアな環境での利用が可能です。


※ChatGPT（OpenAI）やGeminiをAPIで繋ぎ込んだ場合は入力データがこれらの外部サービスに送信されますが、入力されたデータは学習に利用されないと明言されています。念の為、APIを利用した場合は機密情報などの入力は避けた方が良いかと思います。

#### ② 低コストで運用可能
例えば、全社員にChatGPTの有料プランを使ってもらうには、社員100名分で毎月約3,000ドル（約45万円、1ドル＝150円換算、Teamプラン想定）の固定費用がかかります。「Open WebUI」は **ChatGPTのAPIを連携する形** になりますので **使用した分だけ費用がかかる従量課金制にすることができます。** そのため、**利用状況に応じたコスト管理が容易で、必要以上の出費を防ぐこと** ができます。

さらに、社内専用のLLMを最初から構築する場合に比べ、制作コストを大幅に削減できる点も見逃せません。ChatGPTライクな使い勝手の良いUIで迅速に実装でき、文言や使用画像の変更なども対応可能です。加えて、アップデートも比較的早いサイクルで行われますので、新機能の拡充も期待できます。


![02.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981064/faac2b72-2554-42ad-8e46-79d9d5744989.jpeg)
Open WebUIのチャット画面。ChatGPTライクで使いやすいUIです

<br>
実際、チーム内に「Open WebUI」の提案をしてから社内リリースまで2か月でリリースすることができました。メインのベース構築はバックエンドエンジニア2名の協力で実現し、限られたリソースでも十分な成果を上げることができました。

具体的なUIや機能については、下記記事にまとめましたのでご興味ある方はごぜひ覧ください。

https://qiita.com/wc-nakagomi/private/ca056b0b6a80f5e95c80

# Open WebUIの構成
実際の構成を弊社エンジニアにヒアリングし、ざっくり作成しました。「Open WebUI」を導入して社内LLMを作成する際は、ぜひ参考にしていただければ幸いです！

基本構成としては下記の通りとなっています。

![03.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981064/a45561c1-1584-4e15-80cb-5d2b6c8eac62.jpeg)
「Open WebUI」の基本構成
<br>
弊社では下記の通りにカスタマイズして構築しています。この構成にすることで以下のようなメリットがあります。
**・ChatGPTやGeminiとの連携により、AIからの回答精度を向上**
**・認証基盤と連携することで、アカウントの一元管理および運用効率の向上**
**・認証基盤との連携でセキュリティを強化**
なお、認証基盤を利用しなくても「Open WebUI」内でもアカウント管理ができますので、十分にセキュアな運用が可能です。

![04.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981064/6e294033-0d22-4674-82ed-daa45c86da06.jpeg)
弊社の「Open WebUI」の構成


# 「Open WebUI」をまずは試してみたい方へ
「どんなものか、ちょっと試してみたい！」という方は、以下の参考記事をチェックして、ご自身のPCにインストールしてみてください。難しいことはわからない私でもスムーズに導入できましたのでおすすめです！


https://notai.jp/open-webui/#google_vignette:~:text=%E3%81%A8%E3%81%AE%E9%81%95%E3%81%84-,%E4%B8%8B%E6%BA%96%E5%82%99%EF%BC%9ALLM%E3%82%92%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%AB%E4%BD%BF%E7%94%A8%E3%81%99%E3%82%8B%E3%80%8COllama%E3%80%8D%E3%81%AE%E5%B0%8E%E5%85%A5,-Open%20WebUI%E3%81%AE

アップデートも頻繁にされますが下記記事の魔法の言葉（スクリプト）を下記画像の場所に入れて少し待つと自動でアップデートしてくれます！

※インストールやアップデートは、ご自身の判断と責任で行うようお願いいたします。


https://qiita.com/takurot/items/507997185ca0464c2f38


![05.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981064/67df8ce1-da5a-42b9-97f2-6936001a0343.jpeg)

![06.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2981064/d5072d4e-11e2-4aba-8501-1174c1e61b7e.jpeg)


:::note info
**まとめ**
❶ 「Open WebUI」は複数のLLMを簡単に利用できるツール
❷ セキュアな環境で使え、低コストで運用できるので社内での利用に最適
❸ ChatGPTライクな使いやすいUIでサクッと実装。機能アップデートも頻繁にされ機能拡充が容易！
:::

いかがでしたでしょうか?
昨今AI活用について社内外問わずいろいろ試されている方も多いかと思い、記事にしてみました！ 何かの参考になれば幸いです。

以上となります！ お読みいただきありがとうございました。

# 「Open WebUI」についての参考記事とサイト
「Open WebUI」の概要や、弊社の社内LLM作成時に参考にした記事・サイトです。以下のリンクよりご確認ください。

https://note.com/catap_art3d/n/n872965e1f12c

https://note.com/catap_art3d/n/n4ce42eeee569

https://github.com/open-webui/open-webui

https://docs.openwebui.com/

https://openwebui.com/