Spaces:
Sleeping
Sleeping
<div id="top"></div> | |
<div align="center"> | |
<img src="assets/logo.svg" style="width: 50%; height: auto;"> | |
[📃 Paper](https://arxiv.org/abs/2407.20183) | [💻 浦语入口](https://internlm-chat.intern-ai.org.cn/) | |
[English](README.md) | 简体中文 | |
<https://github.com/user-attachments/assets/b4312e9c-5b40-43e5-8c69-929c373e4965> | |
</div> | |
</p> | |
## ✨ MindSearch: Mimicking Human Minds Elicits Deep AI Searcher | |
MindSearch 是一个开源的 AI 搜索引擎框架,具有与 Perplexity.ai Pro 相同的性能。您可以轻松部署它来构建您自己的搜索引擎,可以使用闭源 LLM(如 GPT、Claude)或开源 LLM([InternLM2.5 系列模型](https://huggingface.co/internlm/internlm2_5-7b-chat)经过专门优化,能够在 MindSearch 框架中提供卓越的性能;其他开源模型没做过具体测试)。其拥有以下特性: | |
- 🤔 **任何想知道的问题**:MindSearch 通过搜索解决你在生活中遇到的各种问题 | |
- 📚 **深度知识探索**:MindSearch 通过数百网页的浏览,提供更广泛、深层次的答案 | |
- 🔍 **透明的解决方案路径**:MindSearch 提供了思考路径、搜索关键词等完整的内容,提高回复的可信度和可用性。 | |
- 💻 **多种用户界面**:为用户提供各种接口,包括 React、Gradio、Streamlit 和本地调试。根据需要选择任意类型。 | |
- 🧠 **动态图构建过程**:MindSearch 将用户查询分解为图中的子问题节点,并根据 WebSearcher 的搜索结果逐步扩展图。 | |
<div align="center"> | |
<img src="assets/teaser.gif"> | |
</div> | |
## ⚡️ MindSearch VS 其他 AI 搜索引擎 | |
在深度、广度和生成响应的准确性三个方面,对 ChatGPT-Web、Perplexity.ai(Pro)和 MindSearch 的表现进行比较。评估结果基于 100 个由人类专家精心设计的现实问题,并由 5 位专家进行评分\*。 | |
<div align="center"> | |
<img src="assets/mindsearch_openset.png" width="90%"> | |
</div> | |
* 所有实验均在 2024 年 7 月 7 日之前完成。 | |
## ⚽️ 构建您自己的 MindSearch | |
### 步骤1: 依赖安装 | |
```bash | |
pip install -r requirements.txt | |
``` | |
### 步骤2: 启动 MindSearch API | |
启动 FastAPI 服务器 | |
```bash | |
python -m mindsearch.app --lang en --model_format internlm_server --search_engine DuckDuckGoSearch | |
``` | |
- `--lang`: 模型的语言,`en` 为英语,`cn` 为中文。 | |
- `--model_format`: 模型的格式。 | |
- `internlm_server` 为 InternLM2.5-7b-chat 本地服务器。 | |
- `gpt4` 为 GPT4。 | |
如果您想使用其他模型,请修改 [models](./mindsearch/agent/models.py) | |
- `--search_engine`: 搜索引擎。 | |
- `DuckDuckGoSearch` 为 DuckDuckGo 搜索引擎。 | |
- `BingSearch` 为 Bing 搜索引擎。 | |
- `BraveSearch` 为 Brave 搜索引擎。 | |
- `GoogleSearch` 为 Google Serper 搜索引擎。 | |
- `TencentSearch` 为 Tencent 搜索引擎。 | |
请将 DuckDuckGo 和 Tencent 以外的网页搜索引擎 API 密钥设置为 `WEB_SEARCH_API_KEY` 环境变量。如果使用 DuckDuckGo,则无需设置;如果使用 Tencent,请设置 `TENCENT_SEARCH_SECRET_ID` 和 `TENCENT_SEARCH_SECRET_KEY`。 | |
### 步骤3: 启动 MindSearch 前端 | |
提供以下几种前端界面: | |
- React | |
首先配置Vite的API代理,指定实际后端URL | |
```bash | |
HOST="127.0.0.1" | |
PORT=8002 | |
sed -i -r "s/target:\s*\"\"/target: \"${HOST}:${PORT}\"/" frontend/React/vite.config.ts | |
``` | |
```bash | |
# 安装 Node.js 和 npm | |
# 对于 Ubuntu | |
sudo apt install nodejs npm | |
# 对于 Windows | |
# 从 https://nodejs.org/zh-cn/download/prebuilt-installer 下载 | |
cd frontend/React | |
npm install | |
npm start | |
``` | |
更多细节请参考 [React](./frontend/React/README.md) | |
- Gradio | |
```bash | |
python frontend/mindsearch_gradio.py | |
``` | |
- Streamlit | |
```bash | |
streamlit run frontend/mindsearch_streamlit.py | |
``` | |
## 🐞 本地调试 | |
```bash | |
python mindsearch/terminal.py | |
``` | |
## 📝 许可证 | |
该项目按照 [Apache 2.0 许可证](LICENSE) 发行。 | |
## 学术引用 | |
如果此项目对您的研究有帮助,请参考如下方式进行引用: | |
``` | |
@article{chen2024mindsearch, | |
title={MindSearch: Mimicking Human Minds Elicits Deep AI Searcher}, | |
author={Chen, Zehui and Liu, Kuikun and Wang, Qiuchen and Liu, Jiangning and Zhang, Wenwei and Chen, Kai and Zhao, Feng}, | |
journal={arXiv preprint arXiv:2407.20183}, | |
year={2024} | |
} | |
``` | |
## 相关项目 | |
关注我们其他在大语言模型上的一些探索,主要为LLM智能体方向。 | |
- [Lagent](https://github.com/InternLM/lagent): 一个轻便简洁的大语言模型智能体框架 | |
- [AgentFLAN](https://github.com/InternLM/Agent-FLAN): 一套构建高质量智能体语料和训练模型的方法 (ACL 2024 Findings) | |
- [T-Eval](https://github.com/open-compass/T-Eval): 一个细粒度评估LLM调用工具能力的评测及 (ACL 2024) | |