Files changed (1) hide show
  1. config.py +0 -270
config.py DELETED
@@ -1,270 +0,0 @@
1
- """
2
- 以下所有配置也都支持利用环境变量覆写,环境变量配置格式见docker-compose.yml。
3
- 读取优先级:环境变量 > config_private.py > config.py
4
- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- ---
5
- All the following configurations also support using environment variables to override,
6
- and the environment variable configuration format can be seen in docker-compose.yml.
7
- Configuration reading priority: environment variable > config_private.py > config.py
8
- """
9
-
10
- # [step 1]>> API_KEY = "sk-123456789xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx123456789"。极少数情况下,还需要填写组织(格式如org-123456789abcdefghijklmno的),请向下翻,找 API_ORG 设置项
11
- API_KEY = "此处填API密钥" # 可同时填写多个API-KEY,用英文逗号分割,例如API_KEY = "sk-openaikey1,sk-openaikey2,fkxxxx-api2dkey3,azure-apikey4"
12
-
13
-
14
- # [step 1]>> API_KEY = "sk-123456789xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx123456789"。极少数情况下,还需要填写组织(格式如org-123456789abcdefghijklmno的),请向下翻,找 API_ORG 设置项
15
- API_KEY = "此处填API密钥" # 可同时填写多个API-KEY,用英文逗号分割,例如API_KEY = "sk-openaikey1,sk-openaikey2,fkxxxx-api2dkey3,azure-apikey4"
16
-
17
-
18
- # [step 2]>> 改为True应用代理,如果直接在海外服务器部署,此处不修改;如果使用本地或无地域限制的大模型时,此处也不需要修改
19
- USE_PROXY = False
20
- if USE_PROXY:
21
- """
22
- 填写格式是 [协议]:// [地址] :[端口],填写之前不要忘记把USE_PROXY改成True,如果直接在海外服务器部署,此处不修改
23
- <配置教程&视频教程> https://github.com/binary-husky/gpt_academic/issues/1>
24
- [协议] 常见协议无非socks5h/http; 例如 v2**y 和 ss* 的默认本地协议是socks5h; 而cl**h 的默认本地协议是http
25
- [地址] 懂的都懂,不懂就填localhost或者127.0.0.1肯定错不了(localhost意思是代理软件安装在本机上)
26
- [端口] 在代理软件的设置里找。虽然不同的代理软件界面不一样,但端口号都应该在最显眼的位置上
27
- """
28
- # 代理网络的地址,打开你的*学*网软件查看代理的协议(socks5h / http)、地址(localhost)和端口(11284)
29
- proxies = {
30
- # [协议]:// [地址] :[端口]
31
- "http": "socks5h://localhost:11284", # 再例如 "http": "http://127.0.0.1:7890",
32
- "https": "socks5h://localhost:11284", # 再例如 "https": "http://127.0.0.1:7890",
33
- }
34
- else:
35
- proxies = None
36
-
37
- # ------------------------------------ 以下配置可以优化体验, 但大部分场合下并不需要修改 ------------------------------------
38
-
39
- # 重新URL重新定向,实现更换API_URL的作用(高危设置! 常规情况下不要修改! 通过修改此设置,您将把您的API-KEY和对话隐私完全暴露给您设定的中间人!)
40
- # 格式: API_URL_REDIRECT = {"https://api.openai.com/v1/chat/completions": "在这里填写重定向的api.openai.com的URL"}
41
- # 举例: API_URL_REDIRECT = {"https://api.openai.com/v1/chat/completions": "https://reverse-proxy-url/v1/chat/completions"}
42
- API_URL_REDIRECT = {}
43
-
44
-
45
- # 多线程函数插件中,默认允许多少路线程同时访问OpenAI。Free trial users的限制是每分钟3次,Pay-as-you-go users的限制是每分钟3500次
46
- # 一言以蔽之:免费(5刀)用户填3,OpenAI绑了信用卡的用户可以填 16 或者更高。提高限制请查询:https://platform.openai.com/docs/guides/rate-limits/overview
47
- DEFAULT_WORKER_NUM = 3
48
-
49
-
50
- # 色彩主题, 可选 ["Default", "Chuanhu-Small-and-Beautiful", "High-Contrast"]
51
- # 更多主题, 请查阅Gradio主题商店: https://huggingface.co/spaces/gradio/theme-gallery 可选 ["Gstaff/Xkcd", "NoCrypt/Miku", ...]
52
- THEME = "Chuanhu-Small-and-Beautiful"
53
- AVAIL_THEMES = ["Default", "Chuanhu-Small-and-Beautiful", "High-Contrast", "Gstaff/Xkcd", "NoCrypt/Miku"]
54
-
55
-
56
- # 对话窗的高度 (仅在LAYOUT="TOP-DOWN"时生效)
57
- CHATBOT_HEIGHT = 1115
58
-
59
-
60
- # 代码高亮
61
- CODE_HIGHLIGHT = True
62
-
63
-
64
- # 窗口布局
65
- LAYOUT = "LEFT-RIGHT" # "LEFT-RIGHT"(左右布局) # "TOP-DOWN"(上下布局)
66
-
67
-
68
- # 暗色模式 / 亮色模式
69
- DARK_MODE = True
70
-
71
-
72
- # 发送请求到OpenAI后,等待多久判定为超时
73
- TIMEOUT_SECONDS = 30
74
-
75
-
76
- # 网页的端口, -1代表随机端口
77
- WEB_PORT = -1
78
-
79
-
80
- # 如果OpenAI不响应(网络卡顿、代理失败、KEY失效),重试的次数限制
81
- MAX_RETRY = 2
82
-
83
- # OpenAI模型选择是(gpt4现在只对申请成功的人开放)
84
- LLM_MODEL = "gpt-3.5-turbo" # 可选 "chatglm"
85
- AVAIL_LLM_MODELS = ["gpt-3.5-turbo", "gpt-4", "api2d-gpt-4", "api2d-gpt-3.5-turbo", "spark", "azure-gpt-3.5"]
86
-
87
- # 插件分类默认选项
88
- DEFAULT_FN_GROUPS = ['对话', '编程', '学术', '智能体']
89
-
90
-
91
- # 模型选择是 (注意: LLM_MODEL是默认选中的模型, 它*必须*被包含在AVAIL_LLM_MODELS列表中 )
92
- LLM_MODEL = "gpt-3.5-turbo" # 可选 ↓↓↓
93
- AVAIL_LLM_MODELS = ["gpt-3.5-turbo-16k", "gpt-3.5-turbo", "azure-gpt-3.5", "api2d-gpt-3.5-turbo",
94
- "gpt-4", "gpt-4-32k", "azure-gpt-4", "api2d-gpt-4", "chatglm", "moss", "newbing", "stack-claude"]
95
- # P.S. 其他可用的模型还包括 ["qianfan", "llama2", "qwen", "gpt-3.5-turbo-0613", "gpt-3.5-turbo-16k-0613",
96
- # "spark", "sparkv2", "chatglm_onnx", "claude-1-100k", "claude-2", "internlm", "jittorllms_pangualpha", "jittorllms_llama"]
97
-
98
-
99
- # 百度千帆(LLM_MODEL="qianfan")
100
- BAIDU_CLOUD_API_KEY = ''
101
- BAIDU_CLOUD_SECRET_KEY = ''
102
- BAIDU_CLOUD_QIANFAN_MODEL = 'ERNIE-Bot' # 可选 "ERNIE-Bot"(文心一言), "ERNIE-Bot-turbo", "BLOOMZ-7B", "Llama-2-70B-Chat", "Llama-2-13B-Chat", "Llama-2-7B-Chat"
103
-
104
-
105
- # 如果使用ChatGLM2微调模型,请把 LLM_MODEL="chatglmft",并在此处指定模型路径
106
- CHATGLM_PTUNING_CHECKPOINT = "" # 例如"/home/hmp/ChatGLM2-6B/ptuning/output/6b-pt-128-1e-2/checkpoint-100"
107
-
108
-
109
- # 本地LLM模型如ChatGLM的执行方式 CPU/GPU
110
- LOCAL_MODEL_DEVICE = "cpu" # 可选 "cuda"
111
- LOCAL_MODEL_QUANT = "FP16" # 默认 "FP16" "INT4" 启用量化INT4版本 "INT8" 启用量化INT8版本
112
-
113
-
114
- # 设置gradio的并行线程数(不需要修改)
115
- CONCURRENT_COUNT = 100
116
-
117
-
118
- # 是否在提交时自动清空输入框
119
- AUTO_CLEAR_TXT = False
120
-
121
-
122
- # 加一个live2d装饰
123
- ADD_WAIFU = False
124
-
125
-
126
- # 设置用户名和密码(不需要修改)(相关功能不稳定,与gradio版本和网络都相关,如果本地使用不建议加这个)
127
- # [("username", "password"), ("username2", "password2"), ...]
128
- AUTHENTICATION = []
129
-
130
-
131
- # 如果需要在二级路径下运行(常规情况下,不要修改!!)(需要配合修改main.py才能生效!)
132
- CUSTOM_PATH = "/"
133
-
134
-
135
- # 极少数情况下,openai的官方KEY需要伴随组织编码(格式如org-xxxxxxxxxxxxxxxxxxxxxxxx)使用
136
- API_ORG = ""
137
-
138
-
139
- # 如果需要使用Slack Claude,使用教程详情见 request_llm/README.md
140
- SLACK_CLAUDE_BOT_ID = ''
141
- SLACK_CLAUDE_USER_TOKEN = ''
142
-
143
-
144
- # 如果需要使用AZURE 详情请见额外文档 docs\use_azure.md
145
- AZURE_ENDPOINT = "https://你亲手写的api名称.openai.azure.com/"
146
- AZURE_API_KEY = "填入azure openai api的密钥" # 建议直接在API_KEY处填写,该选项即将被弃用
147
- AZURE_ENGINE = "填入你亲手写的部署名" # 读 docs\use_azure.md
148
-
149
-
150
- # 使用Newbing
151
- NEWBING_STYLE = "creative" # ["creative", "balanced", "precise"]
152
- NEWBING_COOKIES = """
153
- put your new bing cookies here
154
- """
155
-
156
-
157
- # 阿里云实时语音识别 配置难度较高 仅建议高手用户使用 参考 https://github.com/binary-husky/gpt_academic/blob/master/docs/use_audio.md
158
- ENABLE_AUDIO = False
159
- ALIYUN_TOKEN="" # 例如 f37f30e0f9934c34a992f6f64f7eba4f
160
- ALIYUN_APPKEY="" # 例如 RoPlZrM88DnAFkZK
161
- ALIYUN_ACCESSKEY="" # (无需填写)
162
- ALIYUN_SECRET="" # (无需填写)
163
-
164
-
165
- # 接入讯飞星火大模型 https://console.xfyun.cn/services/iat
166
- XFYUN_APPID = "00000000"
167
- XFYUN_API_SECRET = "bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb"
168
- XFYUN_API_KEY = "aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa"
169
-
170
-
171
- # Claude API KEY
172
- ANTHROPIC_API_KEY = ""
173
-
174
-
175
- # 自定义API KEY格式
176
- CUSTOM_API_KEY_PATTERN = ""
177
-
178
-
179
- # HUGGINGFACE的TOKEN,下载LLAMA时起作用 https://huggingface.co/docs/hub/security-tokens
180
- HUGGINGFACE_ACCESS_TOKEN = "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"
181
-
182
-
183
- # GROBID服务器地址(填写多个可以均衡负载),用于高质量地读取PDF文档
184
- # 获取方法:复制以下空间https://huggingface.co/spaces/qingxu98/grobid,设为public,然后GROBID_URL = "https://(你的hf用户名如qingxu98)-(你的填写的空间名如grobid).hf.space"
185
- GROBID_URLS = [
186
- "https://qingxu98-grobid.hf.space","https://qingxu98-grobid2.hf.space","https://qingxu98-grobid3.hf.space",
187
- "https://shaocongma-grobid.hf.space","https://FBR123-grobid.hf.space", "https://yeku-grobid.hf.space",
188
- ]
189
-
190
-
191
- # 是否允许通过自然语言描述修改本页的配置,该功能具有一定的危险性,默认关闭
192
- ALLOW_RESET_CONFIG = False
193
-
194
-
195
- # 临时的上传文件夹位置,请勿修改
196
- PATH_PRIVATE_UPLOAD = "private_upload"
197
-
198
-
199
- # 日志文件夹的位置,请勿修改
200
- PATH_LOGGING = "gpt_log"
201
-
202
-
203
- # 除了连接OpenAI之外,还有哪些场合允许使用代理,请勿修改
204
- WHEN_TO_USE_PROXY = ["Download_LLM", "Download_Gradio_Theme", "Connect_Grobid", "Warmup_Modules"]
205
-
206
-
207
- """
208
- 在线大模型配置关联关系示意图
209
-
210
- ├── "gpt-3.5-turbo" 等openai模型
211
- │ ├── API_KEY
212
- │ ├── CUSTOM_API_KEY_PATTERN(不常用)
213
- │ ├── API_ORG(不常用)
214
- │ └── API_URL_REDIRECT(不常用)
215
-
216
- ├── "azure-gpt-3.5" 等azure模型
217
- │ ├── API_KEY
218
- │ ├── AZURE_ENDPOINT
219
- │ ├── AZURE_API_KEY
220
- │ ├── AZURE_ENGINE
221
- │ └── API_URL_REDIRECT
222
-
223
- ├── "spark" 星火认知大模型 spark & sparkv2
224
- │ ├── XFYUN_APPID
225
- │ ├── XFYUN_API_SECRET
226
- │ └── XFYUN_API_KEY
227
-
228
- ├── "claude-1-100k" 等claude模型
229
- │ └── ANTHROPIC_API_KEY
230
-
231
- ├── "stack-claude"
232
- │ ├── SLACK_CLAUDE_BOT_ID
233
- │ └── SLACK_CLAUDE_USER_TOKEN
234
-
235
- ├── "qianfan" 百度千帆大模型库
236
- │ ├── BAIDU_CLOUD_QIANFAN_MODEL
237
- │ ├── BAIDU_CLOUD_API_KEY
238
- │ └── BAIDU_CLOUD_SECRET_KEY
239
-
240
- ├── "newbing" Newbing接口不再稳定,不推荐使用
241
- ├── NEWBING_STYLE
242
- └── NEWBING_COOKIES
243
-
244
-
245
- 用户图形界面布局依赖关系示意图
246
-
247
- ├── CHATBOT_HEIGHT 对话窗的高度
248
- ├── CODE_HIGHLIGHT 代码高亮
249
- ├── LAYOUT 窗口布局
250
- ├── DARK_MODE 暗色模式 / 亮色模式
251
- ├── DEFAULT_FN_GROUPS 插件分类默认选项
252
- ├── THEME 色彩主题
253
- ├── AUTO_CLEAR_TXT 是否在提交时自动清空输入框
254
- ├── ADD_WAIFU 加一个live2d装饰
255
- ├── ALLOW_RESET_CONFIG 是否允许通过自然语言描述修改本页的配置,该功能具有一定的危险性
256
-
257
-
258
- 插件在线服务配置依赖关系示意图
259
-
260
- ├── 语音功能
261
- │ ├── ENABLE_AUDIO
262
- │ ├── ALIYUN_TOKEN
263
- │ ├── ALIYUN_APPKEY
264
- │ ├── ALIYUN_ACCESSKEY
265
- │ └── ALIYUN_SECRET
266
-
267
- ├── PDF文档精准解析
268
- │ └── GROBID_URLS
269
-
270
- """