Spaces:
Running
Running
| """ | |
| 以下所有配置也都支持利用环境变量覆写，环境变量配置格式见docker-compose.yml。 | |
| 读取优先级：环境变量 > config_private.py > config.py | |
| --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- --- | |
| All the following configurations also support using environment variables to override, | |
| and the environment variable configuration format can be seen in docker-compose.yml. | |
| Configuration reading priority: environment variable > config_private.py > config.py | |
| """ | |
| # [step 1]>> API_KEY = "sk-123456789xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx123456789"。极少数情况下，还需要填写组织（格式如org-123456789abcdefghijklmno的），请向下翻，找 API_ORG 设置项 | |
| API_KEY = "fk200169-6prE9QI1XQkHqM1i9hPuMxg1b6BtdxoT" # 可同时填写多个API-KEY，用英文逗号分割，例如API_KEY = "sk-openaikey1,sk-openaikey2,fkxxxx-api2dkey3,azure-apikey4" | |
| # [step 1]>> API_KEY = "sk-123456789xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx123456789"。极少数情况下，还需要填写组织（格式如org-123456789abcdefghijklmno的），请向下翻，找 API_ORG 设置项 | |
| API_KEY = "fk200169-6prE9QI1XQkHqM1i9hPuMxg1b6BtdxoT" # 可同时填写多个API-KEY，用英文逗号分割，例如API_KEY = "sk-openaikey1,sk-openaikey2,fkxxxx-api2dkey3,azure-apikey4" | |
| # [step 2]>> 改为True应用代理，如果直接在海外服务器部署，此处不修改；如果使用本地或无地域限制的大模型时，此处也不需要修改 | |
| USE_PROXY = False | |
| if USE_PROXY: | |
| """ | |
| 填写格式是 [协议]:// [地址] :[端口]，填写之前不要忘记把USE_PROXY改成True，如果直接在海外服务器部署，此处不修改 | |
| <配置教程&视频教程> https://github.com/binary-husky/gpt_academic/issues/1> | |
| [协议] 常见协议无非socks5h/http; 例如 v2**y 和 ss* 的默认本地协议是socks5h; 而cl**h 的默认本地协议是http | |
| [地址] 懂的都懂，不懂就填localhost或者127.0.0.1肯定错不了（localhost意思是代理软件安装在本机上） | |
| [端口] 在代理软件的设置里找。虽然不同的代理软件界面不一样，但端口号都应该在最显眼的位置上 | |
| """ | |
| # 代理网络的地址，打开你的*学*网软件查看代理的协议(socks5h / http)、地址(localhost)和端口(11284) | |
| proxies = { | |
| # [协议]:// [地址] :[端口] | |
| "http": "socks5h://localhost:11284", # 再例如 "http": "http://127.0.0.1:7890", | |
| "https": "socks5h://localhost:11284", # 再例如 "https": "http://127.0.0.1:7890", | |
| } | |
| else: | |
| proxies = None | |
| # ------------------------------------ 以下配置可以优化体验, 但大部分场合下并不需要修改 ------------------------------------ | |
| # 重新URL重新定向，实现更换API_URL的作用（高危设置! 常规情况下不要修改! 通过修改此设置，您将把您的API-KEY和对话隐私完全暴露给您设定的中间人！） | |
| # 格式: API_URL_REDIRECT = {"https://api.openai.com/v1/chat/completions": "在这里填写重定向的api.openai.com的URL"} | |
| # 举例: API_URL_REDIRECT = {"https://api.openai.com/v1/chat/completions": "https://reverse-proxy-url/v1/chat/completions"} | |
| API_URL_REDIRECT = {} | |
| # 多线程函数插件中，默认允许多少路线程同时访问OpenAI。Free trial users的限制是每分钟3次，Pay-as-you-go users的限制是每分钟3500次 | |
| # 一言以蔽之：免费（5刀）用户填3，OpenAI绑了信用卡的用户可以填 16 或者更高。提高限制请查询：https://platform.openai.com/docs/guides/rate-limits/overview | |
| DEFAULT_WORKER_NUM = 3 | |
| # 对话窗的高度 | |
| CHATBOT_HEIGHT = 1115 | |
| # 代码高亮 | |
| CODE_HIGHLIGHT = True | |
| # 窗口布局 | |
| LAYOUT = "LEFT-RIGHT" # "LEFT-RIGHT"（左右布局） # "TOP-DOWN"（上下布局） | |
| DARK_MODE = True # 暗色模式 / 亮色模式 | |
| # 发送请求到OpenAI后，等待多久判定为超时 | |
| TIMEOUT_SECONDS = 30 | |
| # 网页的端口, -1代表随机端口 | |
| WEB_PORT = -1 | |
| # 如果OpenAI不响应（网络卡顿、代理失败、KEY失效），重试的次数限制 | |
| MAX_RETRY = 2 | |
| # OpenAI模型选择是（gpt4现在只对申请成功的人开放） | |
| LLM_MODEL = "api2d-gpt-3.5-turbo" # 可选 "chatglm" | |
| AVAIL_LLM_MODELS = ["gpt-3.5-turbo", "gpt-4", "api2d-gpt-4", "api2d-gpt-3.5-turbo", "spark", "azure-gpt-3.5"] | |
| # ChatGLM(2) Finetune Model Path （如果使用ChatGLM2微调模型，需要把"chatglmft"加入AVAIL_LLM_MODELS中） | |
| ChatGLM_PTUNING_CHECKPOINT = "" # 例如"/home/hmp/ChatGLM2-6B/ptuning/output/6b-pt-128-1e-2/checkpoint-100" | |
| # 本地LLM模型如ChatGLM的执行方式 CPU/GPU | |
| LOCAL_MODEL_DEVICE = "cpu" # 可选 "cuda" | |
| LOCAL_MODEL_QUANT = "FP16" # 默认 "FP16" "INT4" 启用量化INT4版本 "INT8" 启用量化INT8版本 | |
| # 设置gradio的并行线程数（不需要修改） | |
| CONCURRENT_COUNT = 100 | |
| # 是否在提交时自动清空输入框 | |
| AUTO_CLEAR_TXT = True | |
| # 色彩主体，可选 ["Default", "Chuanhu-Small-and-Beautiful"] | |
| THEME = "Chuanhu-Small-and-Beautiful" | |
| # 加一个live2d装饰 | |
| ADD_WAIFU = False | |
| # 设置用户名和密码（不需要修改）（相关功能不稳定，与gradio版本和网络都相关，如果本地使用不建议加这个） | |
| # [("username", "password"), ("username2", "password2"), ...] | |
| AUTHENTICATION = [("HJLAB", "EM6085xc3")] | |
| # 如果需要在二级路径下运行（常规情况下，不要修改!!）（需要配合修改main.py才能生效!） | |
| CUSTOM_PATH = "/" | |
| # 极少数情况下，openai的官方KEY需要伴随组织编码（格式如org-xxxxxxxxxxxxxxxxxxxxxxxx）使用 | |
| API_ORG = "" | |
| # 如果需要使用Slack Claude，使用教程详情见 request_llm/README.md | |
| SLACK_CLAUDE_BOT_ID = '' | |
| SLACK_CLAUDE_USER_TOKEN = '' | |
| # 如果需要使用AZURE 详情请见额外文档 docs\use_azure.md | |
| AZURE_ENDPOINT = "https://你亲手写的api名称.openai.azure.com/" | |
| AZURE_API_KEY = "填入azure openai api的密钥" # 建议直接在API_KEY处填写，该选项即将被弃用 | |
| AZURE_ENGINE = "填入你亲手写的部署名" # 读 docs\use_azure.md | |
| # 使用Newbing | |
| NEWBING_STYLE = "creative" # ["creative", "balanced", "precise"] | |
| NEWBING_COOKIES = """ | |
| put your new bing cookies here | |
| """ | |
| # 阿里云实时语音识别 配置难度较高 仅建议高手用户使用 参考 https://github.com/binary-husky/gpt_academic/blob/master/docs/use_audio.md | |
| ENABLE_AUDIO = False | |
| ALIYUN_TOKEN="" # 例如 f37f30e0f9934c34a992f6f64f7eba4f | |
| ALIYUN_APPKEY="" # 例如 RoPlZrM88DnAFkZK | |
| ALIYUN_ACCESSKEY="" # （无需填写） | |
| ALIYUN_SECRET="" # （无需填写） | |
| # 接入讯飞星火大模型 https://console.xfyun.cn/services/iat | |
| XFYUN_APPID = "00000000" | |
| XFYUN_API_SECRET = "bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb" | |
| XFYUN_API_KEY = "aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa" | |
| # Claude API KEY | |
| ANTHROPIC_API_KEY = "" | |
| # 自定义API KEY格式 | |
| CUSTOM_API_KEY_PATTERN = "" | |
| # HUGGINGFACE的TOKEN，下载LLAMA时起作用 https://huggingface.co/docs/hub/security-tokens | |
| HUGGINGFACE_ACCESS_TOKEN = "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" | |
| # GROBID服务器地址（填写多个可以均衡负载），用于高质量地读取PDF文档 | |
| # 获取方法：复制以下空间https://huggingface.co/spaces/qingxu98/grobid，设为public，然后GROBID_URL = "https://(你的hf用户名如qingxu98)-(你的填写的空间名如grobid).hf.space" | |
| GROBID_URLS = [ | |
| "https://qingxu98-grobid.hf.space","https://qingxu98-grobid2.hf.space","https://qingxu98-grobid3.hf.space", | |
| "https://shaocongma-grobid.hf.space","https://FBR123-grobid.hf.space", | |
| ] | |
| """ | |
| 在线大模型配置关联关系示意图 | |
| │ | |
| ├── "gpt-3.5-turbo" 等openai模型 | |
| │ ├── API_KEY | |
| │ ├── CUSTOM_API_KEY_PATTERN（不常用） | |
| │ ├── API_ORG（不常用） | |
| │ └── API_URL_REDIRECT（不常用） | |
| │ | |
| ├── "azure-gpt-3.5" 等azure模型 | |
| │ ├── API_KEY | |
| │ ├── AZURE_ENDPOINT | |
| │ ├── AZURE_API_KEY | |
| │ ├── AZURE_ENGINE | |
| │ └── API_URL_REDIRECT | |
| │ | |
| ├── "spark" 星火认知大模型 | |
| │ ├── XFYUN_APPID | |
| │ ├── XFYUN_API_SECRET | |
| │ └── XFYUN_API_KEY | |
| │ | |
| ├── "claude-1-100k" 等claude模型 | |
| │ └── ANTHROPIC_API_KEY | |
| │ | |
| ├── "stack-claude" | |
| │ ├── SLACK_CLAUDE_BOT_ID | |
| │ └── SLACK_CLAUDE_USER_TOKEN | |
| │ | |
| ├── "qianfan" 百度千帆大模型库 | |
| │ ├── BAIDU_CLOUD_QIANFAN_MODEL | |
| │ ├── BAIDU_CLOUD_API_KEY | |
| │ └── BAIDU_CLOUD_SECRET_KEY | |
| │ | |
| ├── "newbing" Newbing接口不再稳定，不推荐使用 | |
| ├── NEWBING_STYLE | |
| └── NEWBING_COOKIES | |
| 插件在线服务配置依赖关系示意图 | |
| │ | |
| ├── 语音功能 | |
| │ ├── ENABLE_AUDIO | |
| │ ├── ALIYUN_TOKEN | |
| │ ├── ALIYUN_APPKEY | |
| │ ├── ALIYUN_ACCESSKEY | |
| │ └── ALIYUN_SECRET | |
| │ | |
| ├── PDF文档精准解析 | |
| │ └── GROBID_URLS | |
| """ | |