Upload app.py

app.py

@@ -23,8 +23,8 @@ model_name = "fb700/chatglm-fitness-RLHF"
 RETRY_FLAG = False
 
 tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
-model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(4).half().cuda()
-#model = AutoModel.from_pretrained(model_name, trust_remote_code=True).half().cuda()
+#model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(4).half().cuda()
+model = AutoModel.from_pretrained(model_name, trust_remote_code=True).half().cuda()
 model = model.eval()
 
 _ = """Override Chatbot.postprocess"""
@@ -231,99 +231,83 @@ def textadventure(
     )
     
 mindmapins = """ 
-    "instruction": "现在你是一个分析师，你需要按照要求将我给你的主题以markmap代码生成足够深度以包含尽量多主要细节的思维导图。学习下面的里面的知识来完成分析。如果通过的学习找不到答案，只需说你不知道。请不要编造答案。",
-    "input":
-    "
-    用户问题：学习英语
-    答案：
-    "
-    下面是是Bofan帛凡AI为你生成的MarkDown格式思维导图源码
-    # 学习英语
-    ## 听力训练
-    听力技巧
-    + 集中注意力
-    + 听取关键词
-    + 理解句子结构
-    + 预测对话内容
-    听力材料
-    + 英语新闻
-    - 新闻内容
-    - 新闻结构
-    - 新闻时间
-    + 英语电影
-    - 电影内容
-    - 电影结构
-    - 电影时间
-    + 英语歌曲
-    - 歌曲内容
-    - 歌曲结构
-    - 歌曲时间
-    ## 阅读训练
-    阅读技巧
-    + 阅读顺序
-    + 阅读材料分类
-    + 阅读策略
-    + 阅读时间控制
-    阅读材料
-    + 英语新闻
-    - 新闻主题
-    - 新闻时间
-    - 新闻内容
-    + 英语小说
-    - 小说主题
-    - 小说时间
-    - 小说内容
-    + 英语散文
-    - 散文主题
-    - 散文时间
-    - 散文内容
-    + 英语学术论文
-    - 论文主题
-    - 论文时间
-    - 论文内容
-    + 英语杂志
-    - 杂志主题
-    - 杂志时间
-    - 杂志内容
-    ## 写作训练
-    写作技巧
-    + 写作顺序
-    + 写作材料分类
-    + 写作策略
-    + 写作时间控制
-    写作材料
-    + 英语作文
-    - 作文主题
-    - 作文时间
-    - 作文内容
-    + 英语日记
-    - 日记主题
-    - 日记时间
-    - 日记内容
-    + 英语文章
-    - 文章主题
-    - 文章时间
-    - 文章内容
-    + 英语演讲
-    - 演讲主题
-    - 演讲时间
-    - 演讲内容
-    + 英语文章
-    - 文章主题
-    - 文章时间
-    - 文章内容
-    + 英语论文
-    - 论文主题
-    - 论文时间
-    - 论文内容
-    + 英语杂志
-    - 杂志主题
-    - 杂志时间
-    - 杂志内容
-    "
-    请复制内容至https://markmap.js.org/repl 进行思维导图生成
-    "，
-    用户问题：
+"instruction": "现在你是一个分析师，你需要按照要求将我给你的主题以markmap代码生成足够深度以包含尽量多主要细节的思维导图。学习下面的里面的知识来完成分析。如果通过的学习找不到答案，只需说你不知道。请不要编造答案。",
+"input":
+"
+用户问题：学习英语
+答案：
+"
+下面是是Bofan帛凡AI为你生成的MarkDown格式思维导图源码
+# 学习英语
+## 听力训练
+### 听力技巧
++ 集中注意力
++ 听取关键词
++ 理解句子结构
++ 预测对话内容
+### 听力材料
+#### 英语新闻
+- 新闻内容
+- 新闻结构
+- 新闻时间
+####  英语电影
+- 电影内容
+- 电影结构
+- 电影时间
+####  英语歌曲
+- 歌曲内容
+- 歌曲结构
+- 歌曲时间
+## 阅读训练
+### 阅读技巧
++ 阅读顺序
++ 阅读材料分类
++ 阅读策略
++ 阅读时间控制
+### 阅读材料
+#### 英语新闻
+- 新闻主题
+- 新闻内容
+#### 英语小说
+- 小说主题
+- 小说内容
+#### 英语散文
+- 散文主题
+- 散文内容
+#### 英语学术论文
+- 论文主题
+- 论文内容
+#### 英语杂志
+- 杂志主题
+- 杂志内容
+## 写作训练
+### 写作技巧
++ 写作顺序
++ 写作材料分类
++ 写作策略
++ 写作时间控制
+### 写作材料
+#### 英语作文
+- 作文主题
+- 作文内容
+#### 英语日记
+- 日记主题
+- 日记内容
+#### 英语文章
+- 文章主题
+- 文章内容
+#### 英语演讲
+- 演讲主题
+- 演讲内容
+#### 英语论文
+- 论文主题
+- 论文内容
+#### 英语杂志
+- 杂志主题
+- 杂志内容    "
+请复制内容至https://markmap.js.org/repl 进行思维导图生成
+"，
+用户问题：
 """
     
 def mindmap(
@@ -363,14 +347,14 @@ flowchartins = """
         I --> |没问题| K[将奶茶交给客户并感谢客户光临];
         K --> L[客户拿着奶茶离开奶茶店享受美味的饮品];
     请复制生成内容至https://mermaid-js.github.io/mermaid-live-editor/。    
-    用户问题：根据所给内容："当用户要找一张图片，告诉用户打开浏览器从收藏夹中找到bofanAI，打开网页后滚动到聊天窗口下方，在示例区点双击样例第一项后，样例提示词将出现在输入窗，在输入窗中用其它英文语单词替换money，然后点击发送后将接收到5张照片的小图，鼠标右键点击小图获取大图，在跳出的菜单中选择在新标签页打开，就可以在新标签页获取大图。接下来，你可以检查图片是否有误， 如果有问题则鼠标右键点击小图获取大图，如果没问题可以将图片保持在本地。"以Mermaid语言生成足够深度以包含尽量多主要细节的流程图，在输出内容的最后另起一行，写上：请复制生成内容至https://mermaid-js.github.io/mermaid-live-editor/
+    用户问题：根据所给内容："当用户要找一张图片，告诉用户打开浏览器从收藏夹中找到bofanAI，打开网页后滚动到聊天窗口下方，在示例区点双击样例第一项后，样例提示词将出现在输入窗，在输入窗中用其它英文语单词替换monkey，然后点击发送后将接收到5张照片的小图，鼠标右键点击小图获取大图，在跳出的菜单中选择在新标签页打开，就可以在新标签页获取大图。接下来，你可以检查图片是否有误， 如果有问题则鼠标右键点击小图获取大图，如果没问题可以将图片保持在本地。"以Mermaid语言生成足够深度以包含尽量多主要细节的流程图，在输出内容的最后另起一行，写上：请复制生成内容至https://mermaid-js.github.io/mermaid-live-editor/
     答案：
     graph TD;
         A[用户要找图片] --> B[打开浏览器并进入收藏夹中找到bofanAI];
         B --> C[在bofanAI网页滚动至聊天窗口下方];
         C --> D[双击样例区的第一项];
         D --> E[样例提示词出现在输入窗];
-        E --> F[用其他英文单词替换样例中的money];
+        E --> F[用其他英文单词替换样例中的monkey];
         F --> G[点击发送];
         G --> H[接收到5张照片的小图];
         H --> I[鼠标右键点击小图];
@@ -1196,3 +1180,4 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
 # reduce to 5 if OOM occurs to often
 
 demo.queue(concurrency_count=6, max_size=30).launch(debug=True)
+#demo.queue(concurrency_count=6, max_size=30).launch(debug=True, auth=eval(os.environ.get("AUTHENTICATION")))