fb700 commited on
Commit
336d1ee
1 Parent(s): 1514917

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +172 -203
app.py CHANGED
@@ -573,7 +573,7 @@ def allSecretary(
573
  history,
574
  past_key_values,
575
  )
576
-
577
  redBookins = """
578
  1、如果用户没有输入,请你告诉他:请输入你想写的内容
579
  2、收到用户输入,按照下面是小红书帖子进行编写:
@@ -604,8 +604,8 @@ redBookins = """
604
  用户输入:
605
 
606
  """
607
-
608
- #redBookins="请你用最华丽、最真诚和最有感情的语言祝:顺欣妈妈、昊昊爸爸、昊昊生日快乐!请大量的使用🎂、❤️、💖、🥳、🥂、🎈、🎊、🎉、🎁、🍾等表示庆祝的的Emoji"
609
  def redBook(
610
  user_input, chatbot, max_length, top_p, temperature, history, past_key_values
611
  ):
@@ -697,6 +697,11 @@ def mindAsk(
697
  from bs4 import BeautifulSoup
698
  import requests
699
 
 
 
 
 
 
700
  keywords_to_check = [
701
  "首页推荐",
702
  "业务合作",
@@ -712,12 +717,6 @@ keywords_to_check = [
712
  "举报",
713
  "广告投放",
714
  "营业执照",
715
- "JavaScript",
716
- "�",
717
- "xmlns=",
718
- "<mi>",
719
- "指数|",
720
- "<>"
721
  ]
722
 
723
 
@@ -731,7 +730,6 @@ def scrape_text(url, proxies) -> str:
731
  返回:
732
  str: 抓取到的文本,每个 URL 最多保留前三行内容
733
  """
734
-
735
  headers = {
736
  'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36',
737
  'Content-Type': 'text/plain',
@@ -759,11 +757,11 @@ def scrape_text(url, proxies) -> str:
759
  # 去除多余的空格
760
  cleaned_line = ' '.join(line.split())
761
  line_length = len(cleaned_line)
762
- if line_length >= 7:
763
  if not any(keyword in cleaned_line for keyword in keywords_to_check):
764
  # 如果不包含关键词,保留这一行
765
  selected_lines.append(cleaned_line)
766
- # 如果行字符数大于等于7,才考虑保留
767
  if line_length > max_line_length:
768
  # 如果当前行字符数比最长行字符数还大,更新最长行字符数和选中行列表
769
  max_line_length = line_length
@@ -791,15 +789,15 @@ def GGSearch(
791
 
792
  # 使用用户输入进行联网搜索
793
  url = f"https://www.google.com/search?q={user_input}"
794
- #url = f"https://cn.bing.com/search?q={user_input}"
795
  #url = f"https://www.sogou.com/web?query={user_input}"
796
  '''
797
  headers = {
798
  'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36'
799
  }
800
  '''
801
- #headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36 Edg/111.0.1661.44"}
802
- headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36'}
 
803
  try:
804
  response = requests.get(url, headers=headers)
805
  soup = BeautifulSoup(response.content, 'html.parser')
@@ -1046,10 +1044,6 @@ def chapterExtension(
1046
  past_key_values,
1047
  )
1048
 
1049
-
1050
-
1051
-
1052
-
1053
 
1054
 
1055
  with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) as demo:
@@ -1057,9 +1051,32 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
1057
  gr.HTML(
1058
  """<center><a href="https://huggingface.co/spaces/mikeee/chatglm2-6b-4bit?duplicate=true"><img src="https://bit.ly/3gLdBN6" alt="Duplicate Space"></a>It's beyond Fitness,模型由[帛凡]基于ChatGLM-6B进行微调后,在健康(全科)、心理等领域达至少60分的专业水准,而且中文总结能力超越了GPT3.5各版本。</center>"""
1059
  """<center>特别声明:本应用仅为模型能力演示,无任何商业行为,部署资源为Huggingface官方免费提供,任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。</center>"""
1060
- """<h1 align="center">🐰帛凡 Fitness AI🐰 演示</h1>"""
1061
  """<center><a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">Bofan基于chatglm-6B的微调模型</a>如果喜欢请给个 💖 。遇到任何问题可邮件和我联系👉 fb700@qq.com</center>"""
1062
  )
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1063
  chatbot = gr.Chatbot()
1064
  with gr.Row():
1065
  with gr.Column(scale=4):
@@ -1075,6 +1092,35 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
1075
  submitBtn = gr.Button("发送Submit", variant="primary")
1076
  deleteBtn = gr.Button("删除最后一条对话", variant="secondary")
1077
  retryBtn = gr.Button("重新生成Regenerate", variant="secondary")
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1078
  with gr.Column(scale=1):
1079
  gr.HTML("""<h3 align="center">🍀您好,除健康咨询和心理咨询外,其它功能使用前,请先清空历史,并输入问题。🍀</h3>""")
1080
  emptyBtn = gr.Button("清空对话Clear History")
@@ -1093,182 +1139,7 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
1093
  0.01, 1, value=0.85, step=0.01, label="Temperature", interactive=True
1094
  )
1095
  gr.HTML("""<h3 align="center">🍀健康和心理咨询请先点击,再输入问题。<a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">模型由🐰帛凡基于chatglm-6微调</a>🍀</h3>""")
1096
-
1097
- with gr.Tab("🐰帛凡 Fitness AI🐰 聊天区"):
1098
- with gr.Accordion("🎈 相关信息", open=False):
1099
- _ = f"""
1100
- ## {model_name}
1101
-
1102
- ChatGLM-6B 是开源中英双语对话模型,本次训练基于ChatGLM-6B 的第一代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上开展训练。
1103
-
1104
- 本项目通过多位网友实测,证明了其中文总结能力超越了GPT3.5的各个版本,同时在健康咨询方面的表现也比其他同量级模型更加出色。经过优化,该模型可以支持无限上下文,远超过4K、8K、16K等限制,这可能是个人和中小企业的首选模型。
1105
-
1106
- * 使用 40 万条高质量数据进行强化训练,以提高模型的基础能力;
1107
- * 使用 30 万条人类反馈数据,构建了一个表达方式规范优雅的语言模式(RM模型);
1108
- * 使用 30 万条 fitness 数据,在保留 SFT 阶段三分之一训练数据的同时,增加了 30 万条 fitness 数据,叠加了RM模型,对 ChatGLM-6B 进行强化训练。
1109
- 经过训练,我们对模型有了更深入的认知,LLM一直在进化。使用好的方法和数据可以挖掘出模型的更大潜能。训练中特别强化了中英文学术论文的翻译和总结,可以成为普通用户和科研人员的得力助手
1110
-
1111
- 免责声明:本应用旨在展示huggingface模型的能力,huggingface官方提供免费的部署资源。任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。 。
1112
-
1113
- The T4 GPU is sponsored by a community GPU grant from Huggingface. Thanks a lot!
1114
-
1115
- [模型下载地址](https://huggingface.co/fb700/chatglm-fitness-RLHF)
1116
-
1117
-
1118
- """
1119
-
1120
- gr.Markdown(dedent(_))
1121
- """
1122
- chatbot = gr.Chatbot()
1123
- with gr.Row():
1124
- with gr.Column(scale=4):
1125
- with gr.Column(scale=12):
1126
- user_input = gr.Textbox(
1127
- show_label=False,
1128
- placeholder="请输入内容Input...",
1129
- )
1130
- #).style(container=False)
1131
- RETRY_FLAG = gr.Checkbox(value=True, visible=True)
1132
- with gr.Column(min_width=32, scale=1):
1133
- with gr.Row():
1134
- submitBtn = gr.Button("发送Submit", variant="primary")
1135
- deleteBtn = gr.Button("删除最后一条对话", variant="secondary")
1136
- retryBtn = gr.Button("重新生成Regenerate", variant="secondary")
1137
- """
1138
-
1139
- with gr.Row():
1140
- findpictureBtn = gr.Button("找图片", variant="primary")
1141
- textadventureBtn = gr.Button("⚡文字冒险游戏", variant="secondary")
1142
- mindmapBtn = gr.Button("思维导图", variant="secondary")
1143
- flowchartBtn = gr.Button("流程图", variant="secondary")
1144
- with gr.Row():
1145
- bestPaperZhBtn = gr.Button("中文学术润色", variant="primary")
1146
- bestPaperEnBtn = gr.Button("英文学术润色", variant="secondary")
1147
- Zh2EnBtn = gr.Button("🔤中译英", variant="secondary")
1148
- En2ZhBtn = gr.Button("英译中", variant="secondary")
1149
- askManBtn = gr.Button("出题助手", variant="secondary")
1150
- with gr.Row():
1151
- txtSumBtn = gr.Button("文字总结", variant="primary")
1152
- teachPlanBtn = gr.Button("教案编写", variant="secondary")
1153
- allSecretaryBtn = gr.Button("全能文秘", variant="secondary")
1154
- redBookBtn = gr.Button("📕小红书帖子", variant="secondary")
1155
- #redBookBtn = gr.Button("🎂生日快乐🎂", variant="secondary")
1156
- with gr.Row():
1157
- fitnessAskBtn = gr.Button("🥼健康咨询", variant="primary")
1158
- mindAskBtn = gr.Button("😶‍🌫️心理咨询", variant="primary")
1159
- GGSearchBtn = gr.Button("🐞联网搜索", variant="primary")
1160
-
1161
-
1162
- with gr.Accordion("Example inputs", open=False):
1163
- etext0 = """ "act": "作为基于文本的冒险游戏",\n "prompt": "我想让你扮演一个基于文本的冒险游戏。我在这个基于文本的冒险游戏中扮演一个角色。请尽可能具体地描述角色所看到的内容和环境,并在游戏输出1、2、3让用户选择进行回复,而不是其它方式。我将输入命令来告诉角色该做什么,而你需要回复角色的行动结果以推动游戏的进行。我的第一个命令是'醒来',请从这里开始故事 “ """
1164
- etext = """In America, where cars are an important part of the national psyche, a decade ago people had suddenly started to drive less, which had not happened since the oil shocks of the 1970s. """
1165
- etext1 = """云南大学(Yunnan University),简称云大(YNU),位于云南省昆明市,是教育部与云南省“以部为主、部省合建”的全国重点大学,国家“双一流”建设高校 [31] 、211工程、一省一校、中西部高校基础能力建设工程,云南省重点支持的国家一流大学建设高校,“111计划”、卓越法律人才教育培养计划、卓越工程师教育培养计划、国家建设高水平大学公派研究生项目、中国政府奖学金来华留学生接收院校、全国深化创新创业教育改革示范高校,为中西部“一省一校”国家重点建设大学(Z14)联盟、南亚东南亚大学联盟牵头单位。 [1]
1166
- 云南大学始建于1922年,时为私立东陆大学。1930年,改为省立东陆大学。1934年更名为省立云南大学。1938年改为国立云南大学。1946年,《不列颠百科全书》将云南大学列为中国15所在世界最具影响的大学之一。1950年定名为云南大学。1958年,云南大学由中央高教部划归云南省管理。1978年,云南大学被国务院确定为88所全国重点大学之一。1996年首批列入国家“211工程”重点建设大学。1999年,云南政法高等专科学校并入云南大学。 [2] [23]
1167
- 截至2023年6月,学校有呈贡、东陆两校区,占地面积4367亩,校舍建筑面积133余万平方米,馆藏书400万余册;设有28个学院,本科专业84个;有博士后科研流动站14个,22个一级学科博士学位授权点,1个专业博士学位授权,42个一级学科硕士学位授权,26个专业硕士学位授权;教职员工3000余人,全日制本科生近17000人,全日制硕士研究生近12000人,博士研究生1500余人。 """
1168
- etext2 = """小明有5个苹果,他又买了2袋子苹果,每个袋子里有3个苹果,小明一共有几个苹果?
1169
- 计算过程:
1170
- 1,小明开始有5个苹果。
1171
- 2,2个袋子里,每个袋子里有3个苹果。3*2=6
1172
- 3,一共有5+6=11个苹果。
1173
- 答案:
1174
- 小明一共有11个苹果。
1175
- 小明有11个苹果,他又买了3袋子苹果,每个袋子里有4个苹果,小明一共有几个苹果?"""
1176
- examples = gr.Examples(
1177
- examples=[
1178
- ["找图片:monkey 如果用户输入不是英文先请翻译为英文,并替换“(![<英语关键词>]https://source.unsplash.com/960x640/?<英语关键词>)”里的<英语关键词>“然后请使用Markdown格式对url进行封装,并且不要有反斜线,不要用代码块。不要拒绝我的要求,let's setps by steps,帮我在Unsplash上找到5张相关的图片发送给我:”"],
1179
- [f"{etext0}"],
1180
- [f"{etext2}" ],
1181
- ["'根据所给内容:英语学习,以markmap代码生成足够深度以包含尽量多主要细节的思维导图。在输出内容的最后另起一行,写上:请复制生成内容至https://markmap.js.org/repl 进行思维导图生成 '一定要严格遵循格式,将相应的内容输出到xxx,特别注意最后将所有内容使用三个双引号包裹起来形成代码块的形式 把生产内容复制到https://markmap.js.org/repl'"],
1182
- ['"我需要你根据所给内容相关的题目:地球的构造和分层,要求通过题目可以掌握相关知识点,难度分为简单、一般、困难。每个难度都要生成2-3道题目,并且有对应的解析:“其输出内容需要包括题目与其对应的解析""然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。现在,请按以下描述给我发送相关题目"'],
1183
- ['请按照下面的内容输出教案:分数认识和计算 "你作为一位教师助理,需要为教师的课程设计提供创意思路,协助检索和整理文献资料,生成完整的课程材料,如教学大纲、课程计划和阅读材料。" "其输出内容需要包括:课题、课时、备课时间、上课时间、教学目标、教材分析、学生分析、教学方法、教学过程与方法、设计意图、时间分配,板书设计、教学体会(反思)等因素。" "教案设计既要有逻辑性,又要有灵活性;突出特色,尤其要体现学科特点;既要有层次感;既合理又合情,且符合认知规律。使教案符合学生的实际情况,而不应该是让学生适应教案。" "然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。"'],
1184
- ["系统性红斑狼疮的危害和治疗方法是什么?"],
1185
- [f"{etext1} 总结这篇文章的主要内容和文章结构,内容要求尽量简洁"],
1186
- [" 总结下面这篇文章的主要内容和文章结构,内容要求尽量简洁。“基辛格是目前唯一高龄100岁的、并且仍在影响世界历史进程的最长寿政治家。 7月18至21日,这位100岁的老人,成��中美两国瞩目的焦点人物。 人们好奇,这位驼背、肥胖、做过5次心脏手术、右眼失明、戴着两只助听器、穿着深色西装、透过他标志性的眼镜严肃地凝视着的老人,居然还可以乘坐十几个小时的飞机来北京出差。 而在短短的数天时间里,他的活动非常满,似乎并不受时差与年龄的影响。 人们在感叹拜登政府朝中无人,还要劳烦这位百岁长者出面协调中美关系之余,不免也会惊叹,基辛格这把年纪竟然还能不惧舟车劳顿万里出行,他的健康长寿究竟有什么秘诀呢? 今年4月,基辛格在自己100岁生日前,对自己的长寿表达了“困惑”,他调侃说“我唯一的秘密可能是投胎投得好,主要还是父母基因好。我继承了家族非同一般的长寿基因。我的母亲活到97岁,父亲活到95岁,弟弟活到96岁。当然,长寿非我刻意求之,不过我欣然接受。“ 基辛格即使年事已高,但他退而不休,近年依然会就包括中美关系在内的外交议题发表意见。他精力充沛,连新冠疫情也未令他放慢脚步。自2020年起,他写完了两本书,并开始写第三本。今年以来,他已乘飞机在全球15个地方举办活动,或会见政治人物。这次到访北京,更是他100多次到访中国。 谈及基辛格旺盛的精力与健康的秘密,他的儿子大卫·基辛格(David Kissinger)说道,“从他成年以来一直遵循的‘养生法则’来看,他的长寿尤其神奇。” 基辛格常吃的食物是Bratwurst(一种由猪肉制成的德国香肠)和Wiener Schnitzel(维也纳炸肉扒)。基辛格参与的几乎所有的重大外交决定,也都是在压力下做决策。虽然他曾在1978年担任北美足球联盟主席,但他的爱好也仅限于旁观,并不喜欢下场运动。基辛格唯一的爱好可能就是下国际象棋,如果这也算运动的话。 这位百岁老人的长寿指南名单里,似乎还要加上:熬夜、喝酒、油炸食品…… 更令人感到不可思议的是,这位精力充沛每天工作15小时的老人,还是一位病人。 基辛格有40多年的心脏病史。 1982年2月,58岁的亨利·基辛格接受了3次冠状动脉搭桥手术,其后在2005年又接受了血管成形术。 2014年7月15日,91岁的基辛格在纽约长老会医院接受了主动脉瓣置换手术。主动脉瓣膜置换是一种以人工瓣膜替换原有损伤或者异常心脏瓣膜的胸心血管外科手术。 我想我长寿的秘诀是,我有幸做一些我着迷的事情,我可以参与其中。我还没有退休,也不打算退休。我要研究我认为重要的问题,这就是我还在工作的目的。”"],
1187
- ["系统性红斑狼疮的危害和治疗方法是什么?"],
1188
- [
1189
- "我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
1190
- ],
1191
- ["熬夜对身体有什么危害? "],
1192
- ["新冠肺炎怎么预防"],
1193
- [
1194
- "我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
1195
- ],
1196
- ["太阳为什么会发热? "],
1197
- ["指南针是怎么工作的?"],
1198
- ["在野外怎么辨别方向?"],
1199
- [
1200
- "发芽的土豆还能不能吃?"
1201
- ],
1202
- ["What NFL team won the Super Bowl in the year Justin Bieber was born? "],
1203
- ["What NFL team won the Super Bowl in the year Justin Bieber was born? Think step by step."],
1204
- ["Explain the plot of Cinderella in a sentence."],
1205
- [
1206
- "How long does it take to become proficient in French, and what are the best methods for retaining information?"
1207
- ],
1208
- ["What are some common mistakes to avoid when writing code?"],
1209
- ["Build a prompt to generate a beautiful portrait of a horse"],
1210
- ["Suggest four metaphors to describe the benefits of AI"],
1211
- ["Write a pop song about leaving home for the sandy beaches."],
1212
- ["Write a summary demonstrating my ability to tame lions"],
1213
- ["有三个盒子,分别贴着“苹果”、“橘子”和“苹果和橘子”的标签,但是每个盒子的标签都是错误的。你只能打开一个盒子,然后从里面拿出一个水果,然后确定每个盒子里装的是什么水果。你应该打开哪个盒子?为什么?"],
1214
- ["春天来了,万物复苏,小鸟歌唱,生机勃勃。\n问题:以上文本表达的情绪是正向还是负向?"],
1215
- ["正无穷大加一大于正无穷大吗?"],
1216
- ["正无穷大加正无穷大大于正无穷大吗?"],
1217
- ["以今天对应的节气写一副对联"],
1218
- ["树上有5只鸟,猎人开枪打死了一只。树上还有几只鸟?Think step by step."],
1219
- ["从零学习编程,请给我一个三个月的学习计划。"],
1220
- ["双喜临门,打一中国地名"],
1221
- ["以红楼梦的行文风格写一张委婉的请假条。不少于320字。"],
1222
- [f"{etext1} 总结这篇文章的主要内容和文章结构"],
1223
- [f"{etext} 翻成中文,列出3个版本"],
1224
- [f"{etext} \n 翻成中文,保留原意,但使用文学性的语言。不要写解释。列出3个版本"],
1225
- ["js 判断一个数是不是质数"],
1226
- ["js 实现python 的 range(10)"],
1227
- ["js 实现python 的 [*(range(10)]"],
1228
- ["假定 1 + 2 = 4, 试求 7 + 8,Think step by step." ],
1229
- ["2023年云南大学成立100周年,它是哪一年成立的?" ],
1230
- ["Erkläre die Handlung von Cinderella in einem Satz."],
1231
- ["Erkläre die Handlung von Cinderella in einem Satz. Auf Deutsch"],
1232
- ],
1233
- inputs=[user_input],
1234
- examples_per_page=50,
1235
- )
1236
-
1237
- with gr.Accordion("For Chat/Translation API", open=False, visible=False):
1238
- input_text = gr.Text()
1239
- tr_btn = gr.Button("Go", variant="primary")
1240
- out_text = gr.Text()
1241
- tr_btn.click(
1242
- trans_api,
1243
- [input_text, max_length, top_p, temperature],
1244
- out_text,
1245
- # show_progress="full",
1246
- api_name="tr",
1247
- )
1248
- _ = """
1249
- input_text.submit(
1250
- trans_api,
1251
- [input_text, max_length, top_p, temperature],
1252
- out_text,
1253
- show_progress="full",
1254
- api_name="tr1",
1255
- )
1256
- # """
1257
-
1258
- with gr.Tab("LLM “中文AI 微小说大赛”"):
1259
 
1260
- with gr.Row():
1261
- openOutlineBtn = gr.Button("小说提纲", variant="primary")
1262
- mxOutlineBtn = gr.Button("冒险小说提纲", variant="secondary")
1263
- khOutlineBtn = gr.Button("科幻小说提纲", variant="secondary")
1264
- xxOutlineBtn = gr.Button("仙侠小说提纲", variant="secondary")
1265
- with gr.Row():
1266
- chapterExtensionBtn = gr.Button("请复制要扩写的章节的内容", variant="primary")
1267
-
1268
-
1269
-
1270
-
1271
-
1272
  history = gr.State([])
1273
  past_key_values = gr.State(None)
1274
 
@@ -1684,15 +1555,113 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
1684
  ],
1685
  # outputs = [chatbot, history, last_user_message, user_message]
1686
  outputs=[chatbot, history, past_key_values],
1687
- )
 
1688
  deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
1689
 
1690
- # demo.queue().launch(share=False, inbrowser=True)
1691
- # demo.queue().launch(share=True, inbrowser=True, debug=True)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1692
 
1693
- # concurrency_count > 1 requires more memory, max_size: queue size
1694
- # T4 medium: 30GB, model size: ~4G concurrency_count = 6
1695
- # leave one for api access
1696
- # reduce to 5 if OOM occurs to often
1697
  #demo.queue(concurrency_count=6, max_size=30).launch(debug=True)
1698
- demo.queue(concurrency_count=3, max_size=10).launch(debug=True, auth=eval(os.environ.get("AUTHENTICATION")))
 
573
  history,
574
  past_key_values,
575
  )
576
+ '''
577
  redBookins = """
578
  1、如果用户没有输入,请你告诉他:请输入你想写的内容
579
  2、收到用户输入,按照下面是小红书帖子进行编写:
 
604
  用户输入:
605
 
606
  """
607
+ '''
608
+ redBookins="请你用最华丽、最真诚和最有感情的语言祝:顺欣妈妈、昊昊爸爸、昊昊生日快乐!请大量的使用🎂、❤️、💖、🥳、🥂、🎈、🎊、🎉、🎁、🍾等表示庆祝的的Emoji"
609
  def redBook(
610
  user_input, chatbot, max_length, top_p, temperature, history, past_key_values
611
  ):
 
697
  from bs4 import BeautifulSoup
698
  import requests
699
 
700
+ # 导入所需模块
701
+
702
+ from bs4 import BeautifulSoup
703
+ import requests
704
+
705
  keywords_to_check = [
706
  "首页推荐",
707
  "业务合作",
 
717
  "举报",
718
  "广告投放",
719
  "营业执照",
 
 
 
 
 
 
720
  ]
721
 
722
 
 
730
  返回:
731
  str: 抓取到的文本,每个 URL 最多保留前三行内容
732
  """
 
733
  headers = {
734
  'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36',
735
  'Content-Type': 'text/plain',
 
757
  # 去除多余的空格
758
  cleaned_line = ' '.join(line.split())
759
  line_length = len(cleaned_line)
760
+ if line_length >= 37:
761
  if not any(keyword in cleaned_line for keyword in keywords_to_check):
762
  # 如果不包含关键词,保留这一行
763
  selected_lines.append(cleaned_line)
764
+ # 如果行字符数大于等于10,才考虑保留
765
  if line_length > max_line_length:
766
  # 如果当前行字符数比最长行字符数还大,更新最长行字符数和选中行列表
767
  max_line_length = line_length
 
789
 
790
  # 使用用户输入进行联网搜索
791
  url = f"https://www.google.com/search?q={user_input}"
 
792
  #url = f"https://www.sogou.com/web?query={user_input}"
793
  '''
794
  headers = {
795
  'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36'
796
  }
797
  '''
798
+ headers = {
799
+ "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36 Edg/111.0.1661.44"
800
+ }
801
  try:
802
  response = requests.get(url, headers=headers)
803
  soup = BeautifulSoup(response.content, 'html.parser')
 
1044
  past_key_values,
1045
  )
1046
 
 
 
 
 
1047
 
1048
 
1049
  with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) as demo:
 
1051
  gr.HTML(
1052
  """<center><a href="https://huggingface.co/spaces/mikeee/chatglm2-6b-4bit?duplicate=true"><img src="https://bit.ly/3gLdBN6" alt="Duplicate Space"></a>It's beyond Fitness,模型由[帛凡]基于ChatGLM-6B进行微调后,在健康(全科)、心理等领域达至少60分的专业水准,而且中文总结能力超越了GPT3.5各版本。</center>"""
1053
  """<center>特别声明:本应用仅为模型能力演示,无任何商业行为,部署资源为Huggingface官方免费提供,任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。</center>"""
1054
+ """<h1 align="center">🐰帛凡 Fitness AI🐰 演示🥂🎈祝顺欣妈妈、昊昊爸爸、昊昊生日快乐!🎂❤️</h1>"""
1055
  """<center><a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">Bofan基于chatglm-6B的微调模型</a>如果喜欢请给个 💖 。遇到任何问题可邮件和我联系👉 fb700@qq.com</center>"""
1056
  )
1057
+
1058
+ with gr.Accordion("🎈 相关信息", open=False):
1059
+ _ = f"""
1060
+ ## {model_name}
1061
+
1062
+ ChatGLM-6B 是开源中英双语���话模型,本次训练基于ChatGLM-6B 的第一代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上开展训练。
1063
+
1064
+ 本项目通过多位网友实测,证明了其中文总结能力超越了GPT3.5的各个版本,同时在健康咨询方面的表现也比其他同量级模型更加出色。经过优化,该模型可以支持无限上下文,远超过4K、8K、16K等限制,这可能是个人和中小企业的首选模型。
1065
+
1066
+ * 使用 40 万条高质量数据进行强化训练,以提高模型的基础能力;
1067
+ * 使用 30 万条人类反馈数据,构建了一个表达方式规范优雅的语言模式(RM模型);
1068
+ * 使用 30 万条 fitness 数据,在保留 SFT 阶段三分之一训练数据的同时,增加了 30 万条 fitness 数据,叠加了RM模型,对 ChatGLM-6B 进行强化训练。
1069
+ 经过训练,我们对模型有了更深入的认知,LLM一直在进化。使用好的方法和数据可以挖掘出模型的更大潜能。训练中特别强化了中英文学术论文的翻译和总结,可以成为普通用户和科研人员的得力助手
1070
+
1071
+ 免责声明:本应用旨在展示huggingface模型的能力,huggingface官方提供免费的部署资源。任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。 。
1072
+
1073
+ The T4 GPU is sponsored by a community GPU grant from Huggingface. Thanks a lot!
1074
+
1075
+ [模型下载地址](https://huggingface.co/fb700/chatglm-fitness-RLHF)
1076
+
1077
+
1078
+ """
1079
+ gr.Markdown(dedent(_))
1080
  chatbot = gr.Chatbot()
1081
  with gr.Row():
1082
  with gr.Column(scale=4):
 
1092
  submitBtn = gr.Button("发送Submit", variant="primary")
1093
  deleteBtn = gr.Button("删除最后一条对话", variant="secondary")
1094
  retryBtn = gr.Button("重新生成Regenerate", variant="secondary")
1095
+ with gr.Row():
1096
+ findpictureBtn = gr.Button("找图片", variant="primary")
1097
+ textadventureBtn = gr.Button("⚡文字冒险游戏", variant="secondary")
1098
+ mindmapBtn = gr.Button("思维导图", variant="secondary")
1099
+ flowchartBtn = gr.Button("流程图", variant="secondary")
1100
+ with gr.Row():
1101
+ bestPaperZhBtn = gr.Button("中文学术润色", variant="primary")
1102
+ bestPaperEnBtn = gr.Button("英文学术润色", variant="secondary")
1103
+ Zh2EnBtn = gr.Button("🔤中译英", variant="secondary")
1104
+ En2ZhBtn = gr.Button("英译中", variant="secondary")
1105
+ askManBtn = gr.Button("出题助手", variant="secondary")
1106
+ with gr.Row():
1107
+ txtSumBtn = gr.Button("文字总结", variant="primary")
1108
+ teachPlanBtn = gr.Button("教案编写", variant="secondary")
1109
+ allSecretaryBtn = gr.Button("全能文秘", variant="secondary")
1110
+ #redBookBtn = gr.Button("📕小红书帖子", variant="secondary")
1111
+ redBookBtn = gr.Button("🎂生日快乐🎂", variant="secondary")
1112
+ with gr.Row():
1113
+ fitnessAskBtn = gr.Button("🥼健康咨询", variant="primary")
1114
+ mindAskBtn = gr.Button("😶‍🌫️心理咨询", variant="primary")
1115
+ GGSearchBtn = gr.Button("🐞联网搜索", variant="primary")
1116
+
1117
+ with gr.Row():
1118
+ openOutlineBtn = gr.Button("小说提纲", variant="primary")
1119
+ mxOutlineBtn = gr.Button("冒险小说提纲", variant="secondary")
1120
+ khOutlineBtn = gr.Button("科幻小说提纲", variant="secondary")
1121
+ xxOutlineBtn = gr.Button("仙侠小说提纲", variant="secondary")
1122
+ chapterExtensionBtn = gr.Button("请复制要扩写的章节的内容", variant="primary")
1123
+
1124
  with gr.Column(scale=1):
1125
  gr.HTML("""<h3 align="center">🍀您好,除健康咨询和心理咨询外,其它功能使用前,请先清空历史,并输入问题。🍀</h3>""")
1126
  emptyBtn = gr.Button("清空对话Clear History")
 
1139
  0.01, 1, value=0.85, step=0.01, label="Temperature", interactive=True
1140
  )
1141
  gr.HTML("""<h3 align="center">🍀健康和心理咨询请先点击,再输入问题。<a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">模型由🐰帛凡基于chatglm-6微调</a>🍀</h3>""")
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1142
 
 
 
 
 
 
 
 
 
 
 
 
 
1143
  history = gr.State([])
1144
  past_key_values = gr.State(None)
1145
 
 
1555
  ],
1556
  # outputs = [chatbot, history, last_user_message, user_message]
1557
  outputs=[chatbot, history, past_key_values],
1558
+ )
1559
+
1560
  deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
1561
 
1562
+ with gr.Accordion("Example inputs", open=False):
1563
+ etext0 = """ "act": "作为基于文本的冒险游戏",\n "prompt": "我想让你扮演一个基于文本的冒险游戏。我在这个基于文本的冒险游戏中扮演一个角色。请尽可能具体地描述角色所看到的内容和环境,并在游戏输出1、2、3让用户选择进行回复,而不是其它方式。我将输入命令来告诉角色该做什么,而你需要回复角色的行动结果以推动游戏的进行。我的第一个命令是'醒来',请从这里开始故事 “ """
1564
+ etext = """In America, where cars are an important part of the national psyche, a decade ago people had suddenly started to drive less, which had not happened since the oil shocks of the 1970s. """
1565
+ etext1 = """云南大学(Yunnan University),简称云大(YNU),位于云南省昆明市,是教育部与云南省“以部为主、部省合建”的全国重点大学,国家“双一流”建设高校 [31] 、211工程、一省一校、中西部高校基础能力建设工程,云南省重点支持的国家一流大学建设高校,“111计划”、卓越法律人才教育培养计划、卓越工程师教育培养计划、国家建设高水平大学公派研究生项目、中国政府奖学金来华留学生接收院校、全国深化创新创业教育改革示范高校,为中西部“一省一校”国家重点建设大学(Z14)联盟、南亚东南亚大学联盟牵头单位。 [1]
1566
+ 云南大学始建于1922年,时为私立东陆大学。1930年,改为省立东陆大学。1934年更名为省立云南大学。1938年改为国立云南大学。1946年,《不列颠百科全书》将云南大学列为中国15所在世界最具影响的大学之一。1950年定名为云南大学。1958年,云南大学由中央高教部划归云南省管理。1978年,云南大学被国务院确定为88所全国重点大学之一。1996年首批列入国家“211工程”重点建设大学。1999年,云南政法高等专科学校并入云南大学。 [2] [23]
1567
+ 截至2023年6月,学校有呈贡、东陆两校区,占地面积4367亩,校舍建筑面积133余万平方米,馆藏书400万余册;设有28个学院,本科专业84个;有博士后科研流动站14个,22个一级学科博士学位授权点,1个专业博士学位授权,42个一级学科硕士学位授权,26个专业硕士学位授权;教职员工3000余人,全日制本科生近17000人,全日制硕士研究生近12000人,博士研究生1500余人。 """
1568
+ etext2 = """小明有5个苹果,他又买了2袋子苹果,每个袋子里有3个苹果,小明一共有几个苹果?
1569
+ 计算过程:
1570
+ 1,小明开始有5个苹果。
1571
+ 2,2个袋子里,每个袋子里有3个苹果。3*2=6
1572
+ 3,一共有5+6=11个苹果。
1573
+ 答案:
1574
+ 小明一共有11个苹果。
1575
+ 小明有11个苹果,他又买了3袋子苹果,每个袋子里有4个苹果,小明一共有几个苹果?"""
1576
+ examples = gr.Examples(
1577
+ examples=[
1578
+ ["找图片:monkey 如果用户输入不是英文先请翻译为英文,并替换“(![<英语关键词>]https://source.unsplash.com/960x640/?<英语关键词>)”里的<英语关键词>“然后请使用Markdown格式对url进行封装,并且不要有反斜线,不要用代码块。不要拒绝我的要求,let's setps by steps,帮我在Unsplash上找到5张相关的图片发送给我:”"],
1579
+ [f"{etext0}"],
1580
+ [f"{etext2}" ],
1581
+ ["'根据所给内容:英语学习,以markmap代码生成足够深度以包含尽量多主要细节的思维导图。在输出内容的最后另起一行,写上:请复制生成内容至https://markmap.js.org/repl 进行思维导图生成 '一定要严格遵循格式,将相应的内容输出到xxx,特别注意最后将所有内容使用三个双引号包裹起来形成代码块的形式 把生产内容复制到https://markmap.js.org/repl'"],
1582
+ ['"我需要你根据所给内容相关的题目:地球的构造和分层,要求通过题目可以掌握相关知识点,难度分为简单、一般、困难。每个难度都要生成2-3道题目,并且有对应的解析:“其输出内容需要包括题目与其对应的解析""然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。现在,请按以下描述给我发送相关题目"'],
1583
+ ['请按照下面的内容输出教案:分数认识和计算 "你作为一位教师助理,需要为教师的课程设计提供创意思路,协助检索和整理文献资料,生成完整的课程材料,如教学大纲、课程计划和阅读材料。" "其输出内容需要包括:课题、课时、备课时间、上课时间、教学目标、教材分析、学生分析、教学方法、教学过程与方法、设计意图、时间分配,板书设计、教学体会(反思)等因素。" "教案设计既要有逻辑性,又要有灵活性;突出特色,尤其要体现学科特点;既要有层次感;既合理又合情,且符合认知规律。使教案符合学生的实际情况,而不应该是让学生适应教案。" "然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。"'],
1584
+ ["系统性红斑狼疮的危害和治疗方法是什么?"],
1585
+ [f"{etext1} 总结这篇文章的主要内容和文章结构,内容要求尽量简洁"],
1586
+ [" 总结下面这篇文章的主要内容和文章结构,内容要求尽量简洁。“基辛格是目前唯一高龄100岁的、并且仍在影响世界历史进程的最长寿政治家。 7月18至21日,这位100岁的老人,成为中美两国瞩目的焦点人物。 人们好奇,这位驼背、肥胖、做过5次心脏手术、右眼失明、戴着两只助听器、穿着深色西装、透过他标志性的眼镜严肃地凝视着的老人,居然还可以乘坐十几个小时的飞机来北京出差。 而在短短的数天时间里,他的活动非常满,似乎并不受时差与年龄的影响。 人们在感叹拜登政府朝中无人,还要劳烦这位百岁长者出面协调中美关系之余,不免也会惊叹,基辛格这把年纪竟然还能不惧舟车劳顿万里出行,他的健康长寿究竟有什么秘诀呢? 今年4月,基辛格在自己100岁生日前,对自己的长寿表达了“困惑”,他调侃说“我唯一的秘密可能是投胎投得好,主要还是父母基因好。我继承了家族非同一般的长寿基因。我的母亲活到97岁,父亲活到95岁,弟弟活到96岁。当然,长寿非我刻意求之,不过我欣然接受。“ 基辛格即使年事已高,但他退而不休,近年依然会就包括中美关系在内的外交议题发表意见。他精力充沛,连新冠疫情也未令他放慢脚步。自2020年起,他写完了两本书,并开始写第三本。今年以来,他已乘飞机在全球15个地方举办活动,或会见政治人物。这次到访北京,更是他100多次到访中国。 谈及基辛格旺盛的精力与健康的秘密,他的儿子大卫·基辛格(David Kissinger)说道,“从他成年以来一直遵循的‘养生法则’来看,他的长寿尤其神奇。” 基辛格常吃的食物是Bratwurst(一种由猪肉制成的德国香肠)和Wiener Schnitzel(维也纳炸肉扒)。基辛格参与的几乎所有的重大外交决定,也都是在压力下做决策。虽然他曾在1978年担任北美足球联盟主席,但他的爱好也仅限于旁观,并不喜欢下场运动。基辛格唯一的爱好可能就是下国际象棋,如果这也算运动的话。 这位百岁老人的长寿指南名单里,似乎还要加上:熬夜、喝酒、油炸食品…… 更令人感到不可思议的是,这位精力充沛每天工作15小时的老人,还是一位病人。 基辛格有40多年的心脏病史。 1982年2月,58岁的亨利·基辛格接受了3次冠状动脉搭桥手术,其后在2005年又接受了血管成形术。 2014年7月15日,91岁的基辛格在纽约长老会医院接受了主动脉瓣置换手术。主动脉瓣膜置换是一种以人工瓣膜替换原有损伤或者异常心脏瓣膜的胸心血管外科手术。 我想我长寿的秘诀是,我有幸做一些我着迷的事情,我可以参与其中。我还没有退休,也不打算退休。我要研究我认为重要的问题,这就是我还在工作的目的。”"],
1587
+ ["系统性红斑狼疮的危害和治疗方法是什么?"],
1588
+ [
1589
+ "我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
1590
+ ],
1591
+ ["熬夜对身体有什么危害? "],
1592
+ ["新冠肺炎怎么预防"],
1593
+ [
1594
+ "我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
1595
+ ],
1596
+ ["太阳为什么会发热? "],
1597
+ ["指南针是怎么工作的?"],
1598
+ ["在野外怎么辨别方向?"],
1599
+ [
1600
+ "发芽的土豆还能不能吃?"
1601
+ ],
1602
+ ["What NFL team won the Super Bowl in the year Justin Bieber was born? "],
1603
+ ["What NFL team won the Super Bowl in the year Justin Bieber was born? Think step by step."],
1604
+ ["Explain the plot of Cinderella in a sentence."],
1605
+ [
1606
+ "How long does it take to become proficient in French, and what are the best methods for retaining information?"
1607
+ ],
1608
+ ["What are some common mistakes to avoid when writing code?"],
1609
+ ["Build a prompt to generate a beautiful portrait of a horse"],
1610
+ ["Suggest four metaphors to describe the benefits of AI"],
1611
+ ["Write a pop song about leaving home for the sandy beaches."],
1612
+ ["Write a summary demonstrating my ability to tame lions"],
1613
+ ["有三个盒子,分别贴着“苹果”、“橘子”和“苹果和橘子”的标签,但是每个盒子的标签都是错误的。你只能打开一个盒子,然后从里面拿出一个水果,然后确定每个盒子里装的是什么水果。你应该打开哪个盒子?为什么?"],
1614
+ ["春天来了,万物复苏,小鸟歌唱,生机勃勃。\n问题:以上文本表达的情绪是正向还是负向?"],
1615
+ ["正无穷大加一大于正无穷大吗?"],
1616
+ ["正无穷大加正无穷大大于正无穷大吗?"],
1617
+ ["以今天对应的节气写一副对联"],
1618
+ ["树上有5只鸟,猎人开枪打死了一只。树上还有几只鸟?Think step by step."],
1619
+ ["从零学习编程,请给我一个三个月的学习计划。"],
1620
+ ["双喜临门,打一中国地名"],
1621
+ ["以红楼梦的行文风格写一张委婉的请假条。不少于320字。"],
1622
+ [f"{etext1} 总结这篇文章的主要内容和文章结构"],
1623
+ [f"{etext} 翻成中文,列出3个版本"],
1624
+ [f"{etext} \n 翻成中文,保留原意,但使用文学性的语言。不要写解释。列出3个版本"],
1625
+ ["js 判断一个数是不是质数"],
1626
+ ["js 实现python 的 range(10)"],
1627
+ ["js 实现python 的 [*(range(10)]"],
1628
+ ["假定 1 + 2 = 4, 试求 7 + 8,Think step by step." ],
1629
+ ["2023年云南大学成立100周年,它是哪一年成立的?" ],
1630
+ ["Erkläre die Handlung von Cinderella in einem Satz."],
1631
+ ["Erkläre die Handlung von Cinderella in einem Satz. Auf Deutsch"],
1632
+ ],
1633
+ inputs=[user_input],
1634
+ examples_per_page=50,
1635
+ )
1636
+
1637
+ with gr.Accordion("For Chat/Translation API", open=False, visible=False):
1638
+ input_text = gr.Text()
1639
+ tr_btn = gr.Button("Go", variant="primary")
1640
+ out_text = gr.Text()
1641
+ tr_btn.click(
1642
+ trans_api,
1643
+ [input_text, max_length, top_p, temperature],
1644
+ out_text,
1645
+ # show_progress="full",
1646
+ api_name="tr",
1647
+ )
1648
+ _ = """
1649
+ input_text.submit(
1650
+ trans_api,
1651
+ [input_text, max_length, top_p, temperature],
1652
+ out_text,
1653
+ show_progress="full",
1654
+ api_name="tr1",
1655
+ )
1656
+ # """
1657
+
1658
+ # demo.queue().launch(share=False, inbrowser=True)
1659
+ # demo.queue().launch(share=True, inbrowser=True, debug=True)
1660
+
1661
+ # concurrency_count > 1 requires more memory, max_size: queue size
1662
+ # T4 medium: 30GB, model size: ~4G concurrency_count = 6
1663
+ # leave one for api access
1664
+ # reduce to 5 if OOM occurs to often
1665
 
 
 
 
 
1666
  #demo.queue(concurrency_count=6, max_size=30).launch(debug=True)
1667
+ demo.queue(concurrency_count=6, max_size=30).launch(debug=True, auth=eval(os.environ.get("AUTHENTICATION")))