wangrongsheng commited on
Commit
241f531
·
1 Parent(s): b675d26

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +9 -52
app.py CHANGED
@@ -25,15 +25,13 @@ except Exception:
25
  # Windows
26
  logger.warning("Windows, cant run time.tzset()")
27
 
28
-
29
-
30
- model_name = "wangrongsheng/Med-InternLM"
31
 
32
  RETRY_FLAG = False
33
 
34
  tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
35
- model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(4).half().cuda()
36
- #model = AutoModel.from_pretrained(model_name, trust_remote_code=True).half().cuda()
37
  model = model.eval()
38
 
39
  _ = """Override Chatbot.postprocess"""
@@ -185,17 +183,19 @@ def retry_last_answer(
185
  )
186
 
187
 
188
- with gr.Blocks(title="ChatGLM2-6B-int4", theme=gr.themes.Soft(text_size="sm")) as demo:
189
  # gr.HTML("""<h1 align="center">ChatGLM2-6B-int4</h1>""")
190
  gr.HTML(
191
- """<h1 align="center">Med-InternLM-7B</h1>"""
192
  )
193
 
194
  with gr.Accordion("🎈 Info", open=False):
195
  _ = f"""
196
- ## 欢迎体验Med-InternLM-7B
 
 
197
 
198
- [模型下载地址](https://huggingface.co/wangrongsheng/Med-InternLM)
199
  """
200
  gr.Markdown(dedent(_))
201
  chatbot = gr.Chatbot()
@@ -286,54 +286,11 @@ with gr.Blocks(title="ChatGLM2-6B-int4", theme=gr.themes.Soft(text_size="sm")) a
286
  deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
287
 
288
  with gr.Accordion("Example inputs", open=True):
289
- etext = """In America, where cars are an important part of the national psyche, a decade ago people had suddenly started to drive less, which had not happened since the oil shocks of the 1970s. """
290
- etext1 = """云南大学(Yunnan University),简称云大(YNU),位于云南省昆明市,是教育部与云南省“以部为主、部省合建”的全国重点大学,国家“双一流”建设高校 [31] 、211工程、一省一校、中西部高校基础能力建设工程,云南省重点支持的国家一流大学建设高校,“111计划”、卓越法律人才教育培养计划、卓越工程师教育培养计划、国家建设高水平大学公派研究生项目、中国政府奖学金来华留学生接收院校、全国深化创新创业教育改革示范高校,为中西部“一省一校”国家重点建设大学(Z14)联盟、南亚东南亚大学联盟牵头单位。 [1]
291
- 云南大学始建于1922年,时为私立东陆大学。1930年,改为省立东陆大学。1934年更名为省立云南大学。1938年改为国立云南大学。1946年,《不列颠百科全书》将云南大学列为中国15所在世界最具影响的大学之一。1950年定名为云南大学。1958年,云南大学由中央高教部划归云南省管理。1978年,云南大学被国务院确定为88所全国重点大学之一。1996年首批列入国家“211工程”重点建设大学。1999年,云南政法高等专科学校并入云南大学。 [2] [23]
292
- 截至2023年6月,学校有呈贡、东陆两校区,占地面积4367亩,校舍建筑面积133余万平方米,馆藏书400万余册;设有28个学院,本科专业84个;有博士后科研流动站14个,22个一级学科博士学位授权点,1个专业博士学位授权,42个一级学科硕士学位授权,26个专业硕士学位授权;教职员工3000余人,全日制本科生近17000人,全日制硕士研究生近12000人,博士研究生1500余人。 """
293
  examples = gr.Examples(
294
  examples=[
295
  ["熬夜对身体有什么危害? "],
296
  ["新冠肺炎怎么预防"],
297
  ["系统性红斑狼疮的危害和治疗方法是什么?"],
298
- [
299
- "我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
300
- ],
301
- ["太阳为什么会发热? "],
302
- ["指南针是怎么工作的?"],
303
- ["在野外怎么辨别方向?"],
304
- [
305
- "世界最长的桥是那一座?"
306
- ],
307
- ["What NFL team won the Super Bowl in the year Justin Bieber was born? "],
308
- ["What NFL team won the Super Bowl in the year Justin Bieber was born? Think step by step."],
309
- ["Explain the plot of Cinderella in a sentence."],
310
- [
311
- "How long does it take to become proficient in French, and what are the best methods for retaining information?"
312
- ],
313
- ["What are some common mistakes to avoid when writing code?"],
314
- ["Build a prompt to generate a beautiful portrait of a horse"],
315
- ["Suggest four metaphors to describe the benefits of AI"],
316
- ["Write a pop song about leaving home for the sandy beaches."],
317
- ["Write a summary demonstrating my ability to tame lions"],
318
- ["鲁迅和周树人什么关系"],
319
- ["从前有一头牛,这头牛后面有什么?"],
320
- ["正无穷大加一大于正无穷大吗?"],
321
- ["正无穷大加正无穷大大于正无穷大吗?"],
322
- ["-2的平方根等于什么"],
323
- ["树上有5只鸟,猎人开枪打死了一只。树上还有几只鸟?Think step by step."],
324
- ["树上有11只鸟,猎人开枪打死了一只。树上还有几只鸟?提示:需考虑鸟可能受惊吓飞走。Think step by step."],
325
- ["鲁迅和周树人什么关系 用英文回答"],
326
- ["以红楼梦的行文风格写一张委婉的请假条。不少于320字。"],
327
- [f"{etext1} 总结这篇文章的主要内容和文章结构"],
328
- [f"{etext} 翻成中文,列出3个版本"],
329
- [f"{etext} \n 翻成中文,保留原意,但使用文学性的语言。不要写解释。列出3个版本"],
330
- ["js 判断一个数是不是质数"],
331
- ["js 实现python 的 range(10)"],
332
- ["js 实现python 的 [*(range(10)]"],
333
- ["假定 1 + 2 = 4, 试求 7 + 8,Think step by step." ],
334
- ["2023年云南大学成立100周年,它是哪一年成立的?" ],
335
- ["Erkläre die Handlung von Cinderella in einem Satz."],
336
- ["Erkläre die Handlung von Cinderella in einem Satz. Auf Deutsch"],
337
  ],
338
  inputs=[user_input],
339
  examples_per_page=50,
 
25
  # Windows
26
  logger.warning("Windows, cant run time.tzset()")
27
 
28
+ model_name = "wangrongsheng/IvyGPT-35"
 
 
29
 
30
  RETRY_FLAG = False
31
 
32
  tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
33
+ #model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(4).half().cuda()
34
+ model = AutoModel.from_pretrained(model_name, trust_remote_code=True).half().cuda()
35
  model = model.eval()
36
 
37
  _ = """Override Chatbot.postprocess"""
 
183
  )
184
 
185
 
186
+ with gr.Blocks(title="IvyGPT", theme=gr.themes.Soft(text_size="sm")) as demo:
187
  # gr.HTML("""<h1 align="center">ChatGLM2-6B-int4</h1>""")
188
  gr.HTML(
189
+ """<h1 align="center">IvyGPT医疗对话大模型</h1>"""
190
  )
191
 
192
  with gr.Accordion("🎈 Info", open=False):
193
  _ = f"""
194
+ ## 欢迎体验IvyGPT
195
+
196
+ 近期在通用领域中出现的大语言模型(LLMs),例如ChatGPT,在遵循指令和产生类人响应方面表现出了显著的成功。然而,这样的大型语言模型并没有被广泛应用于医学领域,导致响应的准确性较差,无法提供关于医学诊断、药物等合理的建议。为了应对这一挑战,我们提出了IvyGPT,这是一个医疗大语言模型,它在高质量的医学问答数据上进行了监督微调,并使用人类反馈的强化学习进行了训练。
197
 
198
+ [模型下载地址](https://huggingface.co/wangrongsheng/IvyGPT-35)
199
  """
200
  gr.Markdown(dedent(_))
201
  chatbot = gr.Chatbot()
 
286
  deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
287
 
288
  with gr.Accordion("Example inputs", open=True):
 
 
 
 
289
  examples = gr.Examples(
290
  examples=[
291
  ["熬夜对身体有什么危害? "],
292
  ["新冠肺炎怎么预防"],
293
  ["系统性红斑狼疮的危害和治疗方法是什么?"],
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
294
  ],
295
  inputs=[user_input],
296
  examples_per_page=50,