Spaces:
Runtime error
Runtime error
wangrongsheng
commited on
Commit
·
241f531
1
Parent(s):
b675d26
Update app.py
Browse files
app.py
CHANGED
@@ -25,15 +25,13 @@ except Exception:
|
|
25 |
# Windows
|
26 |
logger.warning("Windows, cant run time.tzset()")
|
27 |
|
28 |
-
|
29 |
-
|
30 |
-
model_name = "wangrongsheng/Med-InternLM"
|
31 |
|
32 |
RETRY_FLAG = False
|
33 |
|
34 |
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
|
35 |
-
model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(4).half().cuda()
|
36 |
-
|
37 |
model = model.eval()
|
38 |
|
39 |
_ = """Override Chatbot.postprocess"""
|
@@ -185,17 +183,19 @@ def retry_last_answer(
|
|
185 |
)
|
186 |
|
187 |
|
188 |
-
with gr.Blocks(title="
|
189 |
# gr.HTML("""<h1 align="center">ChatGLM2-6B-int4</h1>""")
|
190 |
gr.HTML(
|
191 |
-
"""<h1 align="center">
|
192 |
)
|
193 |
|
194 |
with gr.Accordion("🎈 Info", open=False):
|
195 |
_ = f"""
|
196 |
-
## 欢迎体验
|
|
|
|
|
197 |
|
198 |
-
[模型下载地址](https://huggingface.co/wangrongsheng/
|
199 |
"""
|
200 |
gr.Markdown(dedent(_))
|
201 |
chatbot = gr.Chatbot()
|
@@ -286,54 +286,11 @@ with gr.Blocks(title="ChatGLM2-6B-int4", theme=gr.themes.Soft(text_size="sm")) a
|
|
286 |
deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
|
287 |
|
288 |
with gr.Accordion("Example inputs", open=True):
|
289 |
-
etext = """In America, where cars are an important part of the national psyche, a decade ago people had suddenly started to drive less, which had not happened since the oil shocks of the 1970s. """
|
290 |
-
etext1 = """云南大学(Yunnan University),简称云大(YNU),位于云南省昆明市,是教育部与云南省“以部为主、部省合建”的全国重点大学,国家“双一流”建设高校 [31] 、211工程、一省一校、中西部高校基础能力建设工程,云南省重点支持的国家一流大学建设高校,“111计划”、卓越法律人才教育培养计划、卓越工程师教育培养计划、国家建设高水平大学公派研究生项目、中国政府奖学金来华留学生接收院校、全国深化创新创业教育改革示范高校,为中西部“一省一校”国家重点建设大学(Z14)联盟、南亚东南亚大学联盟牵头单位。 [1]
|
291 |
-
云南大学始建于1922年,时为私立东陆大学。1930年,改为省立东陆大学。1934年更名为省立云南大学。1938年改为国立云南大学。1946年,《不列颠百科全书》将云南大学列为中国15所在世界最具影响的大学之一。1950年定名为云南大学。1958年,云南大学由中央高教部划归云南省管理。1978年,云南大学被国务院确定为88所全国重点大学之一。1996年首批列入国家“211工程”重点建设大学。1999年,云南政法高等专科学校并入云南大学。 [2] [23]
|
292 |
-
截至2023年6月,学校有呈贡、东陆两校区,占地面积4367亩,校舍建筑面积133余万平方米,馆藏书400万余册;设有28个学院,本科专业84个;有博士后科研流动站14个,22个一级学科博士学位授权点,1个专业博士学位授权,42个一级学科硕士学位授权,26个专业硕士学位授权;教职员工3000余人,全日制本科生近17000人,全日制硕士研究生近12000人,博士研究生1500余人。 """
|
293 |
examples = gr.Examples(
|
294 |
examples=[
|
295 |
["熬夜对身体有什么危害? "],
|
296 |
["新冠肺炎怎么预防"],
|
297 |
["系统性红斑狼疮的危害和治疗方法是什么?"],
|
298 |
-
[
|
299 |
-
"我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
|
300 |
-
],
|
301 |
-
["太阳为什么会发热? "],
|
302 |
-
["指南针是怎么工作的?"],
|
303 |
-
["在野外怎么辨别方向?"],
|
304 |
-
[
|
305 |
-
"世界最长的桥是那一座?"
|
306 |
-
],
|
307 |
-
["What NFL team won the Super Bowl in the year Justin Bieber was born? "],
|
308 |
-
["What NFL team won the Super Bowl in the year Justin Bieber was born? Think step by step."],
|
309 |
-
["Explain the plot of Cinderella in a sentence."],
|
310 |
-
[
|
311 |
-
"How long does it take to become proficient in French, and what are the best methods for retaining information?"
|
312 |
-
],
|
313 |
-
["What are some common mistakes to avoid when writing code?"],
|
314 |
-
["Build a prompt to generate a beautiful portrait of a horse"],
|
315 |
-
["Suggest four metaphors to describe the benefits of AI"],
|
316 |
-
["Write a pop song about leaving home for the sandy beaches."],
|
317 |
-
["Write a summary demonstrating my ability to tame lions"],
|
318 |
-
["鲁迅和周树人什么关系"],
|
319 |
-
["从前有一头牛,这头牛后面有什么?"],
|
320 |
-
["正无穷大加一大于正无穷大吗?"],
|
321 |
-
["正无穷大加正无穷大大于正无穷大吗?"],
|
322 |
-
["-2的平方根等于什么"],
|
323 |
-
["树上有5只鸟,猎人开枪打死了一只。树上还有几只鸟?Think step by step."],
|
324 |
-
["树上有11只鸟,猎人开枪打死了一只。树上还有几只鸟?提示:需考虑鸟可能受惊吓飞走。Think step by step."],
|
325 |
-
["鲁迅和周树人什么关系 用英文回答"],
|
326 |
-
["以红楼梦的行文风格写一张委婉的请假条。不少于320字。"],
|
327 |
-
[f"{etext1} 总结这篇文章的主要内容和文章结构"],
|
328 |
-
[f"{etext} 翻成中文,列出3个版本"],
|
329 |
-
[f"{etext} \n 翻成中文,保留原意,但使用文学性的语言。不要写解释。列出3个版本"],
|
330 |
-
["js 判断一个数是不是质数"],
|
331 |
-
["js 实现python 的 range(10)"],
|
332 |
-
["js 实现python 的 [*(range(10)]"],
|
333 |
-
["假定 1 + 2 = 4, 试求 7 + 8,Think step by step." ],
|
334 |
-
["2023年云南大学成立100周年,它是哪一年成立的?" ],
|
335 |
-
["Erkläre die Handlung von Cinderella in einem Satz."],
|
336 |
-
["Erkläre die Handlung von Cinderella in einem Satz. Auf Deutsch"],
|
337 |
],
|
338 |
inputs=[user_input],
|
339 |
examples_per_page=50,
|
|
|
25 |
# Windows
|
26 |
logger.warning("Windows, cant run time.tzset()")
|
27 |
|
28 |
+
model_name = "wangrongsheng/IvyGPT-35"
|
|
|
|
|
29 |
|
30 |
RETRY_FLAG = False
|
31 |
|
32 |
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
|
33 |
+
#model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(4).half().cuda()
|
34 |
+
model = AutoModel.from_pretrained(model_name, trust_remote_code=True).half().cuda()
|
35 |
model = model.eval()
|
36 |
|
37 |
_ = """Override Chatbot.postprocess"""
|
|
|
183 |
)
|
184 |
|
185 |
|
186 |
+
with gr.Blocks(title="IvyGPT", theme=gr.themes.Soft(text_size="sm")) as demo:
|
187 |
# gr.HTML("""<h1 align="center">ChatGLM2-6B-int4</h1>""")
|
188 |
gr.HTML(
|
189 |
+
"""<h1 align="center">IvyGPT医疗对话大模型</h1>"""
|
190 |
)
|
191 |
|
192 |
with gr.Accordion("🎈 Info", open=False):
|
193 |
_ = f"""
|
194 |
+
## 欢迎体验IvyGPT
|
195 |
+
|
196 |
+
近期在通用领域中出现的大语言模型(LLMs),例如ChatGPT,在遵循指令和产生类人响应方面表现出了显著的成功。然而,这样的大型语言模型并没有被广泛应用于医学领域,导致响应的准确性较差,无法提供关于医学诊断、药物等合理的建议。为了应对这一挑战,我们提出了IvyGPT,这是一个医疗大语言模型,它在高质量的医学问答数据上进行了监督微调,并使用人类反馈的强化学习进行了训练。
|
197 |
|
198 |
+
[模型下载地址](https://huggingface.co/wangrongsheng/IvyGPT-35)
|
199 |
"""
|
200 |
gr.Markdown(dedent(_))
|
201 |
chatbot = gr.Chatbot()
|
|
|
286 |
deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
|
287 |
|
288 |
with gr.Accordion("Example inputs", open=True):
|
|
|
|
|
|
|
|
|
289 |
examples = gr.Examples(
|
290 |
examples=[
|
291 |
["熬夜对身体有什么危害? "],
|
292 |
["新冠肺炎怎么预防"],
|
293 |
["系统性红斑狼疮的危害和治疗方法是什么?"],
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
294 |
],
|
295 |
inputs=[user_input],
|
296 |
examples_per_page=50,
|