Original model card

Buy me a coffee if you like this project ;)

Description

GGML Format model files for This project.

inference


import ctransformers

from ctransformers import AutoModelForCausalLM

model = AutoModelForCausalLM.from_pretrained(output_dir, ggml_file,
gpu_layers=32, model_type="llama")

manual_input: str = "Tell me about your last dream, please."


llm(manual_input, 
      max_new_tokens=256, 
      temperature=0.9, 
      top_p= 0.7)

Original model card

增加了中文词表，并进行了更多中文数据的训练。

例子：

### 任务:

阅读下面的材料，根据要求写作。好的故事，可以帮我们更好地表达和沟通，可以触动心灵、启迪智慧;好的故事，可以改变一个人的命运，可以展现一个民族的形象……故事是有力量的。以上材料引发了你怎样的联想和思考?请写一篇文章。要求：选准角度，确定立意，明确文体，自拟标题;不要套作，不得抄袭;不得泄露个人信息;不少于800字。

### 回复:

题目：故事是永恒的在人生道路上的每一个阶段都有不同的故事。每个人都有一个故事，但是每个人的故事都不同。我们的故事，不仅仅是我们自己的，它也会影响到身边的人。有一次我去参加了一个比赛，在这场比赛里，我看到了许多有志向的孩子们。他们有着不一样的想法，各自的奋斗和追求。但是他们的梦想也都是通过他们自己的努力来实现的。当我们长大了，我们的故事就不再是简单而简练的故事，它会变得更加复杂的。但是只要我们用心去理解这些故事，我们可以得到很多的经验和知识。我们也可以从中汲取勇气和信心。故事有自己的节奏和节奏变化，也有不同的情节。但无论故事的发展如何，都带给我们的灵魂和心灵产生深刻的影响。一个好的故事不仅能让读者们感受到温暖和鼓励，还可以激励我们走向成功的道路上。故事是一种非常的强大和宝贵的东西。通过阅读各种不同类型的故事，我们可以了解其他人的生活和情感。这不仅能够激发我们去尝试不同的事情，还可以让我们更深地理解人类的各种面貌。在我看来，一个好故事可以让人们摆脱生活中的困扰和烦恼，让我们重新思考自己，让我们对自己的生命有更加深入的理解。一个好的故事可以让我们在心中感受到幸福和自由。故事可以让我们在生活中更好地认识自己和我们周围的世界。通过这些故事，我们可以学到如何更好地处理复杂的情感，我们还可以得到关于成功与失败之间的宝贵的经验。这些经验和故事都可以在我们的生活中起到引导的作用，它们能够帮助我们走向成功的道路上。在人生的旅程中，每个人都有自己的故事，并且这些故事都有着非常特殊的意义。如果我们去理解别人的故事，那么我们的世界就会更加美好，也会更有希望。故事是有永恒的力量。让我们一起去感受一下这种力量吧！

使用时候在指令前增加“### 任务:”

在指令之后增加“### 回复:”