Limour commited on
Commit
1007899
1 Parent(s): a7695be

Upload rp_sample_config.json

Browse files
Files changed (1) hide show
  1. rp_sample_config.json +109 -0
rp_sample_config.json ADDED
@@ -0,0 +1,109 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "setting_cache_path": {
3
+ "value": "cache/"
4
+ },
5
+ "setting_seed": {
6
+ "value": 4294967295
7
+ },
8
+ "setting_n_gpu_layers": {
9
+ "value": 0
10
+ },
11
+ "setting_ctx": {
12
+ "value": 4096
13
+ },
14
+ "setting_max_tokens": {
15
+ "value": 1024,
16
+ "minimum": 1
17
+ },
18
+ "setting_n_discard": {
19
+ "value": 256,
20
+ "minimum": 1,
21
+ "maximum": 4095
22
+ },
23
+ "setting_temperature": {
24
+ "value": 0.7,
25
+ "step": 0.1,
26
+ "info": "温度设置:通过缩放概率而不删除选项来控制输出的「随机」程度。较低的值更合乎逻辑,但创意较差。可以根据需要随时调整。"
27
+ },
28
+ "setting_repeat_penalty": {
29
+ "value": 1.1,
30
+ "minimum": 0,
31
+ "maximum": 2,
32
+ "step": 0.1,
33
+ "info": "重复惩罚:应用惩罚以减少最近已经使用的单词的重复,使 AI 的输出减少重复。"
34
+ },
35
+ "setting_frequency_penalty": {
36
+ "value": 0,
37
+ "minimum": 0,
38
+ "maximum": 2,
39
+ "step": 0.1,
40
+ "info": "频率惩罚:应用惩罚以减少最近已经使用的单词的重复,使 AI 的输出减少重复。将值设置为 0 以禁用其效果。"
41
+ },
42
+ "setting_presence_penalty": {
43
+ "value": 0,
44
+ "minimum": 0,
45
+ "maximum": 2,
46
+ "step": 0.1,
47
+ "info": "存在惩罚:应用惩罚以减少指定范围内已经使用的单词的重复,使 AI 的输出减少重复。将值设置为 0 以禁用其效果。"
48
+ },
49
+ "setting_repeat_last_n": {
50
+ "value": 1200,
51
+ "minimum": 0,
52
+ "maximum": 4095,
53
+ "info": "惩罚时会考虑的最近的 tokens 数量"
54
+ },
55
+ "setting_top_k": {
56
+ "value": 40,
57
+ "minimum": 0,
58
+ "info": "此设置将可供选择的可能字词数量限制为前 K 个最有可能的选项,并删除其他所有内容。可与 Top-P 一起使用。将值设置为 0 以禁用其效果。"
59
+ },
60
+ "setting_top_p": {
61
+ "value": 0.92,
62
+ "minimum": 0,
63
+ "maximum": 1,
64
+ "step": 0.1,
65
+ "info": "在采样过程中丢弃不太可能的文本。仅考虑累积概率总和为 P 的单词。低值使文本可预测,因为删除了不常见的标记。将值设置为 1 以禁用其效果。"
66
+ },
67
+ "setting_min_p": {
68
+ "value": 0.05,
69
+ "minimum": 0,
70
+ "maximum": 1,
71
+ "step": 0.01,
72
+ "info": "作为 Top-P 的替代项,相对于最可能的令牌的概率,令牌被考虑的最小概率。例如,当p=0.05且最可能的令牌的概率为0.9时,数值小于0.045的logits将被过滤掉。"
73
+ },
74
+ "setting_typical_p": {
75
+ "value": 1,
76
+ "minimum": 0,
77
+ "maximum": 1,
78
+ "step": 0.01,
79
+ "info": "典型采样:从可能的单词清单中随机选择单词,每个单词都有相等的机会被选中。此方法可以生成更多样化的文本,但也可能不太连贯。将值设置为 1 以禁用其效果。"
80
+ },
81
+ "setting_tfs_z": {
82
+ "value": 1,
83
+ "minimum": 0,
84
+ "maximum": 1,
85
+ "step": 0.01,
86
+ "info": "无尾采样:作为 Top-P 的替代项,此设置在文本生成过程中从考虑范围中删除最不可能的单词,考虑二阶导数。可以提高生成的文本的质量和连贯性。将值设置为 1 以禁用其效果。"
87
+ },
88
+ "setting_mirostat_mode": {
89
+ "value": 0,
90
+ "minimum": 0,
91
+ "maximum": 2,
92
+ "info": "覆盖其他采样器的替代采样方法。将值设置为 0 以禁用其效果。"
93
+ },
94
+ "setting_mirostat_eta": {
95
+ "value": 0.1,
96
+ "minimum": 0,
97
+ "step": 0.01,
98
+ "info": "学习率影响算法对生成文本的反馈作出反应的速度。较低的学习率会导致调整较慢,而较高的学习率会使算法更具响应性。"
99
+ },
100
+ "setting_mirostat_tau": {
101
+ "value": 5,
102
+ "minimum": 0,
103
+ "step": 0.1,
104
+ "info": "调整目标熵可以控制生成文本中连贯性和多样性之间的平衡。较低的数值会导致更加集中和连贯的文本,而较高的数值则会导致更多样化但潜在地更不连贯的文本。"
105
+ },
106
+ "msg": {
107
+ "value": "我亲爱的妹妹,早上好"
108
+ }
109
+ }