update

app.py

@@ -96,10 +96,22 @@ css='''
         }
 
 '''
+
+default_generate_config = {
+        "do_sample": False,
+        "top_p": 0,
+        "top_k": 50,
+        "max_length": 64,
+        "temperature": 1,
+        "num_beams": 1,
+        "length_penalty": 0.6
+    }
+
 task_styles = []
 examples_list = []
 task_style_to_task_prefix = {}
 import csv
+examples_set = set()
 def read_examples(input_file):
     header = True
     with open(input_file) as finput:
@@ -112,7 +124,7 @@ def read_examples(input_file):
             task_styles.append(task_style)
             task_style_to_task_prefix[task_style] = task_prefix
             examples_list.append([task_style, example])
-
+            examples_set.add((task_style, example))
 read_examples("./examples.csv")
 #print(task_styles)
 def preprocess(text, task):
@@ -123,6 +135,7 @@ def preprocess(text, task):
     return task_style_to_task_prefix[task] + "\n" + text + "\n答案："
       
 def inference_gen(text, task, do_sample, top_p, top_k, max_token, temperature, beam_size, length_penalty):
+    default_example = (task, text) in examples_set
     text = preprocess(text, task)
     generate_config = {
         "do_sample": do_sample,
@@ -135,11 +148,17 @@ def inference_gen(text, task, do_sample, top_p, top_k, max_token, temperature, b
     }
     #print(generate_config)
     #print(text)
+    default_example = default_example and generate_config == default_generate_config
     try:
-        prediction = cl.generate(
-            model_name='clueai-base',
-            prompt=text,
-            generate_config=generate_config)
+        if default_example:
+            prediction = cl.generate(
+                model_name='clueai-base',
+                prompt=text)
+        else:
+            prediction = cl.generate(
+                model_name='clueai-base',
+                prompt=text,
+                generate_config=generate_config)
     except Exception as e:
         logger.error(f"error, {e}")
         return

examples.csv

@@ -3,7 +3,7 @@
 纠错,文本纠错：,你必须服从命令，不要的考虑。你的思想被别人手下来。
 改写,生成与下列文字相同意思的句子：,长期通胀前景在今天可能不确定性更大。
 中心词提取,中心词提取：,现在有京东国际太方便了，可以安全的买到正经的电子设备，游戏机完全没问题，发货非常快，第二天就到
-标题生成文章,根据标题生成文章：,标题：俄罗斯天然气管道泄漏爆炸
+标题生成文章,根据标题生成文章：,标题：俄天然气管道泄漏爆炸
 情感倾向,文字中包含了怎样的情感：,"超可爱的帅哥，爱了。。。
 选项：厌恶，喜欢，开心，悲伤，惊讶，生气，害怕"
 关键词抽取, 抽取关键词：,当地时间21日，美国联邦储备委员会宣布加息75个基点，将联邦基金利率目标区间上调到3.00%至3.25%之间，符合市场预期。这是美联储今年以来第五次加息，也是连续第三次加息，创自1981年以来的最大密集加息幅度。