fix app

app.py

@@ -15,8 +15,7 @@ device = "cuda" if torch.cuda.is_available() else "cpu"
 
 
 def main():
-    st.subheader(
-        'Эта демонстрация позволяет поэксперементировать с моделями, которые оценивают, насколько предлагаемый ответ подходит к контексту диалога.')
+    st.subheader("CAIF")
     cls_model_name = st.selectbox(
         'Выберите модель классификации',
         ('tinkoff-ai/response-quality-classifier-tiny', 'tinkoff-ai/response-quality-classifier-base',
@@ -30,7 +29,6 @@ def main():
     auth_token = os.environ.get('TOKEN') or True
     with st.spinner('Running inference...'):
         text = inference(lm_model_name=lm_model_name, cls_model_name=cls_model_name, prompt=prompt)
-    st.text_area(text)
 
 
 

generator.py

@@ -70,9 +70,7 @@ class Generator:
 
         return (
             [
-                self.tokenizer.decode(sequence, skip_special_tokens=True)[
-                    len(input_prompt) :
-                ]
+                self.tokenizer.decode(sequence, skip_special_tokens=True)
                 for sequence in input_ids
             ],
             input_ids,