d.tsimerman commited on
Commit
52719f0
1 Parent(s): 7225715
Files changed (1) hide show
  1. app.py +3 -2
app.py CHANGED
@@ -82,8 +82,9 @@ def merge_dialog_data(
82
 
83
  tokenized_dialog = tokenize_dialog_data(tokenizer, sample, MAX_SEQ_LENGTH, sorted_dialog_columns)
84
  tokens = merge_dialog_data(tokenizer, tokenized_dialog)
85
- logits = model(**tokens).logits
86
- probas = torch.sigmoid(logits)[0].cpu().detach().numpy()
 
87
 
88
  st.metric(
89
  label='Вероятность того, что последний ответ диалогового агента релевантный',
82
 
83
  tokenized_dialog = tokenize_dialog_data(tokenizer, sample, MAX_SEQ_LENGTH, sorted_dialog_columns)
84
  tokens = merge_dialog_data(tokenizer, tokenized_dialog)
85
+ with torch.inference_mode():
86
+ logits = model(**tokens).logits
87
+ probas = torch.sigmoid(logits)[0].cpu().detach().numpy()
88
 
89
  st.metric(
90
  label='Вероятность того, что последний ответ диалогового агента релевантный',