Duplicated from alexkueck/ChatBotLI2
9e1636e 6c3bec3 f7c3a40 fafda33 9e1636e
1
2
3
4
5
6
7
8
9
gradio torch accelerate transformers==4.29.1 sentencepiece #fast Tokenizer - necessary, wenn torch_dtype=torch.float16 angeschaltet ist bei funktion load_tokenizer_and_model
