oobabooga 2 лет назад
Родитель
Сommit
a577fb1077
1 измененных файлов с 1 добавлено и 1 удалено
  1. 1 1
      modules/text_generation.py

+ 1 - 1
modules/text_generation.py

@@ -38,7 +38,7 @@ def encode(prompt, tokens_to_generate=0, add_special_tokens=True):
 
 def decode(output_ids):
     # Open Assistant relies on special tokens like <|endoftext|>
-    if re.match('oasst-*', shared.model_name.lower()):
+    if re.match('(oasst|galactica)-*', shared.model_name.lower()):
         return shared.tokenizer.decode(output_ids, skip_special_tokens=False)
     else:
         reply = shared.tokenizer.decode(output_ids, skip_special_tokens=True)