Explorar o código

Fix encode() for RWKV

oobabooga %!s(int64=2) %!d(string=hai) anos
pai
achega
8e89bc596b
Modificáronse 1 ficheiros con 1 adicións e 0 borrados
  1. 1 0
      modules/text_generation.py

+ 1 - 0
modules/text_generation.py

@@ -24,6 +24,7 @@ def encode(prompt, tokens_to_generate=0, add_special_tokens=True):
     if shared.is_RWKV:
         input_ids = shared.tokenizer.encode(str(prompt))
         input_ids = np.array(input_ids).reshape(1, len(input_ids))
+        return input_ids
     else:
         input_ids = shared.tokenizer.encode(str(prompt), return_tensors='pt', truncation=True, max_length=get_max_prompt_length(tokens_to_generate), add_special_tokens=add_special_tokens)
         if shared.args.cpu: