oobabooga 2 лет назад
Родитель
Сommit
2965aa1625
1 измененных файлов с 4 добавлено и 1 удалено
  1. 4 1
      modules/models.py

+ 4 - 1
modules/models.py

@@ -102,6 +102,10 @@ def load_model(model_name):
         if path_to_model.name.lower().startswith('llama-30b'):
             pt_model = 'llama-30b-4bit.pt'
 
+        if not Path(f"models/{pt_model}").exists():
+            print(f"Could not find models/{pt_model}, exiting...")
+            exit()
+
         model = load_quant(path_to_model, Path(f"models/{pt_model}"), 4)
         model = model.to(torch.device('cuda:0'))
 
@@ -178,4 +182,3 @@ def load_soft_prompt(name):
         shared.soft_prompt_tensor = tensor
 
     return name
-