فهرست منبع

Fix GPTQ load_quant call on Windows

oobabooga 2 سال پیش
والد
کامیت
372363bc3d
1فایلهای تغییر یافته به همراه1 افزوده شده و 1 حذف شده
  1. 1 1
      modules/quantized_LLaMA.py

+ 1 - 1
modules/quantized_LLaMA.py

@@ -40,7 +40,7 @@ def load_quantized_LLaMA(model_name):
         print(f"Could not find {pt_model}, exiting...")
         exit()
 
-    model = load_quant(path_to_model, str(pt_path), bits)
+    model = load_quant(str(path_to_model), str(pt_path), bits)
 
     # Multiple GPUs or GPU+CPU
     if shared.args.gpu_memory: