瀏覽代碼

Fix FlexGen

oobabooga 2 年之前
父節點
當前提交
53da672315
共有 1 個文件被更改,包括 1 次插入1 次删除
  1. 1 1
      modules/models.py

+ 1 - 1
modules/models.py

@@ -76,7 +76,7 @@ def load_model(model_name):
                             num_bits=4, group_size=64,
                             group_dim=2, symmetric=False))
 
-        model = OptLM(f"facebook/{shared.model_name}", env, shared.model_name, policy)
+        model = OptLM(f"facebook/{shared.model_name}", env, shared.args.model_dir, policy)
 
     # DeepSpeed ZeRO-3
     elif shared.args.deepspeed: