 oobabooga
|
8c6155251a
More robust 4-bit model loading
|
hace 2 años |
|
oobabooga
|
ea6e77df72
Make the code more like PEP8 for readability (#862)
|
hace 2 años |
 EyeDeck
|
39f3fec913
Broaden GPTQ-for-LLaMA branch support (#820)
|
hace 2 años |
|
oobabooga
|
3d6cb5ed63
Minor rewrite
|
hace 2 años |
|
oobabooga
|
f3a2e0b8a9
Disable pre_layer when the model type is not llama
|
hace 2 años |
 catalpaaa
|
4ab679480e
allow quantized model to be loaded from model dir (#760)
|
hace 2 años |
 OWKenobi
|
ee4547cd34
Detect "vicuna" as llama model type (#772)
|
hace 2 años |
|
oobabooga
|
1cb9246160
Adapt to the new model names
|
hace 2 años |
|
oobabooga
|
010b259dde
Update documentation
|
hace 2 años |
|
oobabooga
|
0bec15ebcd
Reorder imports
|
hace 2 años |
 Maya Eary
|
41ec682834
Disable kernel threshold for gpt-j
|
hace 2 años |
|
Maya Eary
|
1c075d8d21
Fix typo
|
hace 2 años |
|
Maya Eary
|
c8207d474f
Generalized load_quantized
|
hace 2 años |
|
oobabooga
|
49c10c5570
Add support for the latest GPTQ models with group-size (#530)
|
hace 2 años |
|
EyeDeck
|
dcfd866402
Allow loading of .safetensors through GPTQ-for-LLaMa
|
hace 2 años |
|
oobabooga
|
db4219a340
Update comments
|
hace 2 años |
|
oobabooga
|
7618f3fe8c
Add -gptq-preload for 4-bit offloading (#460)
|
hace 2 años |
|
oobabooga
|
9a3bed50c3
Attempt at fixing 4-bit with CPU offload
|
hace 2 años |
 askmyteapot
|
53b6a66beb
Update GPTQ_Loader.py
|
hace 2 años |
|
oobabooga
|
265ba384b7
Rename a file, add deprecation warning for --load-in-4bit
|
hace 2 años |
