 oobabooga
|
ebd698905c
Add streaming to RWKV
|
hace 2 años |
|
oobabooga
|
70e522732c
Move RWKV loader into a separate file
|
hace 2 años |
|
oobabooga
|
ebc64a408c
RWKV support prototype
|
hace 2 años |
|
oobabooga
|
6e843a11d6
Fix FlexGen in chat mode
|
hace 2 años |
|
oobabooga
|
fa58fd5559
Proper way to free the cuda cache
|
hace 2 años |
|
oobabooga
|
700311ce40
Empty the cuda cache at model.generate()
|
hace 2 años |
|
oobabooga
|
78ad55641b
Remove duplicate max_new_tokens parameter
|
hace 2 años |
|
oobabooga
|
65326b545a
Move all gradio elements to shared (so that extensions can use them)
|
hace 2 años |
|
oobabooga
|
9ae063e42b
Fix softprompts when deepspeed is active (#112)
|
hace 2 años |
|
oobabooga
|
7224343a70
Improve the imports
|
hace 2 años |
|
oobabooga
|
1dacd34165
Further refactor
|
hace 2 años |
|
oobabooga
|
ce7feb3641
Further refactor
|
hace 2 años |
