 oobabooga
|
316e07f06a
auto-assign gpu memory with --auto-devices alone
|
vor 3 Jahren |
|
oobabooga
|
219366342b
Sort imports according to PEP8 (based on #67)
|
vor 3 Jahren |
 81300
|
20dbef9623
Extend bfloat16 support
|
vor 3 Jahren |
|
oobabooga
|
cadd100405
min_length has to be 0 when streaming is on
|
vor 3 Jahren |
|
oobabooga
|
6be571cff7
Better variable names
|
vor 3 Jahren |
|
oobabooga
|
58b07cca81
length_penalty can be negative (apparently)
|
vor 3 Jahren |
|
oobabooga
|
7e4c25691d
Repetition penalty has to be < 5
|
vor 3 Jahren |
|
oobabooga
|
1c30e1b49a
Add even more sliders
|
vor 3 Jahren |
|
oobabooga
|
24dc705eca
Add lots of sliders
|
vor 3 Jahren |
 Martin J
|
06a4664805
Fix a regex issue in `tokenize_dialogue`.
|
vor 3 Jahren |
|
oobabooga
|
2fe235738e
Reorganize chat buttons
|
vor 3 Jahren |
|
oobabooga
|
2207d44986
Windows doesn't like : in filenames
|
vor 3 Jahren |
|
oobabooga
|
65266f3349
Fix loading official colab chat logs
|
vor 3 Jahren |
|
oobabooga
|
44e8c671f9
Fix API documentation formatting in chat mode
|
vor 3 Jahren |
|
oobabooga
|
a28f0d8bd7
Show it/s in the same units with or without streaming
|
vor 3 Jahren |
|
oobabooga
|
4e4cd67223
Save chat history with name/date in filename
|
vor 3 Jahren |
|
oobabooga
|
3af3ffeb90
Make --help output more readable
|
vor 3 Jahren |
|
oobabooga
|
638495b633
Simplify generate() function
|
vor 3 Jahren |
|
oobabooga
|
3f05cf5ddd
Simplify encode() function
|
vor 3 Jahren |
|
oobabooga
|
2583bc5840
Simplify deepspeed implementation (#40)
|
vor 3 Jahren |
|
oobabooga
|
f38c9bf428
Fix deepspeed (oops)
|
vor 3 Jahren |
|
oobabooga
|
90f1067598
Move deepspeed parameters to another file
|
vor 3 Jahren |
|
81300
|
248ec4fa21
Merge branch 'oobabooga:main' into ds
|
vor 3 Jahren |
|
81300
|
a6f4760772
Add arg for bfloat16
|
vor 3 Jahren |
|
81300
|
c515282f5c
no_split_module_classes not needed
|
vor 3 Jahren |
|
81300
|
0a0d289537
Fix issue with generating on multiple GPUs
|
vor 3 Jahren |
|
81300
|
a97afa6965
Add DeepSpeed ZeRO-3 integration
|
vor 3 Jahren |
|
oobabooga
|
6b13816c47
Change default --disk behavior
|
vor 3 Jahren |
|
oobabooga
|
119be56390
Add back low_cpu_mem_usage=True
|
vor 3 Jahren |
|
oobabooga
|
d4a0b377ab
Allow standalone --cpu-memory
|
vor 3 Jahren |
