 oobabooga
|
759da435e3
Release 8-bit models memory
|
3 년 전 |
|
oobabooga
|
f9faad4cfa
Add low VRAM guide
|
3 년 전 |
|
oobabooga
|
7ace04864a
Implement sending layers to disk with --disk (#10)
|
3 년 전 |
|
oobabooga
|
1ce95ee817
Mention text streaming
|
3 년 전 |
|
oobabooga
|
93fa9bbe01
Clean up the streaming implementation
|
3 년 전 |
|
oobabooga
|
c90310e40e
Small simplification
|
3 년 전 |
|
oobabooga
|
99536ef5bf
Add no-stream option
|
3 년 전 |
|
oobabooga
|
116299b3ad
Manual eos_token implementation
|
3 년 전 |
|
oobabooga
|
3cb30bed0a
Add a "stop" button
|
3 년 전 |
|
oobabooga
|
8f27d33034
Fix another bug
|
3 년 전 |
|
oobabooga
|
6c7f187586
Minor change
|
3 년 전 |
|
oobabooga
|
b3cba0b330
Bug
|
3 년 전 |
|
oobabooga
|
df2e910421
Stop generating in chat mode when \nYou: is generated
|
3 년 전 |
|
oobabooga
|
022960a087
This is the correct way of sampling 1 token at a time
|
3 년 전 |
|
oobabooga
|
0f01a3b1fa
Implement text streaming (#10)
|
3 년 전 |
|
oobabooga
|
ca13acdfa0
Ensure that the chat prompt will always contain < 2048 tokens
|
3 년 전 |
|
oobabooga
|
6456777b09
Clean things up
|
3 년 전 |
|
oobabooga
|
3a99b2b030
Change a truncation parameter
|
3 년 전 |
|
oobabooga
|
54bf55372b
Truncate prompts to 2048 characters
|
3 년 전 |
|
oobabooga
|
99d24bdbfe
Update README.md
|
3 년 전 |
|
oobabooga
|
ed1d2c0d38
Update README.md
|
3 년 전 |
|
oobabooga
|
82c50a09b2
Update README.md
|
3 년 전 |
|
oobabooga
|
c7a2818665
Grammar
|
3 년 전 |
|
oobabooga
|
3a28865eb2
Update README.md
|
3 년 전 |
|
oobabooga
|
d973897021
Typo
|
3 년 전 |
|
oobabooga
|
18626c4788
Update README.md
|
3 년 전 |
|
oobabooga
|
47a20638de
Don't need this
|
3 년 전 |
|
oobabooga
|
b55486fa00
Reorganize things
|
3 년 전 |
|
oobabooga
|
a3bb18002a
Update README
|
3 년 전 |
|
oobabooga
|
ebf4d5f506
Add --max-gpu-memory parameter for #7
|
3 년 전 |
