 oobabooga
|
93fa9bbe01
Clean up the streaming implementation
|
3 år sedan |
|
oobabooga
|
c90310e40e
Small simplification
|
3 år sedan |
|
oobabooga
|
99536ef5bf
Add no-stream option
|
3 år sedan |
|
oobabooga
|
116299b3ad
Manual eos_token implementation
|
3 år sedan |
|
oobabooga
|
3cb30bed0a
Add a "stop" button
|
3 år sedan |
|
oobabooga
|
8f27d33034
Fix another bug
|
3 år sedan |
|
oobabooga
|
6c7f187586
Minor change
|
3 år sedan |
|
oobabooga
|
b3cba0b330
Bug
|
3 år sedan |
|
oobabooga
|
df2e910421
Stop generating in chat mode when \nYou: is generated
|
3 år sedan |
|
oobabooga
|
022960a087
This is the correct way of sampling 1 token at a time
|
3 år sedan |
|
oobabooga
|
0f01a3b1fa
Implement text streaming (#10)
|
3 år sedan |
|
oobabooga
|
ca13acdfa0
Ensure that the chat prompt will always contain < 2048 tokens
|
3 år sedan |
|
oobabooga
|
6456777b09
Clean things up
|
3 år sedan |
|
oobabooga
|
3a99b2b030
Change a truncation parameter
|
3 år sedan |
|
oobabooga
|
54bf55372b
Truncate prompts to 2048 characters
|
3 år sedan |
|
oobabooga
|
99d24bdbfe
Update README.md
|
3 år sedan |
|
oobabooga
|
ed1d2c0d38
Update README.md
|
3 år sedan |
|
oobabooga
|
82c50a09b2
Update README.md
|
3 år sedan |
|
oobabooga
|
c7a2818665
Grammar
|
3 år sedan |
|
oobabooga
|
3a28865eb2
Update README.md
|
3 år sedan |
|
oobabooga
|
d973897021
Typo
|
3 år sedan |
|
oobabooga
|
18626c4788
Update README.md
|
3 år sedan |
|
oobabooga
|
47a20638de
Don't need this
|
3 år sedan |
|
oobabooga
|
b55486fa00
Reorganize things
|
3 år sedan |
|
oobabooga
|
a3bb18002a
Update README
|
3 år sedan |
|
oobabooga
|
ebf4d5f506
Add --max-gpu-memory parameter for #7
|
3 år sedan |
|
oobabooga
|
bb1a172da0
Fix a bug in cai mode chat
|
3 år sedan |
|
oobabooga
|
e6691bd920
Make chat mode more like cai
|
3 år sedan |
|
oobabooga
|
9f1b6e0398
Update README
|
3 år sedan |
|
oobabooga
|
e04ecd4bce
Minor improvements
|
3 år sedan |
