 oobabooga
|
3121f4788e
Fix uploading chat log in --chat mode
|
před 3 roky |
|
oobabooga
|
849e4c7f90
Better way of finding the generated reply in the output string
|
před 3 roky |
|
oobabooga
|
d03b0ad7a8
Implement saving/loading chat logs (#9)
|
před 3 roky |
|
oobabooga
|
39bfea5a22
Add a progress bar
|
před 3 roky |
|
oobabooga
|
5390fc87c8
add auto-devices when disk is used
|
před 3 roky |
|
oobabooga
|
759da435e3
Release 8-bit models memory
|
před 3 roky |
|
oobabooga
|
7ace04864a
Implement sending layers to disk with --disk (#10)
|
před 3 roky |
|
oobabooga
|
93fa9bbe01
Clean up the streaming implementation
|
před 3 roky |
|
oobabooga
|
c90310e40e
Small simplification
|
před 3 roky |
|
oobabooga
|
99536ef5bf
Add no-stream option
|
před 3 roky |
|
oobabooga
|
116299b3ad
Manual eos_token implementation
|
před 3 roky |
|
oobabooga
|
3cb30bed0a
Add a "stop" button
|
před 3 roky |
|
oobabooga
|
8f27d33034
Fix another bug
|
před 3 roky |
|
oobabooga
|
6c7f187586
Minor change
|
před 3 roky |
|
oobabooga
|
b3cba0b330
Bug
|
před 3 roky |
|
oobabooga
|
df2e910421
Stop generating in chat mode when \nYou: is generated
|
před 3 roky |
|
oobabooga
|
022960a087
This is the correct way of sampling 1 token at a time
|
před 3 roky |
|
oobabooga
|
0f01a3b1fa
Implement text streaming (#10)
|
před 3 roky |
|
oobabooga
|
ca13acdfa0
Ensure that the chat prompt will always contain < 2048 tokens
|
před 3 roky |
|
oobabooga
|
6456777b09
Clean things up
|
před 3 roky |
|
oobabooga
|
3a99b2b030
Change a truncation parameter
|
před 3 roky |
|
oobabooga
|
54bf55372b
Truncate prompts to 2048 characters
|
před 3 roky |
|
oobabooga
|
c7a2818665
Grammar
|
před 3 roky |
|
oobabooga
|
d973897021
Typo
|
před 3 roky |
|
oobabooga
|
47a20638de
Don't need this
|
před 3 roky |
|
oobabooga
|
b55486fa00
Reorganize things
|
před 3 roky |
|
oobabooga
|
ebf4d5f506
Add --max-gpu-memory parameter for #7
|
před 3 roky |
|
oobabooga
|
bb1a172da0
Fix a bug in cai mode chat
|
před 3 roky |
|
oobabooga
|
e6691bd920
Make chat mode more like cai
|
před 3 roky |
|
oobabooga
|
e04ecd4bce
Minor improvements
|
před 3 roky |
