|
|
há 3 anos atrás | |
|---|---|---|
| LICENSE | há 3 anos atrás | |
| README.md | há 3 anos atrás | |
| convert-to-torch.py | há 3 anos atrás | |
| environment.yml | há 3 anos atrás | |
| server.py | há 3 anos atrás |
A gradio webui for running large language models locally. Supports gpt-j-6B, gpt-neox-20b, opt, galactica, and many others.
conda env create -f environment.yml
conda activate textgen
python server.py
Then browse to http://localhost:7860/?__theme=dark