Jelajahi Sumber

Update the API extension

oobabooga 2 tahun lalu
induk
melakukan
dc3c9d00a0
1 mengubah file dengan 1 tambahan dan 1 penghapusan
  1. 1 1
      extensions/api/script.py

+ 1 - 1
extensions/api/script.py

@@ -58,12 +58,12 @@ class Handler(BaseHTTPRequestHandler):
                 'early_stopping': bool(body.get('early_stopping', False)),
                 'seed': int(body.get('seed', -1)),
                 'add_bos_token': int(body.get('add_bos_token', True)),
+                'custom_stopping_strings': body.get('custom_stopping_strings', []),
             }
 
             generator = generate_reply(
                 prompt,
                 generate_params,
-                stopping_strings=body.get('stopping_strings', []),
             )
 
             answer = ''