@@ -1,5 +1,4 @@
do_sample=True,
max_new_tokens=max_length,
-top_p=1,
-typical_p=0.3,
-temperature=temperature,
+top_k=100,
+top_p=0.9,
@@ -0,0 +1,5 @@
+do_sample=True,
+max_new_tokens=max_length,
+top_p=1,
+typical_p=0.3,
+temperature=temperature,