Update app.py

app.py

@@ -499,6 +499,7 @@ async def get_api_stream(messages: List[Dict[str, str]], user_id: str):
         messages=messages,
         extra_body={"chat_template_kwargs": {"enable_thinking": False}},
         stream=True,
+        max_tokens=4096,
     )
     return stream