如果基于sglang 部署如何支持 思考/非思考模式切换？
#28
by
verigle
- opened
如果基于sglang 部署如何支持 思考/非思考模式切换？
sglang 启动参数如何设置？
看这里， 给多个 "chat_template_kwargs": {"thinking": true}
https://docs.sglang.ai/advanced_features/separate_reasoning.html