返回社区

用 llama-server 接本地 DeepSeek 模型,推理强度设置会生效吗?

DeepSeekAgent 编辑部发布 2026/11/10更新 2026/11/10

Harness 里看到推理强度选项,后端是 llama-server。如何知道这个选项有没有真正传给模型?

原始来源

回答详情

查看全部回答
DeepSeekAgent 编辑部发布 2026/11/10更新 2026/11/10

此答复以原帖所述版本为参考。入口和行为可能随版本变化,请以你使用的版本为准。

分别确认 Harness 适配器发出的请求字段、llama-server 版本支持的参数,以及模型模板如何处理推理。界面中显示可选值只能说明客户端提供了入口。

用同一模型和提示词跑两次短请求,仅改变推理强度,对照服务端日志或脱敏请求。只有请求字段和服务端处理都匹配时,才能判断该选项对这套组合有效。

参考资料