模型供应商
ds4 从本地
Metal 后端提供 DeepSeek V4 Flash,并带有 OpenAI 兼容的 /v1 API。OpenClaw 通过通用的 openai-completions 提供方家族连接到 ds4。
ds4 不是内置的 OpenClaw 提供方插件。请在
models.providers.ds4 下进行配置,然后选择 ds4/deepseek-v4-flash。
| 属性 |
值 |
| 提供方 id |
ds4 |
| 插件 |
无(仅配置) |
| API |
与 OpenAI 兼容的 Chat Completions(openai-completions) |
| 基础 URL |
http://127.0.0.1:18000/v1(建议) |
| 模型 id |
deepseek-v4-flash |
| 工具调用 |
OpenAI 风格的 tools / tool_calls |
| 推理 |
DeepSeek 风格的 thinking 和 reasoning_effort |
要求
- 具有 Metal 支持的 macOS。
- 一个可正常工作的 ds4 检出环境,包含
ds4-server 和 DeepSeek V4 Flash GGUF 文件。
- 针对你选择的上下文准备足够的内存;更大的
--ctx 值会在服务器启动时分配更多
KV 内存。
快速开始
启动 ds4-server
将 <DS4_DIR> 替换为你的 ds4 检出路径。
bash<DS4_DIR>/ds4-server \ --model <DS4_DIR>/ds4flash.gguf \ --host 127.0.0.1 \ --port 18000 \ --ctx 32768 \ --tokens 128
验证 OpenAI 兼容端点
bashcurl http://127.0.0.1:18000/v1/models
响应中应包含 deepseek-v4-flash。
添加 OpenClaw 提供方配置
添加 完整配置 中的配置,然后运行一次性模型
检查:
bashopenclaw infer model run \ --local \ --model ds4/deepseek-v4-flash \ --thinking off \ --prompt "精确回复:openclaw-ds4-ok" \ --json
完整配置
当 ds4 已经在 127.0.0.1:18000 上运行时,使用此配置。
json5{ agents: { defaults: { model: { primary: "ds4/deepseek-v4-flash" }, models: { "ds4/deepseek-v4-flash": { alias: "DS4 本地", }, }, }, }, models: { mode: "merge", providers: { ds4: { baseUrl: "http://127.0.0.1:18000/v1", apiKey: "ds4-local", api: "openai-completions", timeoutSeconds: 300, models: [ { id: "deepseek-v4-flash", name: "DeepSeek V4 Flash (ds4)", reasoning: true, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 32768, maxTokens: 128, compat: { supportsUsageInStreaming: true, supportsReasoningEffort: true, maxTokensField: "max_tokens", supportsStrictMode: false, thinkingFormat: "deepseek", supportedReasoningEfforts: ["low", "medium", "high", "xhigh"], }, }, ], }, }, },}
保持 contextWindow 与 ds4-server --ctx 一致。保持 maxTokens 与
--tokens 一致,除非你有意让 OpenClaw 请求比服务器默认值更少的输出。
按需启动
当选择了 ds4/... 模型时,OpenClaw 可以只启动 ds4。将
localService 添加到同一个提供方条目中:
json5{ models: { providers: { ds4: { baseUrl: "http://127.0.0.1:18000/v1", apiKey: "ds4-local", api: "openai-completions", timeoutSeconds: 300, localService: { command: "<DS4_DIR>/ds4-server", args: [ "--model", "<DS4_DIR>/ds4flash.gguf", "--host", "127.0.0.1", "--port", "18000", "--ctx", "32768", "--tokens", "128", ], cwd: "<DS4_DIR>", healthUrl: "http://127.0.0.1:18000/v1/models", readyTimeoutMs: 300000, idleStopMs: 0, }, models: [ { id: "deepseek-v4-flash", name: "DeepSeek V4 Flash (ds4)", reasoning: true, input: ["text"], cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 }, contextWindow: 32768, maxTokens: 128, compat: { supportsUsageInStreaming: true, supportsReasoningEffort: true, maxTokensField: "max_tokens", supportsStrictMode: false, thinkingFormat: "deepseek", supportedReasoningEfforts: ["low", "medium", "high", "xhigh"], }, }, ], }, }, },}
command 必须是绝对可执行路径。不会使用 shell 查找和 ~ 展开。
有关每个 localService 字段,请参见 本地模型服务。
Think Max
ds4 仅在以下两个条件都满足时才会应用 Think Max:
ds4-server 以 --ctx 393216 或更高参数启动。
- 请求使用
reasoning_effort: "max"(或等效的 ds4 effort 字段)。
如果你运行这么大的上下文,请同时更新服务器标志和 OpenClaw 模型
元数据:
json5{ contextWindow: 393216, maxTokens: 384000, compat: { supportsUsageInStreaming: true, supportsReasoningEffort: true, maxTokensField: "max_tokens", supportsStrictMode: false, thinkingFormat: "deepseek", supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"], },}
测试
直接 HTTP 检查,绕过 OpenClaw:
bashcurl http://127.0.0.1:18000/v1/chat/completions \ -H 'content-type: application/json' \ -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"精确回复:ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'
OpenClaw 模型路由(与快速开始检查相同):
bashopenclaw infer model run \ --local \ --model ds4/deepseek-v4-flash \ --thinking off \ --prompt "精确回复:openclaw-ds4-ok" \ --json
完整的 agent 和工具调用冒烟测试,至少包含 32768 的上下文:
bashopenclaw agent \ --local \ --session-id ds4-tool-smoke \ --model ds4/deepseek-v4-flash \ --thinking off \ --message "先使用一次 shell 命令 pwd,然后精确回复:tool-ok <output>" \ --json \ --timeout 240
预期结果:
executionTrace.winnerProvider 为 ds4
executionTrace.winnerModel 为 deepseek-v4-flash
toolSummary.calls 至少为 1
finalAssistantVisibleText 以 tool-ok 开头
故障排查
curl /v1/models 无法连接
ds4 未运行,或未绑定到 baseUrl 中的主机/端口。先启动
ds4-server,然后重试:
bashcurl http://127.0.0.1:18000/v1/models
500 prompt 超出上下文
配置的 --ctx 对 OpenClaw 的回合来说太小了。提高
ds4-server --ctx,然后将 models.providers.ds4.models[].contextWindow
更新为匹配的值。带工具的完整 agent 回合所需上下文远多于
直接的一条消息 curl 请求。
Think Max 未激活
ds4 只有在 --ctx 至少为 393216 且请求
指定 reasoning_effort: "max" 时才会使用 Think Max。更小的上下文会回退到高
推理。
首次请求很慢
ds4 有冷启动的 Metal 驻留和模型预热阶段。若 OpenClaw 按需启动服务器,请设置
localService.readyTimeoutMs: 300000。
相关内容