本页内容

本页内容

供应商

ds4

ds4 从本地 Metal 后端提供 DeepSeek V4 Flash,并带有 OpenAI 兼容的 /v1 API。OpenClaw 通过通用的 openai-completions 提供方家族连接到 ds4。

ds4 不是内置的 OpenClaw 提供方插件。请在 models.providers.ds4 下进行配置,然后选择 ds4/deepseek-v4-flash。

属性 值
提供方 id ds4
插件 无(仅配置)
API 与 OpenAI 兼容的 Chat Completions(openai-completions)
基础 URL http://127.0.0.1:18000/v1(建议)
模型 id deepseek-v4-flash
工具调用 OpenAI 风格的 tools / tool_calls
推理 DeepSeek 风格的 thinking 和 reasoning_effort

要求

  • 具有 Metal 支持的 macOS。
  • 一个可正常工作的 ds4 检出环境,包含 ds4-server 和 DeepSeek V4 Flash GGUF 文件。
  • 针对你选择的上下文准备足够的内存;更大的 --ctx 值会在服务器启动时分配更多 KV 内存。

快速开始

  • 启动 ds4-server

    将 <DS4_DIR> 替换为你的 ds4 检出路径。

    bash
    <DS4_DIR>/ds4-server \  --model <DS4_DIR>/ds4flash.gguf \  --host 127.0.0.1 \  --port 18000 \  --ctx 32768 \  --tokens 128
  • 验证 OpenAI 兼容端点

    bash
    curl http://127.0.0.1:18000/v1/models

    响应中应包含 deepseek-v4-flash。

  • 添加 OpenClaw 提供方配置

    添加 完整配置 中的配置,然后运行一次性模型 检查:

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "精确回复:openclaw-ds4-ok" \  --json
  • 完整配置

    当 ds4 已经在 127.0.0.1:18000 上运行时,使用此配置。

    json5
    {  agents: {    defaults: {      model: { primary: "ds4/deepseek-v4-flash" },      models: {        "ds4/deepseek-v4-flash": {          alias: "DS4 本地",        },      },    },  },  models: {    mode: "merge",    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    保持 contextWindow 与 ds4-server --ctx 一致。保持 maxTokens 与 --tokens 一致,除非你有意让 OpenClaw 请求比服务器默认值更少的输出。

    按需启动

    当选择了 ds4/... 模型时,OpenClaw 可以只启动 ds4。将 localService 添加到同一个提供方条目中:

    json5
    {  models: {    providers: {      ds4: {        baseUrl: "http://127.0.0.1:18000/v1",        apiKey: "ds4-local",        api: "openai-completions",        timeoutSeconds: 300,        localService: {          command: "<DS4_DIR>/ds4-server",          args: [            "--model",            "<DS4_DIR>/ds4flash.gguf",            "--host",            "127.0.0.1",            "--port",            "18000",            "--ctx",            "32768",            "--tokens",            "128",          ],          cwd: "<DS4_DIR>",          healthUrl: "http://127.0.0.1:18000/v1/models",          readyTimeoutMs: 300000,          idleStopMs: 0,        },        models: [          {            id: "deepseek-v4-flash",            name: "DeepSeek V4 Flash (ds4)",            reasoning: true,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 32768,            maxTokens: 128,            compat: {              supportsUsageInStreaming: true,              supportsReasoningEffort: true,              maxTokensField: "max_tokens",              supportsStrictMode: false,              thinkingFormat: "deepseek",              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],            },          },        ],      },    },  },}

    command 必须是绝对可执行路径。不会使用 shell 查找和 ~ 展开。 有关每个 localService 字段,请参见 本地模型服务。

    Think Max

    ds4 仅在以下两个条件都满足时才会应用 Think Max:

    • ds4-server 以 --ctx 393216 或更高参数启动。
    • 请求使用 reasoning_effort: "max"(或等效的 ds4 effort 字段)。

    如果你运行这么大的上下文,请同时更新服务器标志和 OpenClaw 模型 元数据:

    json5
    {  contextWindow: 393216,  maxTokens: 384000,  compat: {    supportsUsageInStreaming: true,    supportsReasoningEffort: true,    maxTokensField: "max_tokens",    supportsStrictMode: false,    thinkingFormat: "deepseek",    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],  },}

    测试

    直接 HTTP 检查,绕过 OpenClaw:

    bash
    curl http://127.0.0.1:18000/v1/chat/completions \  -H 'content-type: application/json' \  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"精确回复:ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

    OpenClaw 模型路由(与快速开始检查相同):

    bash
    openclaw infer model run \  --local \  --model ds4/deepseek-v4-flash \  --thinking off \  --prompt "精确回复:openclaw-ds4-ok" \  --json

    完整的 agent 和工具调用冒烟测试,至少包含 32768 的上下文:

    bash
    openclaw agent \  --local \  --session-id ds4-tool-smoke \  --model ds4/deepseek-v4-flash \  --thinking off \  --message "先使用一次 shell 命令 pwd,然后精确回复:tool-ok <output>" \  --json \  --timeout 240

    预期结果:

    • executionTrace.winnerProvider 为 ds4
    • executionTrace.winnerModel 为 deepseek-v4-flash
    • toolSummary.calls 至少为 1
    • finalAssistantVisibleText 以 tool-ok 开头

    故障排查

    curl /v1/models 无法连接

    ds4 未运行,或未绑定到 baseUrl 中的主机/端口。先启动 ds4-server,然后重试:

    bash
    curl http://127.0.0.1:18000/v1/models
    500 prompt 超出上下文

    配置的 --ctx 对 OpenClaw 的回合来说太小了。提高 ds4-server --ctx,然后将 models.providers.ds4.models[].contextWindow 更新为匹配的值。带工具的完整 agent 回合所需上下文远多于 直接的一条消息 curl 请求。

    Think Max 未激活

    ds4 只有在 --ctx 至少为 393216 且请求 指定 reasoning_effort: "max" 时才会使用 Think Max。更小的上下文会回退到高 推理。

    首次请求很慢

    ds4 有冷启动的 Metal 驻留和模型预热阶段。若 OpenClaw 按需启动服务器,请设置 localService.readyTimeoutMs: 300000。

    相关内容

    本页有帮助吗?