本页内容

本页内容

供应商

西格朗

SGLang 通过 OpenAI- 兼容的 HTTP API 提供开放重量模型。 OpenClaw 使用 openai-completions 提供程序系列连接到 SGLang,并自动发现可用模型。

属性 值
提供方 id sglang
插件 内置,enabledByDefault: true
认证环境变量 SGLANG_API_KEY(如果服务器没有认证,则任意非空值均可)
引导标志 --auth-choice sglang
API OpenAI-兼容(openai-completions)
默认基础 URL http://127.0.0.1:30000/v1
默认模型占位符 sglang/Qwen/Qwen3-8B
流式传输用量 是(supportsStreamingUsage: true)
定价 标记为外部免费(modelPricing.external: false)

OpenClaw还自动发现当您选择加入时,SGLang 提供可用模型SGLANG_API_KEY。使用sglang/* in agents.defaults.models当您还配置自定义 SGLang 基础时保持发现动态URL。看模型发现(隐式提供者)以下。

入门

  • 启动 SGLang

    使用 OpenAI- 兼容服务器启动 SGLang。您的基础 URL 应公开 /v1 端点(例如 /v1/models、/v1/chat/completions)。 SGLang 通常运行在:

    • http://127.0.0.1:30000/v1
  • 设置 API 密钥

    如果你的服务器未配置认证,任何值都可以:

    bash
    export SGLANG_API_KEY="sglang-local"
  • 运行入门引导或直接设置模型

    bash
    openclaw onboard --auth-choice sglang

    或手动配置模型:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}
  • 模型发现(隐式提供方)

    当设置了 SGLANG_API_KEY(或存在认证配置文件)且你没有 定义 models.providers.sglang 时,OpenClaw 会查询:

    • GET http://127.0.0.1:30000/v1/models

    并将返回的 ID 转换为模型条目。

    显式配置(手动模型)

    在以下情况下使用显式配置:

    • SGLang 在不同的 host/port. 上运行
    • 你想固定 contextWindow/maxTokens 的值。
    • 你的服务器需要真实的 API 密钥(或者你想控制请求头)。
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    高级配置

    代理式行为

    SGLang 被视为代理样式的 OpenAI- 兼容 /v1 后端,而不是本机 OpenAI 端点。

    行为 西格朗
    OpenAI-仅请求整形 未应用
    service_tier、Responses 的 store、prompt-cache 提示 不发送
    兼容推理的负载整形 未应用
    隐藏归因标头(originator、version、User-Agent) 未注入自定义 SGLang 基本 URL
    故障排查

    服务器不可访问

    确认服务器正在运行并且有响应:

    bash
    curl http://127.0.0.1:30000/v1/models

    认证错误

    如果请求因认证错误失败,请设置一个与你的服务器配置匹配的真实 SGLANG_API_KEY,或者在 models.providers.sglang 下显式配置该提供方。

    相关内容

    本页有帮助吗?