跳转至

第 6 章 模型配置

模型是 WorkBuddy 一切能力的执行引擎——无论是技能调用、专家思考还是专家团协作,最终都由底层大模型驱动。本章聚焦模型的推理模式、内置模型与能力标记、选择策略、自定义接入方式,以及贯穿全书的“积分与成本”逻辑,帮助你为不同任务配置最合适的“大脑”。

学习目标

学完本章,你应该能够: 1. 阐述标准推理与深度思考模型的工作原理及适用场景。 2. 熟悉内置模型家族与能力标记,理解各类任务场景的模型选择策略。 3. 配置并管理各类本地及云端大模型,掌握四种接入方式的适用边界与配置要素。 4. 理解积分的消耗逻辑与成本差异规律,能够制定合理的成本优化策略。

6.1 大模型推理模式

WorkBuddy 支持接入多种底层基座大模型。官方提供均衡/快速/极致三档模型选择,并将内置模型区分为思考模式与推理模型(官方文档《模型配置》);为便于理解,教材将推理模式归纳为以下两类:

6.1.1 标准推理模式

标准推理模式是日常使用的默认主力:响应速度快,Token 消耗量低。适用于日常对话、文本润色、简单的信息提取等基础任务。它追求“够用、快、省”,大多数高频办公场景(摘要、翻译、格式转换、常规问答)由它承担即可。

6.1.2 深度思考模式(Thinking)

深度思考模式采用思维链(Chain-of-Thought)技术,在输出结果前先进行充分的内部逻辑推演,再给出结论。虽然响应时间更长、成本更贵,但在处理复杂的代码编写、架构设计、数学计算或深层逻辑分析时,其准确率和深度均有显著提升。

两者的差异可以用一个例子直观感受:让 AI 审查一段并发代码的竞态条件,标准推理模式可能直接给出结论;而深度思考模式会先推导执行时序、识别共享资源的冲突路径,再给出带论证过程的修复方案。判断标准很简单——任务越依赖“推理过程”,越值得启用 Thinking。

💡 最佳实践:日常任务用标准模式保效率,把深度思考留给高价值的复杂任务;两者可以在任务执行中随时切换,不必一上来就选最贵的配置。

6.2 内置模型与能力标记

6.2.1 内置模型概览

WorkBuddy 内置了多种主流基座大模型(以当前最新版本为准),并提供了 Auto 自动模式。各模型的定位与擅长方向如下:

模型 定位与擅长方向
Auto(自动模式) 启用后系统根据任务自动选择最适合的模型,为默认选项,日常使用的最优保底(官方文档《模型配置》)
Hunyuan(混元) 腾讯自研基座;当前内置 Hy3 混元思考模型,支持思考模式(深度思考),适合复杂推理(官方文档《模型配置》,以最新版本为准)
GLM 多模态识图与工具调用能力出众,适合 Agent/专家执行场景
MiniMax 指令遵循与工具调用表现优异,适合 Agent 执行场景
Kimi 长文本理解与视觉能力出色,适合文档分析、长上下文任务
DeepSeek 推理与代码能力突出,适合复杂推理与代码开发场景

6.2.2 能力标记:模型的能力画像

WorkBuddy 为每个模型维护一组能力标记,用于标注该模型是否支持识图、长文本、工具调用等高级特性。系统在任务执行时会根据任务需求(如“识别图片中的表格”)优先匹配带有对应能力标记的模型,避免“选了模型却做不了事”。

对内置模型,能力标记由系统维护,开箱即用;对自定义接入的第三方模型,务必确认能力标记与实际能力一致——善用“能力标记自动写入”功能,让系统根据模型信息自动补全标记,可显著减少手动配置错误。

6.3 模型选择策略

面对众多的模型,WorkBuddy 推荐采用以下 4 类模型选择策略:

任务场景 推荐模型 选择理由
日常问答与常规处理 Auto(自动模式) 系统根据任务自动选择最适合的模型(默认选项),速度与稳定性最佳
多模态场景(识图、文档分析) GLM 或 Kimi 视觉与上下文能力出众
复杂推理与代码场景 Hy3(混元) 或 DeepSeek 支持思考模式(深度思考),逻辑推演能力强
Agent/专家执行场景 GLM 或 MiniMax 在指令遵循与工具调用上表现优异

💡 选型口诀:日常 Auto 保底,多模态认准 GLM/Kimi,难活交给深度思考,Agent 场景选指令遵循强的 GLM/MiniMax。

6.4 自定义模型接入

为了满足不同团队的合规性、成本控制及特殊业务需求,WorkBuddy 支持强大的自定义模型管理功能。

📷 请参见产品界面:在“设置”界面的模型管理模块中,用户可通过可视化界面配置自定义模型,所有配置保存后即时生效。

6.4.1 四种接入方式

目前系统支持的接入方式包括以下 4 种(另有自定义 API/自定义方式等入口,以官方文档为准): 1. Token Plan:腾讯云 Token Plan 专为 AI 编程和 WorkBuddy 场景打造,提供面向个人、企业多种类型的订阅套餐,兼容混元、MiniMax、Kimi、GLM 等主流大模型(官方文档《模型配置》)。 2. Coding Plan:专为开发者打造的 AI Coding 场景专属订阅模式,提供针对代码补全和重构优化的专属算力。 3. 提供商接入:适合已有企业级 API 权限的用户。只需从预设的厂商列表中选择对应服务商,系统会自动填充相关的 API URL、可用模型列表及能力标记,用户仅需补全 API Key 即可。 4. Ollama 本地部署:针对对数据隐私要求极高的内网、合规性严格或完全离线的网络环境。在本地安装启动 Ollama 服务后,WorkBuddy 可直接连接本地模型,全程无需 API Key 验证。

6.4.2 配置四要素与连通验证

无论采用哪种接入方式,配置一个自定义模型通常需要确认以下四要素: 1. Base URL:模型 API 服务的访问地址(Ollama 本地服务为 http://127.0.0.1:11434)。 2. 模型名称:与厂商侧的模型标识保持一致,填错将无法调用。 3. API Key:服务端的鉴权凭证(Ollama 本地部署除外)。 4. 能力标记:标注模型是否支持识图、长文本、工具调用,可借助“能力标记自动写入”完成。

配置完成后,发送一条测试消息(如“你好,请介绍一下你自己”)验证连通。若模型无响应,按三查排查:查 Key 是否有效、查网络是否可达、查模型名称是否准确。

6.4.3 Ollama 本地部署实操

Ollama 是开源的本地大模型部署工具,能让模型完全运行在你的电脑上,数据不出本机。接入步骤如下: 1. 安装 Ollama:前往 Ollama 官网(ollama.com)下载对应操作系统的安装包并完成安装。 2. 拉取模型:在终端执行 ollama pull <模型名>(如 ollama pull qwen2.5),模型将下载到本地。 3. 确认服务:Ollama 默认监听本机 11434 端口;执行 ollama list 可查看已拉取的模型列表。 4. 在 WorkBuddy 中接入:在模型管理中选择 Ollama 本地部署,填入服务地址与模型名称(无需 API Key)。 5. 测试验证:发送测试消息确认本地模型可用。

⚠️ 安全提示:本地模型体积通常达数 GB,请预留磁盘空间;推理性能取决于本机显卡与内存配置,轻量设备建议选择小参数模型。

6.4.4 接入方式选择建议

Token Plan 适合需要按需灵活计费的个人或团队;Coding Plan 适合以代码开发为主的开发者;提供商接入适合已经持有企业级 API 权限、追求开箱即用的用户;而涉及公司核心机密或敏感数据的工作空间,务必优先考虑 Ollama 本地部署方案。

6.5 积分与成本管理

6.5.1 积分的消耗逻辑

积分是 WorkBuddy 的使用额度(首次出现于第 4 章)。内置模型与云端服务的每次任务执行都会消耗积分,消耗量与模型 Token 定价和任务复杂度有关(官方文档《积分》):不同模型单位 Token 处理单价不同,简单任务(如简短问答)消耗较少,复杂任务(如长代码分析、多轮对话、知识库检索)消耗更多。理解消耗逻辑,是控制使用成本的前提。

6.5.2 消耗差异的三条规律

  1. 模式差异:深度思考模式(Thinking)的积分消耗显著高于标准推理模式——它用更长的推理换取更高质量的答案。
  2. 实体差异:专家团涉及多个模型协同运作,积分消耗通常明显高于单专家,单专家又高于纯技能调用(具体消耗以实际任务与官方《积分》说明为准)。
  3. 上下文差异:长文档挂载、多轮追问、多模态输入都会增加 Token 用量,进而推高消耗。

6.5.3 成本优化实践

💡 成本优化的本质:按任务价值匹配模型与实体,而不是一律使用最强配置。 - 日常任务优先 Auto + 标准推理,把 Thinking 留给高价值复杂任务。 - 简单任务不召唤专家团,用技能或单专家即可完成。 - 控制单任务追问轮数与挂载文件体积(第 2 章给出连续追问约 8 轮的经验建议)。 - 高频批量任务与敏感数据任务走 Ollama 本地模型,把云端额度留给 Agent 场景。 - 开发类工作使用 Coding Plan 专属订阅,避免占用 Token Plan 的按量额度。

6.6 模型管理最佳实践与常见问题

6.6.1 最佳实践五条

💡 最佳实践: 1. 优先 Auto 模式:在非特定专业需求下,尽可能使用系统的 Auto 模式以获得最佳的响应速度与稳定性。 2. 利用能力标记:在配置第三方模型时,善用“能力标记自动写入”功能,确保 WorkBuddy 能准确识别该模型是否支持识图、工具调用等高级特性。 3. Ollama 离线首选:对于涉及公司核心机密代码或敏感财务数据的工作空间,务必首选 Ollama 本地部署方案。 4. 灵活应用自定义协议:对于自建的内部大模型网关或非标准 URL 的服务,通过自定义 OpenAI 兼容协议进行灵活对接。 5. API Key 严格管控:将 API Key 视为最高级别的机密凭证,避免在任何非加密文档或公共代码库中明文保存。

6.6.2 常见问题排查

  • 配置后模型无响应:按三查排查——API Key 是否有效、网络是否可达、模型名称是否与厂商标识一致。
  • 模型能对话但无法识图或调用工具:检查能力标记是否已正确配置,优先开启“能力标记自动写入”。
  • Ollama 本地连接失败:确认 Ollama 服务已启动、地址与端口(默认 11434)填写正确,并检查防火墙是否放行。

本章小结

本章系统梳理了 WorkBuddy 的模型配置体系。我们理解了标准推理与深度思考两种模式的取舍,认识了内置模型家族与能力标记机制,掌握了四类任务场景的模型选择策略,学习了 Token Plan、Coding Plan、提供商接入与 Ollama 本地部署四种自定义接入方式的配置要素与适用边界,并建立了“积分消耗三条规律 + 成本优化实践”的成本管理框架。在下一章中,我们将把这种执行能力延伸到移动端——学习助理(远程操控)机制与各渠道接入方法,让 WorkBuddy 随时随地听候调遣。

思考题

  1. 试说明深度思考模式(Thinking)虽然成本更高、速度更慢,但仍被引入核心工作流的原因。
  2. 假设您的团队处于一个完全无外网连接的安全开发环境中,您应如何利用 WorkBuddy 的模型配置功能继续开展 AI 辅助工作?
  3. 分析“提供商接入”与“Token Plan”在配置流程和适用人群上的主要差异。
  4. 结合积分的消耗规律,为一位每天需要“批量生成周报 + 偶尔做代码审查”的用户设计两条成本优化建议。