模型选型与费用
企业管理智能体可以接入 DeepSeek 等兼容接口，也可以连接企业内网部署的模型服务。选择时主要看数据能否发送到外部、业务准确性、使用频率和运维能力。
希望低成本启动，可以先接 DeepSeek API；要求模型推理留在内网，再选择本地部署。 员工人数用于估算容量，不意味着公司越大就必须更换更大的模型。
价格与验证口径
本文费用于 2026-10-28 整理。API 单价参考服务商官方页面，硬件价格为采购前预算估算。并发、准确性及完整业务办理效果需要在实际部署环境验收，本文不作为硬件报价或性能承诺。
先选择部署方式
| 方式 | 适合什么情况 | 需要准备什么 | 费用组成 |
|---|---|---|---|
| DeepSeek API | 快速试点、使用量尚不稳定，允许业务上下文发送到外部模型服务 | 可访问服务商的 AgentOS 后端、API Key、模型额度 | 按输入/输出 token 付费，无需购买模型 GPU |
| 本地模型 | 模型推理和业务上下文需要留在内网，具备 GPU 运维条件 | GPU 设备、兼容模型服务、应用与知识检索资源 | 硬件采购、电费、保修和运维 |
| 本地模型加外部备用线路 | 企业允许特定数据使用外部服务，希望应对部分模型故障 | 分别配置模型及允许发送的数据范围 | 本地硬件加外部 API 用量 |
如果要求完全内网运行，备用线路也应留在内网。对话主备切换的使用方法见模型服务。当前主备配置用于可重试故障切换，不能当作已具备按任务难度自动选择模型的能力。
方案一：使用 DeepSeek API
配置方式
首次部署按部署与初始化生成配置，再替换 deploy/agentos.env 中的三项模型参数：
AGENTOS_MODEL_URL=https://api.deepseek.com
AGENTOS_MODEL_KEY=<替换为你自己的DeepSeek API Key>
AGENTOS_MODEL=deepseek-flashAPI Key 从 DeepSeek 开放平台申请，不能用网页版账号密码代替。模型名以服务商当前提供的名称为准；复杂分析可将 deepseek-v4-pro 作为评测候选。
模型地址填服务根地址，不追加 /chat/completions；当前配置按 OpenAI 兼容协议补齐路径。修改配置后重新运行 node tools/setup.mjs prepare --mode deploy，再按完整部署手册重启或重建服务；已有安装保留原有加密密钥与 OAuth 配置。
已运行的系统也可以由管理员在“开发 → 接入 → 模型服务”中选择对话用途，填写服务商/兼容协议、地址、模型名和 Key，保存后测试。有效的租户模型配置优先于部署环境中的默认模型，修改默认配置前先检查租户是否已配置其他线路。
接通后要验收什么
先测试普通问答与流式输出，再测试连续业务工具调用、参数补问和多轮会话。服务商支持工具调用不等于当前部署版本已适配所有思考模式要求。遇到 reasoning_content 等错误，应核对适配层和服务商协议，不能仅反复更换 Key。详细边界见本地启动与调试。
API 单价参考
以下为人民币元 / 百万 tokens，采用输入缓存未命中的单价，便于保守估算；实际缓存命中可能降低输入费用。高峰/空闲时段定义及价格变动以 DeepSeek 官方价格页为准。
| 模型 | 空闲输入 | 空闲输出 | 高峰输入 | 高峰输出 |
|---|---|---|---|---|
deepseek-flash | 1 | 4 | 2 | 8 |
deepseek-v4-pro | 4.5 | 13.5 | 9 | 27 |
按企业规模估算月度调用费
下面按每位员工每工作日 5 次任务、每月 20 个工作日、每次任务平均 3 次模型调用计算。每次模型调用输入 3000 tokens、输出 500 tokens，包括应计费的思考输出，不假设缓存命中。
月调用次数 = 员工数 × 20天 × 每天5次任务 × 每任务3次模型调用
月费用 = 总输入tokens ÷ 1000000 × 输入单价
+ 总输出tokens ÷ 1000000 × 输出单价以 deepseek-flash 为例，单次模型调用约 0.005—0.01 元，对应月费用如下。区间两端分别按全部空闲单价和全部高峰单价计算，实际混合用量介于两者之间。
| 公司规模 | 月模型调用次数 | 月输入 / 输出 tokens | 月 API 费用估算 |
|---|---|---|---|
| 20 人 | 6000 | 1800 万 / 300 万 | 30—60 元 |
| 100 人 | 30000 | 9000 万 / 1500 万 | 150—300 元 |
| 500 人 | 150000 | 4.5 亿 / 7500 万 | 750—1500 元 |
| 1000 人 | 300000 | 9 亿 / 1.5 亿 | 1500—3000 元 |
| 3000 人 | 900000 | 27 亿 / 4.5 亿 | 4500—9000 元 |
这些是上述固定负载下的模型调用费示例，不是包月套餐。每天任务数、上下文长度、工具循环、思考输出或重试次数增加，费用会相应增加；并不是一条员工消息只付一次模型调用费。OCR、语音、向量、网页搜索等额外服务、业务服务器和软件服务费用不含在表内。
建议先试用一周，记录实际 token、工具轮次、失败重试和高峰用量，再调整月度预算与服务商额度。
方案二：本地部署模型
按任务选择模型
企业级应用并不需要所有场景都固定使用 27B。建议保留一组业务用例，比较问答准确性、工具及参数选择、多轮成功率、引用和响应时间，再确定型号。
| 模型候选 | 适合纳入评测的任务 | 部署起点建议 | 选择时注意 |
|---|---|---|---|
| Qwen3.8-27B | 企业问答、业务查询、表单预填、工具调用 | 开发 24GB 显存、4bit、单路；生产 48GB 起测 | 开发与回归基线；兼容回退候选为 Qwen3.5-27B |
| Qwen3.6-35B-A3B | 多步业务智能体、工具调用、图文任务 | 48GB 显存、4bit 起测 | MoE 总参数约 35B，激活约 3B；显存按总权重与缓存核算 |
| GLM-4.7-Flash | 中文业务助手、多轮工具调用、推理任务 | 48GB 显存、4bit 起测 | 30B-A3B MoE；单独验证模板、工具解析器及量化内核 |
| Qwen3.5-122B-A10B | 复杂合同对照、长材料综合分析、管理报告 | 4bit 按 96GB 以上总显存起评估，例如 2×48GB 单副本跨卡 | 分析专用可选项，未计入下面的起步预算；常驻权重、运行空间和跨卡性能另测 |
这些是候选方案，尚不代表在本产品上完成了效果排名。MoE 激活参数少可以减少部分计算，但不能只按激活参数计算显存，也不能直接推断一定比稠密模型更快或更准确。具体许可证和部署说明见页面末尾的官方资料。
DeepSeek API 与本地 Qwen/GLM 是不同的模型线路。 下面的 24GB/48GB 预算不表示可以部署 DeepSeek 完整版，更不代表与 DeepSeek 在线服务效果等同；若指定部署某个 DeepSeek 权重或蒸馏版本，需要按该版本单独选型。
配置本地模型地址
先由实施人员部署 vLLM、SGLang 或其他兼容服务，确认服务能返回 OpenAI 兼容格式的对话、流式输出和工具调用结果，再让 AgentOS 连接它：
AGENTOS_MODEL_URL=http://192.168.10.20:8000
AGENTOS_MODEL_KEY=<替换为内网推理服务的访问密钥>
AGENTOS_MODEL=enterprise-assistant其中 IP、端口和模型名均为示例，enterprise-assistant 必须替换为服务实际暴露的模型 ID。可以使用服务发布时指定的别名，不能只填写下载目录名。配置生效方式、租户优先级与 DeepSeek 相同，参数说明见部署配置字典。
Docker 中的 localhost 指当前容器，模型服务地址应填写容器实际可达的内网 IP 或服务名。先确认网络与鉴权，再验证业务工具调用。需要限制思考时，按所选模型和推理服务配置，不能照搬另一模型的参数；当前文档不提供通用于所有模型的思考模式开关。
按规模估算硬件预算
金额单位为人民币万元。开发/20 人档按二手 RTX 3090 24GB 预算，已有 RTX 4090 24GB 可以复用，但购买 4090 不能套用 3090 的成本。其他档按 L20 48GB 常规集成方案估算。
下载本地模型与硬件预算清单（Excel），可调整数量、单价并查看模型选型说明；该清单不包含 DeepSeek API 调用费。
| 使用规模 | 候选主模型 | GPU | 模型主机配置 | 推理并发规划 | 增量硬件预算 |
|---|---|---|---|---|---|
| 开发验证 | 27B、4bit | 24GB ×1 | 约 12 核、64—128GB 内存、2TB NVMe，工作站 1 台 | 1 路，其余排队 | 1.1—1.6 万 |
| 20 人公司 | 27B、4bit | 24GB ×1 | 12—16 核、128GB 内存、2TB NVMe，工作站 1 台 | 1 路，适合低频试点 | 1.3—1.9 万 |
| 100 人公司 | 27B / 35B-A3B，评测后二选一 | L20 48GB ×1 | 16—24 核、128GB ECC、2TB NVMe，模型机 1 台 | 2—4 路* | 3.9—5.2 万 |
| 500 人公司 | 同一型号部署 2 副本 | L20 48GB ×2 | 24—32 核、256GB 内存、2TB NVMe，双卡机 1 台 | 4—8 路* | 7.1—9.2 万 |
| 1000 人公司 | 同一型号部署 4 副本 | L20 48GB ×4 | 每台同上，双卡机 2 台 | 8—16 路* | 14.2—18.4 万 |
| 3000 人公司 | 同一型号部署 8 副本 | L20 48GB ×8 | 每台同上，双卡机 4 台 | 16—32 路* | 28.4—36.8 万 |
* 并发为 27B、4bit、每次输入约 2K—4K tokens、输出约 300—600 tokens、限制长思考下的待测规划，不是实测性能。更换 35B-A3B、GLM、延长上下文或增加图像任务，需要重新测试。
24GB 开发配置先按总上下文 4K、单路验证，再视显存尝试 8K。向量模型、重排序和 OCR 使用 CPU 或独立资源，不占用这张卡。四张独立副本卡不等于一块可供任意模型使用的连续显存；部署一个跨卡大模型时需要另一套容量与通信评估。
起步预算包括什么
表中预算包含列明的 GPU、模型主机，以及基础备份/UPS/网络的补充预算，前提是已有应用、数据库、知识检索、文件存储和基础设施可复用，或经评估可以合部署。原有资源不足时，需要增加配套设备，不能把起步价理解为全套新建价格。
| 可选增加项 | 预算参考 | 什么时候需要 |
|---|---|---|
| 独立应用/检索服务器，16 核、64—128GB、2TB | 0.8—1.5 万 / 台 | 原有资源不足，或需要隔离在线问答与文档处理 |
| 额外企业盘、保修、备件补充 | 0.3—0.8 万 / 套 | 根据磁盘保护和服务要求选择 |
| 1000 人档备用双卡模型机 | 6.8—8.6 万 / 台 | 希望一台模型机故障后仍保留原规划计算容量；应用和数据层仍需另做恢复设计 |
硬件预算不含软件许可/实施服务、运维人工、运行电费、新建机房及专线。L20 需要适配的服务器供电与风道，普通桌面机箱不能直接代替。500 人单模型机故障时服务会中断；1000 人两台模型机中的一台故障后，计算容量约剩一半。
本地部署的持续费用
本地开放权重模型通常无需向模型 API 按 token 付费，但仍有电费、制冷、硬件保修、备件和维护成本。
例如，假设整套 AI 设备平均 IT 功率 1.8—3kW、全年运行 8760 小时、电价 0.9 元/kWh、机房 PUE 为 1.4，年电费及制冷折算约 1.99—3.31 万元。这是成本计算示例，不是上述每种配置的实测功耗；托管费已含电和制冷时不要重复计费。
采购或上线前怎么验收
- 用 50—100 条真实脱敏业务用例比较候选模型，检查引用、参数、多轮、权限边界和拒答。
- 在实际模型/量化版本上测试流式输出、连续工具调用、中文长输入和计划并发，记录 P95 响应时间、吞吐与显存。
- API 方案观察真实 token 和失败重试；本地方案核实可复用资源、显卡型号、成色、税费与保修。
- 验证重启、限流排队、备用模型和备份恢复，再决定是否扩容。
更多上线检查见上线验收清单。
官方资料
- DeepSeek 接口与模型名称、工具调用说明。
- Qwen3.8-27B、Qwen3.5-27B、Qwen3.6-35B-A3B、Qwen3.5-122B-A10B官方模型卡。
- GLM-4.7-Flash 官方模型卡。
本文硬件价格为预算估算，采购时请取得同规格正式报价；服务商接口、模型名和价格可能调整，请以实际可用版本与账单规则为准。