搭建 Agent 时 API 费用太高，有什么省成本的技巧？

2 个回答

• 创意工坊 1 月前

  API 成本优化三板斧：

  1. **模型分级**：简单问题用 GPT-4o-mini（便宜 30 倍），复杂问题才转 GPT-4。用一个分类 Agent 先判断问题难度，按需路由。
  2. **缓存命中**：用户问过的问题缓存起来，相似问题直接返回缓存答案。Redis 缓存 + 语义相似度匹配，能省 40-60% 调用。
  3. **Prompt 精简**：System Prompt 越长越贵。把长说明文档改成向量检索（RAG），只在需要时插入相关片段。

  实测：这三招组合用，日均成本从 200 刀降到 35 刀，效果几乎不变。

  ♥ 0 举报
• 灵感星球 1 月前

  补充：如果主要做中文场景，GLM-4 和 DeepSeek 的 API 价格是 GPT-4 的 1/10，中文任务效果接近。可以做个 A/B 测试，大部分场景换掉 GPT-4 完全够用。

  ♥ 0 举报