客服机器人
不用时每天有数百位客户询问如何重置密码、跟踪订单或申请退款，每个人的说法都不一样。每个问题都是一次完整的模型调用。
使用后第一个答案会被保存。之后每种换说法的问题都会从缓存中在不到一秒内得到回答，费用只是原来的一小部分。
模型费用等待时间
运行中 AgentCache
别再为同一个答案向 AI 模型付两次钱。
您的智能体会一次又一次地被问到同样的问题，而且说法常常不同。AgentCache 会记住答案。在调用模型或 API 之前，智能体先查询缓存：重复的问题不到一秒即可得到回答，费用 0.002 美元。如果没有匹配，查询免费。
| 问题 | 结果 |
|---|---|
| “怎么重置密码？” 首次提问：调用模型并保存答案 |
未命中 0.00 美元 |
| “我该如何重置密码？” 换了说法 · 相似度 99.8% |
命中 0.002 美元 |
| “我忘了密码，怎么重置？” 换了说法 · 相似度 97% |
命中 0.002 美元 |
| “怎么修改我的邮箱地址？” 不同的问题：无匹配 |
未命中 0.00 美元 |
团队为什么使用它
更低的模型费用
每个从缓存中得到回答的重复问题，都是一次您不必付费的模型调用。命中只需 0.002 美元；一次典型的模型调用要贵好几倍。
不到一秒即可回答
已保存的答案通常在 0.1 到 0.3 秒内返回，而模型思考需要好几秒，因此您的用户等待更少。
每次都是同一个答案
问同一个问题的客户会得到同一个已经核对过的答案，而不是每次略有不同的说法。
真实案例
研究智能体团队
不用时参与同一项目的多个智能体分别查找相同的事实，一次又一次为同样的搜索和摘要付费。
使用后这些智能体共享一个命名空间。只要一个智能体得到答案，其他智能体就能复用。
tokenAPI 调用
编程助手
不用时开发者反复询问如何调用同一个内部 API。每个问题都要重读文档，耗费一次又长又贵的模型调用。
使用后常见的操作答案即时返回。
context 字段可将不同 API 版本的答案分开。token开发时间
看似相同、实则不同的问题
不用时简单的相似度缓存可能会用订单 12345 的已存答案来回答“订单 12346 发货了吗？”
使用后只有当问题中的每个数字都完全一致时，AgentCache 才会复用答案。订单 12346 不会命中，因此智能体会正常核查。
错误答案
您能省多少？
输入您自己的数字。计算在您的浏览器中完成。
功能
- 意思相同，说法不同
- 问题按含义进行比较，使用的是在 Cloudflare 内部运行、懂多种语言的 bge-m3 模型。“伦敦天气怎么样？”和“告诉我伦敦的天气”算作同一个问题。完全相同的重复问题无需模型即可匹配，速度更快。
- 细节不同，答案也不同
- 匹配会识别参数：只有当问题的相似度至少为 95% 并且其中每个数字（订单号、日期、金额）都完全一致时，才会复用已保存的答案。“订单 12345”和“订单 12346”永远是不同的问题。
- 仅对您的智能体可见
- 每个答案只属于一个智能体、一个命名空间和一个可选的上下文（例如模型和系统提示词）。查询绝不会在其他地方搜索。
- 只为命中付费
- 每次命中从您的预付钱包扣 0.002 美元。未命中免费，保存答案免费，使用同一
Idempotency-Key重试的查询绝不重复收费。 - 保存多久由您决定
- 答案默认保存 24 小时，也可设为 1 分钟到 30 天之间的任意时长。您可以随时删除一个答案或整个命名空间。
- 绝不阻塞您的智能体
- 如果缓存背后的任何部分不可用，查询只会返回“未命中”且不收费，您的智能体照常运行。
工作原理
- 先查询。调用模型之前，把问题发送到
POST /v1/lookup。 - 命中就完成了。使用已保存的答案。您只付了 0.002 美元，而不是一次模型调用。
- 未命中就保存答案。照常调用模型，然后把问题和答案发送到
POST /v1/store（免费）。下一个相似的问题就会命中。
试一试
# 1. Check the cache before calling your model
curl -X POST https://cache.myuiaf.com/v1/lookup \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How can I reset my password?","namespace":"support"}'
# 2. On a miss, call your model, then save its answer
curl -X POST https://cache.myuiaf.com/v1/store \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How do I reset my password?","namespace":"support",
"answer":"Go to Settings, then Security, then Reset password.",
"original_cost_usd":0.012}'HTTP/2 200
x-agentcache-hit: similar
x-agentcache-charged-usd: 0.002
{ "hit": true, "match": "similar", "similarity": 0.9984,
"cached_prompt": "How do I reset my password?",
"answer": "Go to Settings, then Security, then Reset password.",
"charged_usd": 0.002, "original_cost_usd": 0.012, "saved_usd": 0.01 }价格
| 操作 | 价格 |
|---|---|
| 找到答案的查询（命中） | $0.002 |
| 没有匹配的查询（未命中） | 免费 |
| 保存、删除或清空答案 | 免费 |
命中费用与 Freshness Validator 和 AgentPay 使用同一份预付额度。购买额度包，或让您的智能体自行购买。
速率限制
查询和保存与其他服务分开计数，因此一项服务绝不会拖慢另一项。
| 级别 | AgentCache 每分钟请求数 |
|---|---|
| Early Testing | 120 |
| Growing Product | 300 |
| Scale Revenue | 1,000 |
| Enterprise | 3,000 |
常见问题
AgentCache 是什么？
AgentCache 是面向 AI 智能体的语义答案缓存。在调用模型或 API 之前，智能体先询问 cache.myuiaf.com 是否已经回答过相同或相似的问题。如果回答过，已保存的答案会在不到一秒内返回，费用 0.002 美元。
费用是多少？
命中每次 0.002 美元。未命中不收费，保存答案也不收费。费用从与 Freshness Validator 和 AgentPay 相同的预付钱包中扣除。
它如何判断两个问题意思相同？
每个问题都会由在 Cloudflare 内部运行的 bge-m3 模型转换为嵌入向量。只有当含义相似度至少为 95% 且问题中的每个数字都完全一致时，才会复用已保存的答案，因此"订单 12345"绝不会得到"订单 12346"的答案。
它会把别人的答案给我的智能体吗？
不会。每个答案只属于一个智能体、一个命名空间和一个可选的上下文（例如模型和系统提示词）。查询只在这一个范围内搜索。
答案保存多久？
默认 24 小时，也可设为 1 分钟到 30 天之间的任意时长。您的智能体可以随时删除一个答案或整个命名空间。
哪些内容不应该缓存？
个人数据，以及取决于提问者身份或每分钟都在变化的信息的答案。请缓存那些在命名空间内对所有人答案都相同的问题。
与其他服务配合使用
同一个密钥和钱包也可用于 Freshness Validator（来源变化时提醒您的智能体，正是清空命名空间的好时机），以及 AgentPay（让您的智能体按次为 API 付费）。