يعمل AgentCache
توقف عن الدفع لنموذج الذكاء الاصطناعي مرتين مقابل الإجابة نفسها.
يُسأل وكيلك الأسئلة نفسها مرارًا، وغالبًا بكلمات مختلفة. يتذكّر AgentCache الإجابات. وقبل استدعاء نموذج أو واجهة API، يتحقق وكيلك من ذاكرة التخزين المؤقت: يعود السؤال المكرر في جزء من الثانية مقابل 0.002 دولار. وإذا لم يوجد تطابق، فالتحقق مجاني.
| السؤال | النتيجة |
|---|---|
| “كيف أعيد تعيين كلمة المرور؟” أول مرة يُطرح: استُدعي النموذج وحُفظت الإجابة |
عدم إصابة 0.00 دولار |
| “كيف يمكنني إعادة تعيين كلمة المرور؟” صياغة أخرى · تشابه 99.8% |
إصابة 0.002 دولار |
| “نسيت كلمة المرور، كيف أعيد تعيينها؟” صياغة أخرى · تشابه 97% |
إصابة 0.002 دولار |
| “كيف أغيّر عنوان بريدي الإلكتروني؟” سؤال مختلف: لا تطابق |
عدم إصابة 0.00 دولار |
لماذا تستخدمه الفرق
فواتير نماذج أقل
كل سؤال مكرر يُجاب من ذاكرة التخزين المؤقت هو استدعاء للنموذج لا تدفع ثمنه. تكلّف الإصابة 0.002 دولار؛ ويكلّف استدعاء النموذج المعتاد أضعاف ذلك.
إجابات في جزء من الثانية
تعود الإجابة المحفوظة عادةً خلال 0.1 إلى 0.3 ثانية، بدلًا من الثواني العديدة التي يستغرقها النموذج في التفكير، فينتظر مستخدموك أقل.
الإجابة نفسها في كل مرة
يحصل العملاء الذين يطرحون السؤال نفسه على الإجابة نفسها التي سبق التحقق منها، بدلًا من إجابة مختلفة قليلًا في كل مرة.
أمثلة من الواقع
فريق من وكلاء الأبحاث
مساعد برمجة
context بين إجابات إصدارات API المختلفة.أسئلة تبدو متشابهة لكنها ليست كذلك
كم ستوفّر؟
أدخل أرقامك الخاصة. تُجرى الحسابات في متصفحك.
ما الذي يفعله
- المعنى نفسه بكلمات مختلفة
- تُقارَن الأسئلة حسب معناها باستخدام نموذج bge-m3، الذي يعمل داخل Cloudflare ويفهم لغات كثيرة. “كيف الطقس في لندن؟” و“أخبرني بطقس لندن” يُعدّان السؤال نفسه. وتُطابَق التكرارات الحرفية دون النموذج، وبسرعة أكبر.
- تفاصيل مختلفة، إجابة مختلفة
- المطابقة تراعي المعاملات: لا يُعاد استخدام إجابة محفوظة إلا إذا كان السؤال متشابهًا بنسبة 95% على الأقل وكانت كل الأرقام فيه (أرقام الطلبات والتواريخ والمبالغ) متطابقة تمامًا. “الطلب 12345” و“الطلب 12346” سؤالان مختلفان دائمًا.
- خاص بوكيلك
- تنتمي كل إجابة إلى وكيل واحد ونطاق أسماء واحد وسياق اختياري واحد، مثل النموذج ومطالبة النظام. ولا تبحث عمليات البحث في أي مكان آخر أبدًا.
- ادفع مقابل الإصابات فقط
- تكلّف الإصابة 0.002 دولار من محفظتك المسبقة الدفع. عدم الإصابة مجاني، وحفظ الإجابات مجاني، وعملية البحث المُعادة بمفتاح
Idempotency-Keyنفسه لا تُحتسب مرتين أبدًا. - أنت من يحدد المدة
- تُحفظ الإجابات 24 ساعة افتراضيًا، أو أي مدة من دقيقة واحدة إلى 30 يومًا. احذف إجابة واحدة، أو نطاق أسماء كاملًا، في أي وقت.
- لا يعطّل وكيلك أبدًا
- إذا تعذّر الوصول إلى أي شيء خلف ذاكرة التخزين المؤقت، تجيب عملية البحث ببساطة “عدم إصابة” ولا تحتسب شيئًا، فيواصل وكيلك عمله كالمعتاد.
كيف يعمل
- تحقق أولًا. قبل استدعاء نموذجك، أرسل السؤال إلى
POST /v1/lookup. - عند الإصابة، انتهى الأمر. استخدم الإجابة المحفوظة. دفعت 0.002 دولار بدلًا من استدعاء النموذج.
- عند عدم الإصابة، احفظ الإجابة. استدعِ نموذجك كالمعتاد، ثم أرسل السؤال والإجابة إلى
POST /v1/store(مجانًا). وسيحقق السؤال المشابه التالي إصابة.
جرّبه
# 1. Check the cache before calling your model
curl -X POST https://cache.myuiaf.com/v1/lookup \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How can I reset my password?","namespace":"support"}'
# 2. On a miss, call your model, then save its answer
curl -X POST https://cache.myuiaf.com/v1/store \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How do I reset my password?","namespace":"support",
"answer":"Go to Settings, then Security, then Reset password.",
"original_cost_usd":0.012}'
HTTP/2 200
x-agentcache-hit: similar
x-agentcache-charged-usd: 0.002
{ "hit": true, "match": "similar", "similarity": 0.9984,
"cached_prompt": "How do I reset my password?",
"answer": "Go to Settings, then Security, then Reset password.",
"charged_usd": 0.002, "original_cost_usd": 0.012, "saved_usd": 0.01 }
الأسعار
| الإجراء | السعر |
|---|---|
| بحث يجد إجابة (إصابة) | $0.002 |
| بحث بلا تطابق (عدم إصابة) | مجاني |
| حفظ الإجابات أو حذفها أو مسحها | مجاني |
تُدفع الإصابات من الرصيد المسبق الدفع نفسه المستخدم في Freshness Validator وAgentPay. اشترِ باقة رصيد، أو دع وكيلك يشتري باقته بنفسه.
حدود المعدّل
تُحتسب عمليات البحث والحفظ بشكل منفصل عن الخدمات الأخرى، فلا تبطئ خدمة أخرى أبدًا.
| المستوى | طلبات AgentCache في الدقيقة |
|---|---|
| Early Testing | 120 |
| Growing Product | 300 |
| Scale Revenue | 1,000 |
| Enterprise | 3,000 |
الأسئلة الشائعة
ما هو AgentCache؟
AgentCache ذاكرة تخزين مؤقت دلالية للإجابات لوكلاء الذكاء الاصطناعي. قبل استدعاء نموذج أو واجهة API، يسأل الوكيل cache.myuiaf.com هل سبق أن أجاب عن السؤال نفسه أو عن سؤال مشابه. فإن كان كذلك، تعود الإجابة المحفوظة في جزء من الثانية مقابل 0.002 دولار.
كم يكلّف؟
تكلّف الإصابة 0.002 دولار. ولا يكلّف عدم الإصابة شيئًا، ولا يكلّف حفظ الإجابات شيئًا. وتُخصم الرسوم من المحفظة المسبقة الدفع نفسها المستخدمة في Freshness Validator وAgentPay.
كيف يعرف أن سؤالين يعنيان الشيء نفسه؟
يحوّل نموذج bge-m3، الذي يعمل داخل Cloudflare، كل سؤال إلى تمثيل متجهي. ولا يُعاد استخدام إجابة محفوظة إلا إذا كان المعنى متشابهًا بنسبة 95% على الأقل وتطابقت كل الأرقام في السؤال تمامًا، لذا لا يحصل "الطلب 12345" أبدًا على إجابة "الطلب 12346".
هل يمكن أن يعطي وكيلي إجابة شخص آخر؟
لا. تنتمي كل إجابة إلى وكيل واحد ونطاق أسماء واحد وسياق اختياري واحد، مثل النموذج ومطالبة النظام. ولا تبحث عملية البحث إلا في ذلك النطاق.
كم من الوقت تُحفظ الإجابات؟
24 ساعة افتراضيًا، أو أي مدة من دقيقة واحدة إلى 30 يومًا. ويمكن لوكيلك حذف إجابة واحدة أو نطاق أسماء كامل في أي وقت.
ما الذي لا ينبغي أن أخزّنه مؤقتًا؟
البيانات الشخصية، والإجابات التي تعتمد على هوية السائل أو على معلومات تتغير من دقيقة إلى أخرى. خزّن مؤقتًا الأسئلة التي تكون إجابتها واحدة للجميع في نطاق الأسماء.
يعمل مع الخدمات الأخرى
يعمل المفتاح نفسه والمحفظة نفسها على Freshness Validator، الذي ينبّه وكيلك عندما يتغير مصدر (وهو وقت مناسب لمسح نطاق أسماء)، وعلى AgentPay، الذي يتيح لوكيلك الدفع مقابل واجهات API لكل استدعاء.