En ligne AgentCache
Ne payez plus deux fois votre modèle IA pour la même réponse.
On pose à votre agent les mêmes questions encore et encore, souvent avec d'autres mots. AgentCache se souvient des réponses. Avant d'appeler un modèle ou une API, votre agent consulte le cache : une répétition revient en une fraction de seconde pour 0,002 $. Sans correspondance, la consultation est gratuite.
| Question | Résultat |
|---|---|
| “Comment réinitialiser mon mot de passe ?” Première fois : modèle appelé, réponse enregistrée |
échec 0,00 $ |
| “Comment puis-je réinitialiser mon mot de passe ?” Reformulée · similaire à 99,8 % |
succès 0,002 $ |
| “J'ai oublié mon mot de passe, comment le réinitialiser ?” Reformulée · similaire à 97 % |
succès 0,002 $ |
| “Comment changer mon adresse e-mail ?” Question différente : aucune correspondance |
échec 0,00 $ |
Pourquoi les équipes l'utilisent
Des factures de modèle plus basses
Chaque question répétée servie depuis le cache est un appel au modèle que vous ne payez pas. Un succès coûte 0,002 $ ; un appel typique au modèle coûte plusieurs fois plus.
Des réponses en une fraction de seconde
Une réponse enregistrée revient généralement en 0,1 à 0,3 seconde, au lieu des quelques secondes de réflexion d'un modèle : vos utilisateurs attendent moins.
La même réponse à chaque fois
Les clients qui posent la même question obtiennent la même réponse déjà vérifiée, plutôt qu'une version légèrement différente à chaque fois.
Exemples concrets
Une équipe d'agents de recherche
Un assistant de programmation
context sépare les réponses des différentes versions de l'API.Des questions qui se ressemblent sans être identiques
Combien économiseriez-vous ?
Saisissez vos propres chiffres. Les calculs se font dans votre navigateur.
Ce qu'il fait
- Même sens, autres mots
- Les questions sont comparées par leur sens avec le modèle bge-m3, qui tourne dans Cloudflare et comprend de nombreuses langues. “Quel temps fait-il à Londres ?” et “Donne-moi la météo de Londres” comptent comme la même question. Les répétitions exactes sont reconnues sans le modèle, encore plus vite.
- Autres détails, autre réponse
- La correspondance tient compte des paramètres : une réponse enregistrée n'est réutilisée que si la question est similaire à au moins 95 % et que tous ses nombres (numéros de commande, dates, montants) correspondent exactement. “Commande 12345” et “commande 12346” sont toujours des questions différentes.
- Privé pour votre agent
- Chaque réponse appartient à un agent, un espace de noms et un contexte facultatif, comme le modèle et le prompt système. Les consultations ne cherchent jamais ailleurs.
- Ne payez que les succès
- Un succès coûte 0,002 $ de votre portefeuille prépayé. Les échecs sont gratuits, enregistrer des réponses est gratuit, et une consultation réessayée avec le même
Idempotency-Keyn'est jamais facturée deux fois. - Vous choisissez la durée
- Les réponses sont conservées 24 heures par défaut, ou d'une minute à 30 jours. Supprimez une réponse, ou un espace de noms entier, à tout moment.
- Ne bloque jamais votre agent
- Si un élément derrière le cache est indisponible, la consultation répond simplement “échec” sans rien facturer : votre agent continue normalement.
Comment ça marche
- Consultez d'abord. Avant d'appeler votre modèle, envoyez la question à
POST /v1/lookup. - En cas de succès, c'est fini. Utilisez la réponse enregistrée. Vous avez payé 0,002 $ au lieu d'un appel au modèle.
- En cas d'échec, enregistrez la réponse. Appelez votre modèle comme d'habitude, puis envoyez la question et la réponse à
POST /v1/store(gratuit). La prochaine question similaire sera un succès.
Essayez
# 1. Check the cache before calling your model
curl -X POST https://cache.myuiaf.com/v1/lookup \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How can I reset my password?","namespace":"support"}'
# 2. On a miss, call your model, then save its answer
curl -X POST https://cache.myuiaf.com/v1/store \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How do I reset my password?","namespace":"support",
"answer":"Go to Settings, then Security, then Reset password.",
"original_cost_usd":0.012}'
HTTP/2 200
x-agentcache-hit: similar
x-agentcache-charged-usd: 0.002
{ "hit": true, "match": "similar", "similarity": 0.9984,
"cached_prompt": "How do I reset my password?",
"answer": "Go to Settings, then Security, then Reset password.",
"charged_usd": 0.002, "original_cost_usd": 0.012, "saved_usd": 0.01 }
Tarifs
| Action | Prix |
|---|---|
| Consultation qui trouve une réponse (succès) | $0.002 |
| Consultation sans correspondance (échec) | Gratuit |
| Enregistrer, supprimer ou vider des réponses | Gratuit |
Les succès sont payés avec les mêmes crédits prépayés que Freshness Validator et AgentPay. Achetez un pack de crédits, ou laissez votre agent acheter le sien.
Limites de débit
Les consultations et enregistrements sont comptés séparément des autres services : un service ne ralentit jamais un autre.
| Niveau | Requêtes AgentCache par minute |
|---|---|
| Early Testing | 120 |
| Growing Product | 300 |
| Scale Revenue | 1,000 |
| Enterprise | 3,000 |
Questions
Qu'est-ce qu'AgentCache ?
AgentCache est un cache sémantique de réponses pour agents IA. Avant d'appeler un modèle ou une API, l'agent demande à cache.myuiaf.com s'il a déjà répondu à la même question ou à une question similaire. Si c'est le cas, la réponse enregistrée revient en une fraction de seconde pour 0,002 $.
Combien ça coûte ?
Un succès coûte 0,002 $. Un échec ne coûte rien, et enregistrer des réponses ne coûte rien. Les débits proviennent du même portefeuille prépayé que Freshness Validator et AgentPay.
Comment sait-il que deux questions veulent dire la même chose ?
Chaque question est transformée en embedding par le modèle bge-m3, qui tourne dans Cloudflare. Une réponse enregistrée n'est réutilisée que si le sens est similaire à au moins 95 % et que tous les nombres de la question correspondent exactement : "commande 12345" n'obtient jamais la réponse de "commande 12346".
Peut-il donner à mon agent la réponse de quelqu'un d'autre ?
Non. Chaque réponse appartient à un agent, un espace de noms et un contexte facultatif, comme le modèle et le prompt système. Une consultation ne cherche que dans cet espace.
Combien de temps les réponses sont-elles conservées ?
24 heures par défaut, ou d'une minute à 30 jours. Votre agent peut supprimer une réponse ou un espace de noms entier à tout moment.
Que ne faut-il pas mettre en cache ?
Les données personnelles, et les réponses qui dépendent de qui pose la question ou d'informations qui changent d'une minute à l'autre. Mettez en cache les questions dont la réponse est la même pour tous dans l'espace de noms.
Fonctionne avec les autres services
La même clé et le même portefeuille fonctionnent sur Freshness Validator, qui prévient votre agent quand une source a changé (le bon moment pour vider un espace de noms), et sur AgentPay, qui permet à votre agent de payer les API à l'appel.