myuiaf

En ligne  AgentCache

Ne payez plus deux fois votre modèle IA pour la même réponse.

On pose à votre agent les mêmes questions encore et encore, souvent avec d'autres mots. AgentCache se souvient des réponses. Avant d'appeler un modèle ou une API, votre agent consulte le cache : une répétition revient en une fraction de seconde pour 0,002 $. Sans correspondance, la consultation est gratuite.

Exemples de consultations d'un agent de support
QuestionRésultat
“Comment réinitialiser mon mot de passe ?”
Première fois : modèle appelé, réponse enregistrée
échec
0,00 $
“Comment puis-je réinitialiser mon mot de passe ?”
Reformulée · similaire à 99,8 %
succès
0,002 $
“J'ai oublié mon mot de passe, comment le réinitialiser ?”
Reformulée · similaire à 97 %
succès
0,002 $
“Comment changer mon adresse e-mail ?”
Question différente : aucune correspondance
échec
0,00 $

Pourquoi les équipes l'utilisent

Des factures de modèle plus basses

Chaque question répétée servie depuis le cache est un appel au modèle que vous ne payez pas. Un succès coûte 0,002 $ ; un appel typique au modèle coûte plusieurs fois plus.

Des réponses en une fraction de seconde

Une réponse enregistrée revient généralement en 0,1 à 0,3 seconde, au lieu des quelques secondes de réflexion d'un modèle : vos utilisateurs attendent moins.

La même réponse à chaque fois

Les clients qui posent la même question obtiennent la même réponse déjà vérifiée, plutôt qu'une version légèrement différente à chaque fois.

Exemples concrets

Support

Un bot de service client

SansDes centaines de clients par jour demandent comment réinitialiser un mot de passe, suivre une commande ou obtenir un remboursement, chacun à sa façon. Chaque question est un appel complet au modèle.
AvecLa première réponse est enregistrée. Chaque reformulation suivante est servie depuis le cache en une fraction de seconde, pour une fraction du coût.
coûts de modèletemps d'attente
Recherche

Une équipe d'agents de recherche

SansPlusieurs agents travaillant sur le même projet cherchent les mêmes faits chacun de leur côté, et paient encore et encore la même recherche et le même résumé.
AvecLes agents partagent un espace de noms. Dès qu'un agent a la réponse, les autres la réutilisent.
tokensappels d'API
Programmation

Un assistant de programmation

SansLes développeurs demandent sans cesse comment appeler la même API interne. Chaque question relit la documentation et coûte un appel au modèle long et cher.
AvecLes réponses courantes reviennent instantanément. Le champ context sépare les réponses des différentes versions de l'API.
tokenstemps des développeurs
Sécurité

Des questions qui se ressemblent sans être identiques

SansUn cache de similarité simple pourrait répondre à “La commande 12346 est-elle expédiée ?” avec la réponse enregistrée pour la commande 12345.
AvecAgentCache ne réutilise une réponse que si tous les nombres de la question correspondent exactement. La commande 12346 est un échec : l'agent la vérifie donc correctement.
réponses erronées

Combien économiseriez-vous ?

Saisissez vos propres chiffres. Les calculs se font dans votre navigateur.

Appeler le modèle à chaque fois ou consulter d'abord le cache

Pour les agents à qui l'on pose les mêmes questions avec d'autres mots. Saisissez vos propres chiffres.

Appels au modèle pour chaque question-
Avec AgentCache-
-
Temps d'attente évité par mois-

Estimations d'après vos données, par mois de 30 jours. Les succès coûtent 0,002 $ ; les échecs et l'enregistrement des réponses sont gratuits. Les valeurs par défaut sont des exemples, pas des mesures.

Ce qu'il fait

Même sens, autres mots
Les questions sont comparées par leur sens avec le modèle bge-m3, qui tourne dans Cloudflare et comprend de nombreuses langues. “Quel temps fait-il à Londres ?” et “Donne-moi la météo de Londres” comptent comme la même question. Les répétitions exactes sont reconnues sans le modèle, encore plus vite.
Autres détails, autre réponse
La correspondance tient compte des paramètres : une réponse enregistrée n'est réutilisée que si la question est similaire à au moins 95 % et que tous ses nombres (numéros de commande, dates, montants) correspondent exactement. “Commande 12345” et “commande 12346” sont toujours des questions différentes.
Privé pour votre agent
Chaque réponse appartient à un agent, un espace de noms et un contexte facultatif, comme le modèle et le prompt système. Les consultations ne cherchent jamais ailleurs.
Ne payez que les succès
Un succès coûte 0,002 $ de votre portefeuille prépayé. Les échecs sont gratuits, enregistrer des réponses est gratuit, et une consultation réessayée avec le même Idempotency-Key n'est jamais facturée deux fois.
Vous choisissez la durée
Les réponses sont conservées 24 heures par défaut, ou d'une minute à 30 jours. Supprimez une réponse, ou un espace de noms entier, à tout moment.
Ne bloque jamais votre agent
Si un élément derrière le cache est indisponible, la consultation répond simplement “échec” sans rien facturer : votre agent continue normalement.

Comment ça marche

  1. Consultez d'abord. Avant d'appeler votre modèle, envoyez la question à POST /v1/lookup.
  2. En cas de succès, c'est fini. Utilisez la réponse enregistrée. Vous avez payé 0,002 $ au lieu d'un appel au modèle.
  3. En cas d'échec, enregistrez la réponse. Appelez votre modèle comme d'habitude, puis envoyez la question et la réponse à POST /v1/store (gratuit). La prochaine question similaire sera un succès.

Essayez

# 1. Check the cache before calling your model
curl -X POST https://cache.myuiaf.com/v1/lookup \
  -H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
  -H "content-type: application/json" \
  -d '{"prompt":"How can I reset my password?","namespace":"support"}'

# 2. On a miss, call your model, then save its answer
curl -X POST https://cache.myuiaf.com/v1/store \
  -H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
  -H "content-type: application/json" \
  -d '{"prompt":"How do I reset my password?","namespace":"support",
       "answer":"Go to Settings, then Security, then Reset password.",
       "original_cost_usd":0.012}'
HTTP/2 200
x-agentcache-hit: similar
x-agentcache-charged-usd: 0.002

{ "hit": true, "match": "similar", "similarity": 0.9984,
  "cached_prompt": "How do I reset my password?",
  "answer": "Go to Settings, then Security, then Reset password.",
  "charged_usd": 0.002, "original_cost_usd": 0.012, "saved_usd": 0.01 }

Tarifs

ActionPrix
Consultation qui trouve une réponse (succès)$0.002
Consultation sans correspondance (échec)Gratuit
Enregistrer, supprimer ou vider des réponsesGratuit

Les succès sont payés avec les mêmes crédits prépayés que Freshness Validator et AgentPay. Achetez un pack de crédits, ou laissez votre agent acheter le sien.

Limites de débit

Les consultations et enregistrements sont comptés séparément des autres services : un service ne ralentit jamais un autre.

NiveauRequêtes AgentCache par minute
Early Testing120
Growing Product300
Scale Revenue1,000
Enterprise3,000

Questions

Qu'est-ce qu'AgentCache ?

AgentCache est un cache sémantique de réponses pour agents IA. Avant d'appeler un modèle ou une API, l'agent demande à cache.myuiaf.com s'il a déjà répondu à la même question ou à une question similaire. Si c'est le cas, la réponse enregistrée revient en une fraction de seconde pour 0,002 $.

Combien ça coûte ?

Un succès coûte 0,002 $. Un échec ne coûte rien, et enregistrer des réponses ne coûte rien. Les débits proviennent du même portefeuille prépayé que Freshness Validator et AgentPay.

Comment sait-il que deux questions veulent dire la même chose ?

Chaque question est transformée en embedding par le modèle bge-m3, qui tourne dans Cloudflare. Une réponse enregistrée n'est réutilisée que si le sens est similaire à au moins 95 % et que tous les nombres de la question correspondent exactement : "commande 12345" n'obtient jamais la réponse de "commande 12346".

Peut-il donner à mon agent la réponse de quelqu'un d'autre ?

Non. Chaque réponse appartient à un agent, un espace de noms et un contexte facultatif, comme le modèle et le prompt système. Une consultation ne cherche que dans cet espace.

Combien de temps les réponses sont-elles conservées ?

24 heures par défaut, ou d'une minute à 30 jours. Votre agent peut supprimer une réponse ou un espace de noms entier à tout moment.

Que ne faut-il pas mettre en cache ?

Les données personnelles, et les réponses qui dépendent de qui pose la question ou d'informations qui changent d'une minute à l'autre. Mettez en cache les questions dont la réponse est la même pour tous dans l'espace de noms.

Fonctionne avec les autres services

La même clé et le même portefeuille fonctionnent sur Freshness Validator, qui prévient votre agent quand une source a changé (le bon moment pour vider un espace de noms), et sur AgentPay, qui permet à votre agent de payer les API à l'appel.

Certaines pages, dont la documentation et les conditions juridiques, ne sont disponibles qu'en anglais.