Activo AgentCache
Deje de pagar a su modelo de IA dos veces por la misma respuesta.
A su agente le hacen las mismas preguntas una y otra vez, a menudo con otras palabras. AgentCache recuerda las respuestas. Antes de llamar a un modelo o API, su agente consulta la caché: una repetición vuelve en una fracción de segundo por 0,002 $. Si no hay coincidencia, la consulta es gratis.
| Pregunta | Resultado |
|---|---|
| “¿Cómo restablezco mi contraseña?” Primera vez: se llama al modelo y se guarda la respuesta |
fallo 0,00 $ |
| “¿Cómo puedo restablecer mi contraseña?” Reformulada · 99,8 % similar |
acierto 0,002 $ |
| “Olvidé mi contraseña, ¿cómo la restablezco?” Reformulada · 97 % similar |
acierto 0,002 $ |
| “¿Cómo cambio mi dirección de correo?” Pregunta distinta: sin coincidencia |
fallo 0,00 $ |
Por qué lo usan los equipos
Facturas de modelo más bajas
Cada pregunta repetida que se responde desde la caché es una llamada al modelo que no paga. Un acierto cuesta 0,002 $; una llamada típica al modelo cuesta varias veces más.
Respuestas en una fracción de segundo
Una respuesta guardada suele volver en 0,1 a 0,3 segundos, en lugar de los varios segundos que tarda un modelo en pensar, así que sus usuarios esperan menos.
La misma respuesta cada vez
Los clientes que hacen la misma pregunta reciben la misma respuesta ya revisada, en lugar de una algo distinta cada vez.
Ejemplos reales
Un equipo de agentes de investigación
Un asistente de programación
context separa las respuestas de distintas versiones de la API.Preguntas que se parecen pero no son iguales
¿Cuánto ahorraría?
Introduzca sus propios números. Los cálculos se hacen en su navegador.
Qué hace
- Mismo significado, otras palabras
- Las preguntas se comparan por su significado con el modelo bge-m3, que funciona dentro de Cloudflare y entiende muchos idiomas. “¿Qué tiempo hace en Londres?” y “Dime el tiempo de Londres” cuentan como la misma pregunta. Las repeticiones exactas se reconocen sin el modelo, aún más rápido.
- Otros detalles, otra respuesta
- La coincidencia tiene en cuenta los parámetros: una respuesta guardada solo se reutiliza cuando la pregunta es al menos un 95 % similar y todos sus números (números de pedido, fechas, importes) coinciden exactamente. “Pedido 12345” y “pedido 12346” siempre son preguntas distintas.
- Privado para su agente
- Cada respuesta pertenece a un agente, un espacio de nombres y un contexto opcional, como el modelo y el prompt de sistema. Las consultas nunca buscan en otro sitio.
- Pague solo los aciertos
- Un acierto cuesta 0,002 $ de su monedero prepago. Los fallos son gratis, guardar respuestas es gratis y una consulta reintentada con el mismo
Idempotency-Keynunca se cobra dos veces. - Usted elige cuánto tiempo
- Las respuestas se guardan 24 horas por defecto, o entre un minuto y 30 días. Borre una respuesta, o un espacio de nombres entero, cuando quiera.
- Nunca bloquea a su agente
- Si algo detrás de la caché no está disponible, la consulta simplemente responde “fallo” y no cobra nada, así que su agente sigue con normalidad.
Cómo funciona
- Consulte primero. Antes de llamar a su modelo, envíe la pregunta a
POST /v1/lookup. - Si acierta, ya está. Use la respuesta guardada. Pagó 0,002 $ en lugar de una llamada al modelo.
- Si falla, guarde la respuesta. Llame a su modelo como siempre y envíe la pregunta y la respuesta a
POST /v1/store(gratis). La siguiente pregunta similar será un acierto.
Pruébelo
# 1. Check the cache before calling your model
curl -X POST https://cache.myuiaf.com/v1/lookup \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How can I reset my password?","namespace":"support"}'
# 2. On a miss, call your model, then save its answer
curl -X POST https://cache.myuiaf.com/v1/store \
-H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
-H "content-type: application/json" \
-d '{"prompt":"How do I reset my password?","namespace":"support",
"answer":"Go to Settings, then Security, then Reset password.",
"original_cost_usd":0.012}'
HTTP/2 200
x-agentcache-hit: similar
x-agentcache-charged-usd: 0.002
{ "hit": true, "match": "similar", "similarity": 0.9984,
"cached_prompt": "How do I reset my password?",
"answer": "Go to Settings, then Security, then Reset password.",
"charged_usd": 0.002, "original_cost_usd": 0.012, "saved_usd": 0.01 }
Precios
| Acción | Precio |
|---|---|
| Consulta que encuentra una respuesta (acierto) | $0.002 |
| Consulta sin coincidencia (fallo) | Gratis |
| Guardar, borrar o vaciar respuestas | Gratis |
Los aciertos se pagan con los mismos créditos prepago que Freshness Validator y AgentPay. Compre un paquete de créditos, o deje que su agente compre el suyo.
Límites de uso
Las consultas y los guardados se cuentan por separado de los otros servicios, así que un servicio nunca ralentiza a otro.
| Nivel | Solicitudes a AgentCache por minuto |
|---|---|
| Early Testing | 120 |
| Growing Product | 300 |
| Scale Revenue | 1,000 |
| Enterprise | 3,000 |
Preguntas
¿Qué es AgentCache?
AgentCache es una caché semántica de respuestas para agentes de IA. Antes de llamar a un modelo o API, el agente pregunta a cache.myuiaf.com si ya respondió la misma pregunta o una similar. Si es así, la respuesta guardada vuelve en una fracción de segundo por 0,002 $.
¿Cuánto cuesta?
Un acierto cuesta 0,002 $. Un fallo no cuesta nada, y guardar respuestas no cuesta nada. Los cobros salen del mismo monedero prepago que Freshness Validator y AgentPay.
¿Cómo sabe que dos preguntas significan lo mismo?
Cada pregunta se convierte en un embedding con el modelo bge-m3, que funciona dentro de Cloudflare. Una respuesta guardada solo se reutiliza cuando el significado es al menos un 95 % similar y todos los números de la pregunta coinciden exactamente, así que "pedido 12345" nunca recibe la respuesta de "pedido 12346".
¿Puede darle a mi agente la respuesta de otra persona?
No. Cada respuesta pertenece a un agente, un espacio de nombres y un contexto opcional, como el modelo y el prompt de sistema. Una consulta solo busca en ese espacio.
¿Cuánto tiempo se guardan las respuestas?
24 horas por defecto, o entre un minuto y 30 días. Su agente puede borrar una respuesta o un espacio de nombres entero cuando quiera.
¿Qué no debería guardar en caché?
Datos personales, y respuestas que dependen de quién pregunta o de información que cambia minuto a minuto. Guarde preguntas cuya respuesta sea la misma para todos en el espacio de nombres.
Funciona con los otros servicios
La misma clave y el mismo monedero funcionan en Freshness Validator, que avisa a su agente cuando un origen ha cambiado (buen momento para vaciar un espacio de nombres), y en AgentPay, que permite a su agente pagar las API por llamada.