myuiaf

Activo  AgentCache

Deje de pagar a su modelo de IA dos veces por la misma respuesta.

A su agente le hacen las mismas preguntas una y otra vez, a menudo con otras palabras. AgentCache recuerda las respuestas. Antes de llamar a un modelo o API, su agente consulta la caché: una repetición vuelve en una fracción de segundo por 0,002 $. Si no hay coincidencia, la consulta es gratis.

Consultas de ejemplo de un agente de soporte
PreguntaResultado
“¿Cómo restablezco mi contraseña?”
Primera vez: se llama al modelo y se guarda la respuesta
fallo
0,00 $
“¿Cómo puedo restablecer mi contraseña?”
Reformulada · 99,8 % similar
acierto
0,002 $
“Olvidé mi contraseña, ¿cómo la restablezco?”
Reformulada · 97 % similar
acierto
0,002 $
“¿Cómo cambio mi dirección de correo?”
Pregunta distinta: sin coincidencia
fallo
0,00 $

Por qué lo usan los equipos

Facturas de modelo más bajas

Cada pregunta repetida que se responde desde la caché es una llamada al modelo que no paga. Un acierto cuesta 0,002 $; una llamada típica al modelo cuesta varias veces más.

Respuestas en una fracción de segundo

Una respuesta guardada suele volver en 0,1 a 0,3 segundos, en lugar de los varios segundos que tarda un modelo en pensar, así que sus usuarios esperan menos.

La misma respuesta cada vez

Los clientes que hacen la misma pregunta reciben la misma respuesta ya revisada, en lugar de una algo distinta cada vez.

Ejemplos reales

Soporte

Un bot de atención al cliente

SinCientos de clientes al día preguntan cómo restablecer una contraseña, seguir un pedido u obtener un reembolso, cada uno a su manera. Cada pregunta es una llamada completa al modelo.
ConLa primera respuesta se guarda. Cada reformulación posterior se responde desde la caché en una fracción de segundo, por una fracción del coste.
costes de modelotiempo de espera
Investigación

Un equipo de agentes de investigación

SinVarios agentes que trabajan en el mismo proyecto buscan los mismos datos por separado, y pagan la misma búsqueda y el mismo resumen una y otra vez.
ConLos agentes comparten un espacio de nombres. En cuanto un agente tiene la respuesta, los demás la reutilizan.
tokensllamadas a API
Programación

Un asistente de programación

SinLos desarrolladores preguntan una y otra vez cómo llamar a la misma API interna. Cada pregunta vuelve a leer la documentación y cuesta una llamada al modelo larga y cara.
ConLas respuestas habituales vuelven al instante. El campo context separa las respuestas de distintas versiones de la API.
tokenstiempo de desarrollo
Seguridad

Preguntas que se parecen pero no son iguales

SinUna caché de similitud simple podría responder a “¿Se ha enviado el pedido 12346?” con la respuesta guardada del pedido 12345.
ConAgentCache solo reutiliza una respuesta cuando todos los números de la pregunta coinciden exactamente. El pedido 12346 es un fallo, así que el agente lo comprueba bien.
respuestas erróneas

¿Cuánto ahorraría?

Introduzca sus propios números. Los cálculos se hacen en su navegador.

Llamar al modelo cada vez frente a consultar primero la caché

Para agentes a los que se les pregunta lo mismo con distintas palabras. Introduzca sus propios números.

Llamadas al modelo para cada pregunta-
Con AgentCache-
-
Tiempo de espera evitado al mes-

Estimaciones a partir de sus datos, por mes de 30 días. Los aciertos cuestan 0,002 $; los fallos y guardar respuestas son gratis. Los valores por defecto son ejemplos, no mediciones.

Qué hace

Mismo significado, otras palabras
Las preguntas se comparan por su significado con el modelo bge-m3, que funciona dentro de Cloudflare y entiende muchos idiomas. “¿Qué tiempo hace en Londres?” y “Dime el tiempo de Londres” cuentan como la misma pregunta. Las repeticiones exactas se reconocen sin el modelo, aún más rápido.
Otros detalles, otra respuesta
La coincidencia tiene en cuenta los parámetros: una respuesta guardada solo se reutiliza cuando la pregunta es al menos un 95 % similar y todos sus números (números de pedido, fechas, importes) coinciden exactamente. “Pedido 12345” y “pedido 12346” siempre son preguntas distintas.
Privado para su agente
Cada respuesta pertenece a un agente, un espacio de nombres y un contexto opcional, como el modelo y el prompt de sistema. Las consultas nunca buscan en otro sitio.
Pague solo los aciertos
Un acierto cuesta 0,002 $ de su monedero prepago. Los fallos son gratis, guardar respuestas es gratis y una consulta reintentada con el mismo Idempotency-Key nunca se cobra dos veces.
Usted elige cuánto tiempo
Las respuestas se guardan 24 horas por defecto, o entre un minuto y 30 días. Borre una respuesta, o un espacio de nombres entero, cuando quiera.
Nunca bloquea a su agente
Si algo detrás de la caché no está disponible, la consulta simplemente responde “fallo” y no cobra nada, así que su agente sigue con normalidad.

Cómo funciona

  1. Consulte primero. Antes de llamar a su modelo, envíe la pregunta a POST /v1/lookup.
  2. Si acierta, ya está. Use la respuesta guardada. Pagó 0,002 $ en lugar de una llamada al modelo.
  3. Si falla, guarde la respuesta. Llame a su modelo como siempre y envíe la pregunta y la respuesta a POST /v1/store (gratis). La siguiente pregunta similar será un acierto.

Pruébelo

# 1. Check the cache before calling your model
curl -X POST https://cache.myuiaf.com/v1/lookup \
  -H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
  -H "content-type: application/json" \
  -d '{"prompt":"How can I reset my password?","namespace":"support"}'

# 2. On a miss, call your model, then save its answer
curl -X POST https://cache.myuiaf.com/v1/store \
  -H "X-Agent-API-Key: fv1.acme-bot.k1.xxxxx" \
  -H "content-type: application/json" \
  -d '{"prompt":"How do I reset my password?","namespace":"support",
       "answer":"Go to Settings, then Security, then Reset password.",
       "original_cost_usd":0.012}'
HTTP/2 200
x-agentcache-hit: similar
x-agentcache-charged-usd: 0.002

{ "hit": true, "match": "similar", "similarity": 0.9984,
  "cached_prompt": "How do I reset my password?",
  "answer": "Go to Settings, then Security, then Reset password.",
  "charged_usd": 0.002, "original_cost_usd": 0.012, "saved_usd": 0.01 }

Precios

AcciónPrecio
Consulta que encuentra una respuesta (acierto)$0.002
Consulta sin coincidencia (fallo)Gratis
Guardar, borrar o vaciar respuestasGratis

Los aciertos se pagan con los mismos créditos prepago que Freshness Validator y AgentPay. Compre un paquete de créditos, o deje que su agente compre el suyo.

Límites de uso

Las consultas y los guardados se cuentan por separado de los otros servicios, así que un servicio nunca ralentiza a otro.

NivelSolicitudes a AgentCache por minuto
Early Testing120
Growing Product300
Scale Revenue1,000
Enterprise3,000

Preguntas

¿Qué es AgentCache?

AgentCache es una caché semántica de respuestas para agentes de IA. Antes de llamar a un modelo o API, el agente pregunta a cache.myuiaf.com si ya respondió la misma pregunta o una similar. Si es así, la respuesta guardada vuelve en una fracción de segundo por 0,002 $.

¿Cuánto cuesta?

Un acierto cuesta 0,002 $. Un fallo no cuesta nada, y guardar respuestas no cuesta nada. Los cobros salen del mismo monedero prepago que Freshness Validator y AgentPay.

¿Cómo sabe que dos preguntas significan lo mismo?

Cada pregunta se convierte en un embedding con el modelo bge-m3, que funciona dentro de Cloudflare. Una respuesta guardada solo se reutiliza cuando el significado es al menos un 95 % similar y todos los números de la pregunta coinciden exactamente, así que "pedido 12345" nunca recibe la respuesta de "pedido 12346".

¿Puede darle a mi agente la respuesta de otra persona?

No. Cada respuesta pertenece a un agente, un espacio de nombres y un contexto opcional, como el modelo y el prompt de sistema. Una consulta solo busca en ese espacio.

¿Cuánto tiempo se guardan las respuestas?

24 horas por defecto, o entre un minuto y 30 días. Su agente puede borrar una respuesta o un espacio de nombres entero cuando quiera.

¿Qué no debería guardar en caché?

Datos personales, y respuestas que dependen de quién pregunta o de información que cambia minuto a minuto. Guarde preguntas cuya respuesta sea la misma para todos en el espacio de nombres.

Funciona con los otros servicios

La misma clave y el mismo monedero funcionan en Freshness Validator, que avisa a su agente cuando un origen ha cambiado (buen momento para vaciar un espacio de nombres), y en AgentPay, que permite a su agente pagar las API por llamada.

Algunas páginas, como la documentación y las condiciones legales, solo están disponibles en inglés.