Funciones
El enrutado ahorra el dinero. Lo demás lo mantiene bajo control. Empieza por las dos funciones que hacen distinto a Zabio.
En detalle
Smart Splitting
Una petición, varios modelos, una factura más pequeña, decidido por ti en cada llamada. Cuando podemos ahorrar, ahorramos.
Enrutado inteligente
El modelo y el nivel de razonamiento adecuados para cada petición, elegidos con evidencia, con la razón en cada respuesta.
Jev para clasificar
Etiquetado, enrutado, moderación y sentimiento a una fracción del precio de un modelo de chat, nombrándolo o dejando que auto lo elija.
Caché
Tu historial en caché sin que hagas nada, la caché de 1 hora cuando los turnos son lentos, y nunca una parte de tu descuento de caché.
Flex
Mitad de precio si puedes esperar, con un solo campo de plazo.
Procesamiento por lotes
Miles de peticiones en un solo archivo a cerca de la mitad del precio, con enrutado auto en cada línea.
Equipos y keys
Organizaciones, cuotas por miembro, keys con topes de gasto y listas de modelos, y tus propias keys de proveedor sin comisión de servicio.
Todo lo demás
Smart Splitting
Cuando una petición trae un documento largo y pregunta por una parte, un modelo barato copia las líneas que importan, Jev comprueba que no falte nada y el modelo que eligió auto responde a partir del extracto. En nuestras pruebas redujo en torno a un tercio el costo de las preguntas sobre documentos largos, sin perder ningún dato. Cuando podemos ahorrar, ahorramos. Cuando no, nada cambia.
Organizaciones
Crea todas las que necesites, cada una con sus créditos, keys, miembros, datos y ajustes. Con un solo inicio de sesión pasas de una a otra.
Miembros con cuotas
Invita a personas como owners, admins o miembros. Dale a cada miembro un presupuesto mensual en USD, y sus keys se detienen al alcanzarlo.
API keys sin límite
Cada key tiene su propio tope de gasto mensual, límites de peticiones y tokens por minuto, los modelos que puede usar, una regla de respaldo y un proyecto para agruparla.
Tus modelos, tu decisión
Apaga cualquier modelo o proveedor para toda la organización y auto nunca lo elegirá. Una key puede acotar aún más la lista.
Caché de prompts
Activa por defecto. Zabio marca tu system prompt, tus tools y el historial de la conversación para la caché de Anthropic, así los bucles de agentes dejan de pagar su historial completo en cada turno. OpenAI usa su propia caché automática, las conversaciones lentas reciben una caché de 1 hora automáticamente, y los tokens en caché se cobran a la tarifa de caché del proveedor.
Cambia de modelo sin perder la conversación
Las conversaciones guardadas siguen el hilo entre modelos y proveedores. Cuando el historial ya no cabe en el siguiente modelo, Zabio resume la parte más antigua y sigue.
Respaldo automático
Cuando un proveedor falla o se atasca, Zabio pasa al siguiente modelo. Para los modelos que nombras, elige por key: mismo proveedor, cualquier proveedor o sin respaldo.
Llamadas largas que terminan
Los modelos de razonamiento que piensan durante minutos tienen hasta 10 minutos por intento, con o sin streaming. Zabio mantiene viva la conexión, así que nada en el camino se rinde antes.
Tus propias keys de proveedor
Conecta tus keys de Anthropic, OpenAI u otros proveedores y no pagas comisión de servicio en esas llamadas; las peticiones auto pagan solo la pequeña tarifa fija por la elección automática del modelo. El enrutado, las conversaciones y el panel siguen funcionando.
Costo y ahorro en cada llamada
Cada respuesta trae su costo y su ahorro. El panel reparte el gasto por modelo, key y miembro, muestra a dónde se fueron los tokens (historial, resultados de tools, caché y razonamiento), y exporta cada llamada a CSV.
Privado por defecto
Los prompts no se guardan salvo que actives el registro de cuerpos o uses conversaciones guardadas. Lo guardado se cifra por organización, se conserva de 1 a 365 días, y cada lectura queda en el registro de auditoría.
App web, CLI y playground
Gestiona todo desde el panel o desde la línea de comandos zabio, y prueba cualquier modelo en el playground con código que puedes copiar y ejecutar.
Decisiones tipadas con Jev
Etiquetado, enrutado, moderación y sentimiento a una fracción del precio de un modelo de chat: usa jev-1.13.0 con un JSON schema de opciones fijas, sí o no y puntuaciones, y recibe respuestas calibradas en unos 0.2 segundos, alrededor de 0.00002 USD por llamada. Con auto, Zabio lo usa por su cuenta cuando es la respuesta más barata.
Mitad de precio si puedes esperar
Añade a la petición un plazo de 15 minutos o más y Zabio la sirve en el nivel flex de OpenAI o Google cuando el modelo lo tiene: el mismo modelo a cerca de la mitad del precio, solo que más lento. Si el proveedor no tiene capacidad, se ejecuta al precio normal, así que nunca falla por usar flex.
Nuevo: procesamiento por lotes. Envía miles de peticiones en un solo archivo y paga cerca de la mitad, con enrutado auto en cada línea.