Jev para clasificar
Jev, de TypeSafe AI, responde preguntas tipadas en vez de escribir texto: elige una de estas opciones, sí o no, una puntuación en un rango. Para clasificar eso lo hace mucho más barato y rápido que un modelo de chat, y cada respuesta llega con una probabilidad calibrada.
El video se carga desde YouTube solo cuando pulsas reproducir.
- 0.00002 USDpor clasificar un ticket de soporte en cinco categorías con urgencia y prioridad, en nuestras pruebas
- 0.2 spara responder ese ticket
- 76% vs 46%ítems de clasificación acertados por completo, Jev frente al pequeño modelo de chat que auto usaba antes
- 91.6%de los campos acertados en nuestro conjunto de prueba de clasificación
Dos formas de usarlo
- Nombrándolo: envía el modelo jev-1.13.0 con response_format y un JSON schema cuyos campos sean opciones fijas, sí o no, o números acotados.
- Dejando que auto lo elija: la misma petición enviada a auto va a Jev siempre que es la respuesta más barata, y a un modelo de chat si no.
Qué puede responder Jev
- Un texto de una lista fija de opciones, como una categoría.
- Un sí o no, como urgente o no.
- Un número dentro de unos límites, como una prioridad del 1 al 5.
- No texto libre, objetos anidados ni listas. Envía eso a un modelo de chat, o deja que decida auto.
Buenos trabajos para Jev
- Clasificar tickets de soporte: categoría, urgencia y prioridad.
- La intención de un email o de un mensaje de chat.
- El sentimiento y el tema de una reseña.
- Marcas de moderación de contenido.
- Detección de idioma y calificación de leads.
Qué recibes
- El JSON que pidió tu schema, como mensaje del asistente.
- Una probabilidad calibrada por campo en zabio.decision, para actuar sobre las respuestas seguras y revisar el resto.
- Con auto, una respuesta con poca confianza se descarta y responde un modelo de chat, y la llamada descartada a Jev la pagamos nosotros.
Preguntas
- ¿Puede Zabio clasificar texto por menos de lo que cuesta un modelo de chat?
- Sí. Usa jev-1.13.0, el modelo de decisiones de TypeSafe AI, y envía un JSON schema cuyos campos sean opciones fijas, respuestas de sí o no, o puntuaciones acotadas. Zabio convierte cada campo en una de las preguntas tipadas que responde Jev y devuelve el JSON, con una probabilidad calibrada por campo en zabio.decision. Clasificar un ticket de soporte en una de cinco categorías, con un indicador de urgencia y una prioridad del 1 al 5, costó unos 0.00002 USD y tardó unos 0.2 segundos en nuestras pruebas. Con auto, Zabio usa Jev por su cuenta en esas peticiones cuando es la respuesta más barata; en nuestras pruebas acertó por completo el 76 por ciento de los ítems de clasificación, frente al 46 por ciento del pequeño modelo de chat que auto elegía antes, y respondió unas cinco veces más rápido.
Otras funciones
Smart Splitting
Una petición, varios modelos, una factura más pequeña, decidido por ti en cada llamada. Cuando podemos ahorrar, ahorramos.
Enrutado inteligente
El modelo y el nivel de razonamiento adecuados para cada petición, elegidos con evidencia, con la razón en cada respuesta.
Caché
Tu historial en caché sin que hagas nada, la caché de 1 hora cuando los turnos son lentos, y nunca una parte de tu descuento de caché.
Flex
Mitad de precio si puedes esperar, con un solo campo de plazo.
Procesamiento por lotes
Miles de peticiones en un solo archivo a cerca de la mitad del precio, con enrutado auto en cada línea.
Equipos y keys
Organizaciones, cuotas por miembro, keys con topes de gasto y listas de modelos, y tus propias keys de proveedor sin comisión de servicio.
Empieza gratis, paga cuando vaya en serio
Cambia dos líneas en tu código, envía el modelo auto, y cada respuesta muestra lo que costó y lo que ahorraste.