Jev y el costo de decidir mejor

Qué es Jev y por qué importa

Jev es un modelo de TypeSafe AI diseñado para responder preguntas estructuradas: elegir entre alternativas, evaluar según una pauta o estimar si una afirmación es verdadera. Entrega resultados que un programa puede utilizar directamente, con probabilidades y, para ciertos tipos de respuesta, una medida de confianza. Así lo describe su documentación.

En la práctica, podemos entregarle una solicitud y preguntarle a qué equipo corresponde, o un párrafo de una sesión legislativa y evaluar si contiene una propuesta concreta. El programa usa esa respuesta para ordenar casos, señalar qué revisar o elegir el siguiente paso.

Lo que me interesa es el costo al que permite hacerlo. Hay decisiones que una empresa resuelve con una regla incompleta porque leer cada caso resulta demasiado caro. Jev abre la posibilidad de incorporar esa evaluación a miles de casos y comprobar si mejora el resultado. Esa es la idea que estoy llevando a VotoVisible.

Clasificar también tiene costos

Una forma habitual de clasificar texto no estructurado con IA es elegir un modelo de lenguaje de bajo costo, darle un prompt con las categorías y sus criterios, y pedirle que clasifique cada texto. Por ejemplo, tomar un correo ya recibido y obtener una etiqueta como "consulta", "reclamo" o "solicitud comercial".

Es una forma sencilla de empezar: permite probar y ajustar criterios sin entrenar un modelo propio. Cada evaluación consume el texto y las instrucciones de entrada, además de generar una respuesta. Al repetirla miles de veces, incluso con un modelo económico, ese consumo se acumula. También hay que definir bien las categorías, resolver ambigüedades y comprobar qué errores comete el sistema.

Ahí la IA cambia la forma de abordar el problema: permite evaluar cada texto según su contenido y aplicar criterios que antes exigían lectura manual. Jev me interesa por el costo al que permite hacerlo. Si cada evaluación cuesta una fracción de centavo, podemos incorporarla en más pasos del proceso, incluso donde antes no se justificaba económicamente.

Por eso me interesa lo que estas evaluaciones pueden aportar a la operación: evitar errores y mejorar decisiones que agreguen valor.

Lo que cambia con Jev

La tarifa publicada por TypeSafe es de US$0,042 por millón de tokens de entrada, con salida gratuita. Con evaluaciones de 3.000 tokens facturables, incluyendo contexto y preguntas, revisar 1.000 casos costaría US$0,126. Cien mil costarían US$12,60 y un millón, US$126.

Ese costo de inferencia permite considerar evaluaciones que antes parecían demasiado pequeñas para justificar un proyecto.

La siguiente economía está en las matrices de decisión. Podemos evaluar urgencia, impacto y suficiencia de antecedentes por separado, y combinar esas señales con reglas explícitas. Si cambia una prioridad comercial, ajustamos la regla y reutilizamos las evaluaciones mientras sigan vigentes.

Jev permite agrupar preguntas sobre un mismo contexto. En un ejemplo simplificado, cuatro llamadas con 2.800 tokens de contexto y una pregunta de 200 tokens sumarían 12.000 tokens. Una llamada con ese contexto y las cuatro preguntas sumaría 3.600: un 70% menos.

Cómo lo estoy incorporando a VotoVisible

En VotoVisible estoy incorporando Jev en distintos pasos del procesamiento de información legislativa. Lo estoy usando para clasificar pasajes de sesiones e identificar propuestas, argumentos y condiciones de apoyo, además de contrastar resúmenes con sus fuentes. Esas señales permiten organizar el contenido según lo que aporta cada intervención y preparar una lectura más útil del debate.

Un ejemplo concreto apareció al revisar un resumen que describía una vivienda como inembargable. El articulado incluía excepciones para determinadas hipotecas que el resumen había omitido. Jev señaló el caso para revisión: un detalle pequeño en extensión, pero importante para entender el alcance de la propuesta.

La revisión es una de esas aplicaciones. Me interesa convertir el texto legislativo en información que podamos ordenar y relacionar: distinguir un trámite de un debate, reconocer una alternativa o encontrar un apoyo condicionado. Por ahora, esas evaluaciones alimentan el trabajo interno y conservan el vínculo con la fuente.

Más oportunidades para mejorar procesos

Pensemos en un proyecto que procesa 1.000 documentos al mes. Agregar cinco evaluaciones de 3.000 tokens a cada documento costaría US$0,63 mensuales de inferencia. Eso permite revisar distintos aspectos del contenido en varios pasos del proceso por menos de un dólar.

Con ese costo, podemos probar evaluaciones en distintos momentos: detectar una omisión antes de que provoque un error, priorizar mejor una solicitud o conectar información que antes quedaba dispersa. Cada una abre una posibilidad de reducir costos por errores y de hacer más útil el producto o servicio.

El valor adicional dependerá del proceso y de lo que vayamos aprendiendo al usarlo. Difícil de medir, pero el costo es tan bajo que vale la pena tratar e iterar.