Control de costos de API de IA: tokens y grupos

Entiende cómo los precios de los modelos, el uso de tokens, los multiplicadores de grupo y los registros de solicitudes forman un registro de costos de API de IA auditable.

Control de costos de API de IA: tokens y grupos

El control de costos de una API de IA es más útil cuando cada cargo puede vincularse a una solicitud, un modelo, un grupo de modelos y una unidad de trabajo medida. Un total mensual muestra que el gasto cambió; un registro por solicitud explica por qué.

Modelflare combina los precios de los modelos, el uso medido, la política de cada grupo y los registros de solicitudes para que puedas revisar el costo sin estimarlo solo a partir del texto visible.

Las cuatro capas del costo de una solicitud

1. Precio del modelo

Cada modelo tiene su propia base de precios. Muchos modelos de texto cobran por tokens de entrada y de salida, mientras que las API de imagen, audio, reordenamiento u otras pueden usar unidades de medición diferentes. Algunos modelos también aplican reglas de precios avanzadas y versionadas para funciones que no se pueden representar con una tarifa fija por token.

Consulta Modelos y precios para conocer el contrato vigente del modelo y del formato de API, en lugar de copiar un precio en el código de la aplicación.

2. Uso medido de la solicitud

El gateway registra el uso devuelto o calculado para la solicitud completada. En los modelos de texto con precio por token, la entrada y la salida se registran por separado porque sus tarifas pueden ser distintas.

El texto que ves en una terminal durante el streaming no es una referencia confiable del costo. Los elementos de herramientas, el razonamiento, la entrada en caché, los tokens normalizados o los campos de uso específicos del proveedor pueden afectar la factura aunque no se muestren como texto normal del asistente.

3. Multiplicador del grupo de modelos

El grupo de enrutamiento seleccionado puede aplicar un multiplicador de venta a la facturación base por uso. Por ejemplo, un multiplicador de grupo de 0.9 aplica el 90% del cargo base del modelo para esa solicitud.

El multiplicador forma parte de la facturación por uso. No cambia la cantidad de créditos que agrega una recarga.

4. El registro final de la solicitud

El registro de uso vincula el monto calculado con el modelo, el grupo, el estado, el uso de tokens, los tiempos y otros metadatos operativos seguros de la solicitud. Las solicitudes fallidas o canceladas pueden seguir procesos de liquidación diferentes, por lo que el resultado almacenado es más confiable que una estimación del lado del cliente.

Qué comparar en los registros de uso

Cuando cambie el gasto, compara las solicitudes según estas dimensiones:

  • Modelo: ¿el tráfico pasó a un modelo con otro precio de entrada, de salida o por funciones?
  • Grupo: ¿el grupo seleccionado o el grupo de respaldo usó otro multiplicador?
  • Protocolo: ¿la solicitud pasó de Chat Completions a Responses, o al revés, con otra estructura de uso?
  • Tamaño de la entrada: ¿crecieron los prompts, el contexto recuperado, los archivos o los resultados de herramientas?
  • Tamaño de la salida: ¿los límites de salida o los ciclos del agente produjeron más salida?
  • Estado y reintentos: ¿las fallas provocaron intentos adicionales que sí se completaron?
  • Tiempos: ¿una generación más larga se relacionó con más salida y no solo con tiempo en cola?

Usa un ID de solicitud estable o una clave de API específica de la aplicación para aislar una carga de trabajo, en lugar de comparar tráfico no relacionado de la cuenta.

Define límites de costo prácticos

Separa las claves de API por carga de trabajo

Crea claves distintas para producción, desarrollo, automatización y herramientas personales. Cada clave puede tener su propio nombre, vencimiento, política de grupo y créditos limitados o ilimitados.

Elige los grupos de forma intencional

No elijas un grupo solo por su etiqueta. Revisa la disponibilidad de modelos en vivo, el multiplicador del grupo, los requisitos de acceso, las RPM y la política de respaldo. Un grupo principal más económico con un respaldo aceptable puede ser más predecible que una decisión de enrutamiento implícita y difícil de explicar.

Limita la entrada antes de limitar la salida

Los prompts del sistema extensos, el historial de conversación repetido, los documentos recuperados y los resultados de herramientas suelen concentrar la mayor parte del uso de entrada. Recorta el contexto que ya no influye en la respuesta y evita reenviar datos sin cambios cuando el cliente pueda referenciarlos o almacenarlos en caché de forma segura.

Revisa los ciclos de los agentes

Una sola acción del usuario puede generar varias solicitudes al modelo. Registra cada ronda de herramientas y cada reintento, en lugar de tratar la respuesta visible final como una sola llamada a la API.

Por qué se desvían las estimaciones del cliente

Un tokenizador local o un conteo de caracteres puede servir para planificar, pero puede diferir del uso facturado porque:

  • los proveedores pueden normalizar o contar el contenido de otra manera;
  • las unidades de caché, razonamiento, imagen, audio o herramientas pueden tener tarifas separadas;
  • la liquidación del gateway usa el modelo y el grupo realmente seleccionados;
  • las solicitudes fallidas y los reembolsos dependen del ciclo de vida real de la solicitud;
  • los precios pueden cambiar, mientras que las solicitudes anteriores conservan el resultado registrado.

Para una revisión financiera, concilia los registros almacenados de uso y de movimientos de créditos, en lugar de calcular los créditos restantes a partir de un solo campo de la interfaz.

Un proceso de revisión repetible

  1. Filtra los registros de uso por una clave de API y un rango de tiempo.
  2. Agrupa las solicitudes por modelo y grupo seleccionado.
  3. Compara la entrada, la salida, el estado y el costo de cada solicitud.
  4. Inspecciona los valores atípicos en busca de reintentos, contexto largo, ciclos de herramientas o respaldos.
  5. Confirma el precio vigente y la política del grupo antes de cambiar el enrutamiento.
  6. Define un límite de créditos para la clave cuando la carga de trabajo necesite un tope de gasto estricto.
  7. Vuelve a revisar las mismas métricas después del cambio.

Un control de costos claro empieza por la atribución. Cuando el modelo, el grupo, el uso y el resultado de la solicitud siguen conectados, los equipos pueden optimizar el origen real del gasto en lugar de adivinar a partir de totales agregados.

Convierte esa revisión en un límite aplicable a cada carga de trabajo con los controles de créditos, vencimiento, modelos, IP, rotación y enrutamiento que se describen en seguridad de claves de API de IA.