Qué es el coste por token

Definición amplia

Los proveedores de modelos de lenguaje que se usan por API cobran por consumo, y la unidad es el token. Las tarifas se publican por millón de tokens y separan lo que se envía al modelo, los tokens de entrada, de lo que el modelo genera, los de salida. En las tablas de Anthropic, por ejemplo, el token de salida cuesta varias veces más que el de entrada.

Qué se cuenta

• Entrada: todo lo que se envía en cada petición, incluidas las instrucciones, la conversación previa, los documentos y la descripción de las herramientas que puede usar el modelo.
• Salida: la respuesta generada. En los modelos que razonan antes de responder, los tokens de ese razonamiento también se cobran como salida: Google lo indica en su tabla de precios y Anthropic los incluye entre los tokens de salida facturados.
• Herramientas: usarlas añade tokens, y algunas, como la búsqueda web, se cobran además por uso.

Lo que cambia el precio

• Caché de prompts: la parte que se repite entre peticiones se puede guardar; leerla de la caché cuesta una fracción del precio de entrada, y escribirla, más que una entrada normal.
• Procesamiento por lotes: las peticiones que no son urgentes se pueden enviar en bloque, de forma asíncrona, con descuento.
• Longitud del prompt: algunos modelos aplican una tarifa más alta cuando la petición supera un umbral de tokens.
• Ubicación del procesamiento: algunos proveedores aplican un recargo si se exige procesar los datos en una región concreta.

Cómo se calcula

El coste de una petición es la suma de los tokens de entrada multiplicados por su precio y los de salida multiplicados por el suyo, con los ajustes anteriores. Para estimar un proceso, se multiplica por el número de peticiones: cuántos documentos o conversaciones al mes, de qué longitud y con qué respuesta. Como cada fabricante usa su propio tokenizador, el mismo texto puede dar un número distinto de tokens según el modelo; y como los precios cambian con el tiempo, conviene medir con datos reales y consultar la tarifa vigente antes de decidir.

Ejemplos de uso

• Administración y finanzas

  En finanzas, es la base para presupuestar el gasto mensual en IA y repartirlo entre departamentos.

• Dirección y estrategia

  En dirección, permite comparar el coste de un caso de uso entre proveedores y modelos dentro del coste total del proyecto.

• Atención al cliente

  En atención al cliente, se traduce en un coste por conversación que se compara con el de atenderla de otra forma.

• Marketing

  En marketing, explica por qué la generación masiva de contenidos no urgentes se lanza por lotes.

• Datos y analítica

  En analítica, obliga a calcular cuántos tokens ocupa una tabla antes de enviarla entera a un modelo.

Términos relacionados

• Token
• Ventana de contexto
• TCO de la IA
• FinOps de la IA
• Modelo de razonamiento

Fuentes

• Anthropic, Pricing
• Google AI for Developers, Gemini API pricing
• Anthropic, Extended thinking (tokens de razonamiento facturados como salida)