Presentamos la nueva API de conteo de tokens antrópicos | de Thomas Reid | noviembre de 2024

Vigile más de cerca sus costos cuando utilice Claude

Anthropic ha lanzado algunas funciones beta interesantes en los últimos días que en gran medida han pasado desapercibidas. Uno de ellos fue la capacidad de procesar archivos PDF con sus modelos, que ahora pueden comprender tanto texto como contenido visual dentro de documentos PDF. Tal vez escriba algo sobre eso en una fecha posterior.

La otra característica beta interesante, y el tema de este artículo, fue la introducción del conteo de tokens. Fundamentalmente, puede contar los tokens en mensajes de usuario, archivos PDF e imágenes. antes Se los envías a Claude. Esta es una excelente noticia para aquellos a quienes les gusta monitorear de cerca los costos de uso de sus tokens.

Según el anuncio oficial de Anthropic (enlace aquí),

“El punto final de conteo de tokens acepta la misma lista estructurada de entradas para crear un mensaje, incluida la compatibilidad con indicaciones del sistema, herramientas, imágenes y archivos PDF. La respuesta contiene el número total de tokens de entrada”.

Y es compatible con los siguientes modelos,

“Soneto de Claudio 3.5
Claude 3.5 Haiku
Claude 3 Haiku
Claude 3 Opus”