Compare tokenizadores de LLM

Tokenizadores de LLM

Cole um texto e veja quantos tokens ele custa no ChatGPT, no Claude e no Gemini lado a lado: cada contagem é precisa, direto do tokenizador de cada fornecedor.

Compare tokenizadores de LLM

O Compare tokenizadores de LLM mostra quantos tokens o mesmo texto custa no ChatGPT, no Claude e no Gemini, lado a lado, com cada contagem precisa. Cole o texto uma vez, escolha um modelo por fornecedor e veja as diferenças na hora.

Por que comparar tokenizadores?

Cada família de modelos tokeniza o texto de forma diferente, então o mesmo prompt pode ter, por exemplo, 100 tokens no ChatGPT, 120 no Claude e 110 no Gemini. Como você paga por token e cada modelo tem um limite de contexto, essas diferenças afetam diretamente o custo e quanto cabe em uma requisição. Compará-los com o seu texto real é a única forma de saber.

Como as contagens são geradas

FornecedorComo é contadoPrecisão
ChatGPT (OpenAI)Codificação pública tiktoken, no seu navegadorExato
Claude (Anthropic)API oficial count_tokensExato
Gemini (Google)API oficial countTokensExato

Não há atalho para Claude e Gemini: seus tokenizadores modernos não são públicos, então uma contagem precisa precisa vir da API de cada fornecedor.

Como comparar

  1. Cole ou digite o seu texto.
  2. Escolha um modelo por fornecedor (uma codificação da OpenAI, um modelo Claude, um modelo Gemini).
  3. Selecione Comparar tokens para ver os três lado a lado, com uma barra relativa e os caracteres por token de cada um.

Exemplo

Um parágrafo curto em inglês costuma ficar dentro de poucos por cento entre os três fornecedores, enquanto código ou texto em outro idioma pode divergir mais. As barras relativas deixam a diferença óbvia num relance.

Limitações

  • É necessário um login gratuito (as contagens de Claude e Gemini usam as APIs oficiais deles); não há custo em créditos.
  • A comparação é para os modelos específicos que você seleciona: a contagem de tokens pode mudar entre gerações de modelos.
  • Precisa de uma visualização por token? Use o tokenizador do ChatGPT (o tokenizador da OpenAI é aberto); Claude e Gemini expõem apenas as contagens.

Operado por

unbounded pioneering inc
Timothe AI

O Tools by Timothe AI é um conjunto de ferramentas gratuitas desenvolvidas e operadas pela unbounded pioneering inc, a empresa por trás do Timothe AI.

Ryosuke Suzuki
Ryosuke SuzukiFundador e CEO

Fundador e CEO da Unbounded Pioneering Inc., a empresa por trás do Timothe AI, e especialista em machine learning e desenvolvimento de produtos de IA. Começou a carreira na pesquisa de machine learning em um laboratório universitário e, depois, projetou e construiu produtos de grande escala como engenheiro de software na PLAID, na Rakuten e na Recruit, ao mesmo tempo em que impulsionava o desenvolvimento de novos negócios. Hoje é especializado em IA generativa e produtos de IA, atua tanto na engenharia quanto no desenvolvimento de negócios e é inventor nomeado em várias patentes concedidas na área de tecnologia web.

Inventor nomeado nas patentes concedidas JP6887648 e JP7480958 · Patente pendente para a tecnologia Timothe AI

Fale conosco

Obrigado por entrar em contato

Agradecemos o seu interesse em nossa empresa. Um membro da nossa equipe entrará em contato com você em até um dia útil.

Em que podemos ajudar

  • Adotar e aproveitar ao máximo a Timothe AI
  • Uma demonstração ou teste da Timothe AI
  • Adoção de IA em geral (inclusive além do nosso produto)
  • Alianças e parcerias
  • Qualquer outra dúvida

Fale conosco online

Você também pode agendar uma reunião diretamente pelo calendário.

Escolha um modelo ou escreva sua própria mensagem.