ChatGPT-Tokenizer

LLM-Tokenizer

Zählen Sie die exakte Anzahl der Tokens, die Ihr Text für OpenAI-Modelle benötigt, mit einer farbigen Token-Ansicht. Alles läuft in Ihrem Browser mit tiktoken; Ihr Text wird niemals hochgeladen.

Der ChatGPT-Tokenizer zählt genau, wie viele Tokens Ihr Text für OpenAI-Modelle benötigt. Fügen Sie beliebigen Text ein, und er liefert die exakte Token-Anzahl — dieselbe Zahl, die die API Ihnen berechnet — plus eine farbige, tokenweise Ansicht, damit Sie sehen, wo das Modell Ihre Wörter aufteilt. Er läuft vollständig in Ihrem Browser mit tiktoken (der Byte-Pair-Kodierung von OpenAI), daher ist er exakt, sofort, kostenlos und privat.

Was ist ein Token?

Ein Token ist die Einheit, die OpenAI-Modelle lesen und nach der sie abgerechnet werden. Es ist meist ein kurzer Wortabschnitt — manchmal ein ganzes kurzes Wort, manchmal ein paar Zeichen, manchmal nur ein Leerzeichen plus der Wortanfang. Eine grobe Faustregel für Englisch lautet 1 Token ≈ 4 Zeichen ≈ 0,75 Wörter, aber der einzige genaue Weg, es zu wissen, ist, den echten Encoder auszuführen — genau das tut dieses Tool.

Welche Kodierung verwendet mein Modell?

OpenAI-Modelle teilen sich eine kleine Anzahl von Kodierungen. Wählen Sie diejenige, die zu Ihrem Modell passt:

KodierungModelleTypische Verwendung
o200k_baseGPT-5-Serie, GPT-4.1, o1 / o3 / o4, frühere o200k-ModelleAktuelle Chat- und Reasoning-Modelle; der neueste, effizienteste Tokenizer
cl100k_baseGPT-4, GPT-4 Turbo, GPT-3.5 Turbo, text-embedding-3, text-embedding-ada-002Chat-Modelle der Vorgängergeneration und die aktuellen Embedding-Modelle

Wenn Sie unsicher sind, verwenden Sie o200k_base — es treibt aktuelle Modelle der GPT-5-Serie sowie GPT-4.1, die Reasoning-Modelle der o-Serie und frühere o200k-Modelle an.

So zählen Sie Ihre Tokens

  1. Fügen Sie Ihren Text in das Feld ein oder tippen Sie ihn.
  2. Wählen Sie die Modellfamilie (o200k_base für GPT-5-Serie / GPT-4.1 / o-Serie, cl100k_base für GPT-4 / GPT-3.5 Turbo).
  3. Lesen Sie oben die Token-Anzahl ab, zusammen mit Zeichen, Wörtern und Zeichen pro Token.
  4. Betrachten Sie die farbigen Chips darunter, um genau zu sehen, wie der Text in Tokens aufgeteilt wird; aktivieren Sie Token-IDs anzeigen, um die rohe Ganzzahl-ID jedes Tokens zu sehen.
  5. Klicken Sie auf Anzahl kopieren, um nur die Zahl zu kopieren, oder auf Token-IDs kopieren, um die vollständige ID-Liste zu kopieren.

Beispiel: Eingabe → Ausgabe

Eingabe:

Tokenization is fun!

Mit o200k_base wird dies zu 5 Tokens kodiert: Token, ization, is, fun, !. Beachten Sie, dass sich "Tokenization" in zwei Tokens aufteilt und dass das führende Leerzeichen Teil der Tokens is und fun ist — deshalb stimmen Token-Anzahlen nicht mit Wort-Anzahlen überein.

Warum Tokens zählen?

  • Kosten: OpenAI rechnet pro Token ab, daher ist die Token-Anzahl Ihr eigentlicher Kostentreiber — weitaus genauer als das Zählen von Zeichen.
  • Kontextgrenzen: Jedes Modell hat ein maximales Kontextfenster, gemessen in Tokens. Vorheriges Zählen zeigt Ihnen, ob ein Prompt plus die erwartete Antwort hineinpassen.
  • Prompt Engineering: Einen Prompt von 1.200 auf 800 Tokens zu kürzen, ist ein messbarer Gewinn, den Sie beim Bearbeiten live sehen können.

Ist es exakt und privat?

Ja zu beidem. Das Tool verwendet die echten tiktoken-Kodierungen von OpenAI (o200k_base und cl100k_base) über die Open-Source-Bibliothek gpt-tokenizer — keine "durch vier teilen"-Schätzung — sodass die Anzahl der API entspricht. Der Tokenizer-Code wird einmalig von einer öffentlichen CDN geladen und läuft dann auf Ihrem Gerät; der Text, den Sie einfügen, wird niemals hochgeladen, was ihn sicher für private Prompts und vertrauliche Daten macht.

Eine kleine Anmerkung zur farbigen Ansicht: Manche Tokens sind Teil-Byte-Sequenzen eines Multibyte-Zeichens (häufig bei Emojis und japanischen oder anderen nicht-lateinischen Schriften). Für sich allein zeigt ein solches Fragment ein �-Ersatzzeichen, aber die benachbarten Tokens rekonstruieren dennoch den korrekten Text, und die Anzahl bleibt exakt.

Betrieben von

unbounded pioneering inc
Timothe AI

Tools by Timothe AI ist eine Sammlung kostenloser Tools, die von unbounded pioneering inc entwickelt und betrieben werden – dem Unternehmen hinter Timothe AI.

Ryosuke Suzuki
Ryosuke SuzukiGründer & CEO

Gründer & CEO von Unbounded Pioneering Inc., dem Unternehmen hinter Timothe AI, und Experte für Machine Learning und die Entwicklung von KI-Produkten. Er begann seine Laufbahn in der Machine-Learning-Forschung an einem Universitätslabor und hat anschließend als Softwareentwickler bei PLAID, Rakuten und Recruit Produkte im großen Maßstab konzipiert und entwickelt, während er zugleich den Aufbau neuer Geschäftsfelder vorantrieb. Heute ist er auf generative KI und KI-Produkte spezialisiert, arbeitet an der Schnittstelle von Engineering und Geschäftsentwicklung und ist benannter Erfinder mehrerer erteilter Patente im Bereich Webtechnologie.

Benannter Erfinder der erteilten Patente JP6887648 und JP7480958 · Patent für die Timothe-AI-Technologie angemeldet

Kontakt aufnehmen

Danke für Ihre Kontaktaufnahme

Vielen Dank für Ihr Interesse an unserem Unternehmen. Ein Mitglied unseres Teams meldet sich innerhalb eines Werktags bei Ihnen.

Womit wir Ihnen helfen können

  • Timothe AI einführen und optimal nutzen
  • Eine Demo oder Testphase von Timothe AI
  • KI-Einführung im Allgemeinen (auch über unser eigenes Produkt hinaus)
  • Allianzen und Partnerschaften
  • Alle anderen Fragen

Sprechen Sie online mit uns

Sie können auch direkt über den Kalender einen Termin buchen.

Wählen Sie eine Vorlage oder schreiben Sie Ihre eigene Nachricht.