Token

Ein Token ist die kleinste Einheit, in die ein KI-Sprachmodell einen Text zerlegt — in etwa eine Silbe, ein kurzes Wort oder ein Satzzeichen. Die Anzahl verarbeiteter Tokens bestimmt, wie viel Text ein Modell auf einmal verarbeiten kann und was ein KI-Dienst kostet.

Was bedeutet das für Ihr KMU?

Viele KI-Dienste rechnen ihre Nutzungsgebühren nach Tokens ab — pro Anfrage oder pro Monat. Lange Eingaben wie vollständige Dokumente und ausführliche Antworten verbrauchen mehr Tokens und erhöhen damit die Kosten. Wer KI-Kosten kontrollieren will, achtet darauf, wie umfangreich die Eingaben sind und ob der gewählte Dienst ein Token-basiertes oder ein Flatrate-Preismodell anbietet. Inhaltlich ist es wichtig zu verstehen, dass bei Zahlenfolgen zum Beispiel die Token nicht jede Ziffer automatisch einzeln erfassen, sondern in Gruppen. Das kann zu Rechenfehlern führen.