Group 928Created with Sketch.
Group 67Created with Sketch.
Group 125Created with Sketch.
Group 126Created with Sketch.

Input- und Output-Tokens: Laufende Kosten Ihres LLMs

Alle sind begeistert von ChatGPT & Co. Die kuriosesten, kreativen oder auch die einfachsten Fragen werden gestellt. Und wir nähern uns mehr oder weniger spielerisch an den täglichen Gebrauch eines LLMs an. Oft verwenden wir die direkten und kostenlosen Zugänge, weil unsere Anfragen keine sensiblen Inhalte haben, oder es uns egal ist.

Für Unternehmen, die Ihre Anfragen nicht mit der Welt teilen wollen, sieht die Lage anders aus. Pro-Versionen sind kostenpflichtige Zugänge und sie haben Abrechnungsmodelle über Tokens. Ja genau – Tokens? So wollen wir die Kosten unserer Anfragen ausrechnen und ein Budget bereitstellen oder das Kostengünstigste für uns wählen. Aber natürlich ist es so einfach nicht (war es auch mit den Handytarifen nicht). Denn was ist ein Token? Es ist eine Einheit, die jeder Anbieter für sich selbst definiert. Ähnlich, aber unterschiedlich. Und dann auch noch der Unterschied zwischen Input & Output. Was? Ja genau – da spielt die Musik und wird Ihre Kostenplanung bei professioneller werdendem Gebrauch Ihrer Mitarbeitenden auch noch kräftig strapazieren. Also Augen auf & weiterlesen!

Passend dazu