Veröffentlicht am

Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks?

Bei der Nutzung von Künstlicher Intelligenz kommt es immer stärker darauf an, KI-Agenten sinnvoll und effizient einzusetzen. Dabei geht es oft auch darum zu wissen, welche Token-Kosten bei der Nutzung von KI-Agenten anfallen.

Bei der Abrechnung auf Basis von Tokens geht es um die Menge verarbeiteter Textbausteine (Tokens), die sich Modelle wie GPT-4 oder Gemini gut bezahlen lassen. Dabei kommt es allerdings oftmals zu starken Schwankungen, und zu regelrechten Abrechnungsschocks.

In einer Studie haben Forscher nun untersucht, inwiefern KI-Agenten bei Codierungs-Aufgaben (coding tasks) in der Lage sind, vor Start des Tasks die Kosten für die benötigten Tokens vorherzusagen. Immerhin wäre eine gut abschätzbare, und somit im voraus gut planbare, Anzahl von Tokens für die wirtschaftliche Bewertung von coding tasks von großer Bedeutung. Eine aktuelle Studie belegt allerdings sehr ausführlich, dass KI-Agenten dazu nicht in der Lage sind:

“Agents are not capable of predicting their own token costs. This is the fundamental bottleneck for result-based pricing for agents.  You can’t really price the agent well unless you can figure out the cost, but now you only see the token costs after everything is done” (Bai, L. et al. (2026) https://arxiv.org/abs/2604.22750).

Man wird also erst nachdem alles erledigt ist wissen, was alles gekostet hat (in Token-Kosten). In dem genannten Paper sind noch viele weitere Detail zu finden.

Gerade Kleine und Mittlere Unternehmen (KMU), die stark auf ihre Kosten achten müssen, können die Ergebnisse der Studie eine gute Basis für die wirtschaftliche Nutzung von KI-Agenten sein.

Veröffentlicht am

KI-Implementation: 77% unsichtbare Kosten

Hardest challenges in AI implementation (Pereira et al. 2026)

Wenn es um Implementation von Künstlicher Intelligenz im Unternehmen geht, werden oft nicht alle Kosten beachtet. In einer Analyse von 51 erfolgreichen Implementationen aus verschiedenen Branchen, haben Pereira, Graylin und Brynjolfsson im April 2026 herausgefunden, das 77% der Kosten, unsichtbar sind (Abbildung).

„77% of the hardest challenges practitioners faced were invisible costs: change management, data quality, and process redesign, not technical issues. Technology was consistently described as the easiest part. The true cost of a successful deployment usually includes at least one failed attempt, and the bulk of investment goes to everything except the model“ (Pereira et al. 2026).

Es zeigt sich auch hier wieder, dass der Einsatz von Künstlicher Intelligenz über den Hype hinaus auch wirtschaftlich genauer betrachtet werden muss. Das ist bei Kleinen und Mittleren Unternehmen (KMU) besonders wichtig, da KMU oft nur stark begrenzte Ressourcen zur Verfügung stehen.

Veröffentlicht am

Anmerkungen zur Wirtschaftlichkeit eines Projekts

Platz (1998): Der erfolgreiche Projektstart, in Möller et al. 9. Aktualisierung

Die Wirtschaftlichkeit eines Projekts kann mithilfe verschiedener Dimensionen bestimmt werden. In der Abbildung ist zunächst einmal die Y-Achse (Investitionen bzw. Gewinn) zu erkennen, an die sich die X-Achse (Zeit) am Nullpunkt anschließt.

Über die Projektdauer haben die Investitionen ein Maximum erreicht. Dass die Linie zunächst unterhalb der Zeitachse verläuft bedeutet, dass Investitionen getätigt werden müssen, allerdings noch keine Erträge erzielt werden.

Über die anschließenden Ertragsgewinn können diese Investitionen soweit wieder hereingespielt werden, dass im Idealfall der Break-even Point erreicht wird. Die Zeitspanne bis dahin wird Pay-off Periode genannt.

Nach dem Break-even Point wird der Ertrag immer größer und der Gewinn steigt. DB ist hier die Abkürzung für den Deckungsbeitrag.

Werden die Produktlebenszyklen immer kürzer und werden gleichzeitig die Investitionen in Projekte immer größer, wird die Zeitspanne, in denen Unternehmen Gewinne erzielen können, immer kürzer.

Mit neuen Technologien, wie der Künstlichen Intelligenz, oder auch mit Additive Manufacturing (3D-Druck) können solche Innovationsprozesse wirtschaftlicher gestaltet werden.

Veröffentlicht am

Künstliche Intelligenz: Mit einem AI Router verschiedene Modelle kombinieren

An AI router that understands the capabilities of models in its library directs
a given inference request to the best model able to perform the task at hand (Thomas et al. 2025)

Wenn es um die bei der Anwendung von Künstlicher Intelligenz (GenAI) verwendeten Trainingsmodelle geht, stellt sich oft die Frage, ob ein großes Modell (LLM: Large Language Model) für alles geeignet ist – ganz im Sinne von „One size fits all“. Siehe dazu diesen Blogbeitrag zu den Vorteilen und Nachteilen dieser Vorgehensweise.

Eine andere Herangehensweise ist, mehrere spezialisierte kleinere Trainingsmodelle (SLM: Small Language Models) zu verwenden, die verschiedene Vorteile bieten. Siehe dazu Künstliche Intelligenz: Vorteile von Small Language Models (SLMs).

Neben den genannten Extremen gibt es noch Modelle, die dazwischen anzusiedeln sind, und daher als „midsized“ bezeichnet werden können.

Diese drei Möglichkeiten sind beispielhaft in der Abbildung unter „Sample of model ecosystem“ zusammengefasst. Erfolgt also eine neue Anfrage über den „New data point“ an den AI Router, so kann der vorher trainierte AI Router das geeignete Trainingsmodell (Small, Midsized, Large) zuweisen.

Die Autoren (Thomas et al. 2025) konnten in verschiedenen Tests zeigen, dass ein guter Mix an geeigneten Modellen, zusammen mit einem gut trainierten AI Router bessere und wirtschaftlichere Ergebnisse erzielt.

Die Vorteile liegen auf der Hand: Sie sparen Geld, reduzieren die Latenz und helfen der Umwelt. Diese Punkte sind gerade für Kleine und Mittlere Unternehmen (KMU) interessant.

Veröffentlicht am

Economics of Education: Bildung und Ökonomie?

Unterricht.jpgWieder ein Artikel zum Thema „Wirtschaftlichkeit im Bildungssystem“: Unter der Überschrift Das Geld versickert (Die Zeit vom 14.06.2007) berichtet der Bildungsökonom Ludger Wößmann über das leidige Thema. Es tut gut zu hören, dass Bildung ein wichtiger Faktor des Wirtschaftswachstums ist, dass es wohl nichts nutzt, mehr Geld in ein marodes System zu stecken, usw. usw. Dennoch bleibt bei vielen ein fader Nachgeschmack, wenn wir bei dem Thema Bildung über Wirtschaftlichkeitsaspekte sprechen. Interessant ist hier die Website Economics of Education in Europe, wo die Thematik ausführlich dargestellt wird. Es geht meines Erachtens nicht um die Frage, Bildung oder Wirtschaftlichkeit, sondern Bildung und Wirtschaftlichkeit (Siehe dazu auch Bildung neu Denken). Auf neue Fragen (Welche Rolle spielt Bildung in einer stärker wissensbasierten Gesellschaft?), werden allerdings oftmals alte Antworten (Braek-Even-Betrachtungen bei der Lehrer/Schüler-Relation) gegeben.