Veröffentlicht am

KI-Modelle sind selten das Rendite-Problem

Image by un-perfekt from Pixabay

In der aktuellen Situation um KI-Modelle und KI-Agenten wird häufig argumentiert, dass die Abrechnung in Token ein großes Problem darstellt. Dabei ist es am Anfang oft unklar, welche Kosten bei der Nutzung von KI-Systemen wirklich entstehen. Siehe dazu auch Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks?

Solche technologischen Aspekte überlagern dabei die Kosten, die in der Organisation und bei den Mitarbeitern entstehen. In einem Gesamtsystem Mensch, Organisation und Technologie (MOT-Modell) ist es wichtig, einzelne Elemente sinnvoll auf das eigene Geschäftsmodell und die dazu erforderlichen Geschäftsprozesse abzustimmen.

Gerade Kleine und Mittelständische Unternehmen (KMU) mit ihren begrenzten Ressourcen sollten darauf achten, das gesamte KI-System auf ihre Organisation abzustimmen und nicht immer nur dem nächsten technologischen Hype hinterherzujagen. In einem lesenswerten Artikel stellt M. Kramer ausführlich dar, dass dieser rein Tech-getriebene Ansatz nicht wirtschaftlich ist.

„None of this lessens the technology. Models will keep improving, and that progress matters. But the next wave of AI value will come less from models becoming more capable and more from organisations becoming more capable of using them. Capability sets what is possible. The operating model decides how much of that possibility the business ever sees“ Kramer, M. (2026) Analyst Insights: The AI ROI Problem Is Rarely the Model.

Wie man in einem mittelständischen Unternehmen vorgehen kann, habe ich in dem Blogbeitrag KI-System im Mittelstand: Von der Wissensbilanz lernen grob dargestellt.

Veröffentlicht am

Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks?

Bei der Nutzung von Künstlicher Intelligenz kommt es immer stärker darauf an, KI-Agenten sinnvoll und effizient einzusetzen. Dabei geht es oft auch darum zu wissen, welche Token-Kosten bei der Nutzung von KI-Agenten anfallen.

Bei der Abrechnung auf Basis von Tokens geht es um die Menge verarbeiteter Textbausteine (Tokens), die sich Modelle wie GPT-4 oder Gemini gut bezahlen lassen. Dabei kommt es allerdings oftmals zu starken Schwankungen, und zu regelrechten Abrechnungsschocks.

In einer Studie haben Forscher nun untersucht, inwiefern KI-Agenten bei Codierungs-Aufgaben (coding tasks) in der Lage sind, vor Start des Tasks die Kosten für die benötigten Tokens vorherzusagen. Immerhin wäre eine gut abschätzbare, und somit im voraus gut planbare, Anzahl von Tokens für die wirtschaftliche Bewertung von coding tasks von großer Bedeutung. Eine aktuelle Studie belegt allerdings sehr ausführlich, dass KI-Agenten dazu nicht in der Lage sind:

“Agents are not capable of predicting their own token costs. This is the fundamental bottleneck for result-based pricing for agents.  You can’t really price the agent well unless you can figure out the cost, but now you only see the token costs after everything is done” (Bai, L. et al. (2026) https://arxiv.org/abs/2604.22750).

Man wird also erst nachdem alles erledigt ist wissen, was alles gekostet hat (in Token-Kosten). In dem genannten Paper sind noch viele weitere Detail zu finden.

Gerade Kleine und Mittlere Unternehmen (KMU), die stark auf ihre Kosten achten müssen, können die Ergebnisse der Studie eine gute Basis für die wirtschaftliche Nutzung von KI-Agenten sein.