Veröffentlicht am

Um das 30-fache unterscheiden sich je nach KI-Modell die Tokens – und damit die Kosten

https://longjubai.github.io/agent_token_consumption/

Wenn es um die Wirtschaftlichkeit von KI-Agenten geht, kommt es bei den Token-Kosten oftmals zu regelrechten Abrechnungsschocks. In ihrem Paper

Bai et al (2026): How Do Coding Agents Spend Your Money? Analyzing and Predicting Token Consumptions in Agentic Coding Tasks | https://arxiv.org/abs/2604.22750

haben die Forscher genauer untersucht, wie die Coding Agenten das Geld der Nutzer „ausgeben“. Ich möchte an dieser Stelle nur eine der vielen Erkenntnisse aus dem Paper wiedergeben: Es gibt wohl bei dem gleichen Task Unterschiede bis zum 30-fachen bei der Anzahl der Tokens – und damit der Kosten.

„(…) token usage is highly variable and inherently stochastic: runs on the same task can differ by up to 30× in total tokens, and higher token usage does not translate into higher accuracy; instead, accuracy often peaks at intermediate cost and saturates at higher
costs“ (Bai et al. 2026).

Gerade Kleine und Mittlere Unternehmen (KMU) mit ihren doch eher begrenzten Ressourcen sollten hier aufpassen.

Interessanterweise haben die Forscher zu ihrem ausführlichen Paper auch eine Website mit den wichtigsten Erkenntnissen erstellt. Dort ist wiederum ein kleines Spiel integriert, bei dem man anhand einer Problemstellung die voraussichtlich benötigten Token und die damit verbundenen Kosten schätzen kann – spannend.

Wir empfehlen auch aus diesen Gründen eher Local AI – also lokal ausgeführte Open Source KI-Modelle zu nutzen. Das kann zusammen mit einer Microsoft Alternative wie Nextcloud auf einem eigenen Server geschehen, oder als Edge Computing sogar mit Hilfe geeigneter Apps wie Ollama und Langflow, auf dem eigenen Laptop. In unserem Blog finden Se dazu viele Beiträge.

Solche Ansätze können die Innovationsfähigkeit gerade von KMU unterstützen, indem sie ein unternehmensspezifisches KI-System nutzen, bei dem alle generierten Daten beim Unternehmen bleiben – ganz im Sinne einer Digitalen Souveränität.

Wie so etwas für innovative Kleine und Mittlere Unternehmen (KMU) in Europa in Bezug auf Künstliche Intelligenz aussehen kann, stelle ich in zwei Paper auf der MCP-Konferenz 2026, vom 16.-19.09.2026 in Balatonfüred (Ungarn) vor:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

264 Milliarden Euro geben europäische Organisationen pro Jahr für nicht-europäische Technologien aus

Image by Willfried Wende from Pixabay

Es ist bekannt, dass alleine der Bund pro Jahr ca. 500 Millionen Euro alleine an Microsoft-Lizenzen bezahlt. Weniger bekannt ist, dass auf der europäischen Ebene die Beträge sehr viel höher sind, wenn wir digitale Technologien insgesamt betrachten. Es sind sage und schreibe 242 Milliarden Euro, die europäische Organisationen pro Jahr für nicht-europäische Technologien ausgeben. Auf der Seite von EuroCommons sind dazu insgesamt 11 kritische Komponenten genannt.

€264bn spent every year by European organisations on non-European digital technologies.

A call to large European public and private organisations and to open source vendors to join collective working groups — coalitions — to plan, prepare, finance and execute concrete migrations away from proprietary software dependencies. Together. In project mode. With peers facing the same problems.

Source: EuroCommons (abgerufen am 26.08.2026)

Es ist natürlich weltfremd, wenn man von heute auf morgen alle technologischen Abhängigkeiten durch europäische Lösungen ersetzen wollte, doch wird seit einiger Zeit mehr umgesetzt, als man es noch vor wenigen Jahren gedacht hat.

Wie wäre es, wenn man auf europäischer Ebene nur 50% der 264 Milliarden Euro, also immerhin 132 Milliarden Euro, in europäische Technologie investieren würde?

Beispielsweise ersetzen immer mehr Open Source Lösungen wie Nextcloud, OnlyOffice usw. die bekannten Microsoft-Produkte und auch auf der Ebene der Künstlichen Intelligenz gibt es sehr viele europäische, ja sogar länderspezifische Open Source KI-Modelle. etc. Siehe dazu auch Open Street Map: Europäische Open Source KI Modelle in den jeweiligen Landessprachen.

Neben der wirtschaftlichen Komponente ist allerdings auch ein möglicher Kill Switch ein bedeutender Treiber für die Entwicklung zur Digitalen Souveränität.

„In der öffentlichen Diskussion ist der „Kill Switch“, also die Einschränkung oder Abschaltung digitaler Dienste für einzelne Personen, Organisationen oder sogar ganze Staaten, ein viel beachtetes Thema. Eine zentrale Rolle spielt dabei US-Präsident Donald Trump, der öffentlich damit gedroht hat, den Zugang zu US-Digitaldiensten, wie denen der Hyperscaler, einzuschränken oder vollständig zu sperren“ (Lünendonk-Studie 2026).

Durch die Nutzung von Open Source Anwendungen im Rahmen europäischer Werte und Normen können neue, innovative Ansätze entstehen, die sich von den chinesischen und US-amerikanischen Vorgehen unterscheiden. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

Wie so etwas für innovative Kleine und Mittlere Unternehmen (KMU) in Europa in Bezug auf Künstliche Intelligenz aussehen kann, stelle ich in zwei Paper auf der MCP-Konferenz 2026, vom 16.-19.09.2026 in Balatonfüred (Ungarn) vor:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

Die Bedeutung von Kleinstunternehmen in Deutschland: 85 Prozent der Betriebe in Deutschland haben bis zu neun Beschäftigte

Image by kazuharu kondo from Pixabay

In der Medienlandschaft geht es meistens um die großen Konzerne. Im Geschäftsbericht 2025 von VW ist beispielsweise zu lesen, dass der Konzern zum Ende des Jahres 2025 weltweit rund 662.942 Mitarbeiter (einschließlich der chinesischen Gemeinschaftsunternehmen) beschäftigte. Davon arbeiten etwa 284.000 Beschäftigte in Deutschland. Für jede Privatperson sind das sehr große Zahlen, und man kann sich vorstellen, welchen Einfluss der Konzern in der deutschen und europäischen Politik hat.

Die vielen Kleinstunternehmen in Deutschland gehen in den Medien oft unter. Wen interessieren schon ein Kleinstunternehmen mit 2-3 Mitarbeiter? Wenn diese Unternehmen einen Mitarbeiter entlassen, ist das keine Schlagzeile wert. Schauen wir uns die Zahlen dazu an wird deutlich, dass das eine verzerrte Wahrnehmung ist.

„Die Kleinstunternehmen spielen eine zentrale Rolle in der Volkswirtschaft: 85 Prozent der Betriebe in Deutschland haben bis zu neun Beschäftigte. Sie beschäftigen rund neun Millionen Menschen und erwirtschaften nach Berechnungen des Statistischen Bundesamtes 11,4 Prozent des Bruttoinlandsprodukts“ (Schmoll, A. (2026): Kleinunternehmen setzen verstärkt KI ein, Golem vom 18.08.2026).

Stellen Sie sich einmal vor, die Rahmenbedingungen für die Kleinstunternehmen würden sich in Deutschland verbessern und ein kleiner Teil der Unternehmen würden Mitarbeiter einstellen. Das wären – konservativ geschätzt – mehrere Hunderttausend neue Arbeitsplätze. Auf einmal sind das wieder sehr große Zahlen – auch im Vergleich mit den Konzernen.

Der Fokus auf die großen Konzerne ist aus der Industriegesellschaft vor über 100 Jahren entstanden. In den USA hatten beispielsweise Ende des 19. Jahrhunderts nur wenige Unternehmen einige hundert Mitarbeiter.

„Consider: in 1890 the average company in the United States had four employees, and few had more than a couple of hundred workers“ (Hamel, 2007 The Future of Management).

In der heute auf vielen Ebenen vernetzten Gesellschaft, sind es eher die in selbstorganisierten Netzwerken arbeitenden kleinen Einheiten (Kleinstunternehmen), die sich schnell an die veränderten Rahmenbedingungen anpassen, und viele Arbeitsplätze schaffen können – wenn die Rahmenbedingungen stimmen.

Siehe dazu auch Free Innovation: Was wäre, wenn wir Innovationen stärker Bottom-Up denken und fördern würden?

Veröffentlicht am

Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen

Screenshot von meiner Ollama App, die auf Ministral 3B als Open Source Ki-Modell zugreift

In verschiedenen Blogbeiträgen hatten wir aufgezeigt, wie in der Nextcloud mit Hilfe von Local AI Open Source KI-Modelle von Mistral AI genutzt werden können. Siehe dazu beispielhaft Digitale Souveränität: Wie kann ein KI-Modell aus LocalAI in den Nextcloud Assistenten eingebunden werden?

Dazu ist es allerdings empfehlenswert, für Local AI nicht den Server zu nutzen, auf dem Nextcloud läuft. Ein weiterer Server ist allerdings gerade für Kleine und Mittlerer Unternehmen (KMU) ein Aufwand, den viele scheuen. Wie kann es also kostengünstiger gehen?

In der Zwischenzeit gibt es von Mistral AI in der Model-Familie Mistral 3 auch das Modell Ministral 3B (inkl. Vergleichstabellen), das mit seiner Leistungsfähigkeit sogar das Modell Mistral 7B übertrifft, weil Ministral 3B sehr kompakt ist und gerade für die Nutzung auf normalen Laptops entwickelt wurde (Edge Computing).

Wie kann man Ministral 3B auf seinem eigenen Laptop nutzen?

(1) Um das Modell bequem zu nutzen, bietet sich die App Ollama an, die Sie zunächst auf Ihrem Laptop installieren.

(2) Nun laden Sie Ministral 3B auf Ihren Laptop herunter. Wenn Sie Windows 11 installiert haben geht das wie folgt: Tastenkombination Windows-Taste + R drücken, cmd in das Textfeld eingeben und mit Enter bestätigen. Mit dem Befehl ollama run ministral-3:3b wird das Modell (3GB) heruntergeladen.

(3) Das KI-Modell können Sie anschließend direkt in der Ollama-Oberfläche in einem Rollfeld auswählen. In der Abbildung sehen das rechts unten mit einem roten Rechteck hervorgehoben.

(4) In meinem Fall habe ich Ministral 3B eine komplexe Frage zu Open User Innovation aus der Perspektive von Eric von Hippel gestellt, die zügig und gut beantwortet wurde.

Die Nutzung eines Open Source KI-Modells (Open Weight Models) auf dem eigenen Laptop bietet für Freelancer oder Kleinen Unternehmen die Möglichkeit, leistungsfähige KI-Modelle auf Ihrer eigenen Infrastruktur ohne zusätzliche Kosten zu nutzen.

Gleichzeitig ist Ministral 3B ein Modell, dass auf dem Open Source Gedanken beruht, europäische KI- und Datenschutz- Standards beachtet und somit einen wichtigen Schritt in Richtung der eigenen Digitalen Souveränität aufzeigt.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

KI-System im Mittelstand: Von der Wissensbilanz lernen

In der aktuellen Diskussion um Künstliche Intelligenz kann man den Eindruck gewinnen, dass es fast täglich um neue, technische Möglichkeiten geht. Diese Neuerungen bei den Anwendungen sind allerdings so schnell, dass sie kaum noch in die Organisationsprozesse eingebunden, und von Mitarbeitern aufgenommen werden können.

Die Priorisierung von Technologie (T) im Vergleich zur Organisation (O) oder auch zu den Menschen (M) kann als TOM-Modell bezeichnet werden, in dem es zu einer asymmetrischen Beschleunigungssituation kommt, die gerade für Kleine und Mittlere Unternehmen (KMU), mit traditionell relativ wenig Ressourcen, gefährlich werden kann. KMU werden in diesem Modell zu getriebenen der Technologie und der KI-Modelle der Marktführer.

Eine ähnliche Entwicklung hatten wir schon einmal im Wissensmanagement, das auch zunächst vom TOM-Modell ausgegangen war. Mit dem besseren Verständnis von „Wissen“ – insbesondere die wichtige Rolle des impliziten Wissen – veränderte sich der Blick auf den Umgang mit Wissen. Das TOM-Modell wurde zum MOT-Modell mit dem Menschen (M) am Beginn von Überlegungen, der Organisation (O) und der Technologie (T). Allerdings war das nicht unbedingt als Reihenfolge zu verstehen, da ja alles mit allem zusammenhängt.

Letztendlich führten die Überlegungen zu der Erkenntnis, dass es sich beim Wissensmanagement eher um ein Wissenssystem handelt, in dem alles miteinander verbunden ist, und somit ein komplexes Wirkungsnetz entsteht. Darin gibt es Elemente, die sich gegenseitig selbst verstärken und auf den Erfolg der Organisation wirken (Generatoren).

Prinzipieller Aufbau eines Wirkungsnetzes ( In Anlehnung an Schels/Seidel, 2020)

Übertragen auf die Entwicklungen bei Künstlicher Intelligenz sollte ein Kleines und Mittleres Unternehmen (KMU) wie folgt vorgehen, um sein eigenes KI-System sinnvoll zu entwicklen:

Geschäftsprozesse beschreiben (max. 3)

Mensch: Kompetenzen in Bezug auf Künstliche Intelligenz definieren (3-5)

Organisation: Rahmenbedingungen beschreiben (3-5)

Technik: In Bezug auf Künstliche Intelligenz festlegen (3-5)

Stellen Sie nun alle 12 (mindestens) Einflussfaktoren miteinander in Beziehung und bewerten Sie möglichst im Team, wie stark der eine Einflussfaktor auf einen anderen Einflussfaktor wirkt (0, 1, 2, 3). Abschließend addieren Sie die Werte je Zeile (Aktivsumme) und in den Spalten (Passivsumme). Ein hoher Wert bei der Aktivsumme bedeutet, dass dieser Einflussfaktor stark auf das gesamte KI-System wirkt. Ein hoher Wert bei der Passivsumme bedeutet, dass das KI-System stark auf diesen Einflussfaktor wirkt. Abschließend wäre es noch möglich, Generatoren im System aufzuspüren, um sich mit den abzuleitenden Maßnahmen darauf zu konzentrieren.

Die Entscheidung für den Einsatz von KI und die Auswahl geeigneter Anwendungen sind für jedes einzelne KMU höchst individuell (Mittelstand Digital Focus Mensch, 2026).

Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in einem Paper ein.

Veröffentlicht am

Selbstchecks zu Digitalisierung und Künstliche Intelligenz

Quelle: https://digitalzentrum-chemnitz.de/wissen/generative-ki/

Das Mittelstand-Digital Zentrum Chemnitz hat zusammen mit der Technischen Universität Chemnitz verschiedene Selbstchecks zu den Themen Digitalisierung und Künstliche Intelligenz zusammengestellt. Diese ermöglichen es gerade Kleinen und Mittleren Unternehmen (KMU) je nach Schwerpunkt, den Ist-Zustand und den Soll-Zustand zu bestimmen. Diese einfache Gap-Analyse ermöglicht es dann den KMU gezielt Verbesserungen anzustoßen, um resilienter zu werden.

Die Abbildung zeigt einen Ausschnitt aus dem Selbstcheck zur Generativen Künstlichen Intelligenz. Blau hervorgehoben ist der selbst eingeschätzte IST-Zustand, und rot hervorgehoben der zu erreichende SOLL-Zustand zu erkennen. Die Ergebnisse können zurückgesetzt, geteilt oder auch gedruckt (beispielsweise als PDF) werden.

Die verschiedenen Checklisten bieten eine erste einfache Möglichkeit, sich mit den jeweiligen Themen gezielt und systematisch auseinanderzusetzen. Im Unternehmen ergeben sich daraus natürlich vielfältige Ansätze, die je nach Unternehmen und verfügbaren Ressourcen priorisiert werden sollten.

Als Ergänzung der einzelnen Checkliste kann ich mir ein einfaches Wirkungsnetz vorstellen, das Zielkonflikte aufzeigt: Zielkonflikte in einem einfachen Wirkungsnetz analysieren.

Darüber hinaus hat sich bei der Wissensbilanz – Made in Germany ein einfaches Wirkungsnetz bewährt, das auf den von Frederic Vester entwickelten Papiercomputer (auch als Vester’sche Einflussmatrix, Vernetzungsmatrix oder Vernetzungsgitter bekannt) zurückgeht. Das Ergebnis so einer Analyse zeigt dann auf, an welcher Stelle angesetzt werden sollte, um den größten Nutzen für das Gesamtsystem (Organisation) zu erreichen.

Veröffentlicht am

IW Consult (2026): Digitale Souveränität von KMU (Kurzstudie)

Image by Gerd Altmann from Pixabay

Zu dem Thema Digitale Souveränität gerade bei Kleinen und Mittleren Unternehmen (KMU habe ich schon viele Blogbeiträge geschrieben. In der Zwischenzeit wird vielen klar, dass das Thema wichtig ist, sodass es immer mehr ausführliche oder kleine Studien gibt. Ein weiteres Beispiel dafür ist die nun veröffentlichte Kurzstudie IW Consult (2026): Digitale Souveränität von KMU (PDF), in der 5 zentrale Erkenntnisse zusammengefasst wurden:

(1) Digitale Souveränität ist eine Managemententscheidung.

(2) Tragfähige europäische Alternativen sind verfügbar.

(3) Die Umstellung auf souveräne Lösungen ist machbar, aber voraussetzungsreich.

(4) Anschaffungskosten allein greifen bei der Bewertung der Wirtschaftlichkeit zu kurz..
Eine TCO (Total Cost of Ownership)-Betrachtung, welche die laufenden Kosten, versteckte Bindungseffekte und Migrationsaufwände einbezieht, verändert die wirtschaftliche Bewertung digitaler Lösungen grundlegend.

(5) Die Unterstützungslandschaft hat eine solide Basis, aber auch noch Ausbaupotenziale.

Auf der internationalen Konferenz MCP 2026, die vom 16.-19.09.2026 in Balatonfüred, Ungarn stattfinden wird, gehe ich darauf in einem Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Mein zweites Paper:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks?

Bei der Nutzung von Künstlicher Intelligenz kommt es immer stärker darauf an, KI-Agenten sinnvoll und effizient einzusetzen. Dabei geht es oft auch darum zu wissen, welche Token-Kosten bei der Nutzung von KI-Agenten anfallen.

Bei der Abrechnung auf Basis von Tokens geht es um die Menge verarbeiteter Textbausteine (Tokens), die sich Modelle wie GPT-4 oder Gemini gut bezahlen lassen. Dabei kommt es allerdings oftmals zu starken Schwankungen, und zu regelrechten Abrechnungsschocks.

In einer Studie haben Forscher nun untersucht, inwiefern KI-Agenten bei Codierungs-Aufgaben (coding tasks) in der Lage sind, vor Start des Tasks die Kosten für die benötigten Tokens vorherzusagen. Immerhin wäre eine gut abschätzbare, und somit im voraus gut planbare, Anzahl von Tokens für die wirtschaftliche Bewertung von coding tasks von großer Bedeutung. Eine aktuelle Studie belegt allerdings sehr ausführlich, dass KI-Agenten dazu nicht in der Lage sind:

“Agents are not capable of predicting their own token costs. This is the fundamental bottleneck for result-based pricing for agents.  You can’t really price the agent well unless you can figure out the cost, but now you only see the token costs after everything is done” (Bai, L. et al. (2026) https://arxiv.org/abs/2604.22750).

Man wird also erst nachdem alles erledigt ist wissen, was alles gekostet hat (in Token-Kosten). In dem genannten Paper sind noch viele weitere Detail zu finden.

Gerade Kleine und Mittlere Unternehmen (KMU), die stark auf ihre Kosten achten müssen, können die Ergebnisse der Studie eine gute Basis für die wirtschaftliche Nutzung von KI-Agenten sein.

Veröffentlicht am

Kurzlehrbuch: Künstlicher Intelligenz für den Mittelstand

In mehreren Blogbeiträge habe ich verschiedene Aspekte aus einem Kurzlehrbuch thematisiert, das als Download zur Verfügung steht: Es freut mich besonders, dass darin herausgestellt wird, dass Open Source AI gerade für Kleine und Mittlere Unternehmen (KMU) geeignet ist, Digitale Souveränität im Unternehmen zu erzielen. Am Ende des Kurzlehrbuchs fassen die Autoren die fünf wichtigsten Punkte noch einmal zusammen:

Mittelstand Digital Fokus Mensch (2026): Digitale Souveränität als Basis für sichere KI-Anwendungen | PDF.

(1) Die Arbeitswelt verändert sich – wir müssen uns mit verändern.

(2) Generative KI kann schon bei kleinen Aufgaben große Wirkung entfalten.

(3) Die Entscheidung für KI ist individuell – ebenso die Wahl der passenden Anwendung.

(4) KI-Nutzung erfordert rechtliche Orientierung – insbesondere im Hinblick auf den EU AI Act.

(5) Menschen müssen Teil der Lösung sein – sowohl bei KI als auch bei Cybersicherheit

Veröffentlicht am

Künstliche Intelligenz: Wie kann ein Unternehmen bei Kooperationen die Datenhoheit behalten?

Unternehmen sind oftmals in einem oder mehreren Netzwerken aktiv,. Solche Kooperationen setzen dabei auf den klassischen Datenaustausch. Modernere Versionen der Kooperationen im KI-Zeitalter, speisen ihre Daten in KI-Modelle ein. Dabei kommt es darauf an, die eigene Datenhoheit zu behalten.

„Um ihre Datenhoheit zu bewahren, setzen Unternehmen auf föderierte, dezentrale Trainingsansätze. Die Daten werden hier nicht zu einem zentralen Server gesendet, sondern lokal in eine Kopie des KI-Modells eingespeist. Statt der Daten werden dann nur abstrakte Parameter zwischen den Partnern ausgetauscht. Jeder Partner kann der KI Daten zur Verfügung stellen, ohne diese den anderen Unternehmen preisgeben zu müssen“ (Fraunhofer, Forschung kompakt, 01.04.2026).

Das Fraunhofer-Institut für Software- und Systemtechnik ISST in Dortmund hat gemeinsam mit dem Industriepartner Fujitsu Research sogar eine Lösung für das Unlearning für dezentrale, föderierte KI-Kollaborationen entwickelt.

Dabei geht es um die Frage, wie mit Daten umgegangen wird, wenn die KI-Kooperation verlässt – spannend. Wie das alles funktioniert, zeigt das Fraunhofer Institut auf der Hannover Messe 2026.