Die Bedeutung von Kleinstunternehmen in Deutschland: 85 Prozent der Betriebe in Deutschland haben bis zu neun Beschäftigte

Image by kazuharu kondo from Pixabay

In der Medienlandschaft geht es meistens um die großen Konzerne. Im Geschäftsbericht 2025 von VW ist beispielsweise zu lesen, dass der Konzern zum Ende des Jahres 2025 weltweit rund 662.942 Mitarbeiter (einschließlich der chinesischen Gemeinschaftsunternehmen) beschäftigte. Davon arbeiten etwa 284.000 Beschäftigte in Deutschland. Für jede Privatperson sind das sehr große Zahlen, und man kann sich vorstellen, welchen Einfluss der Konzern in der deutschen und europäischen Politik hat.

Die vielen Kleinstunternehmen in Deutschland gehen in den Medien oft unter. Wen interessieren schon ein Kleinstunternehmen mit 2-3 Mitarbeiter? Wenn diese Unternehmen einen Mitarbeiter entlassen, ist das keine Schlagzeile wert. Schauen wir uns die Zahlen dazu an wird deutlich, dass das eine verzerrte Wahrnehmung ist.

„Die Kleinstunternehmen spielen eine zentrale Rolle in der Volkswirtschaft: 85 Prozent der Betriebe in Deutschland haben bis zu neun Beschäftigte. Sie beschäftigen rund neun Millionen Menschen und erwirtschaften nach Berechnungen des Statistischen Bundesamtes 11,4 Prozent des Bruttoinlandsprodukts“ (Schmoll, A. (2026): Kleinunternehmen setzen verstärkt KI ein, Golem vom 18.08.2026).

Stellen Sie sich einmal vor, die Rahmenbedingungen für die Kleinstunternehmen würden sich in Deutschland verbessern und ein kleiner Teil der Unternehmen würden Mitarbeiter einstellen. Das wären – konservativ geschätzt – mehrere Hunderttausend neue Arbeitsplätze. Auf einmal sind das wieder sehr große Zahlen – auch im Vergleich mit den Konzernen.

Der Fokus auf die großen Konzerne ist aus der Industriegesellschaft vor über 100 Jahren entstanden. In den USA hatten beispielsweise Ende des 19. Jahrhunderts nur wenige Unternehmen einige hundert Mitarbeiter.

„Consider: in 1890 the average company in the United States had four employees, and few had more than a couple of hundred workers“ (Hamel, 2007 The Future of Management).

In der heute auf vielen Ebenen vernetzten Gesellschaft, sind es eher die in selbstorganisierten Netzwerken arbeitenden kleinen Einheiten (Kleinstunternehmen), die sich schnell an die veränderten Rahmenbedingungen anpassen, und viele Arbeitsplätze schaffen können – wenn die Rahmenbedingungen stimmen.

Siehe dazu auch Free Innovation: Was wäre, wenn wir Innovationen stärker Bottom-Up denken und fördern würden?

Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen

Screenshot von meiner Ollama App, die auf Ministral 3B als Open Source Ki-Modell zugreift

In verschiedenen Blogbeiträgen hatten wir aufgezeigt, wie in der Nextcloud mit Hilfe von Local AI Open Source KI-Modelle von Mistral AI genutzt werden können. Siehe dazu beispielhaft Digitale Souveränität: Wie kann ein KI-Modell aus LocalAI in den Nextcloud Assistenten eingebunden werden?

Dazu ist es allerdings empfehlenswert, für Local AI nicht den Server zu nutzen, auf dem Nextcloud läuft. Ein weiterer Server ist allerdings gerade für Kleine und Mittlerer Unternehmen (KMU) ein Aufwand, den viele scheuen. Wie kann es also kostengünstiger gehen?

In der Zwischenzeit gibt es von Mistral AI in der Model-Familie Mistral 3 auch das Modell Ministral 3B (inkl. Vergleichstabellen), das mit seiner Leistungsfähigkeit sogar das Modell Mistral 7B übertrifft, weil Ministral 3B sehr kompakt ist und gerade für die Nutzung auf normalen Laptops entwickelt wurde (Edge Computing).

Wie kann man Ministral 3B auf seinem eigenen Laptop nutzen?

(1) Um das Modell bequem zu nutzen, bietet sich die App Ollama an, die Sie zunächst auf Ihrem Laptop installieren.

(2) Nun laden Sie Ministral 3B auf Ihren Laptop herunter. Wenn Sie Windows 11 installiert haben geht das wie folgt: Tastenkombination Windows-Taste + R drücken, cmd in das Textfeld eingeben und mit Enter bestätigen. Mit dem Befehl ollama run ministral-3:3b wird das Modell (3GB) heruntergeladen.

(3) Das KI-Modell können Sie anschließend direkt in der Ollama-Oberfläche in einem Rollfeld auswählen. In der Abbildung sehen das rechts unten mit einem roten Rechteck hervorgehoben.

(4) In meinem Fall habe ich Ministral 3B eine komplexe Frage zu Open User Innovation aus der Perspektive von Eric von Hippel gestellt, die zügig und gut beantwortet wurde.

Die Nutzung eines Open Source KI-Modells (Open Weight Models) auf dem eigenen Laptop bietet für Freelancer oder Kleinen Unternehmen die Möglichkeit, leistungsfähige KI-Modelle auf Ihrer eigenen Infrastruktur ohne zusätzliche Kosten zu nutzen.

Gleichzeitig ist Ministral 3B ein Modell, dass auf dem Open Source Gedanken beruht, europäische KI- und Datenschutz- Standards beachtet und somit einen wichtigen Schritt in Richtung der eigenen Digitalen Souveränität aufzeigt.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

KI-System im Mittelstand: Von der Wissensbilanz lernen

In der aktuellen Diskussion um Künstliche Intelligenz kann man den Eindruck gewinnen, dass es fast täglich um neue, technische Möglichkeiten geht. Diese Neuerungen bei den Anwendungen sind allerdings so schnell, dass sie kaum noch in die Organisationsprozesse eingebunden, und von Mitarbeitern aufgenommen werden können.

Die Priorisierung von Technologie (T) im Vergleich zur Organisation (O) oder auch zu den Menschen (M) kann als TOM-Modell bezeichnet werden, in dem es zu einer asymmetrischen Beschleunigungssituation kommt, die gerade für Kleine und Mittlere Unternehmen (KMU), mit traditionell relativ wenig Ressourcen, gefährlich werden kann. KMU werden in diesem Modell zu getriebenen der Technologie und der KI-Modelle der Marktführer.

Eine ähnliche Entwicklung hatten wir schon einmal im Wissensmanagement, das auch zunächst vom TOM-Modell ausgegangen war. Mit dem besseren Verständnis von „Wissen“ – insbesondere die wichtige Rolle des impliziten Wissen – veränderte sich der Blick auf den Umgang mit Wissen. Das TOM-Modell wurde zum MOT-Modell mit dem Menschen (M) am Beginn von Überlegungen, der Organisation (O) und der Technologie (T). Allerdings war das nicht unbedingt als Reihenfolge zu verstehen, da ja alles mit allem zusammenhängt.

Letztendlich führten die Überlegungen zu der Erkenntnis, dass es sich beim Wissensmanagement eher um ein Wissenssystem handelt, in dem alles miteinander verbunden ist, und somit ein komplexes Wirkungsnetz entsteht. Darin gibt es Elemente, die sich gegenseitig selbst verstärken und auf den Erfolg der Organisation wirken (Generatoren).

Prinzipieller Aufbau eines Wirkungsnetzes ( In Anlehnung an Schels/Seidel, 2020)

Übertragen auf die Entwicklungen bei Künstlicher Intelligenz sollte ein Kleines und Mittleres Unternehmen (KMU) wie folgt vorgehen, um sein eigenes KI-System sinnvoll zu entwicklen:

Geschäftsprozesse beschreiben (max. 3)

Mensch: Kompetenzen in Bezug auf Künstliche Intelligenz definieren (3-5)

Organisation: Rahmenbedingungen beschreiben (3-5)

Technik: In Bezug auf Künstliche Intelligenz festlegen (3-5)

Stellen Sie nun alle 12 (mindestens) Einflussfaktoren miteinander in Beziehung und bewerten Sie möglichst im Team, wie stark der eine Einflussfaktor auf einen anderen Einflussfaktor wirkt (0, 1, 2, 3). Abschließend addieren Sie die Werte je Zeile (Aktivsumme) und in den Spalten (Passivsumme). Ein hoher Wert bei der Aktivsumme bedeutet, dass dieser Einflussfaktor stark auf das gesamte KI-System wirkt. Ein hoher Wert bei der Passivsumme bedeutet, dass das KI-System stark auf diesen Einflussfaktor wirkt. Abschließend wäre es noch möglich, Generatoren im System aufzuspüren, um sich mit den abzuleitenden Maßnahmen darauf zu konzentrieren.

Die Entscheidung für den Einsatz von KI und die Auswahl geeigneter Anwendungen sind für jedes einzelne KMU höchst individuell (Mittelstand Digital Focus Mensch, 2026).

Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in einem Paper ein.

Selbstchecks zu Digitalisierung und Künstliche Intelligenz

Quelle: https://digitalzentrum-chemnitz.de/wissen/generative-ki/

Das Mittelstand-Digital Zentrum Chemnitz hat zusammen mit der Technischen Universität Chemnitz verschiedene Selbstchecks zu den Themen Digitalisierung und Künstliche Intelligenz zusammengestellt. Diese ermöglichen es gerade Kleinen und Mittleren Unternehmen (KMU) je nach Schwerpunkt, den Ist-Zustand und den Soll-Zustand zu bestimmen. Diese einfache Gap-Analyse ermöglicht es dann den KMU gezielt Verbesserungen anzustoßen, um resilienter zu werden.

Die Abbildung zeigt einen Ausschnitt aus dem Selbstcheck zur Generativen Künstlichen Intelligenz. Blau hervorgehoben ist der selbst eingeschätzte IST-Zustand, und rot hervorgehoben der zu erreichende SOLL-Zustand zu erkennen. Die Ergebnisse können zurückgesetzt, geteilt oder auch gedruckt (beispielsweise als PDF) werden.

Die verschiedenen Checklisten bieten eine erste einfache Möglichkeit, sich mit den jeweiligen Themen gezielt und systematisch auseinanderzusetzen. Im Unternehmen ergeben sich daraus natürlich vielfältige Ansätze, die je nach Unternehmen und verfügbaren Ressourcen priorisiert werden sollten.

Als Ergänzung der einzelnen Checkliste kann ich mir ein einfaches Wirkungsnetz vorstellen, das Zielkonflikte aufzeigt: Zielkonflikte in einem einfachen Wirkungsnetz analysieren.

Darüber hinaus hat sich bei der Wissensbilanz – Made in Germany ein einfaches Wirkungsnetz bewährt, das auf den von Frederic Vester entwickelten Papiercomputer (auch als Vester’sche Einflussmatrix, Vernetzungsmatrix oder Vernetzungsgitter bekannt) zurückgeht. Das Ergebnis so einer Analyse zeigt dann auf, an welcher Stelle angesetzt werden sollte, um den größten Nutzen für das Gesamtsystem (Organisation) zu erreichen.

IW Consult (2026): Digitale Souveränität von KMU (Kurzstudie)

Image by Gerd Altmann from Pixabay

Zu dem Thema Digitale Souveränität gerade bei Kleinen und Mittleren Unternehmen (KMU habe ich schon viele Blogbeiträge geschrieben. In der Zwischenzeit wird vielen klar, dass das Thema wichtig ist, sodass es immer mehr ausführliche oder kleine Studien gibt. Ein weiteres Beispiel dafür ist die nun veröffentlichte Kurzstudie IW Consult (2026): Digitale Souveränität von KMU (PDF), in der 5 zentrale Erkenntnisse zusammengefasst wurden:

(1) Digitale Souveränität ist eine Managemententscheidung.

(2) Tragfähige europäische Alternativen sind verfügbar.

(3) Die Umstellung auf souveräne Lösungen ist machbar, aber voraussetzungsreich.

(4) Anschaffungskosten allein greifen bei der Bewertung der Wirtschaftlichkeit zu kurz..
Eine TCO (Total Cost of Ownership)-Betrachtung, welche die laufenden Kosten, versteckte Bindungseffekte und Migrationsaufwände einbezieht, verändert die wirtschaftliche Bewertung digitaler Lösungen grundlegend.

(5) Die Unterstützungslandschaft hat eine solide Basis, aber auch noch Ausbaupotenziale.

Auf der internationalen Konferenz MCP 2026, die vom 16.-19.09.2026 in Balatonfüred, Ungarn stattfinden wird, gehe ich darauf in einem Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Mein zweites Paper:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks?

Bei der Nutzung von Künstlicher Intelligenz kommt es immer stärker darauf an, KI-Agenten sinnvoll und effizient einzusetzen. Dabei geht es oft auch darum zu wissen, welche Token-Kosten bei der Nutzung von KI-Agenten anfallen.

Bei der Abrechnung auf Basis von Tokens geht es um die Menge verarbeiteter Textbausteine (Tokens), die sich Modelle wie GPT-4 oder Gemini gut bezahlen lassen. Dabei kommt es allerdings oftmals zu starken Schwankungen, und zu regelrechten Abrechnungsschocks.

In einer Studie haben Forscher nun untersucht, inwiefern KI-Agenten bei Codierungs-Aufgaben (coding tasks) in der Lage sind, vor Start des Tasks die Kosten für die benötigten Tokens vorherzusagen. Immerhin wäre eine gut abschätzbare, und somit im voraus gut planbare, Anzahl von Tokens für die wirtschaftliche Bewertung von coding tasks von großer Bedeutung. Eine aktuelle Studie belegt allerdings sehr ausführlich, dass KI-Agenten dazu nicht in der Lage sind:

Agents are not capable of predicting their own token costs. This is the fundamental bottleneck for result-based pricing for agents.  You can’t really price the agent well unless you can figure out the cost, but now you only see the token costs after everything is done” (Bai, L. et al. (2026) https://arxiv.org/abs/2604.22750).

Man wird also erst nachdem alles erledigt ist wissen, was alles gekostet hat (in Token-Kosten). In dem genannten Paper sind noch viele weitere Detail zu finden.

Gerade Kleine und Mittlere Unternehmen (KMU), die stark auf ihre Kosten achten müssen, können die Ergebnisse der Studie eine gute Basis für die wirtschaftliche Nutzung von KI-Agenten sein.

Kurzlehrbuch: Künstlicher Intelligenz für den Mittelstand

In mehreren Blogbeiträge habe ich verschiedene Aspekte aus einem Kurzlehrbuch thematisiert, das als Download zur Verfügung steht: Es freut mich besonders, dass darin herausgestellt wird, dass Open Source AI gerade für Kleine und Mittlere Unternehmen (KMU) geeignet ist, Digitale Souveränität im Unternehmen zu erzielen. Am Ende des Kurzlehrbuchs fassen die Autoren die fünf wichtigsten Punkte noch einmal zusammen:

Mittelstand Digital Fokus Mensch (2026): Digitale Souveränität als Basis für sichere KI-Anwendungen | PDF.

(1) Die Arbeitswelt verändert sich – wir müssen uns mit verändern.

(2) Generative KI kann schon bei kleinen Aufgaben große Wirkung entfalten.

(3) Die Entscheidung für KI ist individuell – ebenso die Wahl der passenden Anwendung.

(4) KI-Nutzung erfordert rechtliche Orientierung – insbesondere im Hinblick auf den EU AI Act.

(5) Menschen müssen Teil der Lösung sein – sowohl bei KI als auch bei Cybersicherheit

Künstliche Intelligenz: Wie kann ein Unternehmen bei Kooperationen die Datenhoheit behalten?

Unternehmen sind oftmals in einem oder mehreren Netzwerken aktiv,. Solche Kooperationen setzen dabei auf den klassischen Datenaustausch. Modernere Versionen der Kooperationen im KI-Zeitalter, speisen ihre Daten in KI-Modelle ein. Dabei kommt es darauf an, die eigene Datenhoheit zu behalten.

„Um ihre Datenhoheit zu bewahren, setzen Unternehmen auf föderierte, dezentrale Trainingsansätze. Die Daten werden hier nicht zu einem zentralen Server gesendet, sondern lokal in eine Kopie des KI-Modells eingespeist. Statt der Daten werden dann nur abstrakte Parameter zwischen den Partnern ausgetauscht. Jeder Partner kann der KI Daten zur Verfügung stellen, ohne diese den anderen Unternehmen preisgeben zu müssen“ (Fraunhofer, Forschung kompakt, 01.04.2026).

Das Fraunhofer-Institut für Software- und Systemtechnik ISST in Dortmund hat gemeinsam mit dem Industriepartner Fujitsu Research sogar eine Lösung für das Unlearning für dezentrale, föderierte KI-Kollaborationen entwickelt.

Dabei geht es um die Frage, wie mit Daten umgegangen wird, wenn die KI-Kooperation verlässt – spannend. Wie das alles funktioniert, zeigt das Fraunhofer Institut auf der Hannover Messe 2026.

Künstliche Intelligenz: Reasoning und die Chain of Thoughts

Mit Explainable AI (XAI) sollen KI-Systeme transparent, nachvollziehbar und überprüfbar gemacht werden. in dem Zusammenhang kommt dem Reasoning eine besondere Rolle zu:

„Unter Reasoning versteht man den Prozess, bei dem ein KI-System seine internen Schlussfolgerungen sichtbar macht, etwa in Form logisch strukturierter Argumentationsketten oder textuell formulierter Teilschritte (sogenannter Chains-of-Thought)“ (Mittelstand Digital Fokus Mensch (2026): Digitale Souveränität als Basis für sichere KI-Anwendungen).

XAI und Reasoning ermöglichen es gerade Kleinen und Mittleren Unternehmen die jeweiligen Prozessschritte zumindest teilweise nachzuvollziehen.

„Transparenz allein genügt nicht, wenn die Systeme nicht kontrolliert, erweiterbar und datensouverän betrieben werden können“ (ebd.).

Gerade KMU sollten darauf achten, wenn sie Künstliche Intelligenz in ihre Prozesse einbinden wollen. XAI, Reasoning, Open Data und Open Source AI bieten hier geeignete Möglichkeiten, einen unternehmensspezifischen Mix zu finden.

Open Data and Open Source AI – a perfect match – ganz im Sinne einer Digitalen Souveränität.

Explainable AI (XAI): Was ist das nun schon wieder?

Wie die proprietären KI-Modelle wie ChatGPT, Gemini, Anthropic, Grok, Claude etc. funktionieren, ist oft nicht transparent, wodurch sich letztendlich auch kein wirkliches Vertrauen in diese Systeme aufbauen kann – it all starts with trust.

Es ist daher nur konsequent, wenn immer mehr Einzelpersonen, Unternehmen und Öffentliche Verwaltungen auf offene und transparente KI-Modelle setzen. In dem Zusammenhang gibt es auch ein Forschungsfeld, das sich mit den damit einhergehenden Fragestellungen befasst.

Explainable AI (XAI) – Forschungs- und Anwendungsfeld der Künstlichen Intelligenz, das Methoden entwickelt, um Entscheidungen, Vorhersagen oder generierte Inhalte von KI-Systemen transparent, nachvollziehbar und überprüfbar zu machen. Ziel ist es, Vertrauen zu schaffen und Fehlentscheidungen zu vermeiden.“ (Mittelstand Digital Fokus Mensch (2026): Digitale Souveränität als Basis für sichere KI-Anwendungen).

Es stellt sich dabei natürlich gleich die Frage, was das z.B. für Kleine und Mittlere Unternehmen (KMU) in der Praxis bedeuten kann. „Gerade in geschäftskritischen Anwendungen ist Vertrauen in die Funktionsweise von KI-Systemen unerlässlich“ (ebd.). Solche Anwendungen sind ganz besonders Innovationsprozesse. Da sich gerade der deutsche Mittelstand innovativ ausrichtet, ja ausrichten muss, kommt Explainable AI (XAI) ein große Bedeutung zu.

Das Fraunhofer Institut hat dazu eine eXplainable Artificial Intelligence (XAI)-Toolbox entwickelt: „Das heißt, die Toolbox kann z. B. zur Datenanalyse, zum Debugging und zur Erklärung der Vorhersage eines beliebigen Black-Box-Modells eingesetzt werden“ (ebd.).