Open Source AI: Mistral AI – eine Erfolgsgeschichte muss skalieren

In den letzten Jahren wurden Open Source AI Modelle noch etwas belächelt, da sie zugegebenermaßen nicht an die Leistungsfähigkeit der proprietären AI-Modelle heranreichten. Wie die Beispiele DeepSeek R1, KIMI K3 oder auch Mistral AI zeigen, hat sich das geändert.

Hinzu kommt noch, dass neben der Leistungsfähigkeit noch andere Aspekte wichtig geworden sind: Digitale Souveränität und Resilienz. Betrachtet man alle Dimensionen, so wird klar, dass Open Source AI eine wichtige Rolle bei der modernen Transformation von Unternehmen und Gesellschaften spielen kann – besonders in Europa.

Am Beispiel Mistral AI, einem französischen Start-Up (2023 gegründet) wird deutlich, in welchem Spannungsfeld sich Open Source AI befindet. Mistral AI ist sehr erfolgreich und wird in Europa von immer mehr Privatpersonen, Unternehmen und Öffentlichen Verwaltungen genutzt. Das führt unweigerlich zu der Frage, wie Mistral AI die große Nachfrage bedienen kann. Das geht nur mit einer Skalierung, die Zeit und Geld kostet.

Um also den Markt schnell bedienen zu können braucht es Kapital und technologische Infrastruktur. Es wundert daher nicht, dass sich wohl Samsung an Mistral AI beteiligen möchte, und auch Microsoft KI-Infrastruktur bereitstellen will. Beides ist erst einmal positiv, doch hat das Beispiel OpenAI gezeigt, dass Microsoft Unternehmen, die zunächst Open Source AI angeboten haben, zu kommerziellen Unternehmen umwandeln kann. OpenAI entspricht nicht den Anforderungen, die in der Open Source AI Definition formuliert wurden.

Wir arbeiten schon länger mit Mistral AI Modellen und setzen darauf, dass das Unternehmen trotz der notwendigen Schritte zur Skalierung seine Unabhängigkeit und europäischen Ansatz beibehält. Wir werden den Weg von Mistral AI weiter beobachten.

KIMI 3: Open Source AI – sehr leistungsfähig, allerdings mit regulativen chinesischen Einschränkungen

Das bild ist mit Mistral AI generiert

Am 12. November 2025 habe ich in einem Blogbeitrag auf KMI 2 Thinking hingewiesen. Nach DeepSeek R1 war KIMI 2 ein weiteres chinesisches Modell das aufgezeigt hatte, dass es möglich ist ein leistungsfähiges Open Source KI-Modell zu entwickeln, das viel weniger Ressourcen – und damit Kosten – erfordert. Der Schwerpunkt des von KIMI 2 Thinking liegt dabei auf „Coding“.

Nun ist mit KIMI 3 ein weiteres Open Source KI-Modell für den 27.07.2026 angekündigt. Wenn man es genau nimmt, ist es ein Open Weight Modell, da die Trainingsdaten nicht frei verfügbar sind. Der Schwerpunkt liegt bei dem Modell wieder auf Coding, allerdings auch auf Knowledge Work (Wissensarbeit).

„Kimi K3 is the first open-source model to reach 2.8 trillion parameters.“ Source: KIMI Platform, accessed 19.07.2026).

In dem Beitrag Moonshot AI zeigt Kimi K3: Open- Source-KI aus China (IT Business vom 17.07.2026 wird auf die Leistungsfähigkeit des Modells hingewiesen („Vorsprung der USA auf chinesische KI-Labore mittlerweile auf nur noch sechs bis neun Monate geschmolzen“).

Weiterhin musss allerdings auch kritisch angemerkt werden, dass chinesische KI Modell (Open Source AI oder nicht) den Vorgaben der chinesischen (und amerikanischen ) Administration unterliegen. In China sind beispielsweise Beiträge zu Taiwan oder zum Tiananmen-Platz usw. reglementiert. Solche Restriktionen schränken die Qualität der generierten Antworten deutlich ein.

Die Chance von Europa ist, Open Source KI-Modelle zu entwickeln, die auch einen niedrigen Ressourcenbedarf haben, ein ähnliches oder bessres Leistungsniveau wie die chinesischen open source Modelle haben, und letztendlich den europäischen Werten entsprechen.

Auf der MCP-Konferenz 2026, 16.-19.09.2026 in Balatonfüred, Ungarn, gehe ich auf solche Entwicklungen ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Der Nutzen von Open Source Software übersteigt die Kosten deutlich

Image by Gerd Altmann from Pixabay

Wenn es um Open Source Software geht (OSS) geht, muss natürlich auch über die anfallenden Kosten gesprochen werden. Dazu zählen beispielsweise Installations- und Supportkosten, Anforderungen an die Lizenzkonformität und um potenzielle Sicherheitslücken. Neben den anfallenden Kosten stellt sich natürlich auch die Frage, wie es mit dem Nutzen von Open Source Software aussieht. In einer Studie von Henry Chesbrough aus dem Jahr 2023 konnte nachgewiesen werden, dass der Nutzen diese Kosten deutlich übersteigt.

„However, the results of this survey are quite consistent with earlier survey research (Nagle, 2019; European Commission, 2021), which shows that the perceived benefits of utilizing OSS significantly exceed these costs for the large majority of organizations that use OSS“ (Chesbrough, H. (2023), Measuring the Economic Value of Open Source: A Survey and a Preliminary Analysi, The Linux Foundation | PDF).

Die wirtschaftlichen Vorteile gehen einher mit einer stärkeren Unabhängigkeit (Digitale Souveränität) und damit verbunden mit einer besseren Widerstandsfähigkeit (Resilienz) der Organisation.

Die in der Zwischenzeit eingetretene Unmündigkeit (Digitale Abhängigkeit) von US amerikanischen digitalen Angeboten, hat einzelne Personen, Organisationen und ganze Öffentliche Verwaltungen in eine Pfadabhängigkeit geführt, aus der viele einfach nicht mehr herauskommen. Denn es ist ja so bequem, unmündig zu sein.

Immanuel Kant schrieb schon 1784 in seiner Streitschrift: „Beantwortung der Frage: Was ist Aufklärung?“: „Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Faulheit und Feigheit sind die Ursachen, warum ein so großer Teil erwachsener Menschen, nachdem sie die Natur längst von fremder Leitung freigesprochen hat, dennoch gerne zeitlebens unmündig bleiben, und warum es anderen so leicht wird, sich zu deren Vormündern aufzuwerfen. Es ist so bequem, unmündig zu sein!“ (Fuchs, J.; Stolorz, C. (2001): Produktionsfaktor Intelligenz. Wiesbaden).

Die Zeit ist reif, sich auf seinen eigenen Verstand zu besinnen, und sich von den aufgebauten digitalen Abhängigkeiten zu lösen. Ganz im Sinne des Wahlspruchs der Aufklärung: „Habe Mut, Dich Deines eigenen Verstandes zu bedienen!

Siehe dazu auch Die erfolgreiche Geschichte von Open Source KI zeigt, wie dieser Weg aussehen kann. Digitale Souveränität: Europa, USA und China im Vergleich.

Künstliche Intelligenz: Der Kill Switch und Digitale Souveränität

Image by Gerd Altmann from Pixabay

Die Abhängigkeiten von US amerikanischen KI-Systemen führt zwangsläufig zu der berechtigten und aktuellen Frage: Was passiert, wenn der Zugang zu wichtigen und modernen KI-Systemen reduziert, oder gar verwehrt wird. Dass dieses Szenario nicht nur theoretisch, sondern praktisch besteht, hat die Anweisung der US Regierung den Zugang zu zu Fable 5 und Mythos 5 auszusetzen gezeigt.

„In der öffentlichen Diskussion ist der „Kill Switch“, also die Einschränkung oder Abschaltung digitaler Dienste für einzelne Personen, Organisationen oder sogar ganze Staaten, ein viel beachtetes Thema. Eine zentrale Rolle spielt dabei US-Präsident Donald Trump, der öffentlich damit gedroht hat, den Zugang zu US-Digitaldiensten, wie denen der Hyperscaler, einzuschränken oder vollständig zu sperren“ (Lünendonk-Studie 2026).

Wenn andere entscheiden, was wir tun dürfen ist das Fremdbestimmung, mit allen Konsequenzen. Wenn wir alles selbst machen könnten, wären wir autark. Zwischen beiden Polen ist die Souveränität (hier: Digitale Souveränität) anzusiedeln:

„Wir sind handlungsfähig und entscheiden selbst, was wir tun“ (ebd.).

Der oben erwähnte Kill Switch, oder auch die Möglichkeit eines Kill Switchs, sollten Treiber für einen selbstbestimmten, an europäischen Werten ausgerichteten offenen Zugang zu digitalen Systemen sein. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

Wie so etwas für innovative Kleine und Mittlere Unternehmen (KMU) in Europa in Bezug auf Künstliche Intelligenz aussehen kann, stelle ich in zwei Paper auf der MCP-Konferenz 2026, vom 16.-19.09.2026 in Balatonfüred, Ungarn, vor:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

FSFE: Free Software Foundation Europe

Quelle: https://fsfe.org/

Auf dem Weg zu mehr Digitaler Unabhängigkeit, oder Digitaler Souveränität, kommt Open Source Software eine besondere Rolle zu. Neben der amerikanischen Free Software Foundation hat sich dazu in 2001 die Free Software Foundation Europe e. V. gegründet (Quelle: Wikipedia). Der europäische Blick auf Open Source Software ist wichtig, da dieser sich von der US amerikanischen und der chinesischen Perspektive unterscheidet. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

„Software ist in allen Aspekten unseres Lebens tief verankert. Freie Software gibt allen das Recht, Programme für jeden Zweck zu verwenden, zu verstehen, zu verbreiten und zu verbessern. Diese Rechte stärken andere Grundrechte wie die Redefreiheit, die Pressefreiheit und das Recht auf Privatsphäre“ (FSFE-Website).

Interessant ist, dass die FSFE ganz bewusst von Freier Software ausgeht und sich damit von Open Source etwas abgrenzen möchte. Der Grund ist, dass der Begriff Open Source in den letzten Jahren immer wieder missbräuchlich verwendet wurde, und es zu einer Art „Verwässerung“ oder „Open Washing“ kam – wie das Beispiel von OpenAI zeigt.

In unseren Beiträgen geht es oft um Open Source, da dieser Begriff den meisten Lesern besser bekannt ist – auch wenn der Hinweis von der FSFE natürlich berechtigt ist.

Open Source Software bietet nicht nur aus wirtschaftlichen Gründen Möglichkeiten, sondern stärkt auch demokratische Grundrechte in Gesellschaften – was gerade in Zeiten von Künstlicher Intelligenz immer wichtiger wird. Siehe dazu auch Die erfolgreiche Open Source KI Geschichte.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Die erfolgreiche Open Source KI Geschichte

Performance of top models on the Arena by select providers.
Source: Arena, 2026 | Chart: 2026 AI Index report (Stanford University 2026)

Open Source Software (OSS) nutzen wir alle schon in vielen Bereichen, da OSS auch in vielen der bekannten kommerziellen, proprietären Angebote enthalten ist. Bei Künstlicher Intelligenz ist das aktuell noch etwas anders. Zu Beginn der Entwicklung gab es einfach nur die bekannten kommerziellen, proprietären KI-Modelle – Open Source KI-Modelle waren gerade einmal bei Freaks bekannt und in standardisierten Tests in ihrer Leistungsfähigkeit unterlegen.

In dieser Zeit haben sich viele an die angebotenen proprietären (kommerziellen) KI-Modelle gewöhnt und es ist zu einer Art Lock-in, zu einer Pfadabhängigkeit gekommen. Aus dieser wieder herauszukommen, fällt vielen Privatpersonen, aber auch Unternehmen, Organisationen schwer, obwohl es sich lohnen würde. Siehe dazu auch Künstliche Intelligenz: Es ist so bequem, unmündig zu sein.

Wie das Beispiel Mistral AI in der Abbildung zeigt, sieht es bei der Leistungsfähigkeit von Open Source KI-Modellen n der Zwischenzeit ganz anders aus – und das bei gleichzeitig weniger Abhängigkeiten, mehr Datenschutz und mehr Transparenz (Digitale Souveränität) Wenn man sich die Entwicklung von Open Source KI ansieht, wird deutlich, wie dynamisch diese seit 2022 ist.

„The historical development of open-source AI demonstrates a shift from closed corporate systems towards distributed, collaborative innovation on a global scale. A landmark precedent was the development of the BLOOM open-source model in 2022, produced by the BigScience consortium, followed by the publication of the powerful open-weight Llama family of models and the release of the Gemma series. A powerful impetus came from Chinese developers’ highly competitive alternative ecosystem Qwen and the release of DeepSeek-V3 and R1. At present, entire regions are also actively contributing to the development of open-weight AI: Mistral in Europe, Falcon in the United Arab Emirates, GigaChat and YandexGPT in the Russian Federation, alongside projects in India, Japan, Republic of Korea and others“ (UN 2026).

Der weltweite Trend zu immer mehr Open Source KI-Modellen zeigt, dass es in Zukunft darauf ankommt, transparente KI-Modelle zu nutzen – it all starts with trust. Um das bekannte open-washing bei KI-Modellen zu erkennen, bietet sich im ersten Schritt die Definition zu Open Source AI an.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in gleich zwei Paper ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

IW Consult (2026): Digitale Souveränität von KMU (Kurzstudie)

Image by Gerd Altmann from Pixabay

Zu dem Thema Digitale Souveränität gerade bei Kleinen und Mittleren Unternehmen (KMU habe ich schon viele Blogbeiträge geschrieben. In der Zwischenzeit wird vielen klar, dass das Thema wichtig ist, sodass es immer mehr ausführliche oder kleine Studien gibt. Ein weiteres Beispiel dafür ist die nun veröffentlichte Kurzstudie IW Consult (2026): Digitale Souveränität von KMU (PDF), in der 5 zentrale Erkenntnisse zusammengefasst wurden:

(1) Digitale Souveränität ist eine Managemententscheidung.

(2) Tragfähige europäische Alternativen sind verfügbar.

(3) Die Umstellung auf souveräne Lösungen ist machbar, aber voraussetzungsreich.

(4) Anschaffungskosten allein greifen bei der Bewertung der Wirtschaftlichkeit zu kurz..
Eine TCO (Total Cost of Ownership)-Betrachtung, welche die laufenden Kosten, versteckte Bindungseffekte und Migrationsaufwände einbezieht, verändert die wirtschaftliche Bewertung digitaler Lösungen grundlegend.

(5) Die Unterstützungslandschaft hat eine solide Basis, aber auch noch Ausbaupotenziale.

Auf der internationalen Konferenz MCP 2026, die vom 16.-19.09.2026 in Balatonfüred, Ungarn stattfinden wird, gehe ich darauf in einem Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Mein zweites Paper:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Local-AGI: Your personal AI agent running entirely in the browser. Private, fast, and autonomous.

https://www.local-agi.com/

Über die Möglichkeiten, Open Source KI-Modelle auf dem eigenen Server zu betreiben habe ich in verschiedenen Blogbeiträgen schon geschrieben. Siehe dazu beispielsweise Digitale Souveränität: Wie kann ein KI-Modell aus LocalAI in den Nextcloud Assistenten eingebunden werden?

So ein System mit Nextcloud und LocalAI ermöglicht schon, autonom mit den eigenen Daten und Open Source KI-Modellen zu arbeiten. Dabei wird allerdings auch deutlich, dass es Abläufe gibt, die automatisiert werden können. Das kann durch Workflows oder KI-Agenten erfolgen. KI-Agenten sind im Gegensatz zu Workflows relativ eigenständig bei den Abläufen zur Problemlösung. Um das zu gewährleisten, und aufbauend auf Nextcloud und LocalAI, kann noch Local-AGI integriert werden.

Local-AGI ist eine auf LocalAI aufbauende Plattform, die speziell für autonome KI-Agenten entwickelt wurde. Es ermöglicht die Erstellung und Verwaltung von KI-Agenten, die Werkzeuge nutzen, Aufgaben autonom ausführen und sogar im Internet suchen können – alles lokal und ohne Cloud-Abhängigkeit. LocalAGI integriert LocalAI als Inferenz-Engine und bietet zusätzliche Funktionen wie eine Wissensdatenbank, Echtzeit-Überwachung und eine Benutzeroberfläche für die Agentenverwaltung (Quelle: GitHub).

LocalAI ist die Basis für lokale KI, während Local-AGI die Agenten-Funktionalität auf Basis von LocalAI bereitstellt. Beide Projekte sind modular und können gemeinsam genutzt werden, um komplexe, autonome KI-Systeme lokal zu betreiben.

In der Abbildung oben ist die Startseite von Local-AGI zu sehen, auf der hinterlegte KI-Modelle im Browser direkt getestet werden können. Unter „Select Models“ sind einige wenige Modelle zu finden, die direkt heruntergeladen werden können. Ich habe das kleinste Modell LFM.5-350M ausgewählt, wobei das Modell im Browser gespeichert wurde, und folgende Eingabeseite erscheint:

Hervorheben möchte ich noch einmal den Text, der gleich am Anfang des Chats erscheint: „Hello! I’m Local-AGI, running entirely in your browser. All processing happens locally on your device – your data never leaves your computer. How can I assist you today?“ Dieser Hinweis ist im Sinne einer eigenen Digitalen Souveränität wichtig.

Durch die Integration von Local-AGI mit LocalAI stehen weitere Modelle zur Verfügung. Im Unternehmen kommt es nicht darauf an, einzelne Anwendungen zu vergleichen, sondern darum, Digitale Souveränität und Resilienz in einem System mit Open Source Software und Open Source AI zu erreichen.

Digitale Souveränität ist angekommen

Vor mehreren Jahren, als wir angefangen haben über eine mögliche Digitale Souveränität für Personen, Unternehmen, in Deutschland und in Europa zu schreiben, haben wir einige Rückmeldungen erhalten die zeigten, dass man diesem (europäischen) Weg keine Chance einräumt, und es als unrealistische Vision einschätzte.

In der Zwischenzeit hat sich gezeigt, dass die vielen aufgebauten Abhängigkeiten der letzten Jahrzehnte in eine Sackgasse auf allen Ebenen geführt haben: Energetische Abhängigkeit, militärische Abhängigkeit, digitale Abhängigkeit usw.

Es ist durchaus erstaunlich, dass viele, die diese Abhängigkeiten selbst herbeigeführt haben, nun nach Souveränität rufen. Die einzigen allerdings, die behaupten können, dass sie auf Digitale Souveränität hingewiesen haben, sind Akteure aus dem Open Source Bereich, denn hier geht es schon immer um Transparenz, Offenheit und Rechtstaatlichkeit.

Diejenigen, die sich aus Bequemlichkeit in die digitale Abhängigkeit begeben haben, müssen jetzt zu hohen Kosten umsteuern, da die Nutzung von den bekannten APPs und KI-Modellen in den Köpfen (auch in den Unternehmen) zu einer Pfadabhängigkeit geführt hat, aus der manche möglicherweise gar nicht mehr herauskommen werden.

Die Überschrift des Blogbeitrags ist vom Newsletter Juni 2026 der Open Source Business Alliance – Bundesverband für digitale Souveränität e.V. entnommen. Die Aussage bezieht sich dabei auf die Erkenntnisse aus dem SCS Summit 2026, der in Berlin stattfand.

„Liebe Leserinnen und Leser,
am 21. Mai 2026 kamen 200 Menschen im bUm Berlin zusammen – und der diesjährige SCS Summit hat bewiesen, dass digitale Souveränität in der Cloud keine Zukunftsvision mehr ist, sondern gelebter Alltag. Vom ersten Moment an war deutlich zu spüren: es wird weniger von Visionen als von klaren Umsetzungen und Mehrwerten gesprochen“ (OSBA SCS Summit 2026).

Die vielen Beispiele zeigen, was alles schon heute möglich ist, und was schon konkret umgesetzt wurde. Informieren Sie sich weiter über die Entwicklung auf dem Gebiet der Digitalen Souveränität und entscheiden Sie, was für Sie als Person und als Organisation umsetzbar ist.

Vergleichen Sie dabei nicht nur die einzelnen Tools, sondern auch, was Sie durch eine Neuausrichtung wieder erhalten: Sie gewinnen wieder die Kontrolle über ihre eigenen Daten – ein unschätzbarer Vorteil.

Fangen Sie an, ihre eigene Digitale Souveränität zurückzugewinnen.

W Social – ein europäischer Konkurrent zu „X“ startet am 17.06.2026

https://wsocial.news/

Als europäische Alternative zu den bekannten Kurznachrichtendienst „X“ etc. startet W Social am 17.06.2026 mit einer Beta-Phase. Der Betreiber kommt aus Schweden und wird den Dienst nach europäischen Recht, und mit verifizierten Personen betreiben. Das sind alles schon erhebliche Unterschiede zu dem Ansatz von „X“, wo es immer mehr Hasskommentare und Desinformationen – auch durch Bots – gibt.

Der SWR hat am 28.05.2026 mit der Geschäftsführerin, Anna Zeiter, ausführlich in einem Podcast gesprochen: W Social: Was steckt hinter der europäischen X-Alternative? Sie finden Prof. Dr. Anna Zeiter hier auf LinkedIn.

Alles ganz im Sinne einer europäischen Digitalen Souveränität.