Es gibt in Europa immer mehr KI-Modelle, die die regionalen, sprachlichen (kulturellen) Unterschiede in ihren Trainingsdaten und ihrem hinterlegten Mindset berücksichtigen.
In der von mir mit Open Street Map erstellten Übersicht, kommt jetzt noch eine weitere Modell-Familie aus Spanien (Barcelona) hinzu. Die Modelle sind fully open source (weights, data and source), eingebettet in das Project Ania und berücksichtigen 35 europäische Sprachen, inkl. der Besonderheiten der katalanischen Sprache (Promoting catalan in the dgital age).
„The Salamandra model is one of the largest open source language models developed in Europe and promotes responsible use of AI, through careful treatment of training data. Specifically, the dataset includes 35 European languages ??with more than 2 trillion tokens. Through the different training epochs, an accurate representation of the different languages ??such as Catalan is guaranteed. All training data as well as evaluations and limitations of the model are available in the information of each model in Hugging Face“ (Projecte Aina, 2025).
Solche Entwicklung können Kleine und Mittlere Unternehmen (KMU) in der Europäischen Union fürinnovative Produkte und Dienstleistungennutzen. Mit der regionalen Sprache und dem damit verbundenen kulturellen Mindset, sind solche Angebote näher an der Realität der Kunden.
Meine in Open Street Map (OSM) aktualisierte Übersicht zu Open Source AI in Europe
Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in einem Paper ein.
Dazu ist es allerdings empfehlenswert, für Local AI nicht den Server zu nutzen, auf dem Nextcloud läuft. Ein weiterer Server ist allerdings gerade für Kleine und Mittlerer Unternehmen (KMU) ein Aufwand, den viele scheuen. Wie kann es also kostengünstiger gehen?
In der Zwischenzeit gibt es von Mistral AI in der Model-Familie Mistral 3 auch das Modell Ministral 3B (inkl. Vergleichstabellen), das mit seiner Leistungsfähigkeit sogar das Modell Mistral 7B übertrifft, weil Ministral 3B sehr kompakt ist und gerade für die Nutzung auf normalen Laptops entwickelt wurde (Edge Computing).
Wie kann man Ministral 3B auf seinem eigenen Laptop nutzen?
(1) Um das Modell bequem zu nutzen, bietet sich die App Ollama an, die Sie zunächst auf Ihrem Laptop installieren.
(2) Nun laden Sie Ministral 3B auf Ihren Laptop herunter. Wenn Sie Windows 11 installiert haben geht das wie folgt: Tastenkombination Windows-Taste + R drücken, cmd in das Textfeld eingeben und mit Enter bestätigen. Mit dem Befehl ollama run ministral-3:3b wird das Modell (3GB) heruntergeladen.
(3) Das KI-Modell können Sie anschließend direkt in der Ollama-Oberfläche in einem Rollfeld auswählen. In der Abbildung sehen das rechts unten mit einem roten Rechteck hervorgehoben.
(4) In meinem Fall habe ich Ministral 3B eine komplexe Frage zu Open User Innovation aus der Perspektive von Eric von Hippel gestellt, die zügig und gut beantwortet wurde.
Die Nutzung eines Open Source KI-Modells (Open Weight Models) auf dem eigenen Laptop bietet für Freelancer oder Kleinen Unternehmen die Möglichkeit, leistungsfähige KI-Modelle auf Ihrer eigenen Infrastruktur ohne zusätzliche Kosten zu nutzen.
Gleichzeitig ist Ministral 3B ein Modell, dass auf dem Open Source Gedanken beruht, europäische KI- und Datenschutz- Standards beachtet und somit einen wichtigen Schritt in Richtung der eigenen Digitalen Souveränität aufzeigt.
Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:
Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs
Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework
Nach den großen KI-Sprachmodellen (LLM: Large Language Models), den kleineren Modellen (SLM: Small Language Models), den Mixed of Experts (MoE) Models sind seit einiger Zeit KI-Agenten im Fokus der Anbieter, Anwender und Forscher.
Nach dem ersten Hype um KI-Agenten mit Aussagen wie „KI Agenten ersetzen Mitarbeiter“ oder „KI-Agenten erhöhen die Produktivität“ usw. ist in der Zwischenzeit eine gewissen Ernüchterung eingetreten.
Ein weiterer Aspekt ist, dass die KI-Agenten eine Eigendynamik entwickeln, die von den Tech-Konzernen nicht mehr kontrolliert werden kann. Dazu haben Sie sicherlich auch in den einschlägigen Medien die Berichte über KI-Agenten gelesen, die „von sich aus“ andere Unternehmen und Organisationen gehackt haben. Beispielhaft sei hier nur die Meldung von der Tagesschau vom 22.07.2026 genannt: KI von OpenAI steuert eigenständig Hackerangriff – und nein, das ist kein Einzelfall.
Dass Unternehmen so sorglos mit dieser Entwicklung umgehen ist bemerkenswert, denn: Wer trägt den angerichteten Schaden? Möglicherweise entsteht der Schaden auch noch viel später und kann gar nicht mehr auf die Ursache zurückgeführt werden. Die in der Softwarebranche übliche Vorgehensweise, unfertige Software auf den Markt zu bringen und durch die Anwendung der Nutzer zu optimieren, ist im Zusammenhang mit KI-Agenten nicht sehr intelligent.
In der Forschungslandschaft haben schon viele Forscher auf die Tücken von KI-Agenten hingewiesen, doch werden solche Erkenntnisse oftmals von den Tech-Konzernen als störend für das Geschäftsmodell empfunden. Es ist allerdings die Aufgabe von Forschern, ohne Rücksicht auf die ohnehin einseitigen wirtschaftlichen Interessen von Unternehmen, auf wichtige Erkenntnisse hinzuweisen.
Beispielhaft möchte ich dazu die folgende Veröffentlichung nennen. Die Ergebnisse zeigen, wie chaotisch und teilweise gefährlich die Zusammenarbeit der KI-Agenten verlief.
„Observed behaviors include unauthorized compliance with non-owners, disclosure of sensitive information, execution of destructive system-level actions, denial-of-service conditions, uncontrolled resource consumption, identity spoofing vulnerabilities, cross-agent propagation of unsafe practices, and partial system takeover“ (Shapira, N. et al. 2026 Agents of Chaos. Available from https://arxiv.org/abs/2602.20021).
Auf Basis guter wissenschaftlicher, transparenter und nachvollziehbarer Arbeit, haben die Forscher auf der dazugehörenden Website (Abbildung) die Vorgehensweise, die verwendeten KI-Agenten und die generierten Daten veröffentlicht. Es kann sich somit jeder ein eigenes Bild von dem Chaos der Agenten machen. Nicht umsonst heißt der Titel der Veröffentlichung und der dazugehörenden Website Agents of Chaos.
Es wäre gut, wenn einzelne Personen, Unternehmen und Öffentliche Verwaltungen nicht blind den Marketingversprechen der Konzerne folgen, sondern auch wissenschaftliche Erkenntnisse in ihre Entscheidungen zu KI einbeziehen würden.
Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf solche Zusammenhänge ein:
Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs
Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework
Deutschland entwickelt sich immer mehr zum Treiber beim Einsatz von Open Source Software in Europa. Der nun veröffentlichte Report der Europäischen Kommission stellt die verschiedenen Aktivitäten übersichtlich und strukturiert dar. Interessant dabei ist, dass gerade Öffentliche Verwaltungen als Vorbilder für den sinnvollen Einsatz von Open Source Software hervorgehoben werden.
„At the local level, states and cities have played a consistent role in advancing open source adoption, often ahead of the federal government. Schleswig-Holstein has been a leading example, developing a clear open source strategy that other states have drawn on. Thüringen and Munich are also significant actors. Munich’s trajectory is particularly notable: the city was an early adopter of open source software, before going back to proprietary software in 2017. Munich has since come back to open source software to reduce dependencies and strengthen its digital autonomy, reflecting a broader shift in political and practical conditions“ Source: European Commission (2026) Open Source Software Country Intelligence Report Germany 2026 | PDF
Die stärkere Nutzung von Open Source Software sollte der erste Schritt sein, sich von den kommerziellen Anwendungen etablierter Tech-Konzerne unabhängiger zu machen. Wie wir wissen, ist das schon für viele eine große Hürde, da sich Personen und Organisationen in eine Pfadabhängigkeit begeben haben. Der Aufwand, sich nun Open Source zuzuwenden, ist nicht wegzudiskutieren, doch übersteigt der Nutzen von Open Source Software die Kosten deutlich.
Weiterhin sollte berücksichtigt werden, dass Open Source Software auch bedeutet, mehr Open Source AI (Open Source Künstliche Intelligenz) einzusetzen. Es macht keinen Sinn, für die Standardabläufe in der Organisation auf Open Source Software zu setzen, und weiterhin proprietäre KI-Modelle zu nutzen. Siehe dazu auch Die erfolgreiche Open Source KI Geschichte.
Es geht somit darum, auf der persönlichen Ebene, auf der Teamebene und auf der organisationalen Ebene ein auf Open Source basierendes Gesamtsystem zu nutzen, um Digitale Souveränität, und damit verbunden eine gewisse Resilienz gegenüber dem turbulenten Umfeld zu erzielen.
Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:
Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs
Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework
UN (2026) Preliminary Report of the Independent International Scientific Panel on AI https://www.un.org/independent-international-scientific-panel-ai/en/preliminary-report
In dem Beitrag Das Kontinuum zwischen Closed Source AI und Open Source AI hatte ich darauf hingewiesen, dass es zwischen den Polen Closed Source AI (Proprietary Models) und Open Source AI ein Kontinuum gibt. In der Abbildung ist dazu beispielhaft die Kategorie Open Weight AI Models positioniert.
Alleine der Vergleich dieser drei Kategorien zeigt, dass Open Source Models im Vergleich zu den dominierenden Proprietary Models und Open Weight Models erhebliche Vorteile haben. Es wundert daher nicht, dass in den letzten Jahren ein deutlicher Trend zu Open Source AI Models zu erkennen ist. Dominiert wird der Markt allerdings (noch) von den KI-Modellen, die von großen Unternehmen entwickelt wurden.
„Business-led development. The development of frontier, general-purpose AI models is dominated by a small number of private firms with massive computing resources. In 2025, 91% of notable AI models originated from the private sector. Consequently, many decisions about training data, safeguards, deployment thresholds, model access and capability release sit inside private firms“ (UN 2026).
Interessant an der Abbildung oben ist, dass noch eine weitere Spalte zu erkennen ist: Open Development AI Models. Diese Kategorie ist (noch) sehr selten, obwohl gerade dieser Ansatz die größten gesellschaftlichen Vorteile verspricht. In Europa haben wir in dieser Richtung mit EuroLLM, Teuken 7B oder auf SOOFI vielversprechende Entwicklungen. Siehe dazu auch Open Street Map: Europäische Open Source KI Modelle in den jeweiligen Landessprachen.
Auf der internationalen Konferenz MCP 2026, 16.-19.09.2026, Balatonfüred, Ungarn gehe ich auf diese Zusammenhänge in zwei meiner Paper ein.
Abstract structure and delineation of an AI system. Source: Fraunhofer IAIS Assessment Catalogue (2021) (MISSION AI 2025)
Es gibt Millionen von KI-Modellen bei denen manchmal nicht klar ist, ob man ihnen als Privatperson, als Unternehmen oder als Öffentliche Verwaltung trauen kann. Denn: It all starts with trust.
Wenn dem so ist, stellt sich natürlich gleich die Frage, wie Vertrauenswürdigkeit bei KI-Modellen eingeschätzt und bewertet werden kann.
Zunächst einmal muss so eine Vorgehensweise von neutralen Stellen und nicht von den Unternehmen selbst durchgeführt werden. Auch die Kriterien sollten natürlich transparent und offen sein.
Solche Initiativen gibt es seit einigen Jahren auf internationaler und nationaler Ebene. International befasst sich die IEEE 8000.1 Working Group mit der Vertrauenswürdigkeit von Künstlicher Intelligenz. In Deutschland ist es seit 2023 die MISSION AI, die ein entsprechendes Rahmenwerk entwickelt.
Es ist schon erstaunlich, wie schnell sich alles ändern kann. Vor mehreren Jahren, als ich auf Konferenzen die Digitale Abhängigkeit von amerikanischen Tech-Konzernen gerade bei der Nutzung von Künstlicher Intelligenz angesprochen hatte, wurde der Hinweis eher belächelt.
In der Zwischenzeit ist in Europa der Gedanke einer Digitalen Souveränität nicht nur als neue Einstellung angekommen, sondern ist in vielen Bereichen schon zu erkennen, dass die Einstellung in Handlungen umgesetzt werden. Das ist nicht eine von mir formulierte Wunschvorstellung, sondern kann in der Zwischenzeit durch aktuelle Zahlen bestätigt werden.
„Digitale Souveränität wandelt sich innerhalb eines Jahres von einer Frage der Einstellung zu einer Frage der Umsetzung. Fast doppelt so viele Unternehmen in Deutschland befinden sich 2026 aktiv in der Einführung europäischer Software-Lösungen: 39,7 Prozent gegenüber 20,4 Prozent im Vorjahr. Der Anteil derer, die einen Wechsel innerhalb der nächsten sechs Monate planen, steigt von 3,9 Prozent auf 20,4 Prozent um über 400 Prozent. Gleichzeitig bricht der Anteil der Entscheider, die keine europäische Software einführen wollen, von 47,7 auf 4,6 Prozent fast komplett ein. Die Zahl der Unentschlossenen sinkt von 17,4 auf 3,9 Prozent. Eine klare Kehrtwende“ MYRA Security GmbH (2026) Unchartered Waters. State of Digital Sovereignty 2026 (PDF).
Wenn man sich mit dem Begriff der Souveränität beschäftigt, kann man bis zum 16. Jahrhundert zurückgehen. Dabei ging es zunächst um die Rolle des Souverän als Gewaltmonopol, mit Bodin (1530–1596) als Vordenker. Doch gibt es auch einen Bezug zu Souveränität, wenn wir uns die Entwicklung des Seerechts ansehen.
Durch die globale Vernetzung über die Weltmeere kam es schon im 15. Jahrhundert immer wieder zu Auseinandersetzungen, obwohl sich Spanien und Portugal in dieser Zeit im Vertrag von Tordesillas (1494) die Weltmeere aufgeteilt hatten. Es waren dabei zwei souveräne Meere entstanden, die von dem jeweiligen Land beansprucht wurden. In diesem Sinne kam es also zu jeweils geschlossenen Meeren: Lateinisch: Mare Clausum – Englisch: Closed Sea.
Um die dadurch immer wieder auftretenden Konflikte zu lösen, schlug Hugo Grotius vor, die Meere als offene Meere zu sehen, die allen zur Verfügung stehen sollten. Er veröffentlichte „1609 die Schrift Mare Liberum, die das niederländische Begehren eines freien Handels zur See unterstützt und juristisch begründet“ (Quelle: Wikipedia). Lateinisch: Mare Liberum – Englisch: Open Sea. „Der Teil der Weltmeere, der außerhalb einer Dreimeilenzone lag (Seemeile, 1852 m), galt als internationales Gewässer“ (Internationale Gewässer).
„Damals stand Mare Clausum – das geschlossene Meer – gegen Mare Liberum. Europa will keine Isolation und keinen „Konflikt“ gegen amerikanische oder asiatische Technologie. Es will verhindern, dass kritische digitale Infrastruktur faktisch in fremden Hoheitszonen gefangen bleibt. Die Forderung Europas nach digitaler Souveränität bedeutet in diesem Sinne dasselbe, was Grotius damals forderte: offene Räume, faire Regeln und echte Wahlfreiheit. Freiere digitale Weltmeere für eine neue Generation von Händlern“ (MYRA Security GmbH, 2026).
Ich kann mir hier die Analogie zu Closed Source AI und Open Source AI nicht verkneifen, auch wenn der Vergleich etwas hinkt. Dennoch: Open Source AI ist der zukunfsträchtigere Weg, Künstliche Intelligenz für alle Nationen und ihren Menschen nutzbar zu machen.
Eigene Open Street Map: https://umap.openstreetmap.de/de/map/open-source-ai-in-europe_148154
In den letzten Monaten habe ich über viele Open Source KI-Modelle in Europa geschrieben, die in der (oder den) spezifischen Landessprachen trainiert wurden. Die Links zu den jeweiligen Modellen habe ich nun zusammen mit dem Hinweis auf meinen dazugehörenden Blogbeitrag in Open Street Map (bewusst nicht in Google Maps) in einer eigenen Karte eingetragen (Abbildung).
Den Marker für ein Modell ist der Landeshauptstadt zugeordnet. Modelle, die alle europäischen Sprachen berücksichtigen, sind mit einem Marker auf Brüssel versehen.
Klicken Sie auf das Bild und Sie kommen direkt zu meiner angelegten Open Street Map.
Die erste Übersicht zeigt deutlich, wie vielfältig die Landschaft für Open Source KI-Modelle in Europa geworden ist. Ich bin sicher, die Modelle werden in Zukunft immer mehr von Privatpersonen, Kleinen und Mittleren Unternehmen (KMU), oder Öffentlichen Verwaltungen genutzt, da Transparenz (Offene Modelle), kulturelle Bezug (Landestypische Sprache) und die geringen Kosten (frei verfügbar) starke Argumente sind.
Wenn bei der Auswahl der KI-Modelle noch hinzukommt, dass Digitale Souveränität und Resilienz immer wichtiger werden, geht kein Weg an europäischen Open source KI-Modellen vorbei.
Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:
Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs
Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework
Es ist erstaunlich, dass es vielen Privatpersonen, Unternehmen und Öffentlichen Verwaltungen immer noch schwer fällt, sich von den kommerziellen Software-Angeboten zu lösen, um Digitale Souveränität zu erreichen Der Grund ist oftmals eine Gewöhnung an die jeweiligen Tools und damit auch eine gewisse Abhängigkeit.
Ein Wechsel zu Open Source Software wäre für viele mit Aufwand verbunden. Solche Switching Cost sind mit der Zeit von den etablierten Software-Unternehmen nach und nach immer weiter erhöht worden. Siehe dazu auch Es ist so bequem, unmündig zu sein.
Darüber hinaus gibt es auch Vorbehalte gegenüber Open Source Software, obwohl die Codebasis von Software sage und schreibe zu 97% Open Source Software enthält – auch kommerzielle Software.
„According to the 2025 Black Duck Open Source Security and Analysis Report, 97% of codebases scanned contained open source software“ (Carlber, A. N (2026) Open Source in Europe Amid Geopolitical Tensions, in Eclipse Foundation).
Wenn also fast alle Software zu einem so großen Anteil aus Open Source Software in ihrer Codebasis bestehen, sollten sich alle einmal überlegen, ob die Vorbehalte gegenüber Open Source Software heute noch angebracht sind.
