Freund, R., Anisic, Z. (2026): Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs – Abstract

Freund, R., Anisic, Z. (2026): Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs, in Anisic, Z., Forza, C. (Eds): Proceedings of the 12th International Conference on Customization and Personalization, September 17-18, 2026, Balatonfüred, Hungary, pp. 86-95 · 17. Sep. 2026

Abstract: Digital sovereignty is increasingly critical for innovative small and medium-sized enterprises (SMEs) in Europe, particularly as dependence on proprietary cloud AI systems raises concerns around data control, transparency, and cost predictability. This paper examines how European SMEs can design resilient, AI-driven innovation processes while preserving full control over their data and infrastructure. Drawing on a conceptual framework supported by proof-of-concept implementations, we analyse Europe’s rights-based approach to AI governance under the EU AI Act and contrast it with the market-oriented model of the United States and the state-controlled paradigm of China. We then demonstrate, step by step, how a coherent digital sovereignty stack, comprising Nextcloud as a sovereign collaboration platform, LocalAI for on-premise model deployment, European open-source large language models (including Teuken-7B and EuroLLM), open data sources, and open-source AI agents coordinated via the Model Context Protocol (MCP) can be integrated to support all four stages of the SME innovation process. Challenges including hidden implementation costs, AI hallucinations, vendor lock-in, and the need for Explainable AI (XAI) are critically discussed. The paper concludes with a scalable, layered framework enabling European innovative SMEs to achieve AI-driven innovation with full digital sovereignty.

Digitale Souveränität: Nextcloud und Olmo 3 – a perfect match

Nextcloud nutzen wir schon lange als Alternative zu den bekannten Microsoft-Anwendungen. In Nextcloud ist es auch möglich, KI-Modelle zu integrieren. Im Vergleich zu Microsoft kann man auswählen, welches KI-Modell man nutzen möchte.- ein großer Vorteil.

Im Sinne einer Digitalen Souveränität ist es dabei natürlich sinnvoll, auf Open Weight Modelle wie Mistral AI zu setzen, oder sogar ein Open Source Modell wie Ollmo 3 zu nutzen. Es wundert daher nicht, dass Nextcloud Ollmo 3 mit einem grünen Rating versehen hat (Siehe dazu auch die von mir erstellte OpenStreetMap zu geeigneten Modellen aus Europa).

“We deeply believe in the four freedoms of free software and are convinced that being able to inspect and reproduce how the model was built is vital,” says Marcel Klehr, a software engineer at Nextcloud (Ai2 (2026) How Olmo 3 earned the highest ethical rating from Nextcloud, via LinkedIn, 02.11.2026).

Wenn Sie Nextcloud über Ihren eigenen Server betreiben, können Sie die llm-App installieren. Dort sind verschiedene LLMs zu finden, u.a. auch Ollmo 3. Nextcloud selbst nutzt Olmo 3 für verschiedene Funktionen des Nextcloud Assistenten. Die ethische Bewertung „grün“ bedeutet, dass alles quelloffen ist, auch die Trainingsdaten.

Wenn Sie Nextcloud nicht auf Ihrem eigenen Server, sondern beispielsweise IONOS Nextcloud Workspace nutzen, sind Sie hier eher etwas eingeschränkt. Dennoch ist es möglich, über die Ollama-App und die Langlow-App das KI-Modell Olmo 3 zu integrieren.

Gerade für Einzelpersonen, Kleine und Mittlere Unternehmen (KMU) bieten sich hier vielfältige Möglichkeiten auf Digitale Souveränität zu setzen und ein eigenes Open Source basiertes KI-basiertes System aufzubauen. Siehe dazu auch

Freund, R., Anisic, Z. (2026): Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs. International Conference MCP 2026, 16.-19.09.2026, Balatonfüred, Hungary.

Künstliche Intelligenz ist kein neutraler Interaktionspartner

Speech bubbles, blank boards and signs held by voters with freedom of democracy and opinion. The review, say and voice of people in public news adds good comments to a diverse group.

In meinem Blogbeitrag vom 24.10.2026 ging es um Cyberself und Personalisierung. Dabei wurde herausgestellt, dass Menschen und KI-Systeme durchaus mehrere „Persönlichkeiten“ haben können, wobei der Begriff bei Menschen und KI-Modellen unterschiedlich ist.

Wenn Menschen also KI-Modelle als Interaktionspartner nutzen, passen sich die KI-Systeme dem Nutzer an, wodurch eine Art Zuschreibung einer „Persönlichkeit“ durch den Nutzer entsteht. Manche Nutzer schreiben das KI-Modell auch in damit verbundenen Texten (Prompts) an.

Dadurch entsteht eine Interaktion der Bestätigung, die kritische oder konfliktträchtige, emotionale – eben menschliche – Interaktionen verkümmern lässt. Treffen die Personen, die ihre KI-Modelle und -Agenten als Partner sehen, auf die reale menschliche Welt, kann es zu antisozialen Reaktionen kommen.

„Zusammengefasst ist KI kein neutraler Interaktionspartner, sondern ein sozial wirksamer Akteur, dessen Effekte maßgeblich durch seine Funktionslogik, sein Trainingsziel und sein Interaktionsdesign bestimmt werden. Anwendungen, die primär auf Zustimmung und Konfliktvermeidung ausgelegt sind, riskieren langfristig eine Schwächung der Selbstreflexion, Perspektivenvielfalt und sozialen Konfliktfähigkeit sowie eine Verschiebung sozialer Bindungen weg von menschlichen Beziehungen. Aufklärung über Konsequenzen und die Stärkung individueller Kompetenzen sind zentral“ (Glöckner et al., 2026).

Es kommt daher bei der Nutzung von Künstlicher Intelligenz auch darauf an, Modelle zu nutzen, die transparent und frei verfügbar sind – eben den Anforderungen von Open Source AI (Definition) entsprechen. Siehe dazu auch Mit proprietärer Künstlicher Intelligenz (KI) kauft man sich auch die Denkwelt der Eigentümer ein.

Es bieten sich daher verschiedene europäischen KI-Modelle an (Open Weight und Open Source), die ich auf einer Open Street Map zusammengetragen habe:

Ausschnitt aus der Open Street Map zu europäischen KI-Modellen
https://umap.openstreetmap.de/de/map/open-source-ai-in-europe_148154#6/49.952292/9.706089

Digitale Souveränität: Immer mehr junge Menschen interessieren sich für Open Source Anwendungen

Gerade bei jungen Menschen ist es angesagt, die bekannten proprietären Software-Anwendungen zu nutzen. Man zeigt, dass man IN ist, wenn man als junger Mensch beispielsweise die neuen KI-Modelle der großen Tech-Konzerne nutzen kann. Man glaubt, damit auch bessere Chancen auf dem Arbeitsmarkt zu haben.

In der Zwischenzeit gibt es allerdings in der Gesellschaft durchaus auch ein Umdenken in Richtung Open Source Anwendungen. Der Grund ist, die technologische, digitale Abhängigkeit Europas von den USA und China, die zu vielfältigen Problemen führen kann (Kill Switch). Siehe dazu auch Digitale Souveränität: Europa, USA und China im Vergleich.

Europa ist daher seit einiger Zeit auf dem Weg zu einer eigenen Digitalen Souveränität, die natürlich nicht von heute auf morgen erreichbar ist. Dennoch ist dieser Schritt erforderlich und basiert auf Open Source Anwendungen.

Es fehlen allerdings Kompetenzen zu Open Source Software und Open Source Hardware (Skill Shortage), da sich in der Vergangenheit zu wenige Menschen für diese Themen interessiert haben. Für viele überraschend, begeistern sich heute immer mehr junge Menschen für Open Source Lösungen.

„Denn junge, gut ausgebildete IT-Expert:innen haben immer öfter kein Interesse daran, sich auf eine intransparente Blackbox-Anwendung zu spezialisieren. Stattdessen ist ihr Interesse an Open-Source-Lösungen gestiegen, ebenso wie der Anspruch, mit der eigenen Arbeit nicht nur zu wirtschaftlichem Erfolg sondern auch zum Gemeinwohl beizutragen“ OSBA (2026): Open Source ist Schlüsselrolle für Staat und Wirtschaft.

Da immerhin 264 Milliarden Euro von europäischen Organisationen pro Jahr für nicht-europäische Technologien ausgeben werden, entsteht in Zukunft ein großer Markt, wenn wir mehr auf europäische Technologien setzen. Alleine wenn nur 30% von 264 Milliarden Euro in den kommenden Jahren ersetzt werden könnten, wären das auf europäischer Ebene fast 80 Milliarden Euro pro Jahr – mit steigender Tendenz.

EU Score: KI-Modelle und Open Source Anwendungen aus europäischer Sicht bewerten

https://eu-score.tech/

Es ist nicht ganz einfach, sich ein Bild von den ganzen KI-Möglichkeiten zu verschaffen. Es ist erforderlich, eine bestimmte Perspektive einzunehmen, um Bewertungen vorzunehmen. Die Plattform EU Score hat in 2025 damit angefangen, immer mehr Anwendungen aus dem Tech-Umfeld aus der Perspektive der Europäischen Union zu bewerten.

Die Dimensionen sind Population Sovereignty Equity Sovereignty, Supplier Sovereignty, Value Sovereignty und Webserver Sovereignty. Aus den einzelnen Zahlen wird dann ein Gesamtwert für die Souveränität der Europäischen Union ermittelt. In der Abbildung ist oben rechts ein gelb hinterlegter Wert von über 63,2% zu zu sehen.

Wenn ich in das Suchfeld „mistral“ eingebe (Abbildung), erscheint für Mistral Vibe (Mistral AI) der EU Score 541. Wenn ich in das Suchfeld „claude“ von Antropic eingebe, erhalte ich den EU Score 1. Das ist jetzt kein Schreibfehler! Die Unterschiede zwischen den beiden KI-Modellen sind aus europäischer Sicht frappierend. Ähnlich ist es auch bei dem Vergleich von Microsoft Office und Nextcloud usw.

Die Plattform ist eine interessanter Einstieg, um sich die großen Unterschiede zwischen den angebotenen Markt-Alternativen klar zu machen. In der Abbildung ist rechts unten weiterhin zu erkennen, dass man auch nur Open Source Anwendungen betrachten und analysieren kann.

Eine Paper zur Methode habe ich bisher allerdings nicht gefunden. Für Außenstehende wäre eine fundierte wissenschaftliche Begründung und Ableitung der verwendeten Methode klarer und transparenter, was wiederum mehr Vertrauen schaffen würde. It all starts with trust!

Dennoch halte ich die Plattform für ein geeignetes Instrument, für sich selbst, für Organisationen eine Diskussionsgrundlage für die eigene Digitale Souveränität zu schaffen.

264 Milliarden Euro geben europäische Organisationen pro Jahr für nicht-europäische Technologien aus

Image by Willfried Wende from Pixabay

Es ist bekannt, dass alleine der Bund pro Jahr ca. 500 Millionen Euro alleine an Microsoft-Lizenzen bezahlt. Weniger bekannt ist, dass auf der europäischen Ebene die Beträge sehr viel höher sind, wenn wir digitale Technologien insgesamt betrachten. Es sind sage und schreibe 242 Milliarden Euro, die europäische Organisationen pro Jahr für nicht-europäische Technologien ausgeben. Auf der Seite von EuroCommons sind dazu insgesamt 11 kritische Komponenten genannt.

€264bn spent every year by European organisations on non-European digital technologies.

A call to large European public and private organisations and to open source vendors to join collective working groups — coalitions — to plan, prepare, finance and execute concrete migrations away from proprietary software dependencies. Together. In project mode. With peers facing the same problems.

Source: EuroCommons (abgerufen am 26.08.2026)

Es ist natürlich weltfremd, wenn man von heute auf morgen alle technologischen Abhängigkeiten durch europäische Lösungen ersetzen wollte, doch wird seit einiger Zeit mehr umgesetzt, als man es noch vor wenigen Jahren gedacht hat.

Wie wäre es, wenn man auf europäischer Ebene nur 50% der 264 Milliarden Euro, also immerhin 132 Milliarden Euro, in europäische Technologie investieren würde?

Beispielsweise ersetzen immer mehr Open Source Lösungen wie Nextcloud, OnlyOffice usw. die bekannten Microsoft-Produkte und auch auf der Ebene der Künstlichen Intelligenz gibt es sehr viele europäische, ja sogar länderspezifische Open Source KI-Modelle. etc. Siehe dazu auch Open Street Map: Europäische Open Source KI Modelle in den jeweiligen Landessprachen.

Neben der wirtschaftlichen Komponente ist allerdings auch ein möglicher Kill Switch ein bedeutender Treiber für die Entwicklung zur Digitalen Souveränität.

„In der öffentlichen Diskussion ist der „Kill Switch“, also die Einschränkung oder Abschaltung digitaler Dienste für einzelne Personen, Organisationen oder sogar ganze Staaten, ein viel beachtetes Thema. Eine zentrale Rolle spielt dabei US-Präsident Donald Trump, der öffentlich damit gedroht hat, den Zugang zu US-Digitaldiensten, wie denen der Hyperscaler, einzuschränken oder vollständig zu sperren“ (Lünendonk-Studie 2026).

Durch die Nutzung von Open Source Anwendungen im Rahmen europäischer Werte und Normen können neue, innovative Ansätze entstehen, die sich von den chinesischen und US-amerikanischen Vorgehen unterscheiden. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

Wie so etwas für innovative Kleine und Mittlere Unternehmen (KMU) in Europa in Bezug auf Künstliche Intelligenz aussehen kann, stelle ich in zwei Paper auf der MCP-Konferenz 2026, vom 16.-19.09.2026 in Balatonfüred (Ungarn) vor:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Open Source AI: Das Modell Olmo 1B auf dem eigenen Laptop nutzen (Edge Computing)

https://allenai.org/olmo

Das Allen Institute Ai2 ist eine non-profit Organisation mit Sitz in Seattle. Sie hat sich das Ziel gesetzt, Open Source AI Modelle für allgemeine oder spezielle Anwendnungen bereitzustellen. Die Modelle sind also keine Open Weight, sondern wirkliche Open Source Modelle.

In diesem Beitrag soll es um das Olmo-Modell 1B gehen, das so klein und dennoch leistungsstark ist, dass es auf einem handelsüblichen Laptop laufen kann (Edge Computing). Da ich die Ollama-App auf meinem Laptop installiert habe, konnte ich das Modell mit dem folgenden Befehl (cmd) unter Windows 11 herunterladen. Der Vorteil einer aktuellen Version der Ollama-App ist, dass diese schon GGUF-Modelle nutzen kann:

ollama run hf.co/NikolayKozloff/AMD-OLMo-1B-Q8_0-GGUF:latest

Nachdem der Download abgeschlossen war, wurde mir das Modell in der Ollama-App sofort in den Auswahlmöglichkeiten angezeigt – allerdings als Olmo 2 (Abbildung). Der Grund liegt in der Architekturverwandtschaft der Modelle und der Benennung bei Huggingface. Ai2 hat das Modell Olmo 1B auf Basis von Olmo 2 für das Edge Computing optimiert.

Screenshot aus der Ollama-App mit OLMo2 (OLMo 1B) und einer Abfrage zu Open User Innovation

Meine Frage nach Open User Innovation wurde zügig und gut beantwortet. Es ist schon erstaunlich, dass so kleine Modelle auf dem eigenen Laptop problemlos laufen und auch noch brauchbare Antworten liefern.

Gerade für Kleine und Mittlere Unternehmen (KMU) stellen Open Source KI-Modelle eine gute Basis dar, unabhängiger von den großen KI-Modellen zu werden, denn für viele Anwendungen reichen auch kleine Modelle aus. Gerade wenn man diese dann noch mit den eigenen Daten nutzt und diese dann auf dem eigenen Laptop bleiben – ein unschätzbarer Schritt in Richtung der Digitalen Souveränität. Siehe dazu auch

Die neue Olmo3 Modell-Familie

Open Source AI: Molmo 2 mit Schwerpunkt auf Videos

Mit FlexOlmo Trainingsmodelle kollaborativ erarbeiten – eine interessante Idee

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Präsentationen ein.

Intelligence per Watt: Gelieferte Intelligenz und Ressourcenverbrauch

Saad-Falcon et al. (2025)

Aktuell wird weltweit sehr viel Geld für große Rechenzentren eingesammelt und investiert. Die Story ist, dass große KI-Modelle sehr große Rechenkapazitäten benötigen, um riesige Datenmengen zu bearbeiten und um schnelle Antwortzeiten für immer mehr Nutzer zu liefern. Ganz im Sinne von je größer umso besser. Ob diese Story ein gutes Ende haben wird bleibt abzuwarten. Siehe dazu Künstliche Intelligenz: Enormer Ressourcenverbrauch großer KI-Modelle.

Parallel dazu gibt es eine Entwicklung, die auf dezentrale Systeme setzt und die Rechenleistung von vielen lokalen Hardwarestrukturen nutzen möchte. Solche lokalen KI-Anwendungen (Local AI) werden nachweislich immer beliebter. Das hat mehrere Gründe: (1) Einerseits sind es natürlich auch die immensen Kosten, die gerade Kleine und Mittelständische Unternehmen (KMU) kaum mehr kalkulieren können (Stichwort: Abrechnung in Token), (2) Datensicherheit und Digitale Souveränität, (3) Zukunftsfähigkeit eines eigenen KI-Systems, das auf Open Source AI setzt.

Nun kann man anführen, dass die lokal ausführbaren Open Weight und Open Source KI-Modelle nicht so leistungsfähig sind, im Vergleich zu den proprietären KI-Modellen. Dass dem nicht mehr so ist, zeigt unter anderem der AI Report 2026 der Stanford University. Siehe dazu auch Anteil US amerikanischer KI-Modelle geht weltweit zugunsten von Open Source AI zurück.

Weiterhin gibt es einen Trend, spezialisierte (kleine) KI-Modelle in einem Router je nach Anwendungsfall zu kombinieren. Nicht zuletzt reichen lokale KI-Modelle für Standardanfragen oftmals völlig aus.

„Local LMs are capable and improving rapidly: Local LMs can accurately respond to 88.7% of single-turn chat and reasoning queries, with accuracy improving 3.1× from 2023-2025“ (Saad-Falcon et al., 2025).

Ein weiterer interessanter Aspekt ist, dass die Forscher um Saad-Falcon eine neue Messgröße vorschlagen: Intelligence per Watt (IPW). Es geht um den Zusammenhang zwischen „gelieferter Intelligenz“ und den dafür benötigten Ressourcenverbrauch.

„intelligence-per-watt—a metric that quantifies how effectively inference systems convert energy into useful computation.

IPW = (mean accuracy across tasks) / (mean power draw during inference)“

Saad-Falcon et al. (2025): Intelligence Per Watt: A Study of Local Intelligence Efficiency

Die angegebene Studie zeigt deutlich den Vorteil auf, lokale KI anzuwenden, wenn es um die Kenngröße Intelligence per Watt geht. Wir sind der Auffassung, dass es in Zukunft mit Open Source AI und LocalAI möglich sein wird, mehr Digitale Souveränität in Europa zu erreichen, und innovativer zu werden.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Lokale Nutzung von KI-Modellen mit der LLama.cpp – App

https://llama-cpp.com/

Immer mehr Prívatpersonen, Kleinstunternehmen, Kleine und Mittlere Unternehmen (KMU), Non-Profit Organisationen etc. erkennen die Möglichkeiten, KI-Modelle lokal auf ihrer Hardware zu nutzen. Dazu gibt es verschiedene Open Source Software.

Wie Sie in vielen unserer Beiträge lesen konnten, haben wir uns Ollama App entschiedenen, da wir eine einfache Integration der in Ollama installierten KI-Modelle in Langflow sehen. Langflow wiederum bietet die Möglichkeit, Workflows, oder KI-Agenten mit Drag & Drop zu erstellen.

Eine Alternative zu Ollama ist u.a. LLama.cpp (Abbildung) – beides natürlich Open Source Software und als App auf der lokalen Hardware installierbar.

„You do not need to pay to use Llama.cpp or buy a subscription. It is completely free, open-source, constantly updated and available under the “MIT” license“ (LLama.cpp-Website)

Wie bei allen Vergleichen haben beide Vorteile und Nachteile. Es kommt darauf an, welche Schwerpunkte Sie bei der Nutzung von lokalen KI-Modellen haben. Bei den vielen im Netz zu findenden Vergleichen habe ich manchmal den Eindruck, dass Äpfel mit Birnen verglichen werden, da Ollama und LLama.ccp unterschiedlichen Kategorien angehören.

Testen Sie die Apps einfach einmal aus und schauen Sie, welche besser zu Ihren Anforderungen passt.

Digitale Souveränität – auch mit Open Source Hardware

https://oshwa.org/

Wenn es um Open Source geht, denken wir meistens an Open Source Software (OSS), die in vielen Anwendungen zu finden sind – auch in der Robotik. Es leuchtet ein, dass gerade Open Source AI (Open Source Künstliche Intelligenz) auch für die komplexen Steuerungen von kleinen und größeren Robotern verwendet wird.

Parallel dazu gibt es eine Entwicklung, die gar nicht so im Fokus zu stehen scheint. Es ist der weltweite Trend, auch Open Source Hardware zu entwickeln. Die Open Source Hardware Association (OSHWA) hat dazu aktuell 3.369 Projekte zertifiziert (Abbildung). Was versteht die Non-Profit Organisation unter Open Source Hardware?

„Open source hardware is hardware whose design is made publicly available so that anyone can study, modify, distribute, make, and sell the design or hardware based on that design. The hardware’s source, the design from which it is made, is available in the preferred format for making modifications to it“ (OSHWA).

Dieses Verfügbarmachen von Hardware für alle ist eine Grundidee von offenen Systemen, in denen man sich einbringen kann, deren Ergebnisse man auch einfach nur nutzen kann. Es ist erstaunlich wie viele Menschen sich dafür engagieren, und in diesem Sinne auch sozial handeln.

Natürlich gibt es nicht nur die OSHWA, sondern noch weitere Organisationen, die Open Source Hardware fördern.

„However, with the rise of open source chip design initiatives such as the OpenHW Foundation, the FOSSi Foundation lowRISC, the Chips Alliance, the Beijing Institute of Open Source Chip, or the PULP Platform, new opportunities have emerged to make hardware development more accessible and competitive“ (Wallentowitz and Wohlrab (2026): Open Source and the New Regulations on Hardware, in Eclipse Foundation, 2026).

Zusammen mit den Entwicklungen bei Open Source Software stellen die Aktivitäten bei Open Source Hardware dazu bei, Digitale Souveränität auf mehreren Ebenen zu erreichen. Ich bin gespannt, was die jeweiligen Communities in den kommenden Jahren noch entwickeln werden.