Digitale Souveränität: Nextcloud und Olmo 3 – a perfect match

Nextcloud nutzen wir schon lange als Alternative zu den bekannten Microsoft-Anwendungen. In Nextcloud ist es auch möglich, KI-Modelle zu integrieren. Im Vergleich zu Microsoft kann man auswählen, welches KI-Modell man nutzen möchte.- ein großer Vorteil.

Im Sinne einer Digitalen Souveränität ist es dabei natürlich sinnvoll, auf Open Weight Modelle wie Mistral AI zu setzen, oder sogar ein Open Source Modell wie Ollmo 3 zu nutzen. Es wundert daher nicht, dass Nextcloud Ollmo 3 mit einem grünen Rating versehen hat (Siehe dazu auch die von mir erstellte OpenStreetMap zu geeigneten Modellen aus Europa).

“We deeply believe in the four freedoms of free software and are convinced that being able to inspect and reproduce how the model was built is vital,” says Marcel Klehr, a software engineer at Nextcloud (Ai2 (2026) How Olmo 3 earned the highest ethical rating from Nextcloud, via LinkedIn, 02.11.2026).

Wenn Sie Nextcloud über Ihren eigenen Server betreiben, können Sie die llm-App installieren. Dort sind verschiedene LLMs zu finden, u.a. auch Ollmo 3. Nextcloud selbst nutzt Olmo 3 für verschiedene Funktionen des Nextcloud Assistenten. Die ethische Bewertung „grün“ bedeutet, dass alles quelloffen ist, auch die Trainingsdaten.

Wenn Sie Nextcloud nicht auf Ihrem eigenen Server, sondern beispielsweise IONOS Nextcloud Workspace nutzen, sind Sie hier eher etwas eingeschränkt. Dennoch ist es möglich, über die Ollama-App und die Langlow-App das KI-Modell Olmo 3 zu integrieren.

Gerade für Einzelpersonen, Kleine und Mittlere Unternehmen (KMU) bieten sich hier vielfältige Möglichkeiten auf Digitale Souveränität zu setzen und ein eigenes Open Source basiertes KI-basiertes System aufzubauen. Siehe dazu auch

Freund, R., Anisic, Z. (2026): Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs. International Conference MCP 2026, 16.-19.09.2026, Balatonfüred, Hungary.

KI-Modelle: Mistral Large 4 veröffentlicht

Ausschnitt aus der Open Street Map zu europäischen KI-Modellen
https://umap.openstreetmap.de/de/map/open-source-ai-in-europe_148154#6/49.952292/9.706089

In den letzten Jahren wird immer deutlicher, dass es bei großen KI-Modellen (LLMs: Large Language Models) nicht alleine darum geht, in spezifischen technischen Tests (Benchmarks) ganz vorne zu sein. Es geht vielmehr immer mehr darum, dass das KI-Modell die europäischen Werte mit den europäischen Rechten, ethischen und moralischen Grundsätzen respektiert, und dass die generierten Daten in Europa bleiben. Die Bewertungskriterien für leistungsfähige KI-Modelle verschieben sich – nicht nur in Europa sondern weltweit – zu einer eher ganzheitlichen Bewertung.

In Europa spielt dabei – unter anderem – Mistral AI eine wichtige Rolle. Das französische Unternehmen hat von Anfang an auf Open Source AI und Open Weight Modelle gesetzt. Die ganze Modellfamilie wurde nun an der Spitze durch Mistral Large 4 ergänzt. In meiner OpenStreetMap zu europäischen Open Source und Open Weight Modellen, habe ich das Modell ergänzt (Abbildung).

Wie der Name es schon vermuten lässt, ist es ein sehr großes Modell, das für große Organisationen interessant ist, die sicherheitsrelevante Daten verarbeiten möchten. Auch ist das Coding in dem Modell eine Stärke, die sich gegenüber den proprietären KI-Modellen aus den USA nicht verstecken muss. Große Organisationen mit entsprechender Hardware-Infrastruktur können sich Mistral Large 4 herunterladen – ganz im Sinne der eigenen KI-souveränität.

Natürlich gibt es bei Mistral AI auch kleinere KI-Modelle, die es auch KMU ermöglicht, ein digital souveränes eigenes KI-System zu nutzen. Wie man so ein europäisches KI-System, das Mistral AI nutzt, für innovative KMU entwickeln kann, habe ich in meinem Paper auf der MCP-CE 2026 in Ungarn beschrieben.

Freund, R., Anisic, Z. (2026): Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs. International Conference MCP 2026, 16.-19.09.2026, Balatonfüred, Hungary.

Fünf neue KI-Modelle aus Europa in unsere Open Street Map aufgenommen

Ausschnitt aus der Open Street Map zu europäischen KI-Modellen
https://umap.openstreetmap.de/de/map/open-source-ai-in-europe_148154#6/49.952292/9.706089

Immer mehr KI-Modelle aus Europa kommen auf den Markt. Alleine vom 22. September bis 06.10.2026 wurden fünf neue Modelle veröffentlicht (KI-News von Thomas Ertl, 08.10.2026 auf LinkedIn).

In der folgenden Tabelle sind die Modelle, das Land und unter Bemerkungen, die Zugangsform (Open Source, Open Weight oder nur per API) angegeben. Die KI-Modelle sind direkt verlinkt.

KI-ModellLandBemerkung
KolibriAleph Alpha, Heidelberg, DeutschlandOpen Source
Flux 3 ActionBlack Forest Labs, Freiburg, DeutschlandOpen Weight
Flux 3 ImageBlack Forest Labs, Freiburg, DeutschlandAPI
Eleven v4ElevenLabs, London, UKAPI
Large 4Mistral, Paris, FrankreichOpen Weight
Europäische KI-Modelle, veröffentlicht im Zeitraum vom 22.09.-06.10.2026

Weiterhin haben wir diese Modelle in unsere Open Street Map mit aufgenommen, in der viele länderspezifische KI-Modelle zu finden sind. Die Map zeigt die dynamische Entwicklung in Europa, und den Trend zu mehr Digitaler Souveränität bei KI-Modellen.

Für die meisten Anwendungen ist es nicht erforderlich, das beste und größe Modell zu haben. Es geht vielmehr darum, ein KI-Modell zu nutzen, das vertrauenswürdig ist, in Europa gehostet wird und transparent zeigt, wie mit Daten umgegangen wird.

Ein gutes KI-System im Unternehmen schlägt dabei den Ansatz, alles im Unternehmen einem gigantischen KI-Modell wie Claude von Anthropic, Gemini von Google, ChatGPT von OpenAI etc. unterzuordnen. Siehe dazu auch

Freund, R., Anisic, Z. (2026): Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs. International Conference MCP 2026, 16.-19.09.2026, Balatonfüred, Hungary.

Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen

Screenshot von meiner Ollama App, die auf Ministral 3B als Open Source Ki-Modell zugreift

In verschiedenen Blogbeiträgen hatten wir aufgezeigt, wie in der Nextcloud mit Hilfe von Local AI Open Source KI-Modelle von Mistral AI genutzt werden können. Siehe dazu beispielhaft Digitale Souveränität: Wie kann ein KI-Modell aus LocalAI in den Nextcloud Assistenten eingebunden werden?

Dazu ist es allerdings empfehlenswert, für Local AI nicht den Server zu nutzen, auf dem Nextcloud läuft. Ein weiterer Server ist allerdings gerade für Kleine und Mittlerer Unternehmen (KMU) ein Aufwand, den viele scheuen. Wie kann es also kostengünstiger gehen?

In der Zwischenzeit gibt es von Mistral AI in der Model-Familie Mistral 3 auch das Modell Ministral 3B (inkl. Vergleichstabellen), das mit seiner Leistungsfähigkeit sogar das Modell Mistral 7B übertrifft, weil Ministral 3B sehr kompakt ist und gerade für die Nutzung auf normalen Laptops entwickelt wurde (Edge Computing).

Wie kann man Ministral 3B auf seinem eigenen Laptop nutzen?

(1) Um das Modell bequem zu nutzen, bietet sich die App Ollama an, die Sie zunächst auf Ihrem Laptop installieren.

(2) Nun laden Sie Ministral 3B auf Ihren Laptop herunter. Wenn Sie Windows 11 installiert haben geht das wie folgt: Tastenkombination Windows-Taste + R drücken, cmd in das Textfeld eingeben und mit Enter bestätigen. Mit dem Befehl ollama run ministral-3:3b wird das Modell (3GB) heruntergeladen.

(3) Das KI-Modell können Sie anschließend direkt in der Ollama-Oberfläche in einem Rollfeld auswählen. In der Abbildung sehen das rechts unten mit einem roten Rechteck hervorgehoben.

(4) In meinem Fall habe ich Ministral 3B eine komplexe Frage zu Open User Innovation aus der Perspektive von Eric von Hippel gestellt, die zügig und gut beantwortet wurde.

Die Nutzung eines Open Source KI-Modells (Open Weight Models) auf dem eigenen Laptop bietet für Freelancer oder Kleinen Unternehmen die Möglichkeit, leistungsfähige KI-Modelle auf Ihrer eigenen Infrastruktur ohne zusätzliche Kosten zu nutzen.

Gleichzeitig ist Ministral 3B ein Modell, dass auf dem Open Source Gedanken beruht, europäische KI- und Datenschutz- Standards beachtet und somit einen wichtigen Schritt in Richtung der eigenen Digitalen Souveränität aufzeigt.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Open Source AI: Mistral AI – eine Erfolgsgeschichte muss skalieren

In den letzten Jahren wurden Open Source AI Modelle noch etwas belächelt, da sie zugegebenermaßen nicht an die Leistungsfähigkeit der proprietären AI-Modelle heranreichten. Wie die Beispiele DeepSeek R1, KIMI K3 oder auch Mistral AI zeigen, hat sich das geändert.

Hinzu kommt noch, dass neben der Leistungsfähigkeit noch andere Aspekte wichtig geworden sind: Digitale Souveränität und Resilienz. Betrachtet man alle Dimensionen, so wird klar, dass Open Source AI eine wichtige Rolle bei der modernen Transformation von Unternehmen und Gesellschaften spielen kann – besonders in Europa.

Am Beispiel Mistral AI, einem französischen Start-Up (2023 gegründet) wird deutlich, in welchem Spannungsfeld sich Open Source AI befindet. Mistral AI ist sehr erfolgreich und wird in Europa von immer mehr Privatpersonen, Unternehmen und Öffentlichen Verwaltungen genutzt. Das führt unweigerlich zu der Frage, wie Mistral AI die große Nachfrage bedienen kann. Das geht nur mit einer Skalierung, die Zeit und Geld kostet.

Um also den Markt schnell bedienen zu können braucht es Kapital und technologische Infrastruktur. Es wundert daher nicht, dass sich wohl Samsung an Mistral AI beteiligen möchte, und auch Microsoft KI-Infrastruktur bereitstellen will. Beides ist erst einmal positiv, doch hat das Beispiel OpenAI gezeigt, dass Microsoft Unternehmen, die zunächst Open Source AI angeboten haben, zu kommerziellen Unternehmen umwandeln kann. OpenAI entspricht nicht den Anforderungen, die in der Open Source AI Definition formuliert wurden.

Wir arbeiten schon länger mit Mistral AI Modellen und setzen darauf, dass das Unternehmen trotz der notwendigen Schritte zur Skalierung seine Unabhängigkeit und europäischen Ansatz beibehält. Wir werden den Weg von Mistral AI weiter beobachten.