Veröffentlicht am

Open Source AI: Wie kann ich einen einfachen Workflow in der Langflow App anlegen?

In der eigenen Langflow App angelgter einfacher Workflow

In dem Blogbeitrag Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen hatte ich gezeigt, wie man mit Hilfe der Ollama App, Open Source KI-Modelle (oder Open Weight KI-Modelle) auf dem eigenen Laptop installieren und nutzen kann. Da es in der Zwischenzeit viele kleine und leistungsstarke KI-Modelle (SLM: Small Language Models gibt), ist dieser Ansatz gerade für Kleinstunternehmen wirtschaftlich interessant.

Wenn es im nächsten Schritt darum geht, solche Modelle in eigene KI-Agenten einzubinden, bietet sich die auf dem eigenen Laptop installierte Langflow App an – eine Alternative ist LM Studio. Die Ollama App und die Langflow App sind natürlich Open Source.

In der Abbildung oben ist ein einfacher Workflow mit den Knoten Chat Input, Language Model und Chat Output dargestellt (rot umrahmt). Diese Knoten konnte ich per Drag & Drop in die Arbeitsfläche ziehen. Dabei wird farbig angezeigt, welche Verknüpfungen möglich sind.

Bei dem Language Model habe ich in der auf meinem Laptop installierten Ollama App ein Modell ausgesucht – in meinem Fall ist es Qwen 2.5. Es stehen hier alle in der Ollama App installierten KI-Modelle zur Verfügung. Wir testen mit geeigneten Open Weight, bzw. Open Source Modellen. Siehe dazu auch Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen.

Diesen kleinen Workflow kann ich anschließend im Playground (Button rechts oben) testen. Als Chat Input habe ich dort eine Frage zu Eric von Hippel gestellt, die dann mit dem hinterlegten KI-Modell schnell beantwortet wurde – obwohl ich dazu einen relativ alten Laptop genutzt habe. Die folgende Abbildung zeigt das gute Ergebnis im Playground.

Ergebnis im Playground

Es ist also mit Ollama App und der Langflow App auf dem eigenen Laptop möglich, kleine KI-Modelle (Open Source, Open Weight) zu nutzen, und sogar kleine Workflows abzubilden. Dabei bleiben alle generierten Daten auf meinem Laptop. Das ist besonders wichtig, wenn ich nicht nur einen einfachen Workflow, abbilden, sondern KI-Agenten entwickeln möchte, die bei der Bearbeitung auch eigene Daten aus unserer Nextcloud mit berücksichtigen sollen – ganz im Sinne einer Digitalen Souveränität.

Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in einem Paper ein.

Veröffentlicht am

Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen

Screenshot von meiner Ollama App, die auf Ministral 3B als Open Source Ki-Modell zugreift

In verschiedenen Blogbeiträgen hatten wir aufgezeigt, wie in der Nextcloud mit Hilfe von Local AI Open Source KI-Modelle von Mistral AI genutzt werden können. Siehe dazu beispielhaft Digitale Souveränität: Wie kann ein KI-Modell aus LocalAI in den Nextcloud Assistenten eingebunden werden?

Dazu ist es allerdings empfehlenswert, für Local AI nicht den Server zu nutzen, auf dem Nextcloud läuft. Ein weiterer Server ist allerdings gerade für Kleine und Mittlerer Unternehmen (KMU) ein Aufwand, den viele scheuen. Wie kann es also kostengünstiger gehen?

In der Zwischenzeit gibt es von Mistral AI in der Model-Familie Mistral 3 auch das Modell Ministral 3B (inkl. Vergleichstabellen), das mit seiner Leistungsfähigkeit sogar das Modell Mistral 7B übertrifft, weil Ministral 3B sehr kompakt ist und gerade für die Nutzung auf normalen Laptops entwickelt wurde (Edge Computing).

Wie kann man Ministral 3B auf seinem eigenen Laptop nutzen?

(1) Um das Modell bequem zu nutzen, bietet sich die App Ollama an, die Sie zunächst auf Ihrem Laptop installieren.

(2) Nun laden Sie Ministral 3B auf Ihren Laptop herunter. Wenn Sie Windows 11 installiert haben geht das wie folgt: Tastenkombination Windows-Taste + R drücken, cmd in das Textfeld eingeben und mit Enter bestätigen. Mit dem Befehl ollama run ministral-3:3b wird das Modell (3GB) heruntergeladen.

(3) Das KI-Modell können Sie anschließend direkt in der Ollama-Oberfläche in einem Rollfeld auswählen. In der Abbildung sehen das rechts unten mit einem roten Rechteck hervorgehoben.

(4) In meinem Fall habe ich Ministral 3B eine komplexe Frage zu Open User Innovation aus der Perspektive von Eric von Hippel gestellt, die zügig und gut beantwortet wurde.

Die Nutzung eines Open Source KI-Modells (Open Weight Models) auf dem eigenen Laptop bietet für Freelancer oder Kleinen Unternehmen die Möglichkeit, leistungsfähige KI-Modelle auf Ihrer eigenen Infrastruktur ohne zusätzliche Kosten zu nutzen.

Gleichzeitig ist Ministral 3B ein Modell, dass auf dem Open Source Gedanken beruht, europäische KI- und Datenschutz- Standards beachtet und somit einen wichtigen Schritt in Richtung der eigenen Digitalen Souveränität aufzeigt.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

Sovereignty Washing – was ist das denn schon wieder?

Bild generiert mit Mistral AI

Na ja, wir alle kennen das Green Washing, Dabei geht es darum, dass sich Unternehmen als unweltfreundlich und umweltbewusst darstellen, es allerdings nicht sind.

In der Zwischenzeit kommt noch das Open Washing bei KI-Modellen hinzu. Gemeint ist hier, dass sich Unternehmen das Attribut „Open Source AI“ geben, die Modelle allerdings eher Closed Source Modelle sind. Siehe dazu die veröffentlichte Definition zu Open Source AI.

Nun kommt noch das Sovereignty Washing hinzu. Nachdem in den letzten Jahren immer klarer wurde, dass wir uns in Europa in eine gefährliche digitale Abhängigkeit begeben haben, ist ein Trend in Richtung Digitale Souveränität auf dem Markt deutlich zu erkennen. Nun wollen (natürlich) Marktteilnehmer, die eher für Closed Source Angebote bekannt sind, von diesem Trend profitieren und verpassen ihren Angeboten das Label „Souveränität“ oder in englischer Sprache „Sovereignty“.

„Gemeint sind Angebote, die europäische Kontrolle versprechen, aber zentrale Abhängigkeiten fortschreiben. Anbieter werben mit Rechenzentren in der EU, lokalen Tochtergesellschaften oder souverän klingenden Produktnamen. Zugleich bleiben Konzernstrukturen, Administrationsrechte, technische Steuerung oder rechtliche Zugriffspfade außerhalb Europas bestehen“ (Myra Security GmbH, 2026).

Wie bei Greenwashing oder Open Washing ist auch hier keine Digitale Souveränität drin, wo Digitale Souveränität draufsteht. Wie können Sie das überprüfen, ob ein Angebot ein Höchstmaß an Digitaler Souveränität bietet?

„Ein Höchstmaß an Digitaler Souveränität bietet eine digitale Lösung dann, wenn sie:

rechtssicher/DSGVO-konform betrieben werden kann (bspw. ohne Zugriff durch ausländische Behörden auf Daten).

Wechselfähigkeit ermöglicht (d. h. kein Vendor-Lock-in besteht),

Kontrolle sichert (auch bei Ausfall, Sperrung oder Wechsel von Dienstleistern),

Transparenz bietet (z. B. durch einsehbaren Quellcode)

und anpassbar und gestaltbar ist (z. B. durch Weiterentwicklung in der Community oder durch Dienstleister).“

Quelle: Zentrum für Digitale Souveränität der Öffentlichen Verwaltung (ZenDiS) GmbH (2025): Souveränitäts-Washing bei Cloud-Diensten erkennen. Warum Digitale Souveränität mehr ist als ein Standortversprechen | Whitepaper (PDF).

Siehe dazu auch Der Kill-Switch und Digitale Souveränität.

Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein.

Veröffentlicht am

Open Source AI: Mistral AI – eine Erfolgsgeschichte muss skalieren

In den letzten Jahren wurden Open Source AI Modelle noch etwas belächelt, da sie zugegebenermaßen nicht an die Leistungsfähigkeit der proprietären AI-Modelle heranreichten. Wie die Beispiele DeepSeek R1, KIMI K3 oder auch Mistral AI zeigen, hat sich das geändert.

Hinzu kommt noch, dass neben der Leistungsfähigkeit noch andere Aspekte wichtig geworden sind: Digitale Souveränität und Resilienz. Betrachtet man alle Dimensionen, so wird klar, dass Open Source AI eine wichtige Rolle bei der modernen Transformation von Unternehmen und Gesellschaften spielen kann – besonders in Europa.

Am Beispiel Mistral AI, einem französischen Start-Up (2023 gegründet) wird deutlich, in welchem Spannungsfeld sich Open Source AI befindet. Mistral AI ist sehr erfolgreich und wird in Europa von immer mehr Privatpersonen, Unternehmen und Öffentlichen Verwaltungen genutzt. Das führt unweigerlich zu der Frage, wie Mistral AI die große Nachfrage bedienen kann. Das geht nur mit einer Skalierung, die Zeit und Geld kostet.

Um also den Markt schnell bedienen zu können braucht es Kapital und technologische Infrastruktur. Es wundert daher nicht, dass sich wohl Samsung an Mistral AI beteiligen möchte, und auch Microsoft KI-Infrastruktur bereitstellen will. Beides ist erst einmal positiv, doch hat das Beispiel OpenAI gezeigt, dass Microsoft Unternehmen, die zunächst Open Source AI angeboten haben, zu kommerziellen Unternehmen umwandeln kann. OpenAI entspricht nicht den Anforderungen, die in der Open Source AI Definition formuliert wurden.

Wir arbeiten schon länger mit Mistral AI Modellen und setzen darauf, dass das Unternehmen trotz der notwendigen Schritte zur Skalierung seine Unabhängigkeit und europäischen Ansatz beibehält. Wir werden den Weg von Mistral AI weiter beobachten.

Veröffentlicht am

Skill shortage: Es fehlen Kompetenzen zu Open Source Software und Open Source Hardware

Das Bild ist mit Mistral AI generiert

Aktuell wird oft darüber gesprochen und geschrieben, dass alle Kompetenzen in der Nutzung von Künstlicher Intelligenz benötigen. Dabei setzen die Marktführer auf kostenlose Online-Kurse, die die Nutzer an die jeweiligen KI-Modelle adaptieren sollen. Die Nutzer passen sich dabei an die Logik des KI-Modells an, und entwickeln angepasste Kompetenzen.

Im nächsten Schritt wird diese Abhängigkeit (Pfadabhängigkeit) Schritt für Schritt monetarisiert – immerhin müssen ja die hohen Investitionen refinanziert werden. Wenn einzelne Personen oder Organisationen diesen Weg in den letzten Jahren eingeschlagen haben, sprechen sie nur noch von solchen, angepassten Kompetenzen. Siehe dazu auch Künstliche Intelligenz (KI): Lock-in und Switching Costs.

Kompetenzen zur Nutzung von Open Source Software oder Open Source Hardware sind damit weniger gemeint – überspitzt formuliert könnte man auch sagen, dass fast niemand daran denkt.

Wenn es Europa mit der Digitalen Souveränität ernst meint, sollten wir allerdings gerade diese Kompetenzen fördern und entwickeln, da gerade Open Source zu mehr Resilienz auf den verschiedenen Ebenen führt. Aktuell gibt es allerdings nicht so viele Personen, die sich mit den Möglichkeiten von Open Source Software und Open Source Hardware auskennen (digital skill shortage).

„By aligning open source projects with structured upskilling programs, Europe can address its digital skills shortage and build a competitive workforce that supports its ambition for technological sovereignty. By fostering collaboration, investing in education, and ensuring sustainable funding, we can secure the future of open source as a driver of technological and scientific progress. With initiatives like Software Heritage and national policies advocating for open science, the foundation is set for a more inclusive and resilient open source ecosystem“ (Di Cosmo, 2026 Open Source and the Skill Shortage, in Eclipse Foundation, 2026).

Es liegt an uns die bestehenden Abhängigkeiten nach und nach zu reduzieren, um unseren eigenen, europäischen Weg bei der Nutzung von Technologie, speziell auch Künstlicher Intelligenz, zu entwickeln. Die erfolgreiche Geschichte von Open Source KI zeigt, wie dieser Weg aussehen kann. Digitale Souveränität: Europa, USA und China im Vergleich.

Veröffentlicht am

Die erfolgreiche Open Source KI Geschichte

Performance of top models on the Arena by select providers.
Source: Arena, 2026 | Chart: 2026 AI Index report (Stanford University 2026)

Open Source Software (OSS) nutzen wir alle schon in vielen Bereichen, da OSS auch in vielen der bekannten kommerziellen, proprietären Angebote enthalten ist. Bei Künstlicher Intelligenz ist das aktuell noch etwas anders. Zu Beginn der Entwicklung gab es einfach nur die bekannten kommerziellen, proprietären KI-Modelle – Open Source KI-Modelle waren gerade einmal bei Freaks bekannt und in standardisierten Tests in ihrer Leistungsfähigkeit unterlegen.

In dieser Zeit haben sich viele an die angebotenen proprietären (kommerziellen) KI-Modelle gewöhnt und es ist zu einer Art Lock-in, zu einer Pfadabhängigkeit gekommen. Aus dieser wieder herauszukommen, fällt vielen Privatpersonen, aber auch Unternehmen, Organisationen schwer, obwohl es sich lohnen würde. Siehe dazu auch Künstliche Intelligenz: Es ist so bequem, unmündig zu sein.

Wie das Beispiel Mistral AI in der Abbildung zeigt, sieht es bei der Leistungsfähigkeit von Open Source KI-Modellen n der Zwischenzeit ganz anders aus – und das bei gleichzeitig weniger Abhängigkeiten, mehr Datenschutz und mehr Transparenz (Digitale Souveränität) Wenn man sich die Entwicklung von Open Source KI ansieht, wird deutlich, wie dynamisch diese seit 2022 ist.

„The historical development of open-source AI demonstrates a shift from closed corporate systems towards distributed, collaborative innovation on a global scale. A landmark precedent was the development of the BLOOM open-source model in 2022, produced by the BigScience consortium, followed by the publication of the powerful open-weight Llama family of models and the release of the Gemma series. A powerful impetus came from Chinese developers’ highly competitive alternative ecosystem Qwen and the release of DeepSeek-V3 and R1. At present, entire regions are also actively contributing to the development of open-weight AI: Mistral in Europe, Falcon in the United Arab Emirates, GigaChat and YandexGPT in the Russian Federation, alongside projects in India, Japan, Republic of Korea and others“ (UN 2026).

Der weltweite Trend zu immer mehr Open Source KI-Modellen zeigt, dass es in Zukunft darauf ankommt, transparente KI-Modelle zu nutzen – it all starts with trust. Um das bekannte open-washing bei KI-Modellen zu erkennen, bietet sich im ersten Schritt die Definition zu Open Source AI an.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in gleich zwei Paper ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Veröffentlicht am

Künstliche Intelligenz: Mistrals Chatbot „Le Chat“ heißt jetzt „Vibe“ und bietet neue Möglichkeiten

Screenshot meines Logins beim Chatbot Mistral Vibe

Über das französische Start-up Mistral AI als Alternative zu den bekannten proprietären Closed KI-Modellen der amerikanischen Tech-Konzerne habe ich schon mehrfach geschrieben (Beiträge). Erstaunlich dabei ist, dass Mistral AI mit seinen Modellen in der Zwischenzeit durchaus wettbewerbsfähig ist. Siehe dazu Open Source AI holt auf – das Beispiel MISTRAL AI (AI Report 2026). Wer die Mistral-KI-Modelle nicht über die Mistral-Cloud nutzen möchte, kann in der Zwischenzeit auch eine entsprechende App auf dem eigenen Laptop installieren (Blogbeitrag).

Besonders überzeugt hat uns auch der von Mistral AI veröffentlichte Chatbot mit dem Namen „Le Chat“, den wir schon ausgiebig genutzt haben. Zunächst in der freien Version (ohne Anmeldung) und später mit einem Login-Zugang. Dort können wir Chats speichern und Projekte sowie Workflows und Agenten anlegen.

Nun hat Mistral den Chatbot „Le Chat“ in „Vibes“ integriert – der Name „Vibes“ war zunächst für Agentic Coding gedacht, Die Einbindung des Chatbots „Le Chat“ in „Vibes“ bietet dadurch neue Möglichkeiten.

„Mistral hat auf dem hauseigenen AI Now Summit mehrere Neuerungen vorgestellt. Der Chatbot Le Chat heißt jetzt Vibe und verbindet agentische Fähigkeiten mit Funktionen für Softwareentwicklung“(heise online, 29.05.2026).

Auf der internationalen Konferenz MCP 2026, die vom 16.-19.09.2026 in Balatonfüred, (Ungarn) stattfindet, werde ich in meinen beiden Papern auch auf Mistral AI eingehen:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

Künstliche Intelligenz: Wie kann man Mistral-Modelle auf „Heim-Hardware“ betreiben?

https://mistral.ai/news/mistral-3

Mistral AI ist ein französisches Unternehmen, das eine Modellfamilie veröffentlicht, die europäischen Anforderungen an KI-Modelle entspricht, und Open Source verfügbar ist. (Open Models) Die Leistungsfähigkeit von den Mistral- Modellen nähert sich den Cloud AI Modellen (Closed Models) wie ChatGPT, Gemini etc. an (Open Source AI holt auf). Mit Le Chat gibt es auch eine europäische Alternative zu ChatGPT.

Mistral-Modelle können bei Mistral selbst, also auf in deren Cloud, getestet werden. Darüber hinaus ist es auch möglich, die Modelle über Hugging Face herunterzuladen und auf dem eigenen Server zu nutzen, z.B. mit LocalAI.

Der Trend zu immer kleineren, speziellen und leistungsstarken Modellen (SLM: Small Language Models) macht es immer attraktiver, solche Modelle auf dem eigenen Laptop, also auf „Heim-Hardware„, zu nutzen. Das ist u.a. auch mit Mistral möglich. Wie genau, wird in dem folgenden Artikel gut beschrieben:

Simon, A, (2026) How to run Mistral locally. Available from: https://getdeploying.com/guides/local-mistral

Es ist auch möglich, Mistral über die lokal installierte App von Ollama zu nutzen. Siehe dazu Open Source Modelle mit der Ollama-App auf dem eigenen Desktop.

Veröffentlicht am

Smolagents: Turn your idea into an App – mit verschiedenen LLMs und natürlich Open Source

https://smolagents.org/de/

KI-Agenten sind aktuell gefühlt überall. Natürlich bieten die proprietären Modelle wie ChatGPT, Gemini, Grok etc. viele Möglichkeiten an, solche KI-Agenten zu erstellen und zu nutzen. Wie Sie als Leser unseres Blogs wissen, tentieren wir allerdings dazu, Open Source AI zu nutzen, gerade wenn es um eigene, spezielle Expertise, oder unternehmensspezifisches Wissen in Innovationsprozessen geht.

Neben den von uns schon beschriebenen Möglichkeiten von Langflow und Ollama, möchten wir Ihnen eine weitere Alternative vorstellen, eigene KI-Agenten zu nutzen, und dabei unterschiedliche LLMs einzubinden.

„Smolagents is a minimalist AI agent framework developed by the Hugging Face team, crafted to enable developers to deploy robust agents with just a few lines of code. Embracing simplicity and efficiency, smolagents empowers large language models (LLMs) to interact seamlessly with the real world“ (Source: https://smolagents.org/de/).

Das Team von Hugging Face bietet hier eine minimalistische Möglichkeit, auf Open Source Basis KI-Agenten zu entwickeln, und der Community in einem Repository zur Verfügung zu stellen (Best Smolagents in Hugging Face).

Es ist interessant zu sehen, wie einfach man seine Idee in einem ersten KI-Agenten umsetzen kann. In dem folgenden Beispiel habe ich versucht, einen persönlichen Innovationsprozess abzubilden. In jedem Prozessschritt wollte ich ein anderes Open Source KI-Modell einsetzen.

Eigener Screenshot

In der Abbildung sind erste Prozessschritte für die Entwicklung von Innovationen zu sehen: Inspire mit Llama 3, Ideate mit Mistral, Prototype mit Phi 3 etc. Die jeweiligen LLM kann ich auswählen und testen. Das ging sehr schnell und war super einfach.

Probieren Sie es doch auch einmal aus!

Veröffentlicht am

Künstliche Intelligenz: Open Source Modelle mit der Ollama-App auf dem eigenen Desktop

Eigener Screenshot – (c) Dr. Robert Freund

Ollama ist eine Open Source Software, mit der man kleine und größere Sprachmodelle (Small Language Models und Large Language Models testen kann.

(1) Zunächst natürlich auf Ollama selbst nach einem entsprechenden Login.

(2) Da Ollama Open Source ist, kann es auch auf dem eigenen Server installiert werden. Wie Sie wissen, haben wir das auch schon ausprobiert. Informationen dazu finden Sie in unseren verschiedenen Blogbeiträgen dazu.

(3) Es ist möglich, Ollama auf dem eigenen Desktop zu installieren und geeignete Modelle zu testen. In den Settings ist der Login bei Ollama zu hinterlegen.

Die Abbildung zeigt den Screenshot mit der Startseite auf meinem Desktop. Wie gewohnt kann ein geeigneter Prompt eingegeben werden.

Spannend ist, dass wir bei jedem neuen Chat aus verschiedenen installierten Modellen auswählen können. Bei dem Beispiel haben wir MISTRAL ausgewählt. Über das „+“-Zeichen können sogar Dateien mit hochgeladen werden.

Auch an der Stelle wird wieder deutlich, wie wichtig es ist, Künstliche Intelligenz mit transparenten Open Source Modellen auf der eigenen Infrastruktur zu betreiben. Ganz im Sinne einer Digitalen Souveränität.

Es war anschließend interessant zu sehen, wie schnell die Antwort über Ollama und MISTRAL erstellt wurde. Auch die Qualität der Antwort war gut. Hier der entsprechende Screenshot:

Ergebnis über MISTRAL (c) Dr. Robert reund