Veröffentlicht am

Local-AGI: Your personal AI agent running entirely in the browser. Private, fast, and autonomous.

https://www.local-agi.com/

Über die Möglichkeiten, Open Source KI-Modelle auf dem eigenen Server zu betreiben habe ich in verschiedenen Blogbeiträgen schon geschrieben. Siehe dazu beispielsweise Digitale Souveränität: Wie kann ein KI-Modell aus LocalAI in den Nextcloud Assistenten eingebunden werden?

So ein System mit Nextcloud und LocalAI ermöglicht schon, autonom mit den eigenen Daten und Open Source KI-Modellen zu arbeiten. Dabei wird allerdings auch deutlich, dass es Abläufe gibt, die automatisiert werden können. Das kann durch Workflows oder KI-Agenten erfolgen. KI-Agenten sind im Gegensatz zu Workflows relativ eigenständig bei den Abläufen zur Problemlösung. Um das zu gewährleisten, und aufbauend auf Nextcloud und LocalAI, kann noch Local-AGI integriert werden.

Local-AGI ist eine auf LocalAI aufbauende Plattform, die speziell für autonome KI-Agenten entwickelt wurde. Es ermöglicht die Erstellung und Verwaltung von KI-Agenten, die Werkzeuge nutzen, Aufgaben autonom ausführen und sogar im Internet suchen können – alles lokal und ohne Cloud-Abhängigkeit. LocalAGI integriert LocalAI als Inferenz-Engine und bietet zusätzliche Funktionen wie eine Wissensdatenbank, Echtzeit-Überwachung und eine Benutzeroberfläche für die Agentenverwaltung (Quelle: GitHub).

LocalAI ist die Basis für lokale KI, während Local-AGI die Agenten-Funktionalität auf Basis von LocalAI bereitstellt. Beide Projekte sind modular und können gemeinsam genutzt werden, um komplexe, autonome KI-Systeme lokal zu betreiben.

In der Abbildung oben ist die Startseite von Local-AGI zu sehen, auf der hinterlegte KI-Modelle im Browser direkt getestet werden können. Unter „Select Models“ sind einige wenige Modelle zu finden, die direkt heruntergeladen werden können. Ich habe das kleinste Modell LFM.5-350M ausgewählt, wobei das Modell im Browser gespeichert wurde, und folgende Eingabeseite erscheint:

Hervorheben möchte ich noch einmal den Text, der gleich am Anfang des Chats erscheint: „Hello! I’m Local-AGI, running entirely in your browser. All processing happens locally on your device – your data never leaves your computer. How can I assist you today?“ Dieser Hinweis ist im Sinne einer eigenen Digitalen Souveränität wichtig.

Durch die Integration von Local-AGI mit LocalAI stehen weitere Modelle zur Verfügung. Im Unternehmen kommt es nicht darauf an, einzelne Anwendungen zu vergleichen, sondern darum, Digitale Souveränität und Resilienz in einem System mit Open Source Software und Open Source AI zu erreichen.

Veröffentlicht am

Digitale Souveränität ist angekommen

Vor mehreren Jahren, als wir angefangen haben über eine mögliche Digitale Souveränität für Personen, Unternehmen, in Deutschland und in Europa zu schreiben, haben wir einige Rückmeldungen erhalten die zeigten, dass man diesem (europäischen) Weg keine Chance einräumt, und es als unrealistische Vision einschätzte.

In der Zwischenzeit hat sich gezeigt, dass die vielen aufgebauten Abhängigkeiten der letzten Jahrzehnte in eine Sackgasse auf allen Ebenen geführt haben: Energetische Abhängigkeit, militärische Abhängigkeit, digitale Abhängigkeit usw.

Es ist durchaus erstaunlich, dass viele, die diese Abhängigkeiten selbst herbeigeführt haben, nun nach Souveränität rufen. Die einzigen allerdings, die behaupten können, dass sie auf Digitale Souveränität hingewiesen haben, sind Akteure aus dem Open Source Bereich, denn hier geht es schon immer um Transparenz, Offenheit und Rechtstaatlichkeit.

Diejenigen, die sich aus Bequemlichkeit in die digitale Abhängigkeit begeben haben, müssen jetzt zu hohen Kosten umsteuern, da die Nutzung von den bekannten APPs und KI-Modellen in den Köpfen (auch in den Unternehmen) zu einer Pfadabhängigkeit geführt hat, aus der manche möglicherweise gar nicht mehr herauskommen werden.

Die Überschrift des Blogbeitrags ist vom Newsletter Juni 2026 der Open Source Business Alliance – Bundesverband für digitale Souveränität e.V. entnommen. Die Aussage bezieht sich dabei auf die Erkenntnisse aus dem SCS Summit 2026, der in Berlin stattfand.

„Liebe Leserinnen und Leser,
am 21. Mai 2026 kamen 200 Menschen im bUm Berlin zusammen – und der diesjährige SCS Summit hat bewiesen, dass digitale Souveränität in der Cloud keine Zukunftsvision mehr ist, sondern gelebter Alltag. Vom ersten Moment an war deutlich zu spüren: es wird weniger von Visionen als von klaren Umsetzungen und Mehrwerten gesprochen“ (OSBA SCS Summit 2026).

Die vielen Beispiele zeigen, was alles schon heute möglich ist, und was schon konkret umgesetzt wurde. Informieren Sie sich weiter über die Entwicklung auf dem Gebiet der Digitalen Souveränität und entscheiden Sie, was für Sie als Person und als Organisation umsetzbar ist.

Vergleichen Sie dabei nicht nur die einzelnen Tools, sondern auch, was Sie durch eine Neuausrichtung wieder erhalten: Sie gewinnen wieder die Kontrolle über ihre eigenen Daten – ein unschätzbarer Vorteil.

Fangen Sie an, ihre eigene Digitale Souveränität zurückzugewinnen.

Veröffentlicht am

W Social – ein europäischer Konkurrent zu „X“ startet am 17.06.2026

https://wsocial.news/

Als europäische Alternative zu den bekannten Kurznachrichtendienst „X“ etc. startet W Social am 17.06.2026 mit einer Beta-Phase. Der Betreiber kommt aus Schweden und wird den Dienst nach europäischen Recht, und mit verifizierten Personen betreiben. Das sind alles schon erhebliche Unterschiede zu dem Ansatz von „X“, wo es immer mehr Hasskommentare und Desinformationen – auch durch Bots – gibt.

Der SWR hat am 28.05.2026 mit der Geschäftsführerin, Anna Zeiter, ausführlich in einem Podcast gesprochen: W Social: Was steckt hinter der europäischen X-Alternative? Sie finden Prof. Dr. Anna Zeiter hier auf LinkedIn.

Alles ganz im Sinne einer europäischen Digitalen Souveränität.

Veröffentlicht am

Lünendonk®-Studie (2026): Digitale Souveränität – Vom Risiko zur Resilienz

https://www.luenendonk.de/produkt/luenendonk-studie-2026-digitale-souveraenitaet-vom-risiko-zur-resilienz/

Es wird immer deutlicher, dass Digitale Souveränität für Europa immer wichtiger wird. Die Lünendonk®-Studie 2026 hat das wieder einmal deutlich gezeigt.

„Digitale Souveränität ist kein abstraktes Leitbild mehr – sie hat sich zu einem zentralen Wettbewerbsfaktor mit klar messbarem Business Impact entwickelt. 2026 steht Europa an einem digitalen Wendepunkt“ (Lünendonk®-Studie 2026).

Die Ergebnisse sind eindeutig: 96% der Befragten erwarten, dass Digitale Souveränität auch bei einer Entspannung der geopolitischen Lage ein zentrales Thema bleibt.

Wenn dem so ist, stehen Unternehmen vor der Frage, wie eine Digitale Souveränität erreicht werden kann. In vielen Beiträgen, und auf dieser Seite habe ich dazu konkrete Schritte aufgezeigt.

Auf der internationalen Konferenz MCP 2026, die vom 16.-19.09.2026 in Balatonfürde, Ungarn stattfindet, werde ich ein Paper zum Thema vorstellen:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Veröffentlicht am

Kurzlehrbuch: Künstlicher Intelligenz für den Mittelstand

In mehreren Blogbeiträge habe ich verschiedene Aspekte aus einem Kurzlehrbuch thematisiert, das als Download zur Verfügung steht: Es freut mich besonders, dass darin herausgestellt wird, dass Open Source AI gerade für Kleine und Mittlere Unternehmen (KMU) geeignet ist, Digitale Souveränität im Unternehmen zu erzielen. Am Ende des Kurzlehrbuchs fassen die Autoren die fünf wichtigsten Punkte noch einmal zusammen:

Mittelstand Digital Fokus Mensch (2026): Digitale Souveränität als Basis für sichere KI-Anwendungen | PDF.

(1) Die Arbeitswelt verändert sich – wir müssen uns mit verändern.

(2) Generative KI kann schon bei kleinen Aufgaben große Wirkung entfalten.

(3) Die Entscheidung für KI ist individuell – ebenso die Wahl der passenden Anwendung.

(4) KI-Nutzung erfordert rechtliche Orientierung – insbesondere im Hinblick auf den EU AI Act.

(5) Menschen müssen Teil der Lösung sein – sowohl bei KI als auch bei Cybersicherheit

Veröffentlicht am

Open Source AI und das MCP-Protocol: Another perfect match

AI (Artificial intelligence) AI management and support technology in the Business plan marketing success customer. AI management concept.

Die Nutzung von KI-Modellen ist im privaten und unternehmerischen Umfeld angekommen. Dabei ist es für Kleine und Mittlere Unternehmen (KMU) entscheidend, ob sie sich in die Abhängigkeit der proprietären KI-Modelle begeben, oder mehr Wert auf die eigene Datenhoheit legen. Gerade KMU können es sich nicht leisten, hier knappe Ressourcen zu verschwenden.

Wenn es um Digitale Souveränität geht, und darum, leistungsfähige KI-Modelle mit eigenen oder anderen Daten zu verknüpfen, bietet das MCP-Protocol in der Zwischenzeit sehr spannende Möglichkeiten.

„MCP (Model Context Protocol) is an open standard from Anthropic designed to establish seamless interoperability between LLM applications and external tools, APIs, or data sources“ (Source: Langflow 1.4: Organize Workflows + Connect with MCP).

Wie das beispielsweise mit Langflow möglich ist, habe ich in verschiedenen Blogbeiträgen erläutert. Im Zusammenhang mit Open Source AI bietet das MCP einen Rahmen für ein eigenes, innovatives KI-System, bei dem Sie die Datenhoheit haben.

„Open-Source-Sprachmodelle sind die natürliche Ergänzung zu MCP. Während MCP den sicheren Rahmen vorgibt, liefern Open-Source-Modelle die Freiheit, diesen Rahmen nach eigenen Bedürfnissen zu gestalten“ (Hennekeuser, D. (2026): Model Context Protocol (MCP) und Open-Source-Sprachmodelle: Die Eröffnung neuer souveräner Wege. In Mittelstand Digital Fokus Mensch (2026): Digitale Souveränität als Basis für sichere KI-Anwendungen).

Siehe dazu auch Open Data and Open Source AI – a perfect match.

Veröffentlicht am

KI und Open Data: Common Corpus mit mehr als 1 Millionen Downloads

Quelle: Link

Über Open Data und Open Source Ai habe ich in dem Beitrag Open Data and Open Source AI – a perfect match geschrieben. Eine besondere Rolle nimmt in dem Zusammenhang Common Corpus ein,

In dem Beitrag Langlait et al (2024): Releasing the largest multilingual open pretraining dataset vom 14.11.2024 auf Huggingface wird das Konzept und das Alleinstellungsmerkmal von Common Corpus als Teil der AI Alliance Open Trusted Data Initiative vorgestellt.

„Many have claimed that training large language models requires copyrighted data, making truly open AI development impossible. Today, Pleias is proving otherwise with the release of Common Corpus (part of the AI Alliance Open Trusted Data Initiative)—the largest fully open multilingual dataset for training LLMs, containing over 2 trillion tokens of permissibly licensed content with provenance information (2,003,039,184,047 tokens)“ (Source).

In der Zwischenzeit wurde Common Corpus schon mehr als 1 Millionen Mal heruntergeladen. Der starke Anstieg der Downloads zeigt eine relative Verschiebung auf dem KI-Markt, denn immer mehr Marktteilnehmer suchen nach Open Data, die sie frei nutzen können.

„Open-Source-Datensätze wie das Common Corpus bieten hier eine Lösung. Sie ermöglichen es Forschern und Unternehmen, auf eine breite Palette von Daten zuzugreifen, ohne sich über komplexe Lizenzfragen oder potenzielle Urheberrechtsverletzungen Gedanken machen zu müssen“ ( Common Corpus übertrifft eine Million Downloads und hebt Bedeutung von Open Data für KI hervor, Mindverse vom 12.03.2026).

Langsam aber sicher wollen immer mehr KI-Nutzer Künstliche Intelligenz gesellschaftlich verantwortungsvoll nutzen – ganz im Sinne einer Digitalen Souveränität.

Veröffentlicht am

Vom AI-Hype über eine AI-Hybris zu AI CON

https://thecon.ai/

Es ist an der Zeit, die Entwicklungen bei Artificial Intelligence (Künstlicher Intelligenz) auch einmal etwas kritischer zu beleuchten. Zwei Forscher aus den Bereichen der Sprach- und Sozialwissenschaften haben das in ihrem Buch getan:

Bender, E. M.; Hanna, A. (2025): The AI CON. How To fight Big Tech´s Hype And Create The Future We Want | Link.

Um das Buch mit seinen Ansichten besser verstehen zu können lohnt es sich, kurz auf in die Anfänge von Artificial Intelligence zurückzuschauen. Den Begriff „Artificial Intelligence“ prägte McCarthy für den Dartmouth Workshop im Jahr 1956. Darüber hinaus hat Minsky im gleichen Jahr sein einflussreiches Paper zu Heuristic Aspects of the Artificial Intelligence Problem veröffentlicht. Seit dieser Zeit hat die Entwicklung von Artificial Intelligence immer dynamischer zugenommen.

Die Dynamik ist seit 70 Jahren auch geprägt von militärischen Anforderungen und von Investoren, die in Artificial Intelligence eine sehr lukrative Story sehen, die uns erzählt, dass Maschinen (Artificial Intelligence) im Vergleich zu Menschen in allen Bereichen besser sind, bzw. sein werden. Denn: Wenn etwas heute noch nicht klappen sollte, dann wird es mit besseren Maschinen bestimmt in der Zukunft funktionieren – so zumindest die Story. Man muss eben daran glauben…

Dieses Narrativ hilft natürlich die enormen Investitionen zu schützen, und weiterhin viel Geld zu verdienen. Doch stellen sich immer mehr Personen – und ganze Gesellschaften – in der Zwischenzeit die Frage, ob diese Erzählung stimmt, und ob diese Entwicklungen gut für die Menschen sind. Manche argumentieren, dass es sich bei dem allseits propagierten AI-Hype ehr um eine AI-Hybris handelt:

Die Hybris (altgriechisch für Übermut‘, ‚Anmaßung‘) bezeichnet Selbstüberschätzung oder Hochmut. Man verbindet mit Hybris häufig den Realitätsverlust einer Person und die Überschätzung der eigenen Fähigkeiten, Leistungen oder Kompetenzen, vor allem von Personen in Machtpositionen. (Quelle: vgl. Wikipedia).

Wenn Sie sich diese ganzen Punkte noch einmal vergegenwärtigen, kommen Sie möglicherweise auch zu dem Schluss, dass man gegen das etablierte Narrativ etwas unternehmen sollte/muss. Genau das haben die beiden Autoren mit ihrem Buch gemacht.

Um es noch einmal deutlich zu machen: Es geht nicht darum, Artificial Intelligence zu „verteufeln“, sondern darum, die Möglichkeiten von Artificial Intelligence im Rahmen von Werten und Grundrechten für Menschen zu nutzen.

Seit mehreren Jahren gehen wir auch positiv kritisch mit den Möglichkeiten und den Risiken von Artificial Intelligence um – ganz im Sinne einer Digitalen Souveränität.

Veröffentlicht am

Energiesicherheit, Open Source und Künstliche Intelligenz

Image by andreas160578 from Pixabay

Die beiden Kriege in der Ukraine und im Iran haben wieder einmal deutlich gemacht, wie Abhängig wir in Europa von der Lieferung fossiler Energie sind. Dabei haben wir gerade in den letzten 5-10 Jahren deutliche Fortschritte bei der Energiesicherheit gemacht. Beispielsweise hatten erneuerbare Energien in Deutschland Anfang 2026 einen 60%- Anteil an der Bruttostromerzeugung (Bundesministerium für Wirtschaft und Energie).

Im europäischen Raum mit seinen vernetzten Energiestrukturen kommt es nun immer stärker darauf an, die unterschiedlichen Netze sicher zu steuern, ohne auch hier wieder in eine technologische Abhängigkeit zu geraten. Das Fraunhofer Institut entwickelt hierzu die SCADA Plattform und setzt dabei bewusst auf Open Source.

Um Anomalien europaweit frühzeitig erkennen und beheben zu können, entwickeln die Forschenden eine Open-Source-Plattform zur Datenerfassung, Fernüberwachung und Steuerung von Energienetzen. Experten sprechen von einer SCADA Plattform, kurz für »Supervisory Control and Data Acquisition Platform«. (…) Die Open-Source Software ist quasi der Werkzeugkasten, mit dem das KI-Modell trainiert und später betrieben wird.
Quelle: Auf zu sicherer Energie, Fraunhofer-Magazin 1 | 2026 (PDF).

Es ist bezeichnend, dass auch in der Energieversorgung auf Open Source Lösungen gesetzt wird, und dass diese dann Basis für die Anwendung Künstlicher Intelligenz sein wird. Ich würde mir wünschen, dass auch Open Source KI verwendet wird, da diese offen und transparent sind, und unsere Daten schützen. Ganz im Sinne einer Digitalen Souveränität.

Veröffentlicht am

Künstliche Intelligenz: Open Source Modelle mit der Ollama-App auf dem eigenen Desktop

Eigener Screenshot – (c) Dr. Robert Freund

Ollama ist eine Open Source Software, mit der man kleine und größere Sprachmodelle (Small Language Models und Large Language Models testen kann.

(1) Zunächst natürlich auf Ollama selbst nach einem entsprechenden Login.

(2) Da Ollama Open Source ist, kann es auch auf dem eigenen Server installiert werden. Wie Sie wissen, haben wir das auch schon ausprobiert. Informationen dazu finden Sie in unseren verschiedenen Blogbeiträgen dazu.

(3) Es ist möglich, Ollama auf dem eigenen Desktop zu installieren und geeignete Modelle zu testen. In den Settings ist der Login bei Ollama zu hinterlegen.

Die Abbildung zeigt den Screenshot mit der Startseite auf meinem Desktop. Wie gewohnt kann ein geeigneter Prompt eingegeben werden.

Spannend ist, dass wir bei jedem neuen Chat aus verschiedenen installierten Modellen auswählen können. Bei dem Beispiel haben wir MISTRAL ausgewählt. Über das „+“-Zeichen können sogar Dateien mit hochgeladen werden.

Auch an der Stelle wird wieder deutlich, wie wichtig es ist, Künstliche Intelligenz mit transparenten Open Source Modellen auf der eigenen Infrastruktur zu betreiben. Ganz im Sinne einer Digitalen Souveränität.

Es war anschließend interessant zu sehen, wie schnell die Antwort über Ollama und MISTRAL erstellt wurde. Auch die Qualität der Antwort war gut. Hier der entsprechende Screenshot:

Ergebnis über MISTRAL (c) Dr. Robert reund