Die Digitale Abhängigkeit von amerikanischen oder chinesischen Tech-Konzernen, macht viele Privatpersonen, Unternehmen und Verwaltungen nervös und nachdenklich. Dabei stellen sich Fragen wie:
Wo befinden sich eigentlich unsere Daten?
Wissen Sie, wo sich ihre Daten befinden, wenn Sie neben ihren internen ERP-Anwendungen auch Internet-Schnittstellen, oder auch Künstliche Intelligenz, wie z.B. ChatGPT etc. nutzen?
Um wieder eine gewissen Digitale Souveränität zu erlangen, setzen wir seit mehreren Jahren auf Open Source Anwendungen. Die Abbildung zeigt beispielhaft einen Screenshot aus unserer NEXTCLOUD. Es wird deutlich, dass alle unsere Daten in Deutschland liegen – und das auch bei Anwendungen zur Künstlichen Intelligenz, denn wir verwenden LocalAI.
Vergleich zwischen Google Drive und Nextcloud im Rahmen der Bewertung mithilfe des Souveränitätsscores .
Der Souveränitätsscore von Prof. Wehnes stellt verschiedene Kriterien auf, anhand derer Angebote verglichen werden können. In der Abbildung ist zu erkennen, dass Google Drive und Nextcloud (Open Source) gegenübergestellt wurden. Das Ergebnis ist eindeutig.
Google Drive erfüll kein einziges Kriterium, wohingegen Nextcloud 5 von insgesamt 6 Kriterien erfüllt. Daraus ergibt sich für Google Drive ein Souveränitätsscore von 0 und für Nextcloud ein Souveränitätsscore von 1.
Diese einfache Gegenüberstellung zeigt, dass die Digitale Souveränität mit Nextcloud erreicht werden kann.
Fangen Sie an, und machen Sie den ersten Schritt zu Ihrer eigenen Digitalen Souveränität, indem Sie auf Open Source Anwendungen setzen, bei denen Sie die Kontrolle über Ihre eigenen Daten haben – z.B. mit Nextcloud.
Wir nutzen seit 2022 auf unserem Server Nextcloud und in der Zwischenzeit auch LocalAI. Dabei können wir innerhalb von Nextcloud auf KI-Modelle zurückgreifen – alle Daten bleiben dabei auf unserem Server. Der nächste Schritt ist, KI-Agenten auf unserem Server zu entwickeln. Siehe dazu auch
Viele persönliche, bzw. organisatorische Abläufe sind Routineprozesse, die sich häufig wiederholen. Sobald dazugehörende Unterlagen digital vorliegen, können diese mit Hilfe von definiertenAbläufenautomatisiert werden.
Auf unserem Server haben wir Nextcloud (Open Source) installiert, sodass alle Daten geschützt sind. Mit der App Nextcloud FLOW können wir auf alle Daten zugreifen, und einfache, oder auch etwas komplexere Abläufe automatisieren.
In der Abbildung ist beispielhaft zu sehen, dass in der linken Navigationsleiste “Ablauf”, also “Flow”, angeklickt wurde. In der rechten Hälfte ist zu erkennen, dass wir den Ablauf “PDF-Umwandlung” hinterlegt haben. Nun können wir anhand der verschiedenen Auswahlfelder bestimmen, unter welchen Bedingungen Dateien automatisiert in PDF umgewandelt werden können.
Das ist natürlich nur ein kleines und einfaches Beispiel für die Nutzung von Nextcloud FLOW, doch sind auch Anwendungen bei IKBD (Information, Kommunikation, Berichtswesen und Dokumentation) in Projekten denkbar, usw. usw. Den Möglichkeiten, sind fast keine Grenzen gesetzt.
Darüber hinaus kann es Sinn machen, auch noch den Nextcloud ASSISTENT oder sogar KI-Agenten zu nutzen – alles auf Open Source Basis, sodass alle Daten auf dem eigenen Server bleiben.
Künstliche Intelligenz (KI oder AI: Artificial Intelligence) einzusetzen ist heute in vielen Organisationen schon Standard. Dabei nutzen immer noch viele die von den kommerziellen Anbietern angebotenen KI-Systeme. Dass das kritisch sein kann, habe ich schon in vielen Blogbeiträgen erläutert.
Wir wollen einen anderen Weg, aufzeigen, der die Digitale Souveränität für Organisationen und Privatpersonen ermöglicht: Open Source AI und eine Open Source Kollaborationsplattform. Siehe dazu Von der digitalen Abhängigkeit zur digitalen Souveränität.
Im zweiten Schritt haben wir für die Entwicklung von AI-Agenten Langflow (Open Source) auf unserem Server installiert. Dabei ist es möglich, ChatGPT von OpenAI, oder über Ollama sehr viele unterschiedliche Open Source Modelle zu nutzen. Wir wollen natürlich den zweiten Weg gehen und haben daher Ollamaauf unserem Server installiert.
Ollama Startseite auf unserem Server: Eigener Screenshot
In der Abbildung ist zu sehen, dass wir für den ersten Test zunächst vier Modelle installiert haben, inkl. DeepSeek-R1 und LLama 3.2. Demnächst werden wir noch weitere Modelle installieren, die wir dann in Langflow integrieren, um AI-Agenten zu entwickeln. In den kommenden Wochen werden wir über die Erfahrungen berichten.
Wenn Sie die bekannten Trainingsmodelle (LLM: Large Language Modells) bei ChatGPT (OpenAI), Gemini (Google) usw. nutzen, werden Sie sich irgendwann als Privatperson, oder auch als Organisation Fragen, was mit ihren eingegebenen Texten (Prompts) oder auch Dateien, Datenbanken usw. bei der Verarbeitung Ihrer Anfragen und Aufgaben passiert.
Antwort: Das weiß keiner so genau, da die KI-Modelle nicht offen und transparent sind.
Um die eigene Souveränität über unsere Daten zu erlangen, haben wir seit einiger Zeit angefangen, uns Stück für Stück von kommerziellen Anwendungen zu lösen. Angefangen haben wir mit NEXTCLOUD, das auf unserem eigenen Server läuft. NEXTCLOUD Hub 9 bietet die Möglichkeiten, die wir alle von Microsoft kennen.
Dazu kommt in der Zwischenzeit auch ein NEXTCLOUD-Assistent, mit dem wir auch KI-Modelle nutzen können, die auf unserem Serverlaufen. Dieses Konzept einer LOCALAI – also einer lokal angewendeten KI – ist deshalb sehr interessant, da wir nicht nur große LLM hinterlegen, sondern auch fast beliebig viele spezialisierte kleinere Trainingsmodelle (SML: Small Language Models) nutzen können. Siehe dazu Free Open Source Software (FOSS): Eigene LocalAI-Instanz mit ersten drei Modellen eingerichtet.
Wie in der Abbildung zu sehen, können wir mit dem NEXTCLOUD Assistenten auch Funktionen nutzen, und auch eigene Dateien hochladen. Dabei werden die Dateien auch mit Hilfe von dem jeweils lokal verknüpften lokalen KI-Modell bearbeitet. Alle Daten bleiben dabei auf unserem Server – ein unschätzbarer Vorteil.
Die Kombination von LOCALAI mit eigenen Daten auf dem eigenen Server macht dieses Konzept gerade für Kleine und Mittlere Unternehmen (KMU) interessant.
In unserer Kollaborationsplattform Nextcloud (Open Source) kann an jeder beliebigen Stelle der Nextcloud-Assistent aufgerufen werden. Wie in der Abbildung zu sehen ist, ergeben sich hier viele Möglichkeiten, die auch mit lokalen Large Language Models (LLM) verknüpft sind.
In dem Beispiel ist CHAT MIT KI angewählt. Diese Funktion ist in unserer LocalAI mit Llama 3.2 (LLM) verknüpft.
Als Prompt habe ich zum Test einfach “Erstelle eine Liste mit Stakeholdern für das Projekt Website” eingegeben.
Es kam zu einer Nachfrage, die ich beantwortet habe. Anschließend wurde eine durchaus brauchbare Liste möglicher Stakeholder für ein Projekt “Website” ausgegeben.
Nach verschiedenen kleinen Einstellungen am Server waren die Antwortzeiten sehr gut.
Der große Vorteil bei dieser Arbeitsweise ist allerdings: Alle Daten bleiben auf unserem Server – LocalAI eben.
Bei den verschiedenen kommerziellen Anwendungen ist es fast schon Standard, dass Assistenten eingeblendet und angewendet werden, um Künstliche Intelligenz in den jeweiligen Prozess oder Task zu nutzen. Dabei ist immer noch weitgehend unklar, welche Trainingsdaten bei den verschiedenen Trainingsdatenbanken (LLM: Large Language Models) genutzt werden, und was beispielsweise mit den jeweils eigenen Eingaben (Prompts) passiert. Nicht zuletzt werden sich die kommerziellen Anbieter die verschiedenen Angebote mittelfristig auch gut bezahlen lassen.
Es kann daher nützlich sein, Open Source AI zu nutzen.
Praktisch kann das mit NEXTCLOUD und dem darin enthaltenen Nextcloud-Assistenten umgesetzt werden. Jede Funktion (Abbildung) kann man mit einer Traingsdatenbank verbinden, die wirklich transparent und Open Source ist. Solche Trainingsdatenbanken stehen beispielsweise bei Hugging Face zur Verfügung. Darüber hinaus bleiben alle Daten auf dem eigenen Server – ein heute unschätzbarer Wert . Wir werden diesen Weg weitergehen und in Zukunft dazu noch verschiedene Blogbeiträge veröffentlichen. Siehe dazu auch
In unserer Nextcloud (Hub 9) gibt es einen Nexcloud-Assistenten in dem verschiedene Aufgaben ausgewählt werden können (Siehe Abbildung). Weiterhin ist es möglich, zu jeder der genannten Anwendungen die geeignete KI (Künstliche Intelligenz) zu hinterlegen.
In der folgenden Abbildung ist zu sehen, dass für die Aufgaben “Free text to text prompt” und “Extract topics” z.B. OpenAI hinterlegt ist. Das Rollfeld zeigt, dass auch andere KI-Anwendungen ausgewählt werden können. Unser Ziel ist es in Zukunft mit leitungsfähigen Open Source KI-Anwendungen wie z.B. Common Corpus zu arbeiten. Siehe dazu auch Open Source AI Definition – 1.0: Release Candidate 2 am 21.10.2024 veröffentlicht.
Auf der Ebene der Kollaborationsplattformen gibt es mit Nextcloud und Collabora Online interessante Open-Source-Alternativen zur Microsoft-Welt. Dabei können beispielsweise Microsoft-Dateien und Open-Source-Dateien in Nextcloud abgelegt und bearbeitet werden. Ist die Collabora-Online-App installiert, so kann auch kollaborativ an Dateien gearbeitet werden. Die Dateien werden in dem jeweiligen Browser geöffnet, sodass keine weitere spezielle Software erforderlich ist.
Wenn man allerdings häufig zwischen den “beiden Welten” (Microsoft – Open Source) hin- und herwechselt, kommt es durchaus zu Schwierigkeiten, die in einem White Paper von Collabora Online wie folgt beschrieben wurden.
“You may run into problems if you frequently switch between document formats. This is not a problem unique to Collabora Online, this will be true by all document editors, but we feel it worth pointing out still. Document formats are very complicated. For example, the specification document for Microsoft-developed Open XML format ist 5000 pages long. Consequently, every document format contain some functionality available only in that format. For this reason, we encourage end users to stick to one document format” (Collabora Productivity (2024): Document Interoperability with Collabora Online | PDF).
Es wundert mich nicht, dass manche Microsoft-Anwender bei solchen Punkten Open-Source-Lösungen aus Bequemlichkeit ablehnen. Microsoft hat es geschafft, dass sich sehr viele Personen und Organisationen an die Microsoft-Logik angepasst haben und jetzt bei einem Wechsel gefühlt hohe Switching-Costs entstehen. Dabei treten die offensichtlichen Vorteile von Open-Source-Anwendungen in den Hintergrund. Wie oben in dem Link erwähnt, kann so ein Verhalten teuer sein.
Solche Zusammenhänge thematisieren wir auch in den von uns entwickelten Blended Learning Lehrgängen Projektmanager/in (IHK) und Projektmanager/in Agil (IHK), die wir an verschiedenen Standorten anbieten. Weitere Informationen zu den Lehrgängen und zu Terminen finden Sie auf unserer Lernplattform.
OpenAI ist mit ChatGPT etc. inzwischen weltweit erfolgreich am Markt. Angefangen hat das damalige Start-up mit der Idee, Künstliche Intelligenz (AI) als Anwendung offen, und damit frei verfügbar und transparent anzubieten. – ganz im Sinne der Open Source Idee.
Durch den Einstieg von Microsoft ist der Name OpenAI zwar geblieben, doch sind die Angebote in der Zwischenzeit eher als geschlossenes, intransparentes System einzuordnen, mit dem die Inhaber (Shareholder) exorbitante Gewinne erzielen möchten.
Dieser Problematik hat sich eine Personengruppe angenommen, und eine erste Definition für Open Source AI erarbeitet, anhand der die aktuellen KI-Apps bewertet werden können: In dem Artikel MIT Technology Review (2024): We finally have a definition for open-source AI (Massachusetts Institut of Technology, 22.08.224) findet sich dazu folgendes:
“According to the group, an open-source AI system can be used for any purpose without securing permission, and researchers should be able to inspect its components and study how the system works.
It should also be possible to modify the system for any purpose—including to change its output—and to share it with others to use, with or without modifications, for any purpose. In addition, the standard attempts to define a level of transparency for a given model’s training data, source code, and weights.”
Die Intransparenz der Trainingsdaten bei den eher geschlossenen KI-Systemen von OpenAI, Meta und Google führt aktuell dazu, dass sich diese Unternehmen mit sehr vielen Klagen und Rechtstreitigkeiten auseinandersetzen müssen.
Die Open Source Initiative (OSI) plant, eine Art Mechanismus zu entwickeln, der bei den jeweiligen KI-Anwendungen anzeigt, ob es sich wirklich um Open Source KI-Anwendungen handelt
