Künstliche Intelligenz: 99% der Unternehmensdaten sind (noch) nicht in den Trainingsdaten der LLMs zu finden

Wenn es um allgemein verfügbare Daten aus dem Internet geht, können die bekannten Closed Source KI-Modelle erstaunliche Ergebnisse liefern. Dabei bestehen die genutzten Trainingsdaten der LLMs (Large Language Models) oft aus den im Internet verfügbaren Daten – immer öfter allerdings auch aus Daten, die eigentlich dem Urheberrecht unterliegen, und somit nicht genutzt werden dürften.

Wenn es um die speziellen Daten einer Branche oder eines Unternehmens geht, sind deren Daten nicht in diesen Trainingsdaten enthalten und können somit bei den Ergebnissen auch nicht berücksichtigt werden. Nun könnte man meinen, dass das kein Problem darstellen sollte, immerhin ist es ja möglich ist, die eigenen Daten für die KI-Nutzung zur Verfügung zu stellen – einfach hochladen. Doch was passiert dann mit diesen Daten?

Immer mehr Unternehmen, Organisationen und Verwaltungen sind bei diesem Punkt vorsichtig, da sie nicht wissen, was mit ihren Daten bei der KI-Nutzung durch Closed Source oder auch Closed Weighted Modellen passiert. Diese Modelle sind immer noch intransparent und daher wie eine Black Box zu bewerten. Siehe dazu Das Kontinuum zwischen Closed Source AI und Open Source AI oder Künstliche Intelligenz: Würden Sie aus diesem Glas trinken?

Wollen Sie wirklich IHRE Daten solchen Modellen zur Verfügung stellen, um DEREN Wettbewerbsfähigkeit zu verbessern?

“So here’s the deal: you’ve got data. That data you have access to isn’t part of these LLMs at all. Why? Because it’s your corporate data. We can assure you that many LLM providers want it. In fact, the reason 99% of corporate data isn’t scraped and sucked into an LLM is because you didn’t post it on the internet. (…) Are you planning to give it away and let others create disproportionate amounts of value from your data, essentially making your data THEIR competitive advantage OR are you going to make your data YOUR competitive advantage?” (Thomas et al. 2025).

Doch was ist die Alternative? Nutzen Sie IHRE Daten zusammen mit Open Source AI auf ihren eigenen Servern. Der Vorteil liegt klar auf der Hand: Alle Daten bleiben bei Ihnen.

Siehe dazu auch

LocalAI: KI-Modelle und eigene Daten kombinieren

LocalAI: Aktuell können wir aus 713 Modellen auswählen

Ollama: AI Agenten mit verschiedenen Open Source Modellen entwickeln

Digitale Souveränität: Wo befinden sich deine Daten?

Test Criteria Catalogue for AI Systems in Finance

AI (Artificial intelligence) AI management and support technology in the Business plan marketing success customer. AI management concept.

Der Finanzbereich mit seinen unglaublichen Mengen an Daten (historische Daten und Echtzeitdaten) ist prädestiniert für den Einsatz Künstlicher Intelligenz (KI, oder englisch AI: Artificial Intelligence). Die Nutzung von LLM (Large Language Models) ,oder in Zukunft Small Language Models (SLM) und KI-Agenten, kann für eine Gesellschaft positiv, oder eher negativ genutzt werden. Dabei können Open Source AI Models, Open Weights Models und Closed AI Models unterschieden werden.

Es ist aus meiner Sicht gut, dass die Europäische Union mit dem EUAI-Act weltweit erste Rahmenbedingungen für die Nutzung Künstlicher Intelligenz festgelegt hat. Im Vergleich zu dem US-amerikanischen vorgehen (KI-Unternehmen können alles machen, um Profite zu generieren) und dem chinesischen Vorgehen (KI für die Unterstützung der Partei), ist der Europäische Weg eine gute Mischung. Natürlich muss dabei immer abgewogen werden, welcher Freiraum für Innovationen bleiben sollte.

Um nun herauszufinden, wie KI-Ssteme z.B. für den Finanzbereich bewertet und letztendlich ausgewählt werden sollten, hat das Federal Office for Information Security (Deutsch: BSI) einen entsprechenden Kriterienkatalog veröffentlicht:

Publication Notes
Given the international relevance of trustworthy AI in the financial sector and the widespread applicability ofthe EUAIAct across memberstates and beyond,this publication was prepared in English to ensure broader accessibility and facilitate collaboration with international stakeholders. English serves as the standard language in technical, regulatory, and academic discourse on AI, making it the most appropriate choice for addressing a diverse audience, including researchers, industry professionals, and policymakers across Europe and globally” (Federal Office for Information Security 2025).

Es stellt sich dabei auch die Frage, ob diese Kriterien nur für den Finanzbereich geeignet sind, oder ob alle – oder einige – der Kriterien auch für andere gesellschaftlichen Bereiche wichtig sein könnten.

Siehe dazu auch Sou.veränitätsscore für KI-Systeme.

Künstliche Intelligenz: Vorteile von Small Language Models (SLMs)

Aktuell bekannte KI-Anwendungen rühmen sich seit Jahren, sehr große Mengen an Trainingsdaten (Large Language Models) zu verarbeiten. Der Tenor war und ist oft noch: Je größer die Trainingsdatenbank, um so besser.

In der Zwischenzeit weiß man allerdings, dass das so nicht stimmt und Large Language Models (LLMs) durchaus auch Nachteile haben. Beispielsweise ist die Genauigkeit der Daten ein Problem – immerhin sind die Daten oft ausschließlich aus dem Internet. Daten von Unternehmen und private Daten sind fast gar nicht verfügbar. Weiterhin ist das Halluzinieren ein Problem. Dabei sind die Antworten scheinbar plausibel, stimmen aber nicht.

Muddu Sudhaker hat diese Punkte in seinem Artikel noch einmal aufgeführt. Dabei kommt er zu dem Schluss, dass es in Zukunft immer mehr darauf ankommen wird, kleinere, speziellere Trainingsdatenbanken zu nutzen – eben Small Language Models (SLMs).

Muddu Sudhakar (2024): Small Language Models (SLMs): The Next Frontier for the Enterprise, Forbes, LINK

Große Vorteile der SLMs sieht der Autor natürlich einmal in der Genauigkeit der Daten und damit in den besseren Ergebnissen. Weiterhin sind SLMs natürlich auch kostensparender. Einerseits sind die Entwicklungskosten geringer, andererseits benötigt man keine aufwendige Hardware, um SLMs zu betreiben. Teilweise können solche Modelle auf dem eigenen PC, oder auf dem Smartphone betrieben werden.

Solche Argumente sind natürlich gerade für Kleine und Mittlere Unternehmen (KMU) interessant, die mit den geeigneten SLMs und ihren eigen, unternehmensinternen Daten ein interessantes und kostengünstiges KI-System aufbauen können.

Voraussetzung dafür ist für mich, dass alle Daten auf den eigenen Servern bleiben, was aktuell nur mit Open Source AI möglich ist. OpenAI mit ChatGPT ist KEIN Open Source AI.

Künstliche Intelligenz: Würden Sie aus diesem Glas trinken?

Image by AIAC Interactive Agency from Pixabay

Das Bild zeigt ein Glas mit einer Flüssigkeit. Es ist allerdings nicht genau zu erkennen, um welchen Inhalt es sich handelt. Es könnte also sein, dass die Flüssigkeit gut für Ihre Gesundheit ist, oder auch nicht. Vertrauen Sie dieser Situation? Vertrauen Sie demjenigen, der das Glas so hingestellt hat?

Würden Sie aus diesem Glas trinken?

So ähnlich ist die Situation bei Künstlicher Intelligenz. Die Tech-Unternehmen veröffentlichen eine KI-Anwendung nach der anderen. Privatpersonen, Unternehmen, ja ganze Verwaltungen nutzen diese KI-Apps als Black Box, ohne z.B. zu wissen, wie die Daten in den Large Language Models (LLM) zusammengetragen wurden – um nur einen Punkt zu nennen.

Der Vergleich von dem Glas mit Künstlicher Intelligenz hinkt zwar etwas, doch erscheint mir die Analogie durchaus bemerkenswert, da der erste Schritt zur Anwendung von Künstlicher Intelligenz Vertrauen sein sollte.

Step 1: It All Starts with Trust
“Think about it: the glass is opaque, you can’t even see inside it! The water inside that glass could pure spring water, but it could also be cloudy and murky puddle water, or even contaminated water! If you couldn’t see inside that glass, would you still drink what’s inside it after adding tons of high-quality sugar and lemon to it? Probably not, so why would you do this with one of your company’s most previous assets—your data?” (Thomas et al. 2025).

Vertrauen Sie der Art von Künstlicher Intelligenz, wie sie von den etablierten Tech-Giganten angeboten wird? Solche Closed Source Modelle sind nicht wirklich transparent, und wollen es auch weiterhin nicht sein. Siehe dazu auch Das Kontinuum zwischen Closed Source AI und Open Source AI.

Vertrauen Sie besser wirklichen Open Source AI – Anwendungen: Open Source AI: Besser für einzelne Personen, Organisationen und demokratische Gesellschaften.

All Our Ideas: Künstliche Intelligenz, Online-Umfragen und Crowdsourcing kombinieren

Quelle: https://all-our-ideas.citizens.is/domain/1/

Aktuell wird alles mit Künstlicher Intelligenz (AI: Artificial Intelligence) in Verbindung gebracht. Die Neukombination von bestehenden Ansätzen kann dabei zu interessanten Innovationen führen.

Die Website ALL Our Ideas verbindet beispielsweise Online-Umfragen mit Crowdsourcing und Künstlicher Intelligenz.

“All Our Ideas is an innovative tool that you can use for large-scale online engagements to produce a rank-ordered list of public input. This “Wiki Survey” tool combines the best of survey research with crowdsourcing and artificial intelligence to enable rapid feedback” (ebd.).

Ein kurzes Tutorial ist gleich auf der Website zu finden. Darin wird erläutert, wie Sie die Möglichkeiten selbst nutzen können. Starten Sie einfach mit einer eigenen Online-Umfrage.

Die Idee und das Konzept finde ich gut, da auch der Code frei verfügbar ist: Open Source Code. Damit kann alles auf dem eigenen Server installiert werden. Bei der Integration von KI-Modellen schlage ich natürlich vor, Open Source KI (Open Source AI) zu nutzen.

Organisation und Lernen – ein immer noch schwieriges Thema. Warum eigentlich?

Image by Gerd Altmann from Pixabay

Veränderungen in unserem Umfeld bedeuten, dass sich Gesellschaften, Organisationen und einzelne Personen anpassen müssen. Die lieb gewonnenen Routinen auf verschiedenen Ebenen verlieren immer öfter ihre Berechtigung und werden ersetzt. Anpassung bedeutet, dass wir Neues lernen müssen. Siehe dazu auch Reskilling 2030 des World Economic Forum.

Bei dem Wort “Lernen” denken viele an Schule oder Universitäten usw., doch ist Lernen eher als lebenslanger Prozess zu sehen. – auch in (Lernenden) Organisationen. Weiterhin haben sich die Schwerpunkte des Lernens in der letzten Zeit verschoben, denn in Zukunft kommt dem selbstorganisierten Lernen – auch mit Hilfe von Künstlicher Intelligenz – eine bedeutende Rolle zu.

Es ist für mich daher immer noch erstaunlich, wie wenig Organisationen über das Lernen von Mitarbeitern, von Teams, der gesamten Organisation und im Netzwerk wissen. Bezeichnend ist hier, dass das Lernen im beruflichen Kontext oftmals nur als reiner Kostenfaktor gesehen wird (Merkmal der klassischen industriellen Kosten- und Leistungsrechnung).

“In a 2020 BCG study of the learning capabilities of 120 large global companies, only 15% said they granted corporate learning the high priority it deserves. Skills are not linked to corporate strategy. The same BCG study shows that less than 15% of leaders believe that learning constitutes a core part of their company’s overall business strategy” (Quelle).

Das Corporate Learning sollte sich bewusst machen, dass Lernen, Kompetenzentwicklung und Erfolg einer Organisation zusammenhängen. Siehe dazu auch meinen Beitrag Wettbewerbsfähigkeit, Lernen, Kompetenz und Intelligenz hängen zusammen – aber wie?, den ich schon 2013 geschrieben hatte.

Warum wird in den Organisationen darauf zu wenig geachtet, obwohl doch viele Studien und Veröffentlichungen immer dringender auf diese Zusammenhänge hinweisen?

Meines Erachtens liegt es daran, dass viele Führungskräfte nichts von Lernen verstehen und auch keine entsprechende Kompetenzen entwickelt haben. Wie wäre es, wenn Führungskräfte einen Masterabschluss im Bereich Erwachsenenbildung nachweisen müssten? Ich habe meinen Masterabschluss im Bereich der Erwachsenenbildung beispielsweise an der TU Kaiserslautern erfolgreich abgeschlossen. Siehe dazu auch

Lernende Organisation oder Organisationales Lernen?

Freund, R. (2011): Das Konzept der Multiplen Kompetenz auf den Analyseebenen Individuum, Gruppe, Organisation und Netzwerk.

Innovationen: Das Europäische Paradox

AI (Artificial intelligence) AI management and support technology in the Business plan marketing success customer. AI management concept.

Wenn es um Innovationen geht, sind wir in Deutschland und in der EU immer sehr bemüht zu betonen, was alles dafür getan wird, dass wir in diesem Bereich führend sein wollen – aber nicht sind. Denn: Alle aktuell wichtigen Innovationen kommen nicht aus Deutschland, bzw. der EU. Wenn dem nicht so wäre, wären wir beispielsweise bei der Digitalisierung nicht so abhängig von den Tech-Konzernen aus den USA.

Obwohl wir in Deutschland (in der EU) sehr viel Geld in die Förderung von Forschung & Entwicklung stecken, und auch unser Bildungssystem, sowie die gesamte Infrastruktur gut sind, sieht es bei den wichtigen Innovationen eher schlecht aus. Wir bekommen die guten Ansätze nicht wirklich umgesetzt – doch genau das macht Innovationen aus. Die Europäische Kommission hat diese Situation 1995 schon als Europäisches Paradox bezeichnet.

“In 1995, the European Commission firstly used the term ‘European Paradox’ (European Commission 1995) to define the phenomenon of having good higher education systems, well established research infrastructure but failing to translate this into markable innovations. (…) Additionally, the EU in comparison to the USA was unable to compete although education, research and science were very well established in the EU.”

Quelle: Banholzer, Volker M. (2022). From „Industry 4.0“ to „Society 5.0“ and „Industry 5.0“: Value- and Mission-Oriented Policies: Technological and Social Innovations – Aspects of Systemic Transformation. IKOM WP Vol. 3, No. 2/2022. Nürnberg: Technische Hochschule Nürnberg Georg Simon Ohm).

Interessant dabei ist, dass sich scheinbar in den letzten 30 Jahren (1995-2025) nicht viel verbessert hat. Möglicherweise ist die Schere bei den wichtigsten aktuellen Innovationsbereichen sogar noch größer geworden. Wie kommt das?

Verstehen wir Innovation immer noch falsch?

Messen wir die falschen Parameter?

Haben wir gerade in Deutschland mehr Innovationspreise als wirkliche Innovationen?

Anmerkung: Das Bild zum Blogbeitrag habe ich nur beispielhaft ausgewählt. Es geht mir bei hier nicht nur um die Situation bei der Künstlichen Intelligenz..

Modernes Design sollte User Experience (UX) und Agent Experience (AX) beachten

Der Begriff User Experience (UX) spielt bei der Entwicklung von Produkten und Dienstleistungen eine große Rolle. Etwas kurz ausgedrückt, geht es bei UX um das “Benutzererlebnis” oder auch “Nutzererlebnis”. Dabei wird davon ausgegangen, dass es sich bei dem User um Menschen (Human) handelt.

In Zukunft wird es neben der Interaktion zwischen Technologien und Menschen auch immer mehr Interaktionen zwischen Technologien selbst stattfinden. Am Beispiel von KI-Agenten lässt sich das ganz gut nachvollziehen, denn hier muss das Design auf einen oder mehrere Agenten abgestimmt sein (Agentic Experience: AX). Der folgende Text unterstreicht das noch einmal:

“The designs of tomorrow will have to consider two kinds of users: humans and agents. The agent experience (AX) will be using APIs to compose workflows but now includes desktop interactions” (Thomas et al. 2025).

Ich bin gespannt, wie die UX-Community auf diese Entwicklung reagiert.

Von der Market Economy zur Self-organized Gift Economy

(c) Dr. Robert Freund; Quelle: vgl. Kuhnhenn et al. (2024)

In den verschiedenen gesellschaftlichen Diskussionen geht es oft um den “Markt” mit der entsprechenden Market Economy. Solche Beschreibungen suggerieren eine Homogenität, die es in “dem Markt” nicht gibt. Unternehmen, gerade große Konzerne, möchten allerings gerne, dass die im Markt üblichen unterschiedlichen Wissensströme kontrollierbar und nutzbar sind. Im einfachsten Fall bedeutet das dann: Der Markt ist das Ziel, um Gewinne zu erzielen.

Wie in dem Beitrag Von “Märkte als Ziele” zu “Märkte als Foren” erläutert, gibt es durch die vielschichtigen Vernetzungen der Marktteilnehmer untereinander eine hohe Komplexität und entsprechende Rückkopplungen. Märkte im ersten Schritt eher als Foren zu sehen, könnte hier eine angemessene Perspektive sein.

Wie in der Abbildung zu erkennen ist, ist die heute (2024) übliche Verteilung zwischen Universal Public Services, Market Economy und einer Self-organized Gift Economy deutlich: Die Market Economy dominiert alles, und das eben nicht zum Wohle aller, sondern zum Wohle weniger Personengruppen mit diffusen Vorstellungen davon, wie die “anderen” (Menschen) gefälligst leben sollen.

Demgegenüber gibt es in der Gesellschaft durchaus Bestrebungen, viele Produkte und Dienstleistungen zu entwickeln und anzubieten, die nicht den üblichen “Marktgesetzen” folgen, und eher selbst-organisiert sind. Die von Eric von Hippel seit vielen Jahren veröffentlichten Studien zeigen das beispielsweise bei Innovationen (Open User Innovationen) deutlich auf – und dieser Anteil wird immer größer!

Die von mehreren Autoren veröffentlichte Projektion in das Jahr 2048 zeigt eine deutliche Verschiebung der aktuellen Verteilung zu Gunsten einer Self-organized Gift Economy. Es wundert allerdings nicht, dass die Profiteure der Market Economy sich massiv gegen diese Entwicklung stemmen – mit allen demokratischen, allerdings auch mit nicht-demokratischen Mitteln.

Kuhnhenn et al. (2024): Future for All. A vision for 2048. Just • Ecological • Achievable | PDF

Am Beispiel der Künstlichen Intelligenz ist zu erkennen, dass die Profiteure der Market Economy mit immer neuen KI-Anwendungen Menschen, Organisationen und Nationen vor sich hertreiben und letztendlich abhängig machen wollen. Auf der anderen Seite bietet Künstliche Intelligenz vielen Menschen, Organisationen und Nationen heute die Chance, selbst-organisiert die neuen KI-Möglichkeiten zu nutzen.

Das allerdings nur, wenn Künstliche Intelligenz transparent, offen und demokratisiert zur Verfügung steht. Genau das bietet Open Source AI. Bitte beachten Sie, dass nicht alles, was Open Source AI genannt wird, auch Open Source AI ist! Siehe dazu beispielsweise

Open Source AI Definition – 1.0: Release Candidate 2 am 21.10.2024 veröffentlicht

Das Kontinuum zwischen Closed Source AI und Open Source AI

Open Source AI: Warum sollte Künstliche Intelligenz demokratisiert werden?

Open Source AI: Besser für einzelne Personen, Organisationen und demokratische Gesellschaften

Digitale Souveränität: Wo befinden sich deine Daten?

Screenshot von unserer Nextcloud-Installation

Die Digitale Abhängigkeit von amerikanischen oder chinesischen Tech-Konzernen, macht viele Privatpersonen, Unternehmen und Verwaltungen nervös und nachdenklich. Dabei stellen sich Fragen wie:

Wo befinden sich eigentlich unsere Daten?

Wissen Sie, wo sich ihre Daten befinden, wenn Sie neben ihren internen ERP-Anwendungen auch Internet-Schnittstellen, oder auch Künstliche Intelligenz, wie z.B. ChatGPT etc. nutzen?

Um wieder eine gewissen Digitale Souveränität zu erlangen, setzen wir seit mehreren Jahren auf Open Source Anwendungen. Die Abbildung zeigt beispielhaft einen Screenshot aus unserer NEXTCLOUD. Es wird deutlich, dass alle unsere Daten in Deutschland liegen – und das auch bei Anwendungen zur Künstlichen Intelligenz, denn wir verwenden LocalAI.