Es ist möglich, leistungsfähige KI-Sprachmodelle zu trainieren, die ausschließlich auf gemeinfreien und offenen Texten basieren

In den letzten Jahren gibt es sehr viele Content-Entwickler aus allen möglichen Bereichen, die sich gegen die Übernahme ihrer Inhalte als Trainingsdaten in den bekannten, kommerziellen KI-Modellen wehren.

Dabei kommt es einem so vor, als ob die großen KI-Unternehmen das wohl schon irgendwie „eingepreist“ haben und langwierige Gerichtsverfahren eingehen. Darüber hinaus muss auch die folgende Frage gestellt werden

Ist es möglich ist, leistungsfähige KI-Sprachmodelle zu trainieren, die ausschließlich auf gemeinfrei und offenen Texten basieren?

Die Antwort: Ja, es ist möglich.

In ihrem Paper hat eine Forscher-Gruppe nicht nur ausführlich dargelegt, welche Quellen sie dafür ausgewählt haben, sondern auch gleichzeitig ein entsprechendes Modell entwickelt und auf Hugging Face veröffentlicht:

„We release Common Pile v0.1, an 8TB corpus that—to our knowledge—constitutes the largest dataset built exclusively from openly licensed text. Alongside our dataset, we release Comma v0.1-1T and -2T, two performant 7-billion-parameter LLMs trained on text from the Common Pile, as well as the filtered and rebalanced data mixture we used for training. Our results demonstrate that not only is the Common Pile the strongest dataset for pretraining under an open-license constraint, but also that it produces models comparable to those trained on an equivalent amount of unlicensed data. This positive result holds promise for future of open-license pretraining, especially if the research community invests in collecting larger quantities of openly licensed text data in the future. Ultimately, we believe that the Common Pile v0.1 represents the first step on the path towards a more ethical language model ecosystem, where performance need not come at the cost of creator rights and legal transparency.“ (Kandpahl et al. (2025): The Common Pile v0.1: An 8TB Dataset of Public Domain and Openly Licensed Text).

Natürlich dominieren die proprietären KI-Modelle den Markt, und es fällt den Marktteilnehmer wegen dem in der Zwischenzeit eingetretenen Lock-in schwer, sich an andere KI-Modelle zu gewöhnen (Pfadabhängigkeit). Dennoch überlegen viele Einzelpersonen, Unternehmen, Not for Profit Organisationen oder auch Öffentliche Verwaltungen, ob sie sich nicht von der eingetretenen Abhängigkeit lösen sollten, ja müssen.

Siehe dazu auch Künstliche Intelligenz: Es ist so bequem, unmündig zu sein.

Künstliche Intelligenz: „Feeding the Machine“

Conceptual technology illustration of artificial intelligence. Abstract futuristic background

In dem Buch Muldoon, J., Graham, M., Cant, C. (2025) Feeding the Machine geht es den Autoren darum, zu hinterfragen, wie die großen KI-Modelle (LLM: Large Language Models) mit ihren riesigen Datenmengen entstehen, und von großen Unternehmen für ihre geschäftlichen Aktivitäten genutzt werden.

„Das ist aus Sicht von Muldoon, Graham und Cant auch das grundsätzliche Problem der KI-Entwicklung: dass sie vor allem von wenigen mächtigen Akteuren in deren Eigeninteresse entwickelt und genutzt werde. Die Kapitalintensität von KI führe dazu, dass sich Machtstrukturen weiter verfestigen, da nur wenige Unternehmen weltweit das Geld, die Hardware und das Knowhow besitzen, um die Entwicklung voranzutreiben. Durch die Arbeit dieser Unternehmen würden auch koloniale Strukturen aufrechterhalten, schreiben sie. Weil sich Arbeitskräfte im globalen Süden gezwungen sähen, für sehr wenig Geld unter schlechten Bedingungen zu arbeiten, während die hohen Gewinne in die Kassen der Konzerne und Investoren fließen“ (Scherer, K. (2025): KI-Erklärwerk und Kapitalismuskritik, Deutschlandfunk, Andruck, 30.06.2025 | PDF).

Es ist daher gut, dass sich in den letzten mehr als 20 Jahren weltweit Alternativen entwickelt haben, die frei verfügbare Daten in frei verfügbaren KI-Modellen zur Verfügung stellen (Open Data and Open Source AI – a perfect match). Je mehr diese genutzt werden, umso weniger Marktmacht haben die großen Tech-Konzerne. Es wundert daher nicht, dass diese an alternativen Entwicklungen wenig interessiert sind, und versuchen eine Art open washing mit ihren Modellen zu betreiben. Siehe dazu auch

Die erfolgreiche Open Source KI Geschichte

Künstliche Intelligenz – It All Starts with Trust

Künstliche Intelligenz lässt die meisten Sprachen und kulturellen Besonderheiten außen vor

User-Centric Personalization mit dem Human Context Protocol (HCP)

Illustration of two personalization paradigms (Shah et al., 2025)

Es ist schon erstaunlich, wie wir mit unseren Daten umgehen. Viele bestätigen die verschiedenen Richtlinien der Anbieter einfach, da sie (die Nutzer) die ganzen Bestimmungen gar nicht lesen, geschweige denn verstehen können. Das wiederum führt dazu, dass die jeweiligen Anbieter Nutzer-Daten teilweise, oder recht umfangreich, speichern und nutzen. Einerseits geschieht das, um die Nutzung zu vereinfachen – das Nennen die Provider dann Personalization-, wobei Kontext-Informationen des Users gewonnen werden. Darüber hinaus werden alle User-Daten noch für „andere Zwecke“ verwendet, die ein User gar nicht mehr überblicken kann.

In der Abbildung ist auf der linken Seite zu erkennen, was bei unterschiedlichen Anbietern (Providern) mit User-Prompts passiert. Jeder Provider baut seine Personalisierung gegenüber dem User auf (Provider-Centric Personalization), wobei die Daten und Kontext-Informationen beim Provider gespeichert werden. Diese Informationen über die Personalisierung sind nicht einfach auf andere Provider übertragbar, was dem jeweiligen Provider nicht interessiert. In diesem System hat der User kaum alternative Möglichkeiten.

Auf der rechten Seite der Abbildung ist ein ganz anderer Personalisierungs-Ansatz zu erkennen, der den User in den Mittelpunkt stellt (User-Controlled Preference Layer). Die Daten eines Users und der jeweilige Kontext werden in einem HCP Vault (einer Art Daten-Tresor) gespeichert, und können verschiedenen Systemen zur Verfügung gestellt werden. Bei diesem Ansatz müssen natürlich alle anderen Anwendungen über definierte Schnittstellen verbunden werden können – hier kommt das HCP (Human Context Protocol) ins Spiel..

„On the right panel, a shared preference layer is introduced in which user context is stored in a centralized HCP vault and selectively accessed by multiple assistants, tools, and applications through an HCP-mediated interface. User preference data (generated by varied user activity) is moderated by HCP to consumer agents. Each agent obtains only the relevant subset of the user’s complete preference data“ (Shah et al., 2025).

Diese Entwicklung unterstützt den Trend, dass User über ihre eigenen Daten und die damit verbundenen Kontext-Informationen selbst bestimmen können, was gerade in Zeiten von Künstlicher Intelligenz immer wichtiger wird. Siehe dazu auch Was wäre, wenn jeder über seine generierten Daten selbst entscheiden könnte?

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf ein: Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework.

Komplexe Systeme: Ist die Antwort einfach mehr Daten?

Eigene Darstellung nach Mainzer (2008)

Auf der Basis umfangreicher Geburts- und Sterbedaten berechnen Versicherungen seit dem 19. Jahrhundert die durchschnittliche Lebenserwartung von Menschen. Dabei wird eine Normalverteilung und das Gesetz der großen Zahl unterstellt. Die Verwendung von Normalverteilungen ist dabei nicht nur auf Versicherungen beschränkt. Ein weiteres Beispiel für die Nutzung der Normalverteilung ist die Berechnung des Intelligenz-Quotienten. In der Zwischenzeit gibt es deutliche Kritik an diesen Vorgehensweisen.

„Vom zentralen Grenzwertansatz und Normalverteilungen ging die klassische Sicht von Zufall und Wahrscheinlichkeit aus. Sie ist untypisch für komplexe Systeme, in denen sich Ordnungen und Strukturen selbst organisieren. Normalverteilungen setzen nämlich völlig unabhängige Ereignisse voraus. Daher können sie keine Korrelationen und Synergieeffekte von zusammenwirkenden Ereignissen berücksichtigen, die erst zu neuen Formen und Strukturen in Natur und Gesellschaft führen“ (Mainzer, 2008).

In der Abbildung (oben) wird plakativ dargestellt, dass durch zufällige Wechselwirkungen der Systemelemente einer Mikroebene zufällig neue Strukturen auf einer Makroebene entstehen, die nicht auf die einzelnen Systemelemente zurückzuführen sind (Emergenz). Siehe dazu auch Alle reden über Komplexität, doch wer kennt schon Bifurkationspunkte?

In der nächsten Abbildung ist die komplexe Situation in einer Gesellschaft zu erkennen, in der auf der Mikroebene Individuen interagieren und somit Bottom Up Einfluss auf die Makroebene nehmen. Die Makroebene wiederum hat Einfluss auf die Mikroebene (Top Down).

Eigene Darstellung nach Mainzer (2008)

Wir schauen als Bürger noch zu sehr auf die Makroebene (die da oben) und erwarten, dass das komplexe System für alle Beteiligten geregelt (gesteuert) wird. Besser wäre es, wenn mehr Raum für die Entwicklung der Mikroebene geschaffen wird (Ermöglichungsräume), um eine angemessene, selbstorganisierte Antwort auf die gesteigerte Komplexität in unserem Leben geben zu können.

Da das Denken in komplexen Zusammenhängen (komplexen Systemen) in unserer Gesellschaft leider wenig ausgeprägt ist, dominiert immer noch die falsche Annahme, dass alles regelbar und steuerbar sei. Man muss nur viele – ja sehr viele – Daten und Informationen sammeln. Künstliche Intelligenz suggeriert, dass dieser Zustand möglich sein kann – dem ist allerdings nicht so, wie es der Nobelpreisträger Simon schon in seiner eingeschränkten Rationalität erläuterte:

„Allerdings ergeben sich durch die Informationsbeschaffung selbst, Unsicherheit und Ungewissheit, da die Informationen über komplexe Systeme immer auch unvollständig sind, sodass eher von einer begrenzten oder auch eingeschränkten Rationalität auszugehen ist (vgl. Simon 1957/1982, Foss 2003)“ (Freund 2011:19).

Ein komplexes System kann zwar über geeignete Ordnungsparameter beeinflusst werden, doch ist dieser Ansatz oft nicht zu erkennen. Es müssen in einem komplexen System nicht alle Daten erfasst – was nicht möglich ist -, sondern die richtigen Ordnungsparameter gefunden werden. „Wir brauchen eben noch mehr Daten“ ist also eine Antwort, die nicht zu den heute anstehen Fragen passt.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in einem Paper ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Mein zweites Paper:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Umfangreiche Studie (2026) zur Nutzung von Künstlicher Intelligenz in Unternehmen

AdobeStock_650993865.jpeg

Es wird sehr viel über die positiven und negativen Auswirkungen bei der Nutzung von Künstlicher Intelligenz geschrieben. Dabei ist es nicht immer klar, ob die jeweiligen Veröffentlichungen nicht eher Public Relations oder Wunschdenken sind.

Um sich ein relativ gutes Bild machen zu können, sind Studien geeignet, die umfangreiches Datenmaterial unvoreingenommen analysieren. So eine Studie liegt nun mit Yotzov et al (2026) FIRM DATA ON AI vor.: „We survey nearly 6,000 senior business executives at US, UK, German, and Australian firms to develop new evidence on AI adoption and its effects on jobs, productivity, and output. Specifically, we ask executives about AI usage, its effects at their own firms over the past three years and, looking ahead, what they anticipate over the next three year.“ Die Forscher sind zu folgenden Ergebnissen gekommen:

First, around 70% of firms actively use AI, particularly younger, more productive firms.

Second, while over two thirds of top executives regularly use AI, their average use is only 1.5 hours a week, with one quarter reporting no AI use.

Third, firms report little impact of AI over the last 3 years, with over 80% of firms reporting no impact on either employment or productivity.

Fourth, firms predict sizable impacts over the next 3 years, forecasting AI will boost productivity by 1.4%, increase output by 0.8% and cut employment by 0.7%.

Neben dem von den Tech-Konzernen mit ihren KI-Modellen gerne propagierte Hype um ihre Produkte, gibt es die nüchterne Realität, die sich in den Studienergebnissen widerspiegelt.

OECD Report (2026) – Bei der Reproduzierbarkeit erfüllen GenAI Modelle nicht die wissenschaftlichen Kriterien

AI (Artificial intelligence) AI management and support technology in the Business plan marketing success customer. AI management concept.

Es ist nur natürlich, dass jeder Einzelne, Organisationen und Öffentliche Verwaltungen ausprobieren, was mit Künstlicher Intelligenz (GenAI) möglich ist. Im wissenschaftlichen Umfeld wundere ich mich allerdings immer wieder darüber, wie unkritisch GenAI eingesetzt wird, wodurch die Kriterien wissenschaftlicher Arbeit konterkariert werden. Warum ist das so? Eine ausführlich Begründung habe ich im aktuellen OECD Report gefunden. Dabei geht es hier speziell um die Reproduzierbarkeit als Säule wissenschaftlichen Arbeitens geht.

Reproducibility is a pillar of scientific operations. To be accepted by the scientific community, results must (usually) be verifiable, and reproducible by others. One condition for reproducibility is full disclosure of the methods and data that led to the conclusion, meaning transparency and accessibility. From this perspective, GenAI models do not meet scientific criteria. First, the most popular models of GenAI are “black boxes”, as neither their weights (the parameters that define a neural network) nor their training data are publicised. Thus, disentangling the contribution of the data and the contribution of various components of the model is difficult in any scientific result coming from such a model. This comes from the very nature of neural networks: knowledge is distributed, hence difficult to localise. As GenAI models have a random component at their core, some results might not be robust. In addition, access to the training data can be limited due to the proprietary nature of many GenAI models: one example is the “AI Structural Biology Consortium”, a follow-up to AlphaFold-3, an ongoing project which makes use of data owned by pharmaceutical companies, which is secret and will remain secret (Callaway, 2025). Currently, solutions for access include open weights (e.g. Llama) and open source (including access to training data). The importance of openness was demonstrated by AlphaFold2, as the disclosure of its code and data triggered a series of initiatives refining the tool (Saplakoglu, 2024). Openness is essential to the cumulative progress at the core of science“ (OECD Digital Education Report 2026).

Am Beispiel von Pharmaunternehmen wird deutlich, dass es gerade in sensiblen Branchen wichtig ist, offene KI-Modelle zu nutzen. Offenheit ist: „Offenheit ist für den kumulativen Fortschritt im Kern der Wissenschaft unerlässlich“ (ebd.). Siehe dazu auch

Open Source AI: Besser für einzelne Personen, Organisationen und demokratische Gesellschaften

In Zeiten des Hypes um Künstliche Intelligenz kann Akademische Integrität nicht schaden

Künstliche Intelligenz: Wie kann ein Unternehmen bei Kooperationen die Datenhoheit behalten?

Unternehmen sind oftmals in einem oder mehreren Netzwerken aktiv,. Solche Kooperationen setzen dabei auf den klassischen Datenaustausch. Modernere Versionen der Kooperationen im KI-Zeitalter, speisen ihre Daten in KI-Modelle ein. Dabei kommt es darauf an, die eigene Datenhoheit zu behalten.

„Um ihre Datenhoheit zu bewahren, setzen Unternehmen auf föderierte, dezentrale Trainingsansätze. Die Daten werden hier nicht zu einem zentralen Server gesendet, sondern lokal in eine Kopie des KI-Modells eingespeist. Statt der Daten werden dann nur abstrakte Parameter zwischen den Partnern ausgetauscht. Jeder Partner kann der KI Daten zur Verfügung stellen, ohne diese den anderen Unternehmen preisgeben zu müssen“ (Fraunhofer, Forschung kompakt, 01.04.2026).

Das Fraunhofer-Institut für Software- und Systemtechnik ISST in Dortmund hat gemeinsam mit dem Industriepartner Fujitsu Research sogar eine Lösung für das Unlearning für dezentrale, föderierte KI-Kollaborationen entwickelt.

Dabei geht es um die Frage, wie mit Daten umgegangen wird, wenn die KI-Kooperation verlässt – spannend. Wie das alles funktioniert, zeigt das Fraunhofer Institut auf der Hannover Messe 2026.

KI und Open Data: Common Corpus mit mehr als 1 Millionen Downloads

Quelle: Link

Über Open Data und Open Source Ai habe ich in dem Beitrag Open Data and Open Source AI – a perfect match geschrieben. Eine besondere Rolle nimmt in dem Zusammenhang Common Corpus ein,

In dem Beitrag Langlait et al (2024): Releasing the largest multilingual open pretraining dataset vom 14.11.2024 auf Huggingface wird das Konzept und das Alleinstellungsmerkmal von Common Corpus als Teil der AI Alliance Open Trusted Data Initiative vorgestellt.

„Many have claimed that training large language models requires copyrighted data, making truly open AI development impossible. Today, Pleias is proving otherwise with the release of Common Corpus (part of the AI Alliance Open Trusted Data Initiative)—the largest fully open multilingual dataset for training LLMs, containing over 2 trillion tokens of permissibly licensed content with provenance information (2,003,039,184,047 tokens)“ (Source).

In der Zwischenzeit wurde Common Corpus schon mehr als 1 Millionen Mal heruntergeladen. Der starke Anstieg der Downloads zeigt eine relative Verschiebung auf dem KI-Markt, denn immer mehr Marktteilnehmer suchen nach Open Data, die sie frei nutzen können.

„Open-Source-Datensätze wie das Common Corpus bieten hier eine Lösung. Sie ermöglichen es Forschern und Unternehmen, auf eine breite Palette von Daten zuzugreifen, ohne sich über komplexe Lizenzfragen oder potenzielle Urheberrechtsverletzungen Gedanken machen zu müssen“ ( Common Corpus übertrifft eine Million Downloads und hebt Bedeutung von Open Data für KI hervor, Mindverse vom 12.03.2026).

Langsam aber sicher wollen immer mehr KI-Nutzer Künstliche Intelligenz gesellschaftlich verantwortungsvoll nutzen – ganz im Sinne einer Digitalen Souveränität.

Divergentes und konvergentes Denken mit KI unterstützen

Typischer Stage-Gate Ideenverfeinerungs- und Auswahlprozess (CEN/TS 16555-2014)

Für den kreativen Prozess, bzw. den Problemlösungsprozess, sind grundsätzlich zwei Denkstile erforderlich (Hornung/Patzak 2011):

Divergentes Denken (divergent: „auseinandergehend, ausschweifend, verzweigend“): die Gedanken schweifen lassen, in die Breite gehendes Denken, den Gedanken freien Lauf lassen, eine Ausweitung des Suchraumes.

Konvergentes Denken (konvergent: „zusammenlaufend, zusammenführend“): die Gedanken auf einen Punkt bringen, einem Ziel zuführen, eine Einengung des Suchraumes, vorsehen von Randbedingungen und Beschränkungen.

Divergentes und Konvergentes Denken sind im Ideenverfeinerungs- und Auswahlprozess gefragt (Abbildung).

Die jeweiligen Schritte können heute gut mit Künstlicher Intelligenz unterstützt werden. Es stellen sich dabei folgend Fragen:

Welches KI-Modell soll verwendet werden? Eher ein Modell, oder mehrere, spezialisierte Modelle? Siehe dazu Von „One Size Fits All“ über Variantenvielfalt in die Komplexitätsfalle?

Soll es ein proprietäres KI-Modell sein, oder doch besser ein Open Source AI Modell? Siehe dazu Das Kontinuum zwischen Closed Source AI und Open Source AI.

Welche Daten sollen verwendet werden? Sollen relativ wahllos Daten aus den Netz genutzt werden? Das kann zu rechtlichen Problemen führen. Oder sollen frei verfügbare (Open Data) Daten und eigene Daten aus der Organisation genutzt werden?

Bei der Beantwortung der jeweiligen Fragen merkt man sehr schnell, dass Open Data und Open Source AI ein perfect match bilden.

Natürlich kann der Prozess auch weiter geöffnet werden, wobei sich zwei Ansätze anbieten: Einmal ist es der Open Innovation Ansatz von Henry Chesbrough, der von offeneren Innovationsprozessen in Unternehmen ausgeht und somit auf das jeweilige Business Model zielt.

Andererseits kann ein persönlicher offener Innovationsprozess, also Open User Innovation nach Henry Chesbrough gemeint sein. Siehe dazu Henry Chesbrough über die Zukunft von Open Innovation.

Racka-4B – ein ungarisches KI-Modell

Image by Hermann Traub from Pixabay

In dem Blogbeitrag Für agglutinierende Sprachen wie Ungarisch, Baskisch, etc. reichen die üblichen KI-Modelle nicht aus wurde deutlich, dass es beispielsweise für die ungarische Sprache gut ist, ein spezielles Modell zu haben. So ein Modell (LLM) liegt nun mit Racka (Regionális Adatokon Célzottan Kialakított Alapmodell) vor.

„We present Racka-4B, a lightweight, continually pretrained large language model designed to bridge the resource gap between Hungarian and high-resource languages such as English and German. (…) The results also showcase that Racka-4B is capable of Hungarian chat with English reasoning even in the absence of explicit Hungarian post-training on these tasks“ (Csibi, Z. et al. (2026): Racka: Efficient Hungarian LLM Adaptation on Academic Infrastructure | PDF).

Das Modell Racka-4B basiert auf Qwen-3 und steht bei Huggingface zur Verfügung. Es ist also transparent und offen – ganz im Gegensatz zu den proprietären KI-Modellen der großen Tech-Konzerne. Diese suggerieren, dass es ausreicht, ein Modell für alles zu haben.

Dieser One Size Fits All – Gedanke ist zwar aus deren Sicht wirtschaftlich interessant, doch trifft dieser Ansatz immer weniger die Bedürfnisse der Menschen. Auch Racka-4B bestätigt eine Entwicklung zu europäischen Sprach-Modellen, die stärker regionale Besonderheiten berücksichtigen. Siehe dazu auch

Die MCP Community of Europe trifft sich in diesem Jahr vom 16.-19.09.2026 auf der MCP 2026 in Balatonfüred, Ungarn. Neueste Entwicklungen zu Mass Customization and Personalization, auch in Zeiten von Künstlicher Intelligenz, werden auf der Konferenz vorgestellt und diskutiert. Die Konferenz findet seit 2004 durchgehend alle 2 Jahre statt – die MCP 2026 ist somit die 12. Konferenz ihrer Art.

Open EuroLLM: Ein Modell Made in Europe – eingebunden in unsere LocalAI

Künstliche Intelligenz: Das polnische Sprachmodell PLLuM

Minerva AI LLM: Das italienischsprachige KI-Modell

Open Source AI: Veröffentlichung der ALIA AI Modelle für ca. 600 Millionen Spanisch sprechender Menschen weltweit