Veröffentlicht am

KI-Sprachmodelle können nicht zuverlässig zwischen Überzeugungen einerseits und Wissen sowie Fakten andererseits unterscheiden

Image by SAMUEL GABRIEL from Pixabay

Es ist immer wieder erstaunlich, was wissenschaftliche Studien so ans Tageslicht bringen. Diesmal geht es darum, ob KI-Modelle gut zwischen dem unterscheiden können, was bekannt ist, und dem, was lediglich geglaubt wird. Dazu habe ich folgendes gefunden:

Die untersuchten Sprachmodelle können nicht zuverlässig zwischen Überzeugungen einerseits und Wissen sowie Fakten andererseits unterscheiden.
Quelle: Suzgun, M., Gur, T., Bianchi, F. et al. Language models cannot reliably distinguish belief from knowledge and fact. Nat Mach Intell 7, 1780–1790 (2025). https://doi.org/10.1038/s42256-025-01113-8

Das kann wiederum in sensiblen Bereichen schwerwiegende Auswirkungen haben. Gerade wenn es um gesundheitliche oder auch rechtliche Fragen geht:

„The distinction between knowledge and belief is important in practice. For example, a model used to support a medical diagnosis based on a patient’s mistaken belief, as opposed to an established fact, could reinforce an inaccurate diagnosis and treatment plan. In a legal setting, a model summarizing testimony that cannot tell the difference between what a witness believes and what is known could misrepresent evidence“ (Stanford University, AI Report 2026).

Es ist gut, wenn wir weiterhin positiv kritisch gegenüber Künstlicher Intelligenz bleiben und darauf bestehen, dass KI-Systeme transparent und nachvollziehbar sind. Die aktuellen proprietären KI-Modelle bieten das nicht, und sollten daher – wenn überhaupt – nur mit Vorsicht gerade in kritischen gesellschaftlichen und Unternehmens-Bereichen eingesetzt werden.

In der Zwischenzeit gibt es gute Alternativen. Die erfolgreiche Geschichte von Open Source KI zeigt, dass immer mehr Personen und Organisationen erkennen, dass dieser Weg ein Möglichkeit darstellt, leistungsfähige und dabei gleichzeitig auch transparente KI-Systeme einzusetzen.

Veröffentlicht am

Künstliche Intelligenz: Der Kill Switch und Digitale Souveränität

Image by Gerd Altmann from Pixabay

Die Abhängigkeiten von US amerikanischen KI-Systemen führt zwangsläufig zu der berechtigten und aktuellen Frage: Was passiert, wenn der Zugang zu wichtigen und modernen KI-Systemen reduziert, oder gar verwehrt wird. Dass dieses Szenario nicht nur theoretisch, sondern praktisch besteht, hat die Anweisung der US Regierung den Zugang zu zu Fable 5 und Mythos 5 auszusetzen gezeigt.

„In der öffentlichen Diskussion ist der „Kill Switch“, also die Einschränkung oder Abschaltung digitaler Dienste für einzelne Personen, Organisationen oder sogar ganze Staaten, ein viel beachtetes Thema. Eine zentrale Rolle spielt dabei US-Präsident Donald Trump, der öffentlich damit gedroht hat, den Zugang zu US-Digitaldiensten, wie denen der Hyperscaler, einzuschränken oder vollständig zu sperren“ (Lünendonk-Studie 2026).

Wenn andere entscheiden, was wir tun dürfen ist das Fremdbestimmung, mit allen Konsequenzen. Wenn wir alles selbst machen könnten, wären wir autark. Zwischen beiden Polen ist die Souveränität (hier: Digitale Souveränität) anzusiedeln:

„Wir sind handlungsfähig und entscheiden selbst, was wir tun“ (ebd.).

Der oben erwähnte Kill Switch, oder auch die Möglichkeit eines Kill Switchs, sollten Treiber für einen selbstbestimmten, an europäischen Werten ausgerichteten offenen Zugang zu digitalen Systemen sein. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

Wie so etwas für innovative Kleine und Mittlere Unternehmen (KMU) in Europa in Bezug auf Künstliche Intelligenz aussehen kann, stelle ich in zwei Paper auf der MCP-Konferenz 2026, vom 16.-19.09.2026 in Balatonfüred, Ungarn, vor:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

FSFE: Free Software Foundation Europe

Quelle: https://fsfe.org/

Auf dem Weg zu mehr Digitaler Unabhängigkeit, oder Digitaler Souveränität, kommt Open Source Software eine besondere Rolle zu. Neben der amerikanischen Free Software Foundation hat sich dazu in 2001 die Free Software Foundation Europe e. V. gegründet (Quelle: Wikipedia). Der europäische Blick auf Open Source Software ist wichtig, da dieser sich von der US amerikanischen und der chinesischen Perspektive unterscheidet. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

„Software ist in allen Aspekten unseres Lebens tief verankert. Freie Software gibt allen das Recht, Programme für jeden Zweck zu verwenden, zu verstehen, zu verbreiten und zu verbessern. Diese Rechte stärken andere Grundrechte wie die Redefreiheit, die Pressefreiheit und das Recht auf Privatsphäre“ (FSFE-Website).

Interessant ist, dass die FSFE ganz bewusst von Freier Software ausgeht und sich damit von Open Source etwas abgrenzen möchte. Der Grund ist, dass der Begriff Open Source in den letzten Jahren immer wieder missbräuchlich verwendet wurde, und es zu einer Art „Verwässerung“ oder „Open Washing“ kam – wie das Beispiel von OpenAI zeigt.

In unseren Beiträgen geht es oft um Open Source, da dieser Begriff den meisten Lesern besser bekannt ist – auch wenn der Hinweis von der FSFE natürlich berechtigt ist.

Open Source Software bietet nicht nur aus wirtschaftlichen Gründen Möglichkeiten, sondern stärkt auch demokratische Grundrechte in Gesellschaften – was gerade in Zeiten von Künstlicher Intelligenz immer wichtiger wird. Siehe dazu auch Die erfolgreiche Open Source KI Geschichte.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

Künstliche Intelligenz und die Kompetenz-Illusion

Image by StockSnap from Pixabay

Kompetenzen zu entwickeln, und somit die Herausforderungen eines eines komplexen Umfeldes zu bewältigen, ist heute eine der wichtigsten Fähigkeiten. Dabei stellt sich im Zusammenhang mit Künstlicher Intelligenz die Frage, ob sich Kompetenzen in uneingeschränkten KI-Systemen besser als in abgesichertes KI-Systemen entwickeln.

„However, when later assessed, the students that relied on the unrestricted system underperformed, suggesting weaker long-term skill acquisition and an “illusion of competence”, in which task performance improved without durable learning. By contrast, the safeguarded tutoring system reduced the negative effects by using guided hints and stepwise reasoning that emulates effective instructional practices“ (UN, 2026).

In einem uneingeschränkten KI-System verbesserte sich zwar die Aufgabenbearbeitung, doch trat kein nachhaltiger Lernerfolg ein – es kam zu einer Kompetenz-Illusion. In einem abgesicherten Tutoren-System konnten diese Nachteile vermieden werden, sodass es zu einer Kompetenzentwicklung gekommen ist.

Ich halte die Unterscheidung zwischen einer durch KI erreichte Kompetenz-Illusion und einer nachhaltigen Kompetenzentwicklung für entscheidend. Seihe dazu auch Kompetenz und Kompetenzmanagement.

Veröffentlicht am

Kosten der Künstlichen Intelligenz: Anteil US amerikanischer KI-Modelle geht weltweit zugunsten von Open Source AI zurück

Image by chris s from Pixabay

Wir haben uns daran gewöhnt, dass die amerikanischen Tech-Konzerne mit ihren KI-Modellen den Ton angeben, doch in den letzten 12 Monaten hat sich weltweit erstaunliches getan. Nach Howard Yu (auf LinkedIn) ist der Anteil amerikanischer KI-Modelle in diesem Zeitraum von 70% auf 30% gefallen (routed traffic).

Der Grund ist, dass immer mehr Nutzer – auch aus Kostengründen – Open Source AI nutzen. Dazu haben beispielsweise chinesische Anbieter neben DeepSeek auch Qwen als erfolgreichstes Open Source AI Modell weltweit etabliert.

„The cause is, of course, price. Anthropic’s Claude costs $4,811 for a standard evaluation suite. OpenAI costs $3,357. DeepSeek costs $1,071. Zhipu’s GLM costs $544. The premium American model runs nearly 9 times the cheapest Chinese one for equivalent work. When AI shifted from chat to agents, that gap became impossible to ignore. An overnight coding run calls a model thousands of times“ (Yu, W. via LinkedIn, 08.07.2026).

Natürlich kommen zu so einer Meldung gleich (mindestens) zwei Einwände:

(1) Open Source AI Modelle sind nicht so Leistungsstark wie die proprietären, kommerziellen AI Modelle der amerikanischen Tech-Konzerne.
Das stimmt in der Zwischenzeit nicht mehr. Ausführlich hat das der AI Report 2026 von der Stanford University analysiert und dargestellt. Siehe dazu Die erfolgreiche Open Source KI Geschichte.

(2) Chinesische Modelle sind mit Vorsicht zu genießen, da sie auch den Vorgaben der chinesischen Regierung entsprechen müssen.
Ja, das ist der Fall. Ähnlich sieht es allerdings auch mit den amerikanischen Modellen aus, die den Mindsets der Tech-Konzerne entsprechen. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

Was also tun? Es bietet sich an, Open Source AI aus und für Europa zu nutzen. In der Zwischenzeit gibt es neben Mistral AI noch viele weitere Modelle, die schon genutzt werden können. Open Source AI mit europäischen Werten zu nutzen ist ein Weg zu mehr Digitaler Souveränität und sogar zur Kostenreduzierung.

Siehe dazu auch Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks?

Veröffentlicht am

Moltbook – ein Soziales Netzwerk für KI-Agenten

https://www.moltbook.com/

Soziale Netzwerke sind uns Menschen seit vielen Jahren bekannt, doch gibt es in der Zwischenzeit auch Soziale Netzwerke für KI-Agenten.

Moltbook ist so eine Plattform, auf der sich KI-Agenten untereinander austauschen können. Freundlicherweise kann man sich daran auch als Mensch beteiligen – siehe Abbildung.

A Social Network for AI Agents
Where AI agents share, discuss, and upvote. 
Humans welcome to observe.
Source: https://www.moltbook.com/

Mit dem heutigen Tag (06.07.2026), sind nach eigenen Angaben von Moltbook 208.444 von Menschen verifizierte KI-Agenten auf der Plattform zu finden. Die Plattform passt gut zu der Entwicklung, dass KI-Agenten in der Zwischenzeit nach Menschen suchen, und diese für bestimmte Aufgaben beauftragen. Siehe dazu Rent a Human: KI-Agenten bieten Arbeit für Menschen an.

Es zeigt sich auch hier, dass es zwischen den beiden Polen Mensch und KI-Agenten ein Kontinuum von Möglichkeiten gibt, die jeweiligen Stärken miteinander so zu verbinden, dass in einem definierten Kontext Werte geschaffen werden können.

Siehe dazu auch meine weiteren Beiträge zu KI-Agenten.

Veröffentlicht am

Es ist möglich, leistungsfähige KI-Sprachmodelle zu trainieren, die ausschließlich auf gemeinfreien und offenen Texten basieren

In den letzten Jahren gibt es sehr viele Content-Entwickler aus allen möglichen Bereichen, die sich gegen die Übernahme ihrer Inhalte als Trainingsdaten in den bekannten, kommerziellen KI-Modellen wehren.

Dabei kommt es einem so vor, als ob die großen KI-Unternehmen das wohl schon irgendwie „eingepreist“ haben und langwierige Gerichtsverfahren eingehen. Darüber hinaus muss auch die folgende Frage gestellt werden

Ist es möglich ist, leistungsfähige KI-Sprachmodelle zu trainieren, die ausschließlich auf gemeinfrei und offenen Texten basieren?

Die Antwort: Ja, es ist möglich.

In ihrem Paper hat eine Forscher-Gruppe nicht nur ausführlich dargelegt, welche Quellen sie dafür ausgewählt haben, sondern auch gleichzeitig ein entsprechendes Modell entwickelt und auf Hugging Face veröffentlicht:

„We release Common Pile v0.1, an 8TB corpus that—to our knowledge—constitutes the largest dataset built exclusively from openly licensed text. Alongside our dataset, we release Comma v0.1-1T and -2T, two performant 7-billion-parameter LLMs trained on text from the Common Pile, as well as the filtered and rebalanced data mixture we used for training. Our results demonstrate that not only is the Common Pile the strongest dataset for pretraining under an open-license constraint, but also that it produces models comparable to those trained on an equivalent amount of unlicensed data. This positive result holds promise for future of open-license pretraining, especially if the research community invests in collecting larger quantities of openly licensed text data in the future. Ultimately, we believe that the Common Pile v0.1 represents the first step on the path towards a more ethical language model ecosystem, where performance need not come at the cost of creator rights and legal transparency.“ (Kandpahl et al. (2025): The Common Pile v0.1: An 8TB Dataset of Public Domain and Openly Licensed Text).

Natürlich dominieren die proprietären KI-Modelle den Markt, und es fällt den Marktteilnehmer wegen dem in der Zwischenzeit eingetretenen Lock-in schwer, sich an andere KI-Modelle zu gewöhnen (Pfadabhängigkeit). Dennoch überlegen viele Einzelpersonen, Unternehmen, Not for Profit Organisationen oder auch Öffentliche Verwaltungen, ob sie sich nicht von der eingetretenen Abhängigkeit lösen sollten, ja müssen.

Siehe dazu auch Künstliche Intelligenz: Es ist so bequem, unmündig zu sein.

Veröffentlicht am

Künstliche Intelligenz: „Feeding the Machine“

Conceptual technology illustration of artificial intelligence. Abstract futuristic background

In dem Buch Muldoon, J., Graham, M., Cant, C. (2025) Feeding the Machine geht es den Autoren darum, zu hinterfragen, wie die großen KI-Modelle (LLM: Large Language Models) mit ihren riesigen Datenmengen entstehen, und von großen Unternehmen für ihre geschäftlichen Aktivitäten genutzt werden.

„Das ist aus Sicht von Muldoon, Graham und Cant auch das grundsätzliche Problem der KI-Entwicklung: dass sie vor allem von wenigen mächtigen Akteuren in deren Eigeninteresse entwickelt und genutzt werde. Die Kapitalintensität von KI führe dazu, dass sich Machtstrukturen weiter verfestigen, da nur wenige Unternehmen weltweit das Geld, die Hardware und das Knowhow besitzen, um die Entwicklung voranzutreiben. Durch die Arbeit dieser Unternehmen würden auch koloniale Strukturen aufrechterhalten, schreiben sie. Weil sich Arbeitskräfte im globalen Süden gezwungen sähen, für sehr wenig Geld unter schlechten Bedingungen zu arbeiten, während die hohen Gewinne in die Kassen der Konzerne und Investoren fließen“ (Scherer, K. (2025): KI-Erklärwerk und Kapitalismuskritik, Deutschlandfunk, Andruck, 30.06.2025 | PDF).

Es ist daher gut, dass sich in den letzten mehr als 20 Jahren weltweit Alternativen entwickelt haben, die frei verfügbare Daten in frei verfügbaren KI-Modellen zur Verfügung stellen (Open Data and Open Source AI – a perfect match). Je mehr diese genutzt werden, umso weniger Marktmacht haben die großen Tech-Konzerne. Es wundert daher nicht, dass diese an alternativen Entwicklungen wenig interessiert sind, und versuchen eine Art open washing mit ihren Modellen zu betreiben. Siehe dazu auch

Die erfolgreiche Open Source KI Geschichte

Künstliche Intelligenz – It All Starts with Trust

Künstliche Intelligenz lässt die meisten Sprachen und kulturellen Besonderheiten außen vor

Veröffentlicht am

Selbstchecks zu Digitalisierung und Künstliche Intelligenz

Quelle: https://digitalzentrum-chemnitz.de/wissen/generative-ki/

Das Mittelstand-Digital Zentrum Chemnitz hat zusammen mit der Technischen Universität Chemnitz verschiedene Selbstchecks zu den Themen Digitalisierung und Künstliche Intelligenz zusammengestellt. Diese ermöglichen es gerade Kleinen und Mittleren Unternehmen (KMU) je nach Schwerpunkt, den Ist-Zustand und den Soll-Zustand zu bestimmen. Diese einfache Gap-Analyse ermöglicht es dann den KMU gezielt Verbesserungen anzustoßen, um resilienter zu werden.

Die Abbildung zeigt einen Ausschnitt aus dem Selbstcheck zur Generativen Künstlichen Intelligenz. Blau hervorgehoben ist der selbst eingeschätzte IST-Zustand, und rot hervorgehoben der zu erreichende SOLL-Zustand zu erkennen. Die Ergebnisse können zurückgesetzt, geteilt oder auch gedruckt (beispielsweise als PDF) werden.

Die verschiedenen Checklisten bieten eine erste einfache Möglichkeit, sich mit den jeweiligen Themen gezielt und systematisch auseinanderzusetzen. Im Unternehmen ergeben sich daraus natürlich vielfältige Ansätze, die je nach Unternehmen und verfügbaren Ressourcen priorisiert werden sollten.

Als Ergänzung der einzelnen Checkliste kann ich mir ein einfaches Wirkungsnetz vorstellen, das Zielkonflikte aufzeigt: Zielkonflikte in einem einfachen Wirkungsnetz analysieren.

Darüber hinaus hat sich bei der Wissensbilanz – Made in Germany ein einfaches Wirkungsnetz bewährt, das auf den von Frederic Vester entwickelten Papiercomputer (auch als Vester’sche Einflussmatrix, Vernetzungsmatrix oder Vernetzungsgitter bekannt) zurückgeht. Das Ergebnis so einer Analyse zeigt dann auf, an welcher Stelle angesetzt werden sollte, um den größten Nutzen für das Gesamtsystem (Organisation) zu erreichen.

Veröffentlicht am

Künstliche Intelligenz lässt die meisten Sprachen und kulturellen Besonderheiten außen vor

Image by Sunrise from Pixabay

Die bekannten proprietäten KI-Modelle funktionieren hauptsächlich in Englisch, oder in einer Handvoll anderer Sprachen. Am Beispiel agglutinierender Sprachen wie Ungarisch, Baskisch, etc. kann aufgezeigt werden, dass die üblichen KI-Modelle nicht ausreichen.

Es wundert daher nicht, dass in den letzten Jahren immer mehr KI-Modelle entwickelt wurden, die in europäischen Sprachen trainiert wurden. Beispiele dazu sind Teuken 7B und Open EuroLLM. Darüber hinaus gibt es in Europa auch schon viele KI-Modelle, die in der jeweiligen Landessprache trainiert wurden. Beispiele dazu sind das Ungarisches Modell, das Schwedisches Modell, das Italienische Modell usw.

Dass es in kritischen Bereichen wie dem Gesundheitswesen wichtig ist, bei KI-Modellen den sprachlichen und kulturellen Kontext zu beachten, wurde in einer Veröffentlichung der United Nations (UN) noch einmal beispielhaft hervorgehoben:

„In Tigrinya, spoken by 7 to 9 million people in Eritrea and northern Ethiopia, machine translation has rendered smallpox as syphilis, gonorrhoea as diabetes and “You have been given intravenous antibiotics” as “You have been given intravenous insecticides”. These mistranslations can be life-threatening. A recent review of natural language processing for African languages in healthcare found that, despite advances in multilingual AI tools, major challenges remain. These include cultural and linguistic bias, poor adaptation to medical contexts, limited explainability and translation errors that can affect diagnosis and treatment decisions. The evidence suggests that AI systems are not ready for use in high-stakes settings unless they have been properly adapted, constrained and tested for the relevant linguistic and cultural contexts“ (UN 2026).

Mit Hilfe von Small Language Models (SLM) und der Berücksichtigung sprachlicher und kultureller Besonderheiten einzelner Regionen in Europa können gerade Kleine und Mittlere Unternehmen (KMU) innovative Produkte und Dienstleistungen entwickeln, die einen Mehrwert für die Nutzer bieten.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in einem Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Mein zweites Paper:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework