KI-Sprachmodelle können nicht zuverlässig zwischen Überzeugungen einerseits und Wissen sowie Fakten andererseits unterscheiden

Image by SAMUEL GABRIEL from Pixabay

Es ist immer wieder erstaunlich, was wissenschaftliche Studien so ans Tageslicht bringen. Diesmal geht es darum, ob KI-Modelle gut zwischen dem unterscheiden können, was bekannt ist, und dem, was lediglich geglaubt wird. Dazu habe ich folgendes gefunden:

Die untersuchten Sprachmodelle können nicht zuverlässig zwischen Überzeugungen einerseits und Wissen sowie Fakten andererseits unterscheiden.
Quelle: Suzgun, M., Gur, T., Bianchi, F. et al. Language models cannot reliably distinguish belief from knowledge and fact. Nat Mach Intell 7, 1780–1790 (2025). https://doi.org/10.1038/s42256-025-01113-8

Das kann wiederum in sensiblen Bereichen schwerwiegende Auswirkungen haben. Gerade wenn es um gesundheitliche oder auch rechtliche Fragen geht:

„The distinction between knowledge and belief is important in practice. For example, a model used to support a medical diagnosis based on a patient’s mistaken belief, as opposed to an established fact, could reinforce an inaccurate diagnosis and treatment plan. In a legal setting, a model summarizing testimony that cannot tell the difference between what a witness believes and what is known could misrepresent evidence“ (Stanford University, AI Report 2026).

Es ist gut, wenn wir weiterhin positiv kritisch gegenüber Künstlicher Intelligenz bleiben und darauf bestehen, dass KI-Systeme transparent und nachvollziehbar sind. Die aktuellen proprietären KI-Modelle bieten das nicht, und sollten daher – wenn überhaupt – nur mit Vorsicht gerade in kritischen gesellschaftlichen und Unternehmens-Bereichen eingesetzt werden.

In der Zwischenzeit gibt es gute Alternativen. Die erfolgreiche Geschichte von Open Source KI zeigt, dass immer mehr Personen und Organisationen erkennen, dass dieser Weg ein Möglichkeit darstellt, leistungsfähige und dabei gleichzeitig auch transparente KI-Systeme einzusetzen.

Worin unterscheiden sich Daten von Fakten?

Image by Gerd Altmann from Pixabay

Unsere westliche Sicht auf Wissen wird von einem eher technisch-wissenschaftlichen Modell dominiert: “the hegemony of the techno-scientific model in defining legitimate and productive knowledge” (UNESO 2005: 5). Es wundert daher nicht, dass versucht wird, verschiedene Begriffe zu unterscheiden – zu definieren. Es geht ganz praktisch um die Unterscheidung der Begriffe „Zeichen“, „Daten“, „Informationen“ und „Wissen“, die in der ursprünglichen, bzw. in der erweiterten Wissenstreppe dargestellt werden. Siehe dazu auch Ein besseres Verständnis der Wissenstreppe führt zu einem besseren Umgang mit Wissen. Auf der Ebene der „Daten“ gibt es allerdings mit dem Begriff „Fakten“ ein weiters Konstrukt. Dazu habe ich folgendes gefunden:

„Aufschlussreicher sollte es sein, zwischen Daten und Fakten terminologisch zu unterscheiden. ‚Daten‘ sind das, was einem Beobachter buchstäblich gegeben ist (lat.: datum / frz.: donnée) und daher insbesondere das, was sich in irgendeiner Weise feststellen und vielleicht sogar messen lässt. In erster Linie darf man also das als Datum verstehen, was niemand bestreiten kann, und mithin gilt ein Datum fraglos, sofern es korrekt ermittelt worden ist. Ein Faktum ist demgegenüber kein simples Datum, sondern wortwörtlich eine ‚Tat-Sache‘, das heißt ein im Kern menschliches Produkt. Wo wir von Fakten reden, sprechen wir jedenfalls immer von Dingen, die wir selber erst zu dem gemacht haben, was sie sind (lat.: factum / frz.: fait). Können Daten insofern nicht anders als ‚richtig‘ sein, solange man sie nicht irrtümlich oder sachwidrig erfasst hat, stellt sich bei Fakten von vornherein die Frage, inwiefern sie als ‚wahr‘ gelten dürfen“ Meier, A. (2020): In Science We Trust: Überlegungen zum Wissen der Wissenschaften. In: Horatschek, A. M. (Hrsg.) (2020): Competing Knowledges – Wissen im Widerstreit. Abhandlungen der Akademie der Wissenschaften in Hamburg, Band 9).

Wenn also oftmals hervorgehoben wird, „das ist Fakt“ oder „Fakt ist“, so ist diese Formulierung kritisch zu sehen, denn sie ist nicht so unumstößlich, wie es auf den ersten Blick den Anschein hat. Wie in der Quelle erwähnt, stellt sich bei „Fakten“ die Frage, „inwiefern sie als ‚wahr‘ gelten dürfen“.

Fraunhofer Magazin 2|2021 zu Fake News

Im Fraunhofer Magazin 2|2021 (PDF) geht es in der Titelgeschichte um die neue Gründerzeit, zu der ich mich hier allerdings nicht weiter äußern möchte. Interessanter fand ich den Beitrag „Alles Fake? Segen und Fluch der Digitalisierung“, der auf den Seiten 35ff. zu finden ist, werden kleine Geschichten der Fälschungen in der Vergangenheit erzählt. Unter anderen auch diese (S. 40):

315/317 n. Chr. Die Konstantinische Schenkung gilt als eine der bedeutendsten Geschichtsfälschungen. Die Urkunde, mit der Kaiser Konstantin im 4. Jahrhundert angeblich dem Papst und seinen Nachfolgern die Herrschaft über das westliche Römische Reich übertrug, nutzte die Kirche über Jahrhunderte, um ihren Machtanspruch zu untermauern. Das Dokument wurde erst im 15. Jahrhundert als Fälschung aus dem Jahr 800 erkannt.

Es zeigt sich wieder, dass Fälschungen/Fakes auch schon in der Vergangenheit wichtige Elemente der Manipulation waren. In der heutigen durch und durch digitalen Welt müssen wir lernen, damit umzugehen (S. 41):

(1) Achten Sie auf technische Bildfehler bei untypischen Gesichtsbewegungen, Verzerrungen oder Unschärfen an Übergängen.
(2) Vorsicht! Am Smartphone oder Laptop lassen sich technische Ungenauigkeiten schwerer erkennen als am kalibrierten, größeren Monitor.
(3) Beobachten Sie die Mimik: Ist sie natürlich und typisch für den Protagonisten, gibt es auffallende Unterschiede zu vergleichbaren Videos?
(4) Sichern Sie die Quellen ab: Woher stammt das Video? In Videokonferenzen durch Rückbestätigung oder digitale Signaturen den richtigen Gesprächspartnersicherstellen.
(5) Hinterfragen Sie Inhalte kritisch: Wie glaubhaft sind die Aussagen, auch außerhalb der eigenen Filterblase? Im Zweifel bei Faktenchecker-Webseiten recherchieren.

Nöllenheidt, Ch.; Brenscheidt, S. (2013): Arbeitswelt im Wandel: Zahlen – Daten – Fakten

arbeitswelt-2013Die Arbeitswelt wandelt sich – doch wie? Möglicherweise gibt die Veröffentlichung Nöllenheidt, Ch.; Brenscheidt, S. (2013): Arbeitswelt im Wandel: Zahlen – Daten – Fakten (PDF, 3MB, Volltext) eine zahlenbasierte Perspektive auf das Thema preis (S. 5):

Die Zusammenhänge zwischen den Arbeitsbedingungen und moderner Technik werden ebenso betrachtet wie das soziale Zusammenleben der Menschen im Betrieb oder die ökonomische Seite sicherer Arbeit. Wir wissen: Themen wie der demografische Wandel der Gesellschaft haben unmittelbare Auswirkungen auf unsere Arbeit und fordern uns zum Handeln heraus. Arbeitswelt im Wandel versucht, schlaglichtartig einige dieser Phänomene zu beleuchten und will insofern Anregungen liefern, sich mit Trends zu Sicherheit und Gesundheit in unserer Arbeitswelt intensiver zu beschäftigen.

Siehe dazu auch Hays-Studie (2013): Wissensarbeiter und Unternehmen im Spannungsfeld, Meyn/Peter (2010): Arbeitssituationsanalyse und Pfeiffer, S.; Schütt, P.; Wühr, D. (2011): Innovationsarbeit unter Druck braucht agile Forschungsmethoden.