Veröffentlicht am

Künstliche Intelligenz: Halluzinationen und der Bullshit-Faktor – eine Art Künstliche Dummheit?

Wenn es um Menschliche Intelligenz geht, sprechen wir auch oft über die scheinbare Menschliche Dummheit. In meinen Blogbeiträgen Reden wir über Dummheit und Steckt hinter der Künstlichen Intelligenz keine echte Intelligenz? Wie ist das zu verstehen? bin ich auf das Thema eingegangen. Weiterhin finden sich in der Rezension Ina Rösing: Intelligenz und Dummheit weitere interessante Anmerkungen.

Im Zusammenhang mit Künstlicher Intelligenz könnte man natürlich auch über eine Art Künstliche Dummheit nachdenken. Wie schon länger bekannt, stellen beispielsweise Halluzinationen und falsche Antworten ein nicht zu vernachlässigendes Phänomen dar. Darüber hinaus gibt es allerdings auch noch eine Art Bullshit-Faktor. Es geht dabei um die Missachtung der Wahrheit in großen Sprachmodellen. Genau diesen Aspekt haben sich verschiedene Forscher der Princeton University einmal genauer angesehen und ein interessantes Paper dazu veröffentlicht:

Liang et al. (2025): Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models | PDF

Es stellt sich hier natürlich die Frage, wie sich Halluzination und der genannte Bullshit-Faktor unterscheiden. Dazu habe ich folgendes gefunden:

“Daher gebe es auch einen entscheidenden Unterschied zwischen Halluzinationen und dem, was er als „Bullshit“ bezeichnet – und der liegt in der internen Überzeugung des Systems. Wenn ein Sprachmodell halluziniert, ist es nicht mehr in der Lage, korrekte Antworten zu erzeugen. „Beim Bullshit hingegen ist das Problem nicht Verwirrung über die Wahrheit, sondern eine fehlende Verpflichtung, die Wahrheit zu berichten” (t3n vom 21.08.2025).

Interessant finde ich, dass die Forscher wohl auch eine erste Möglichkeit gefunden haben, um diesen Bullshit-Faktor zu überprüfen. Gut wäre es natürlich, wenn die Ergebnisse dann allen zur Verfügung stehen würden. Gespannt bin ich besonders darauf, wie Open Source AI Modelle abschneiden.

Veröffentlicht am

Intelligentes Wissen – was ist darunter zu verstehen?

Wie schon mehrfach in unseren Blogbeiträgen erwähnt, spielt der Umgang mit “Wissen” in der heutigen Arbeitswelt eine immer wichtigere Rolle (Wissensmanagement). Dabei wird Wissen oft in verschiedene Dimensionen unterteilt: Implizites/Explizites Wissen, Träges Wissen, Organisationales Wissen, Prozedurales Wissen usw. Interessant ist der Hinweis auf ein intelligentes Wissen.

“Intelligentes Wissen bezeichnet ein Wissen, das abrufbar, vielfältig anwendbar und vielfach vernetzt ist. [Anmerkung]: Das Interesse von Unternehmen ist oft darauf gerichtet, implizites und träges Wissen der Mitarbeiter in explizites und unterschiedlichen Nutzern zur Verfügung stehendes intelligentes Wissen zu überführen (´Wenn Siemens wüsste, was Siemens weiß.´)” (Kirchhöfer 2004:60).

Interessant ist hier die Verbindung von den beiden Konstrukten “Intelligenz” und “Wissen”. Dabei ist allerdings nicht erläutert, was unter “Intelligenz” zu verstehen ist. Immerhin gibt es neben dem klassischen IQ noch weitere Ansätze, wie z.B. der von Sternberg oder auch von Howard Gardner (Multiple Intelligenzen). Oder ist eher der heute so wichtige Begriff einer “Künstlichen Intelligenz” gemeint? Ich würde mir wünschen, wenn alle die den Begriff “Intelligenz” oder auch “Smart” verwenden erläutern, was sie darunter verstehen.

Veröffentlicht am

Reden wir über Dummheit

Image by Harmony Lawrence from Pixabay

Wer will schon dumm sein? Viel lieber sprechen wir über Intelligenz, über intelligente Maschinen, Künstliche Intelligenz (KI), intelligente Häuser, Möbel oder Autos usw. Das Attribut “Intelligenz” scheint per se positiv aufgeladen zu sein. Im Gegensatz dazu steht der Begriff “Dumm” für eine eher negative Assoziation. Die Google-Suche von heute ergab ca. 15 Mio. Treffer für den Begriff “dumm” und ca. 480 Mio. Treffer für den Begriff “intelligent”. Es ist daher gut nachvollziehbar, dass sich recht wenige mit dem Thema “Dummheit” intensiver auseinandergesetzt haben.

Schneider (2006:17-18) beschreibt die Situation wie folgt: “Wenige haben sich an das Thema herangewagt, wenn man von medizinischen Arbeiten über Stadien der Demenz einmal absieht. Bei denen, die’s getan haben, finden sich ähnliche Überlegungen wie ich sie für das Thema der Ignoranz anstelle.
– Dummheit wird als auf dem Vormarsch begriffen diagnostiziert (vgl. Geyr 1954:91 ff)
– Dummheit bzw. Narrentum werden gelobt, sowohl bei Erasmus von Rotterdam, der eines der bekanntesten Werke zum Thema verfasst hat, als auch von anderen Autoren (Erasmus; Stultitiae Laus, vgl. Hartmann 1947).
– Es werden vier Möglichkeiten unterschieden, (…) : Dummes Verhalten, trotz normaler oder sogar erhöhter Intelligenz, kluges Verhalten trotz geringer Intelligenz sowie die beiden übereinstimmenden Alternativen eines klugen Verhaltens auf Basis von Intelligenz und eines dummen/schädlichen Verhaltens auf Basis eines Mangels an Intelligenz”.

Diese Dichotomie (Dumm-Intelligent) spiegelt allerdings eine Denkweise wider, die einem “Entweder-Oder” entspricht, obwohl es wohl ein Kontinuum zwischen den Polen gibt, das auch abhängig zu sein scheint von dem Kontext, in dem die “dumme” oder” intelligente” Problemlösung stattfindet. In der heutigen Welt, die sich permanent, schnell und stark verändert, wollen viele Menschen gerne eine klare Einteilung von “richtig” oder “falsch”, bzw. von “dumm” oder “intelligent” – was allerdings so trennscharf nicht möglich ist: „Wenn die Dummheit nicht dem Fortschritt, dem Talent, der Hoffnung oder der Verbesserung zum Verwechseln ähnlich sähe, würde niemand dumm sein wollen“ (Musli 1937: 5; zitiert in Schneider 2006:17-18). Siehe dazu auch Theorie der Multiplen Intelligenzen.