Künstliche Intelligenz, stochastische Papageien und das chinesische Zimmer

Image by Ilona Frey from Pixabay

Bei Künstlicher Intelligenz geht es oft um einen Input, z.B. einen Prompt, und ein Ergebnis. Was dazwischen passiert, wissen wir oft nicht und ist gerade in proprietären KI-Modellen wie eine Art Black Box. Auf Basis des Ergebnisses erfolgt dann oft eine Art Zuschreibung an die Black Box wie „Beeindruckendes Ergebnis“ oder sogar „Intelligenz“ – eben „Künstliche Intelligenz“. Dass dieses Vorgehen kritisch zu bewerten ist, habe ich in verschiedenen Blogbeiträgen erläutert. Siehe dazu beispielsweise KI und Anthropomorphismus: Warum schreiben wir Software menschliche Eigenschaften zu?

Doch wie kann man sich diese Black Box und ihre Funktionsweise vorstellen? Large Language Models (LLMs) zerlegen Eingaben in kleine Einheiten, den Tokens. Das nächste Token wird anschließend mit einer gewissen Wahrscheinlichkeit bestimmt, sodass manche LLMs auch als eine Art stochastische Papageien beschreiben (Bender at al. 2021). Der Philosoph Searle hat dazu ein Gedankenexperiment (Wikipedia) beschrieben, zu dem ich folgende Kurzfassung gefunden habe:

„Man stelle sich eine Person vor, die in einem Zimmer sitzt und die von außen Zettel mit chinesischen Schriftzeichen erhält. Die Person selbst spricht kein Chinesisch. In dem Raum befindet sich jedoch ein Regelbuch, in dem zu finden ist, wie auf die Zeichen mit anderen Schriftzeichen zu reagieren ist. Die Person folgt diesen Anweisungen und gibt die entsprechenden Antworten. Für eine Person außerhalb des Chinesischen Zimmers, so Searles Gedanke, kann der Eindruck entstehen, als würde die Person innerhalb des Zimmers fließend Chinesisch sprechen. Über die Person innerhalb des Zimmers zu sagen, sie verstehe Chinesisch, sei aber im Grunde nichts anderes, als über einen Computer (oder eine KI) zu sagen, sie könne wirklich eine Sprache sprechen und verstehen, nur weil sie in der Lage ist, einen entsprechenden Output zu produzieren (für den aktuellen Diskussionsstand siehe Cole, 2024)“ (Breuer et al. (2026). Künstliche Intelligenz: Neue Technologie, bekannte Fragen? Eine Perspektive der Fachgruppe Medienpsychologie, in Psychologische Rundschau, vol. 77, no. 4, pp. 249–254, Oct. 2026, doi: 10.1026/0033-3042/a000785).

Da sich Searle mit seinem Gedankenexperiment auf die damals (1980er Jahre) üblichen Computersysteme bezogen hat, wird es natürlich von Vertretern der heuteigen KI-Modelle als unangemessen kritisiert. Dennoch ist es erstaunlich, dass Experten aus dem Bereich der Medienpsychologie durchaus Ähnlichkeiten mit der Black Box bei KI-Modellen sehen.

Entscheidend ist für sie: „Mustererkennung und Musterproduktion haben nichts mit echtem Verstehen gemeinsam“ (ebd.).

Künstliche Intelligenz: Würden Sie aus diesem Glas trinken?

Image by AIAC Interactive Agency from Pixabay

Das Bild zeigt ein Glas mit einer Flüssigkeit. Es ist allerdings nicht genau zu erkennen, um welchen Inhalt es sich handelt. Es könnte also sein, dass die Flüssigkeit gut für Ihre Gesundheit ist, oder auch nicht. Vertrauen Sie dieser Situation? Vertrauen Sie demjenigen, der das Glas so hingestellt hat?

Würden Sie aus diesem Glas trinken?

So ähnlich ist die Situation bei Künstlicher Intelligenz. Die Tech-Unternehmen veröffentlichen eine KI-Anwendung nach der anderen. Privatpersonen, Unternehmen, ja ganze Verwaltungen nutzen diese KI-Apps als Black Box, ohne z.B. zu wissen, wie die Daten in den Large Language Models (LLM) zusammengetragen wurden – um nur einen Punkt zu nennen.

Der Vergleich von dem Glas mit Künstlicher Intelligenz hinkt zwar etwas, doch erscheint mir die Analogie durchaus bemerkenswert, da der erste Schritt zur Anwendung von Künstlicher Intelligenz Vertrauen sein sollte.

Step 1: It All Starts with Trust
„Think about it: the glass is opaque, you can’t even see inside it! The water inside that glass could pure spring water, but it could also be cloudy and murky puddle water, or even contaminated water! If you couldn’t see inside that glass, would you still drink what’s inside it after adding tons of high-quality sugar and lemon to it? Probably not, so why would you do this with one of your company’s most previous assets—your data?“ (Thomas et al. 2025).

Vertrauen Sie der Art von Künstlicher Intelligenz, wie sie von den etablierten Tech-Giganten angeboten wird? Solche Closed Source Modelle sind nicht wirklich transparent, und wollen es auch weiterhin nicht sein. Siehe dazu auch Das Kontinuum zwischen Closed Source AI und Open Source AI.

Vertrauen Sie besser wirklichen Open Source AI – Anwendungen: Open Source AI: Besser für einzelne Personen, Organisationen und demokratische Gesellschaften.