Bei Künstlicher Intelligenz geht es oft um einen Input, z.B. einen Prompt, und ein Ergebnis. Was dazwischen passiert, wissen wir oft nicht und ist gerade in proprietären KI-Modellen wie eine Art Black Box. Auf Basis des Ergebnisses erfolgt dann oft eine Art Zuschreibung an die Black Box wie „Beeindruckendes Ergebnis“ oder sogar „Intelligenz“ – eben „Künstliche Intelligenz“. Dass dieses Vorgehen kritisch zu bewerten ist, habe ich in verschiedenen Blogbeiträgen erläutert. Siehe dazu beispielsweise KI und Anthropomorphismus: Warum schreiben wir Software menschliche Eigenschaften zu?
Doch wie kann man sich diese Black Box und ihre Funktionsweise vorstellen? Large Language Models (LLMs) zerlegen Eingaben in kleine Einheiten, den Tokens. Das nächste Token wird anschließend mit einer gewissen Wahrscheinlichkeit bestimmt, sodass manche LLMs auch als eine Art stochastische Papageien beschreiben (Bender at al. 2021). Der Philosoph Searles hat dazu ein Gedankenexperiment (Wikipedia) beschrieben, zu dem ich folgende Kurzfassung gefunden habe:
„Man stelle sich eine Person vor, die in einem Zimmer sitzt und die von außen Zettel mit chinesischen Schriftzeichen erhält. Die Person selbst spricht kein Chinesisch. In dem Raum befindet sich jedoch ein Regelbuch, in dem zu finden ist, wie auf die Zeichen mit anderen Schriftzeichen zu reagieren ist. Die Person folgt diesen Anweisungen und gibt die entsprechenden Antworten. Für eine Person außerhalb des Chinesischen Zimmers, so Searles Gedanke, kann der Eindruck entstehen, als würde die Person innerhalb des Zimmers fließend Chinesisch sprechen. Über die Person innerhalb des Zimmers zu sagen, sie verstehe Chinesisch, sei aber im Grunde nichts anderes, als über einen Computer (oder eine KI) zu sagen, sie könne wirklich eine Sprache sprechen und verstehen, nur weil sie in der Lage ist, einen entsprechenden Output zu produzieren (für den aktuellen Diskussionsstand siehe Cole, 2024)“ (Breuer et al. (2026). Künstliche Intelligenz: Neue Technologie, bekannte Fragen? Eine Perspektive der Fachgruppe Medienpsychologie, in Psychologische Rundschau, vol. 77, no. 4, pp. 249–254, Oct. 2026, doi: 10.1026/0033-3042/a000785).
Da sich Searle mit seinem Gedankenexperiment auf die damals (1980er Jahre) üblichen Computersysteme bezogen hat, wird es natürlich von Vertretern der heuteigen KI-Modelle als unangemessen kritisiert. Dennoch ist es erstaunlich, dass Experten aus dem Bereich der Medienpsychologie durchaus Ähnlichkeiten mit der Black Box bei KI-Modellen sehen.
Entscheidend ist für sie: „Mustererkennung und Musterproduktion haben nichts mit echtem Verstehen gemeinsam“ (ebd.).
Copyright © 2026. All Rights Reserved.