Künstliche Intelligenz, stochastische Papageien und das chinesische Zimmer

Image by Ilona Frey from Pixabay

Bei Künstlicher Intelligenz geht es oft um einen Input, z.B. einen Prompt, und ein Ergebnis. Was dazwischen passiert, wissen wir oft nicht und ist gerade in proprietären KI-Modellen wie eine Art Black Box. Auf Basis des Ergebnisses erfolgt dann oft eine Art Zuschreibung an die Black Box wie „Beeindruckendes Ergebnis“ oder sogar „Intelligenz“ – eben „Künstliche Intelligenz“. Dass dieses Vorgehen kritisch zu bewerten ist, habe ich in verschiedenen Blogbeiträgen erläutert. Siehe dazu beispielsweise KI und Anthropomorphismus: Warum schreiben wir Software menschliche Eigenschaften zu?

Doch wie kann man sich diese Black Box und ihre Funktionsweise vorstellen? Large Language Models (LLMs) zerlegen Eingaben in kleine Einheiten, den Tokens. Das nächste Token wird anschließend mit einer gewissen Wahrscheinlichkeit bestimmt, sodass manche LLMs auch als eine Art stochastische Papageien beschreiben (Bender at al. 2021). Der Philosoph Searle hat dazu ein Gedankenexperiment (Wikipedia) beschrieben, zu dem ich folgende Kurzfassung gefunden habe:

„Man stelle sich eine Person vor, die in einem Zimmer sitzt und die von außen Zettel mit chinesischen Schriftzeichen erhält. Die Person selbst spricht kein Chinesisch. In dem Raum befindet sich jedoch ein Regelbuch, in dem zu finden ist, wie auf die Zeichen mit anderen Schriftzeichen zu reagieren ist. Die Person folgt diesen Anweisungen und gibt die entsprechenden Antworten. Für eine Person außerhalb des Chinesischen Zimmers, so Searles Gedanke, kann der Eindruck entstehen, als würde die Person innerhalb des Zimmers fließend Chinesisch sprechen. Über die Person innerhalb des Zimmers zu sagen, sie verstehe Chinesisch, sei aber im Grunde nichts anderes, als über einen Computer (oder eine KI) zu sagen, sie könne wirklich eine Sprache sprechen und verstehen, nur weil sie in der Lage ist, einen entsprechenden Output zu produzieren (für den aktuellen Diskussionsstand siehe Cole, 2024)“ (Breuer et al. (2026). Künstliche Intelligenz: Neue Technologie, bekannte Fragen? Eine Perspektive der Fachgruppe Medienpsychologie, in Psychologische Rundschau, vol. 77, no. 4, pp. 249–254, Oct. 2026, doi: 10.1026/0033-3042/a000785).

Da sich Searle mit seinem Gedankenexperiment auf die damals (1980er Jahre) üblichen Computersysteme bezogen hat, wird es natürlich von Vertretern der heuteigen KI-Modelle als unangemessen kritisiert. Dennoch ist es erstaunlich, dass Experten aus dem Bereich der Medienpsychologie durchaus Ähnlichkeiten mit der Black Box bei KI-Modellen sehen.

Entscheidend ist für sie: „Mustererkennung und Musterproduktion haben nichts mit echtem Verstehen gemeinsam“ (ebd.).

Ist Künstliche Intelligenz einfach eine Weiterentwicklung bestehender Automatisierungstendenzen?

Künstliche Intelligenz wird oft mystifiziert und in Stories verpackt. Der Grund ist banal: Es geht um das Einwerben von Kapital und um das schnelle Skalieren des eigenen Geschäftsmodells.

Künstliche Intelligenz wird dabei schnell als disruptiv beschrieben. Dabei ist unstrittig, dass KI schon heute, und ganz besonders in naher Zukunft, ganze Branchen (Gesellschaften) verändern wird.

Dennoch kann Künstliche Intelligenz auch ganz einfach als Weiterentwicklung innerhalb von Automatisierungsbestrebungen gesehen werden:

„Die Automatisierung von menschlichem Handeln durch KI ist kein neues Phänomen der Mensch-Technik-Interaktion, sondern umfasst in Teilen eine Weiterentwicklung innerhalb bestehender Automationsbestrebungen. (…) Breite Definitionen von KI (z. B. Russell & Norvig, 2022, p.19) sind so weitgefasst, dass sich nahezu jede technische Automatisierung darunter einordnen ließe. Umgekehrt lassen sich auch viele KI-Systeme als Automatisierung beschreiben, weil sie Aufgaben teilweise oder vollständig vom Menschen auf ein System verlagern (Lee & See, 2004)“ (Kraus et al., 2026, Psychologische Rundschau (2026), 77(4), 239–244, https://doi.org/10.1026/0033-3042/a000783).

So eine ingenieurpsychologische Perspektive weist auch darauf hin, dass Künstliche Intelligenz eingebettet ist in gesellschaftliche und psychologische Prozesse – eben auf ein sozio-technisches System. Die Ingenieurpsychologie kann hier einen wertvollen Beitrag zur Diskussion über Künstliche Intelligenz leisten.

Künstliche Intelligenz: Vorhersage ist nicht Erklärung

Image by Hannah Edgman from Pixabay

In dem Beitrag Menschliches Lernen und Maschinelles Lernen unterscheiden sich wurden die Unterschiede zwischen dem Lernen von Maschinen und dem Lernen von Menschen deutlich. In der Diskussion um Künstliche Intelligenz gibt es allerdings weitere Begriffe, die verwechselt werden. Ich vermute, dass das oft absichtlich passiert, um Maschinen immer mehr an den Menschen zu adaptieren, bis zu einem Grad in dem „eine generelle Intelligenz (AGI: Artificial General Intelligence“ alles übernimmt. Mit solchen Storys von Big Tech wird viel Geld eingesammelt.

Schauen wir uns nun zwei weitere Begriffe an, die immer wieder verwechselt werden: Vorhersagen und Erklären.

Wenn wir an große Datenmengen wie Large Language Models (LLMs) denken, so entstehen Ergebnisse in den KI-Modellen aus der Vorhersage des nächsten Buchstabens, Wortes oder Aussagen. So eine Vorhersage (Prognose) kann schnell mit dem menschlichen Erklären verwechselt werden. In dem folgenden, lesenswerten Paper wird das ausführlich – auch in Bezug zu anderen Themen – erläutert;

Knauff et al. (2026): Vorhersage ist nicht Erklärung. Eine Perspektive der Fachgruppe Allgemeine Psychologie (gemeinsam mit der Gesellschaft für Kognitionswissenschaft), Psychologische Rundschau, vol. 77, no. 4, pp. 225–231, Oct. 2026, doi: 10.1026/0033-3042/a0007811

„Erklärung ist mehr als Prognose. Eine Theorie beschränkt sich nicht darauf, zukünftige Ereignisse korrekt vorherzusagen; sie macht die Struktur des zugrunde liegenden Mechanismus explizit und nachvollziehbar. Genau hier verläuft die entscheidende Differenz zwischen datengetriebener KI und psychologischer Theoriebildung“ /ebd.).

„Unsere These lautet: Auch beeindruckende Performanz ersetzt keine mechanistische Theorie psychologischer Prozesse. Vorhersage ist nicht Erklärung“ (ebd.).

Psychologische Spielchen in der Projektarbeit: Das Ja-Aber-Spiel

Image by Ryan McGuire from Pixabay

Sie alle kennen das Spiel: Jemand wirft eine Frage oder ein Problem auf, ein anderer beantwortet die Frage, bzw. formuliert eine Idee zu dem Problem, die jedoch mit „Ja, aber…“ verworfen werden. Dieses Ping-Pong kann lange, ja sehr lange dauern, und vergeudet damit Arbeitszeit und Energie aller Beteiligten. Bei Röhrig (2008) findet sich dazu folgendes Beispiel:

„Jede Neuerung verleitet Menschen zu diesem Spiel. Soll zum Beispiel ein neues und für ein umfassendes Projekt notwendiges elektronisches Ablagesystem eingeführt werden, so liegt es nahe, diese unerwünschte Maßnahme in Frage zu stellen, indem man ein zu befürchtendes, möglicherweise unbedeutendes Problem aufwirft, das von keinem zu lösen zu sein scheint. Folgender Beispieldialog gehört in den „Spielalltag“ eines Unternehmens, in dem eine Veränderung implementiert werden soll:

A: „Um dieses System zu erlernen, benötigen wir sehr viel Zeit. Wie sollen wir denn da überhaupt noch unsere eigentliche Arbeit machen?“

B: „Das ist richtig, aber wenn wir das Programm erst einmal gelernt haben, sparen wir alle sehr viel Zeit und ersparen uns unnötiges Suchen nach Dokumenten.“

A: „Ja, aber dann haben wir trotzdem das Problem der Überstunden.“

B: „Dann werden wir eben dieses Programm in der Freizeit bzw. in den Zeiten lernen, in denen weiniger los ist.“

A: „Ja, aber ich werde bestimmt nicht in meiner Freizeit ein Programm für die neue Ablage erlernen.“

B: „Dann setzen Sie sich eben daran, sobald Sie weniger zu tun haben.“

A: „Aber, das ist doch überhaupt nicht realisierbar, weil….“

Lassen Sie sich auf solche Spielchen einfach nicht ein. Ersetzen Sie das „Ja, aber …“ durch ein „Ja, und ...“ oder nutzen Sie andere Methoden auf Ideen einzugehen – beispielsweise mit Hilfe der PMB-Methode.

Solche Zusammenhänge thematisieren wir auch in den von uns entwickelten Blended Learning Lehrgängen, Projektmanager/in (IHK) und Projektmanager/in Agil (IHK), die wir an verschiedenen Standorten anbieten. Weitere Informationen zu den Lehrgängen und zu Terminen finden Sie auf unserer Lernplattform.

Ökonomie: Sind die Ökonometrischen Modelle noch zeitgemäß?

In der aktuellen Corona-Pandemie geht es nun langsam aber sicher wieder darum, das gesellschaftliche und wirtschaftliche Leben anzukurbeln. Dazu beziehen sich Politiker oft auf ökonomischer Modelle, um die Richtigkeit ihrer Maßnahmen zu belegen. Es geht um Zahlen, Daten und Fakten – um rationales Handels aufgrund scheinbar objektiver Daten. Georga W. Akerlof (Wirtschaftsnobelpreis 2001) und sein Kollege Robert J. Shiller vertreten hier allerdings eine etwas andere Ansicht. In dem Buch „Animal Spirits“ aus dem Jahr 2009 vertreten sie die Auffassung, dass die „nicht-rationalen Elemente unseres Handelns“ stärker beachtet werden müssen.

„Ökonometrische Modelle werden im Allgemeinen als Rückkopplungsmodelle beschrieben, die nur auf beobachtbaren Daten beruhen. Alle Nichtobservablen werden in den Bereich der „Messfehler“ verwiesen. Auch wenn wir der Ansicht sind, dass solche Modelle oftmals sehr nützlich sind, vernachlässigen sie doch einige wesentliche Zusammenhänge, die auf nicht quantifizierbaren psychologischen Variablen beruhen.“ (ebd. S. 200)

Und weiter führen die Autoren aus: „Die meisten Ökonomen haben für diese psychologischen Feedbackgeschichten nichts übrig. Sie laufen ihrer tief verwurzelten Überzeugung von der Rationalität menschlichen Handelns zuwider. Aber sie lehnen sie auch noch aus einem anderen Grund ab: Es gibt keine Standardmethoden zur Quantifizierung der menschlichen Psychologie. Sie halten die Bemühungen zur quantitativen Erfassung von Rückkopplungsmechanismen und deren Einbindung in makroökonomische Modelle für zu willkürlich und sind deshalb von ihrer Gültigkeit nicht überzeugt“ (ebd. S. 200-201).

Ich frage mich bei der ganzen Diskussion um die Subvention verschiedener wirtschaftlicher Bereiche, ob dies „Animal Spirits“ mit bedacht werden. Es sieht für mich so aus, als ob die Ökonomie der Industriegesellschaft wieder dominiert. Wissenschaftliche Expertise wird nur akzeptiert, wenn Sie auf Zahlen, Daten und Fakten beruht und reproduzierbar ist. Dieses Mindset beruht auf der Berechenbarkeit von allem. Entspricht das der Wirklichkeit von Menschen in einer Gesellschaft, oder auch in einer Organisation?

Wenn es den Unternehmen gut geht, liegt der Fokus auf den „harten“ Daten des Geschäfts – das Unternehmen wird als Maschine zur Geldvermehrung gesehen.. Geht es dem Unternehmen wirtschaftlich nicht gut, kommen andere Metaphern wie „das Unternehmen leidet“ oder “ das Unternehmen stirbt“ ins Spiel. Diese Metapher erinnern stärker an einen lebenden komplexen Organismus. Es ist aus meiner Sicht bedenklich, weiterhin an der Maschinen-Metapher festzuhalten, da diese dem komplexen Umfeld nicht mehr gerecht wird.

Soziale und psychologische Zusammenhänge rücken stärker in den Fokus der ökonomischen Forschung

Die Psychologie ist ein entscheidendes Element der Wirtschaft. Viele wissen das, andere wiederum vermuten es. Die aktuelle Krise weist deutlich darauf hin, dass der Mensch kein rein rational handelndes Subjekt ist – kein homo oeconomicus. Das Buch Akerlof/Shiller (2009): Animal Spirits: How Human Psychology Drives The Economy, and Why It Matters For Global Capitalism beschreibt diese Zusammenhänge. Shiller hatte als einer der wenigen Fachleute den Zusammenbruch des US-Immobilienmarktes vorhergesehen, indem er Muster beobachtet hat. In dem Artikel Robert Shiller entdeckt den Instinkt (FTD vom 11.05.2009) erläutern Hubert Beyerle und Martin Kaelble die Denkansätze des Yale-Professors Robert Shiller: “ Soziale und psychologische Mechanismen der Ausbreitung von wirtschaftlichen Trends rücken in den Fokus der ökonomischen Forschung“. Viele Forscher stehen jetzt vor der Aufgabe, soziale und psychologische Elemente in ihre Theorien und Modelle zu integrieren, denn die bisherigen Modelle haben sich in der Realität nicht bewährt. Die sogenannte Finanzmarktkrise entpuppt sich immer mehr als eine Krise des Denkens. Siehe dazu auch Geld regiert nicht die Welt, sondern … und Wirtschaftswissenschaften beachten zu wenig die weichen, psychologischen Faktoren oder auch Multiple Inteligenzen in Bildung und Beruf

Reinmann, G.; Mandl, H. (Hrsg.) (2004): Psychologie des Wissensmanagements

psychologie-des-wissensmanagements.jpgGabi Reinmann und Heinz Mandl haben als Herausgeber des Buchs Psychologie des Wissensmanagements viele Beiträge zu einem sehr interessanten, aber oftmals vernachlässigten Aspekt des Wissensmanagements zusammengestellt. Es freut mich sehr, dass diese Artikel ein kleines Gegengewicht zur überwiedegend technokratischen, ingenieurwissenschaftlichen Darstellung des Wissensmanagements darstellen. Es lohnt sich bestimmt, sich intensiver mit psychologischen Aspekten zu befassen.

Funke (2000): Psychologie der Kreativität

In diesem Beitrag finden Sie auf Seite 291 folgenden Hinweis:

(…) Dabei sollte man sich allerdings eine Intelligenzkonzeption vor Augen halten, die nicht von der Annahme einer einzelnen „generellen“ Intelligenz ausgeht, sondern die – wie dies etwa in den Vorstellungen von Howard Gardner (1983) zum Ausdruck kommt – die Existenz „multipler Intelligenzen“ annimmt (sprachliche, logisch-mathematische, räumliche, musikalische, motorische sowie personale Intelligenz).