Künstliche Intelligenz: Von Output über Outcome zu Impact

Wirkungstreppe bei Not-for-Profit-Projekten (PHINEO 2021)

Die Abbildung zeigt zwar die Wirkungstreppe bei Not-for-Profit-Projekten, doch möchte ich daran verschiedene Aspekte der heutigen KI-Diskussion aufzeigen. Wie zu erkennen ist, geht es bei der Entwicklung und Anwendung der verschiedenen KI-Modelle meistens darum, dass sich Künstliche Intelligenz rechnet – die Kosten also niedriger sind als der Nutzen. In den Anfängen der KI-Nutzung sind dazu sehr viele Beispiel veröffentlicht worden die zeigen, wie wirtschaftliche der KI-Einsatz sein kann. In der Zwischenzeit wird allerdings immer öfter auch darüber diskutiert, welche immensen Kosten entstehen können. Siehe dazu auch Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks? Diese Zusammenhänge gehören in die Kategorie Output oder Outcome.

Entscheidender für mich ist allerdings die Frage: Welchen Impact generiert Künstliche Intelligenz? Die großen US amerikanischen Tech-Konzerne wollen die Gesellschaft nach ihren wirtschaftlichen Vorstellungen ändern. Chinesische Modelle wollen das auch, doch haben diese einen anderen, eher politischen Ansatz. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

Wenn es um Künstliche Intelligenz geht, sollten wir uns zunächst die Frage nach dem Impact stellen, da die KI-Modelle gravierende Auswirkungen auf unsere Gesellschaft haben. Es sollte nicht so sein, dass KI-Unternehmen unsere Daten für ihre Geschäfte nutzen und auch noch bestimmen, welche Werte in der Gesellschaft vertreten werden sollen.

In Europa wird nach und nach erkannt, dass es Zeit ist, europäische Werte als Rahmen für die Nutzung von Künstlicher Intelligenz zu setzen. Solche Grenzen werden die Tech-Konzerne nicht akzeptieren. Sie werden politischen Druck und ihre Lobbyarbeit nutzen, diesen europäischen Ansatz zu verwässern. Ich hoffe, dass die Europäische Union den eingeschlagenen Weg der sinnvollen Regulierung von Künstlicher Intelligenz weitergeht – zum Wohle der Menschen. Siehe dazu auch SuperEurope: The Unexpected Hero of the 21st Century.

Künstliche Intelligenz: Von Präferenzen zu Werten – doch zu welchen Werten?

Herauszufinden, welche Präferenzen (Vorlieben, Neigungen) ein Nutzer üblicherweise hat, ist für Unternehmen wichtig. Es wird aus diesen Präferenzen oft interpretiert, welche Produkte und Dienstleistungen den Nutzer möglicherweise auch noch interessieren könnten. Die im 20. Jahrhundert entstandenen philosophischen und ökonomischen Theorien hatten dabei das Ziel, Präferenzen möglichst zu befriedigen. In den Anfängen solcher Überlegungen wurden zwei Präferenzen unterschieden:

„From these early theories emerges the distinction between revealed preferences and ideal preferences (Samuelson, 1948). Revealed preferences refer to how people’s desires are acted upon in real life through the choices they make (Samuelson, 1948). Ideal preferences refer to people’s desires that would manifest if they were rational and informed in an ideal world (Samuelson, 1948). This distinction importantly points to the idea that people’s actions may or may not reflect their actual desires“ (Li, J. (2026) Beyond Preference-based Value-alignment, IEAI Research Brief – Q2 2026).

Das Konzept der Präferenzen wurde auf Methoden zur Werteausrichtung (Value Alignment) ausgeweitet, bei denen der Schwerpunkt darauf liegt, Informationen beispielsweise über das bevorzugte Verhalten von KI-Systemen anhand offenbarter Präferenzen zu extrapolieren.

An dieser Stelle stellt sich allerdings die Frage, ob sich das KI-Modell an die Präferenzen und Werte des Nutzers anpasst, oder ob nicht das KI-Modell den Nutzer so beeinflussen will, dass er die in dem KI-Modell hinterlegten Werte adaptiert. Da die Werte der proprietären KI-Modelle oft nicht transparent sind, kann es daher zu unerwünschten Manipulationen kommen. Siehe dazu auch 

Open Source AI: Warum sollte Künstliche Intelligenz demokratisiert werden?

Interaktion zwischen Mensch und KI-Modell: Welche Rolle spielen dabei Werte?

Interaktion zwischen Mensch und KI-Modell: Welche Rolle spielen dabei Werte?

Immer mehr Menschen nutzen Künstliche Intelligenz, um gesundheitliche, psychologische oder berufliche Themen zu analysieren. Der Ratgeber ist in diesen Fällen also nicht der Arzt, der Psychologe, oder ein Kollege am Arbeitsplatz, sondern ChatGPT oder andere bekannte KI-Modelle.

Es ist in dem Zusammenhang wichtig, welche Werte von dem KI-Modell „vertreten“ werden. Warum? In dem Beitrag Digitale Souveränität: Europa, USA und China im Vergleich wird deutlich, wie unterschiedlich die Werte von KI-Modellen der US-amerikanischen Tech-Konzerne, chinesischen Modellen, und europäischen Modellen sein können.

Da wiederum Werte Ordner sozialer Komplexität sind, ermöglichen sie ein Handeln unter Unsicherheit und bestimmen die menschliche Selbstorganisation.

Systemische Sicht auf Werte: „Werte können als Ordnungsparameter (Ordner) selbstorganisierter komplexer biotischer, individueller, gruppenförmiger oder aggregierterer sozialhistorischer Systeme aufgefasst werden. Diese Ordner bestimmen oder beeinflussen zumindest stark die individuell-psychische und sozial-kooperativ kommunikative menschliche Selbstorganisation und ermöglichen eben damit jenes Handeln unter prinzipieller kognitiver Unsicherheit“ (Haken 1996).

Bei der Kommunikation Mensch – KI dringt die KI immer tiefer in das Profil des Menschen ein, was dazu führen kann, dass sich KI-Modelle beim Nutzer einschmeicheln. Siehe dazu auch Künstliche Intelligenz: Verstärkt Personalisierung Schmeicheleien? Ergebnisse einer Studie..

Da die Werte der proprietären KI-Modelle oft nicht transparent sind, kann es daher zu unerwünschten Manipulationen kommen. Siehe dazu auch Open Source AI: Warum sollte Künstliche Intelligenz demokratisiert werden?

Welche Selbstorganisations-Theorie ist für Innovation geeignet?

Wesentliche Vertreter der Grundlagen einer Komplexitätswissenschaft und Vorreiter
einer terminologischen Präzisierung von Komplexität (Bandte 2007:50, aus Stüttgen 2003): Eigene Hervorhebungen

In unserer komplexen Welt verwenden viele den Begriff „Komplexität“, doch fragt man nach wird deutlich, dass an unterschiedliche naturwissenschaftliche Ansätze gedacht wird. In der Abbildung sind daher wesentliche Vertreter der Grundlagen einer Komplexitätswissenschaft und Vorreiter einer terminologischen Präzisierung von Komplexität zu sehen, die den verschiedenen Disziplinen zugeordnet sind

Ein wesentlicher Schwerpunkt in der Komplexitätsdiskussion befasst sich mit SELBSTORGANISATION. In der Abbildung sind von mir bekannte Vertreter zu Selbstorganisations-Theorien hervorgehoben, die aus den Bereichen Biologie und Physik/Chemie kommen. Überraschend ist dabei, dass viele wichtige Theorien zum Thema um 1970 fast zeitgleich erschienen sind:

„Es war der magische Zeitpunkt um 1970, als fast zeitgleich erste naturwissenschaftliche Theorien der Selbstorganisation erschienen, die eine paradigmatische Wende einläuteten: die biologische Theorie der Autopoiese von Humberto Maturana, die Arbeit zur molekularen Evolution von Manfred Eigen, die thermodynamische Theorie dissipativer Systeme fernab vom Gleichgewicht von Ilya Prigogine sowie die aus der Quantenoptik und der Theorie der Phasenübergänge stammende Theorie der Synergetik von Hermann Haken. Die Begründer dieser Theorien kamen aus sehr unterschiedlichen Disziplinen“ (Petzer/Steiner 2016).

Da ich mich viel mit Innovationen befasse, ist es mir natürlich wichtig zu erfahren, welche Passung diese Theorien mit der Entstehen neuer Dienstleistungen, Produkte oder (allgemein) neuen Gesellschaftsstrukturen haben. Sehr interessant ist dabei, dass die Autopoiese (Maturana) wohl nicht so gut geeignet erscheint, und die Synergetik von Haken (1996) wohl besser passt:

„Obwohl die Autopoiese einen großen Einfluss im biologischen und vor allem im soziologischen Bereich hat, so ist ihr Bezug zur Selbstorganisation eher im zirkulären
Wirken bestehender Ordnung zu sehen. In Hinblick auf die Entstehung (Emergenz) von Ordnung und verschiedener Ordnungsstufen trifft die Autopoiese keine Aussagen. Sie setzt bereits Ordnung voraus. Daher sah Hermann Haken auch keinen Anlass sich mit dieser, vor allem im Rahmen des Radikalen Konstruktivismus in der Literatur hofierten und diskutierten Theorie, intensiver auseinanderzusetzen.

Übertragen auf soziale Systeme kann die Autopoiesetheorie Innovation oder die
Entstehung neuer Gesellschaftsstrukturen nicht thematisieren
„.

Quelle: (Petzer/Steiner 2016). Die Autoren nennen zur Unterstützung dieser These noch folgende Quellen:

– Hermann Haken: Synergetics. An Introduction, New York, NY: Springer 1977.
– Bernd Kröger: Hermann Haken und die Anfangsjahre der Synergetik, Berlin: Logos 2013, S. 259.
– Vgl. auch Marie-Luise Heuser: „Wissenschaft und Metaphysik. Überlegungen zu einer allgemeinen Selbstorganisationstheorie“, in: Wolfgang Krohn/Günter Küppers (Hg.): Selbstorganisation.

Für Haken (1996) sind dabei Werte sozialer Selbstorganisation. Phasenübergänge stellen an Bifurkationspunkten die Übergänge von Mikrozuständen von Elementen zu Makrozuständen (Emergenz) dar.

„Es genügt also, das Verhalten der wenigen instabilen Systemelemente zu erkennen, um den Entwicklungstrend des gesamten Systems und seine makroskopischen Muster zu bestimmen. Die Größen, mit denen das Verteilungsmuster der Mikrozustände eines Systems charakterisiert wird, heißen nach dem russischen Physiker Lew D. Landau „Ordnungsparameter““ (Mainzer 2008:43-44).

Mit Hilfe Künstlicher und Menschlicher Intelligenz sollte es möglich sein, diese wenigen instabilen Systemelemente zu erkennen (Ordnungsparameter), um makroskopische Muster zu bestimmen.

Siehe dazu auch Freund, R. (2011): Das Konzept der Multiplen Kompetenz auf den Ebenen Individuum, Gruppe, Organisation und Netzwerk.

Künstliche Intelligenz und Werte für das Zusammenleben in der Europäischen Union

Image by Pete Linforth from Pixabay

Werte spielen in der heutigen Zeit eine bedeutende Rolle. Einerseits bei modernen Arbeitsformen, in denen Werte und Prinzipien eine wichtige Hebelwirkung haben, andererseits sind Werte auch Ordner von sozialer Komplexität.

Gerade in einem so großen Raum wie der Europäischen Union ist es wichtig zu wissen, auf welchen Werten das Zusammenleben basiert. Im Amtsblatt der Europäischen Union 2016/C 202/1 über den Vertrag für die Europäische Union findet man im §2 folgenden Text:

Die Werte, auf die sich die Union gründet, sind die Achtung der Menschenwürde, Freiheit, Demokratie, Gleichheit, Rechtsstaatlichkeit und die Wahrung der Menschenrechte einschließlich der Rechte der Personen, die Minderheiten angehören. Diese Werte sind allen Mitgliedstaaten in einer Gesellschaft gemeinsam, die sich durch Pluralismus, Nichtdiskriminierung, Toleranz, Gerechtigkeit, Solidarität und die Gleichheit von Frauen und Männern auszeichnet“ (ebd.).

Manchmal habe ich den Eindruck, dass Regionen in der Europäischen Union gerne eigene Werte durchsetzen möchten, sich regional abschotten, aber dennoch die Vorteile der Europäischen Union nutzen wollen. Diese Vorteile gibt es nicht, ohne die Berücksichtigung der genannten Werte – sogar dann, wenn es um die Nutzung der Künstlichen Intelligenz geht. Siehe dazu auch

Bris, A. (2025): SuperEurope: The Unexpected Hero of the 21st Century 

Weltweite Übersicht zum Umgang mit Künstlicher Intelligenz

Werte als Ordner sozialer Komplexität

Image by Gerd Altmann from Pixabay

Alles ist heute mit allem irgendwie vernetzt, sodass auf allen Ebenen Entgrenzung stattfindet, die wiederum zu Komplexität in allen Bereichen einer Gesellschaft führt. Dabei sollten wir die eher „technische“ Komplexität von der sozialen Komplexität unterscheiden.

Es ist in dem Zusammenhang interessant, dass „Geistes- und Sozialwissenschaften besonders gut geeignet sind, (1) die Entwicklung sozialer Komplexität zu beschreiben und (2) das gesellschaftliche Schema, innerhalb dessen die Sinngebung erfolgt, neu zu gestalten“ (Blogbeitrag).

Dabei stellt sich sofort die Frage: Wie kann soziale Komplexität bewältigt werden? Dazu habe ich bei bei John Erpenbeck folgendes gefunden:

„Ein besonderer Anstoß für mich war Hermann Hakens Artikel „Synergetik und Sozialwissenschaften“ in der Zeitschrift Ethik und Sozialwissenschaften (Haken / Wunderlin 2014). Er legte nahe, Werte als – von ihm so genannte – „Ordner“ sozialer Komplexität zu verstehen. Ohne solche Ordner wird Komplexität nicht beherrschbar. Sie sind zugleich zufällig und notwendig. Sie haben ihre Wirklichkeit jedoch nur, wenn sie durch Einzelne verinnerlicht und gelebt werden. Werte sind damit stets Ordner individueller oder kollektiver, physischer oder geistiger menschlicher Selbstorganisation. Kurz: Werte sind Ordner menschlicher Selbstorganisation (Haken 1996). Nicht alle Ordner sind Werte, aber alle Werte sind Ordner im Sinne von Haken (1983)“ (Erpenbeck, J. (2024): Werte als Inseln zeitlicher Stabilität im Fluss selbstorganisierter sozialer Entwicklungen, in Störl (Hrsg.) (2024): Zeit als Existenzform der Materie).

Es wundert daher nicht, dass Werte in allen möglichen Zusammenhängen thematisiert werden. Aktuell geht es beispielsweise bei der Nutzung der Künstlicher Intelligenz darum zu klären, ob wir die Werte der amerikanischen Tech-Konzerne, die Werte der chinesischen Politik oder unsere europäischen Werte als Ordner für soziale Komplexität nutzen wollen.

Siehe dazu beispielhaft auch Digitale Souveränität: Europa, USA und China im Vergleich und  Open Source Community und die United Nations teilen die gleichen Werte.

Generative Künstliche Intelligenz und generative Kompetenzentwicklung

Klassische Kompetenzentwicklung versteht Kompetenz nach Erpenbeck und Heyse als Selbstorganisationsdisposition, die entwickelt werden kann und sollte. Mit dem Aufkommen von Künstlicher Intelligenz kommt auch immer stärker der Ruf nach einer entsprechenden Kompetenz auf – einer Digitalen Kompetenz oder auch KI-Kompetenz. Dabei sollte unter Künstlicher Intelligenz und Generativer Künstlicher Intelligenz unterschieden werden.

„Der Begriff generativ bedeutet bei künstlicher Intelligenz (KI), dass KI-Systeme aus Eingaben mittels generativer Modelle und gespeicherter Lerndaten neue Ergebnisse/Ausgaben wie Texte, Sprachaussagen, Vertonungen, Bilder oder Videos erzeugen“ (Quelle: Wikipedia).

Es handelt sich bei Generativer Intelligenz (GenAI) also auch um eine Art von Kreativität, die entsteht und die beispielsweise von Menschen bewertet werden kann, bzw. sollte. Es wundert daher nicht, dass vorgeschlagen wird, so eine „evaluative Kreativität“ – und in dem Zusammenhang auch generative Kompetenzen – zu entwickeln:

„Entwickle Deine evaluative Kreativität, entwickle Deine generativen Kompetenzen. (…) Generative Kompetenzen: die Fähigkeit, sich in neuen Technologien kreativ und selbstorganisiert mit einer klaren Wertorientierung zu bewegen“ (Erpenbeck und Sauter 2025).

Bemerkenswert ist hier, dass es nicht nur darum geht, mit KI-Modellen sebstorganisiert umgehen zu können, sondern auch wichtig ist, dass das mit einer klaren Wertorientierung erfolgen soll.

Dabei stellt sich gleich die Frage: Welche Werte kaufe ich mir denn ein, wenn ich ein KI-Modell der US-amerikanischen Tech-Konzerne oder KI-Modelle chinesischer Anbieter nutze? Siehe dazu auch Mit proprietärer Künstlicher Intelligenz (KI) kauft man sich auch die Denkwelt der Eigentümer ein.

Künstliche Intelligenz, Agiles Manifest, Scrum und Kanban

Bei Künstlicher Intelligenz denken aktuell die meisten an die KI-Modelle der großen Tech-Konzerne. ChatGPT, Gemini, Grok etc sind in aller Munde und werden immer stärker auch in Agilen Organisationen eingesetzt. Wie in einem anderen Blogbeitrag erläutert, sind in Agilen Organisationen Werte und Prinzipien mit ihren Hebelwirkungen die Basis für Praktiken, Methoden und Werkzeuge. Dabei beziehen sich viele, wenn es um Werte und Prinzipien geht, auf das Agile Manifest, und auf verschiedene Vorgehensmodelle wie Scrum und Kanban. Schauen wir uns einmal kurz an, was hier jeweils zum Thema genannt wird:

Agiles Manifest: Individuen und Interaktionen mehr als Prozesse und Werkzeuge
In der aktuellen Diskussion über die Möglichkeiten von Künstlicher Intelligenz werden die Individuen eher von den technischen Möglichkeiten (Prozesse und Werkzeuge) getrieben, wobei die Interaktion weniger zwischen den Individuen, sondern zwischen Individuum und KI-Modell stattfindet. Siehe dazu auch Mensch und Künstliche Intelligenz: Engineering bottlenecks und die fehlende Mitte.

SCRUM: Die Werte Selbstverpflichtung, Fokus, Offenheit, Respekt und Mut sollen durch das Scrum Team gelebt werden
Im Scrum-Guide 2020 wird erläutert, was die Basis des Scrum Frameworks ist. Dazu sind die Werte genannt, die u.a. auch die Offenheit thematisieren, Ich frage mich allerdings, wie das möglich sein soll, wenn das Scrum Team proprietäre KI-Modelle wie ChatGPT, Gemini, Grok etc. nutzt, die sich ja gerade durch ihr geschlossenes System auszeichnen? Siehe dazu auch Das Kontinuum zwischen Closed Source AI und Open Source AI.

KANBAN basiert auf folgenden Werten: Transparenz, Balance, Kooperation, Kundenfokus, Arbeitsfluss, Führung, Verständnis, Vereinbarung und Respekt.
Bei den proprietären KI-Modellen ist die hier angesprochene Transparenz kaum vorhanden. Nutzer wissen im Detail nicht, mit welchen Daten das Modell trainiert wurde, oder wie mit eingegebenen Daten umgegangen wird, etc.

In einem anderen Blogbeitrag hatte ich dazu schon einmal darauf hingewiesen, dass man sich mit proprietärer Künstlicher Intelligenz (KI) auch die Denkwelt der Eigentümer einkauft.

Um agile Arbeitsweisen mit Künstlicher Intelligenz zu unterstützen, sollte das KI-Modell den genannten Werten entsprechen. Bei entsprechender Konsequenz, bieten sich also KI-Modelle an, die transparent und offen sind. Genau an dieser Stelle wird deutlich, dass das gerade die KI-Modelle sind, die der Definition einer Open Source AI entsprechen – und davon gibt es in der Zwischenzeit viele. Es wundert mich daher nicht, dass die Open Source Community und die United Nations die gleichen Werte teilen.

Es liegt an uns, ob wir uns von den Tech-Giganten weiter in eine immer stärker werdende Abhängigkeit treiben lassen, oder andere Wege gehen – ganz im Sinne einer Digitalen Souveränität. Siehe dazu auch Open Source AI: Besser für einzelne Personen, Organisationen und demokratische Gesellschaften.

Über die Unterscheidung zwischen „Werte“ und „Wert“

Image by Michaela ? from Pixabay

Das gesellschaftliche Zusammenleben wird durch Gesetze geregelt, die sich oftmals historisch entwickelt haben. Dabei spielen Kultur und die damit verbundenen „Werte“ eine große Rolle. Die Bedeutung des Begriffs soll nun geklärt, und zu dem Begriff „Wert“ abgegrenzt werden. Dazu habe ich folgende Texte in einer aktuellen Studie gefunden:

„Der Begriff »Werte« unterscheidet sich vom Begriff »Wert« dadurch, dass der erste Begriff die Gründe beschreibt, warum etwas für jemanden wichtig ist. Werte repräsentieren normative Grundlagen, die als Leitprinzipien für individuelles Verhalten und gesellschaftliche Strukturen dienen. Sie bilden die Basis für die Bewertung von Wert und beeinflussen die Art und Weise, wie Individuen und Gesellschaften Güter, Dienstleistungen oder Handlungen priorisieren“ (Hämmerle et al. 2025, Fraunhofer HNFIZ).

Die Autoren weisen in ihrer Studie zur Transformation zu einer Wertschöpfung der Zukunft darauf hin, dass der Begriff »Wert« durchaus unterschiedlich interpretiert werden kann. Beispielhaft wird auf von Froese (2024) hingewiesen, der meint, in unseren westlichen Gesellschaften ginge es dabei eher um ökonomische oder auch statusbezogene Bewertungen. Andererseits hat Mazzucato (2018) darauf verwiesen, „dass Wert stets politisch und gesellschaftlich geprägt ist und über rein ökonomische Kategorien hinausgeht“ (ebd.).

Es wird meines Erachtens immer deutlicher, dass wir uns gesellschaftlich und wirtschaftlich mehr und mehr in ein neues Werte- und Wertverständnis hineinbewegen (müssen), das über die rein wirtschaftlichen Dimensionen hinausgeht. Siehe dazu auch

Produkte und Dienstleistungen als Mehrwert für Kunden: Warum funktioniert das einfach nicht?

Open Source Community und die United Nations teilen die gleichen Werte.

Wertemanagement: 2 Veröffentlichungen und ein kritischer Beitrag.

UNESCO (2025): AI and the future of education

Ausschnitt von der Titelseite

Es ist deutlich zu erkennen, dass die Entwicklungen im Bereich der Künstlichen Intelligenz Auswirkungen auf den Bildungssektor haben. Die Frage ist nur, ob die sich daraus entstehenden Fragen nur aus der Perspektive von Tech-Unternehmen beantwortet werden sollten. Es ist meines Erachtens in diesem Zusammenhang gut, dass sich die UNESCO diesem Thema ausgewogen und unter einer globalen Perspektive angenommen hat.

UNESCO (2025): AI and the future of education. Disruptions, dilemmas and directions | LINK

Gleich im einleitenden Summary weist die UNESCO darauf hin, dass ein Drittel der Weltbevölkerung offline ist. Das wiederum hat Auswirkungen darauf, welches Wissen, welche Werte und welche Sprachen in den KI-Systemen, und somit auch in der KI-unterstützten Bildung, dominieren.

„Artificial intelligence (AI) is reshaping the way we learn, teach and make sense of the world around us, but it is doing so unequally. While one-third of humanity remains offline, access to the most cutting-edge AI models is reserved for those with subscriptions, infrastructure and linguistic advantage. These disparities not only restrict who can use AI, but also determine whose knowledge, values and languages dominate the systems that increasingly influence education. This anthology explores the philosophical, ethical and pedagogical dilemmas posed by disruptive influence of AI in education“ (UNESCO 2025).