Emergentes Verhalten gibt es auch bei der Interaktion vieler KI-Agenten

AdobeStock_650993865

Wenn es um Komplexität und Künstliche Intelligenz geht, kommt man schnell zu der paradoxen Situation, dass Künstliche Intelligenz Komplexität einerseits reduzieren/bewältigen kann, andererseits aber auch selbst dazu beiträgt, Komplexität zu erhöhen.

Wie ich schon in vielen Beiträgen geschrieben habe, kommt es in komplexen Systemen – auch in KI-Systemen – zu Emergenz, d.h. zu einem neuen, überraschenden Verhalten, das nicht auf die ursprünglichen Komponenten im System zurückgeführt werden kann. Siehe dazu auch Komplexe Systeme: Ist die Antwort einfach mehr Daten?

Betrachten wir das Zusammenspiel von den aktuell überall diskutierten KI-Agenten, so können die Überlegungen auch dafür angewandt werden:

„Emergentes Verhalten – Komplexes, unerwartetes Verhalten, das aus der Interaktion vieler Agenten entsteht, ohne explizit programmiert zu sein“ (Mittelstand Digital, 2025).

Es erstaunt mich daher immer wieder, dass die bekannten Tech-Konzerne ihre proprietären KI-Systeme anpreisen unter der Überschrift, dass alles in irgendeiner Form kontrollierbar sei – das ist es eben nicht.

In der letzten Zeit ist es sogar so weit gekommen, dass die Veröffentlichung von neuen KI-Modellen von der amerikanischen Administration verboten oder eingeschränkt wurde, da nicht wirklich klar war, welche Auswirkungen die Veröffentlichung und Nutzung haben könnte: „Die US-Regierung hat die Nutzung der KI-Modelle Fable 5 und Mythos 5 von Anthropic aus Gründen der nationalen Sicherheit stark eingeschränkt“ (Tagesschau vom 13.06.2026).

Im Extremfall kann es daher sein, dass Gewinne aus den möglichen Komplexitäts-Reduzierungen (Effizienzsteigerungen) durch Künstliche Intelligenz bei den Konzernen bleiben, und die unübersehbaren Konsequenzen der auch vorhandenen Komplexitäts-Erhöhung sozialisiert werden – also von den Gesellschaften getragen und bezahlt werden müssen.

Es ist daher gut, das die Europäische Union nach Möglichkeiten sucht, neue Technologien zu fördern, gleichzeitig aber auch deren gesellschaftlichen Auswirkungen im Blick zu behalten. Siehe dazu auch Bris, A. (2025): SuperEurope: The Unexpected Hero of the 21st Century.

Haben wir zu viele Bullshit Jobs?

Image by Magnet.me from Pixabay

In einem interessanten Interview mit dem Portal Politikwissenschaften vom 25.03.2026 hat Prof. Dr. Florian Butollo über KI und die Zukunft der Arbeit gesprochen. Dabei hat er auch darauf hingewiesen, dass durch die permanente technische Optimierung, und die damit verbundenen Effizienzgewinne wieder neue Möglichkeiten für Unternehmen entstehen, und somit damit auch wiederum neue Arbeitsplätze – nur an anderen Stellen. Weiterhin hat Butollo auf ein Buch aufmerksam gemacht, in dem es um Bullshit Jobs geht, die wohl immer noch recht verbreitet sind:

„Der Anthropologe David Graeber hat 2018 in einem Buch eine Flut von Bullshit Jobs diagnostiziert, die er als eine Anstellung definierte, „die so vollkommen sinnlos, unnötig oder gefährlich ist, dass selbst derjenige, der sie ausführt, ihre Existenz nicht rechtfertigen kann, obwohl er sich im Rahmen der Beschäftigungsbedingungen verpflichtet fühlt, so zu tun, als sei dies nicht der Fall“ (Butello, 2026).

Quelle: Graeber, David (2018): Bullshit Jobs. Vom wahren Sinn der Arbeit, Stuttgart: Klett-Cotta, S. 20.

In dem einen Bereich, der ständig unter Druck steht und durch neue technologische Entwicklungen getrieben ist, entsteht schnell Überforderung und Überlastung, doch in anderen Bereichen langweilen sich die Mitarbeiter auch:

„Überlastung und Burn-out sind wichtig, doch es geht nicht nur darum. Gemäß neuer Studien fühlen sich 17 Prozent der Mitarbeiter tendenziell überlastet. Doch satte 43 Prozent fühlen sich von ihrer Arbeit sogar unterfordert. Sie langweilen sich“ (Prof. Dr. Florian Becker in dem Interview „Mehr als Mitfühlen“, in: projektmanagementaktuell 4/2023).

Es ist erstaunlich, dass ein Wirtschaftssystem, das in allen Bereichen auf Effizienz getrimmt ist, so eine „Unwucht“ auf dem Arbeitsmarkt ergeben hat.

User-Centric Personalization mit dem Human Context Protocol (HCP)

Illustration of two personalization paradigms (Shah et al., 2025)

Es ist schon erstaunlich, wie wir mit unseren Daten umgehen. Viele bestätigen die verschiedenen Richtlinien der Anbieter einfach, da sie (die Nutzer) die ganzen Bestimmungen gar nicht lesen, geschweige denn verstehen können. Das wiederum führt dazu, dass die jeweiligen Anbieter Nutzer-Daten teilweise, oder recht umfangreich, speichern und nutzen. Einerseits geschieht das, um die Nutzung zu vereinfachen – das Nennen die Provider dann Personalization-, wobei Kontext-Informationen des Users gewonnen werden. Darüber hinaus werden alle User-Daten noch für „andere Zwecke“ verwendet, die ein User gar nicht mehr überblicken kann.

In der Abbildung ist auf der linken Seite zu erkennen, was bei unterschiedlichen Anbietern (Providern) mit User-Prompts passiert. Jeder Provider baut seine Personalisierung gegenüber dem User auf (Provider-Centric Personalization), wobei die Daten und Kontext-Informationen beim Provider gespeichert werden. Diese Informationen über die Personalisierung sind nicht einfach auf andere Provider übertragbar, was dem jeweiligen Provider nicht interessiert. In diesem System hat der User kaum alternative Möglichkeiten.

Auf der rechten Seite der Abbildung ist ein ganz anderer Personalisierungs-Ansatz zu erkennen, der den User in den Mittelpunkt stellt (User-Controlled Preference Layer). Die Daten eines Users und der jeweilige Kontext werden in einem HCP Vault (einer Art Daten-Tresor) gespeichert, und können verschiedenen Systemen zur Verfügung gestellt werden. Bei diesem Ansatz müssen natürlich alle anderen Anwendungen über definierte Schnittstellen verbunden werden können – hier kommt das HCP (Human Context Protocol) ins Spiel..

„On the right panel, a shared preference layer is introduced in which user context is stored in a centralized HCP vault and selectively accessed by multiple assistants, tools, and applications through an HCP-mediated interface. User preference data (generated by varied user activity) is moderated by HCP to consumer agents. Each agent obtains only the relevant subset of the user’s complete preference data“ (Shah et al., 2025).

Diese Entwicklung unterstützt den Trend, dass User über ihre eigenen Daten und die damit verbundenen Kontext-Informationen selbst bestimmen können, was gerade in Zeiten von Künstlicher Intelligenz immer wichtiger wird. Siehe dazu auch Was wäre, wenn jeder über seine generierten Daten selbst entscheiden könnte?

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf ein: Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework.

Tipping Point: User Innovation und Open Source AI

Image by David from Pixabay

In der Netzwerkökonomie gibt es manchmal überraschende Effekte. Beispielsweise besagt das Metcalfesche Gesetz (Wikipedia), dass der Wert eines Netzes im Quadrat der Zahl der angeschlossenen Rechner und Nutzer steigt. Dabei wird dieser Ansatz oftmals nur für die Rechenleistungen im Netz verwendet. Der Blick auf Nutzer (User) wird leider nicht so oft thematisiert. Obwohl das Gesetz auch kritisiert wird, ergeben sich für mich durchaus interessante Anhaltspunkte.

Auch der Tipping Point ist so ein Begriff, der in der Netzwerkökonomie (und auch anderen Bereichen) helfen kann zu verstehen, warum es einer kleinen Anzahl von Nutzern möglich ist, gravierende Veränderungen herbeizuführen.

Der Tipping Point (Kipppunkt) ist in der Netzwerkökonomik „die kritische Masse, die erforderlich ist, damit sich eine Nachricht oder ein Sozialverhalten massenhaft verbreitet.“

Wo der Tipping Point liegt kann nicht genau bestimmt werden, doch gibt es durchaus Anhaltspunkte.:

Welzer (2013) ist beispielsweise der Auffassung, dass schon 5% einer gesellschaftlichen Gruppe ausreichen, um eine Politik der Zukunftsfähigkeit anzustoßen.

Rogers (2003) erwähnt bei der Diffusion von Innovationen einen Wert von 15-20%, wenn es um den Übergang von den Early Adopters zu Early Majority geht.

Übertragen auf die Nutzung von Open Source AI (Digitale Souveränität) wäre es demnach es also „nur“ erforderlich, dass im europäischen KI-Netzwerk 15-20% Open Source AI verwenden, um sich unabhängiger von den proprietäten KI-Modellen zu machen.

Ähnlich ist es mit Open User Innovation. Dabei handelt sich um Innovationen, die nicht von Unternehmen stammen, sondern von einzelnen Usern. Eric von Hippel hat in vielen länderspezifischen Studien zeigen können, dass dieser Anteil innovativer User jetzt schon recht hoch ist: „Empirical studies also show that many users -from 10 percent to nearly 40 percent- engage in developing or modifying products (Eric von Hippel 2013:120). Da es seit 20 Jahren (Mota, 2011) immer mehr neue Technologien gibt, die nichts, oder recht wenig Kosten, und Künstliche Intelligenz (natürlich Open Source AI) unterstützend genutzt werden kann, wird der Tipping-Point auch hier möglicherweise bald erreicht.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in einem Paper ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Mein zweites Paper:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Komplexe Systeme: Ist die Antwort einfach mehr Daten?

Eigene Darstellung nach Mainzer (2008)

Auf der Basis umfangreicher Geburts- und Sterbedaten berechnen Versicherungen seit dem 19. Jahrhundert die durchschnittliche Lebenserwartung von Menschen. Dabei wird eine Normalverteilung und das Gesetz der großen Zahl unterstellt. Die Verwendung von Normalverteilungen ist dabei nicht nur auf Versicherungen beschränkt. Ein weiteres Beispiel für die Nutzung der Normalverteilung ist die Berechnung des Intelligenz-Quotienten. In der Zwischenzeit gibt es deutliche Kritik an diesen Vorgehensweisen.

„Vom zentralen Grenzwertansatz und Normalverteilungen ging die klassische Sicht von Zufall und Wahrscheinlichkeit aus. Sie ist untypisch für komplexe Systeme, in denen sich Ordnungen und Strukturen selbst organisieren. Normalverteilungen setzen nämlich völlig unabhängige Ereignisse voraus. Daher können sie keine Korrelationen und Synergieeffekte von zusammenwirkenden Ereignissen berücksichtigen, die erst zu neuen Formen und Strukturen in Natur und Gesellschaft führen“ (Mainzer, 2008).

In der Abbildung (oben) wird plakativ dargestellt, dass durch zufällige Wechselwirkungen der Systemelemente einer Mikroebene zufällig neue Strukturen auf einer Makroebene entstehen, die nicht auf die einzelnen Systemelemente zurückzuführen sind (Emergenz). Siehe dazu auch Alle reden über Komplexität, doch wer kennt schon Bifurkationspunkte?

In der nächsten Abbildung ist die komplexe Situation in einer Gesellschaft zu erkennen, in der auf der Mikroebene Individuen interagieren und somit Bottom Up Einfluss auf die Makroebene nehmen. Die Makroebene wiederum hat Einfluss auf die Mikroebene (Top Down).

Eigene Darstellung nach Mainzer (2008)

Wir schauen als Bürger noch zu sehr auf die Makroebene (die da oben) und erwarten, dass das komplexe System für alle Beteiligten geregelt (gesteuert) wird. Besser wäre es, wenn mehr Raum für die Entwicklung der Mikroebene geschaffen wird (Ermöglichungsräume), um eine angemessene, selbstorganisierte Antwort auf die gesteigerte Komplexität in unserem Leben geben zu können.

Da das Denken in komplexen Zusammenhängen (komplexen Systemen) in unserer Gesellschaft leider wenig ausgeprägt ist, dominiert immer noch die falsche Annahme, dass alles regelbar und steuerbar sei. Man muss nur viele – ja sehr viele – Daten und Informationen sammeln. Künstliche Intelligenz suggeriert, dass dieser Zustand möglich sein kann – dem ist allerdings nicht so, wie es der Nobelpreisträger Simon schon in seiner eingeschränkten Rationalität erläuterte:

„Allerdings ergeben sich durch die Informationsbeschaffung selbst, Unsicherheit und Ungewissheit, da die Informationen über komplexe Systeme immer auch unvollständig sind, sodass eher von einer begrenzten oder auch eingeschränkten Rationalität auszugehen ist (vgl. Simon 1957/1982, Foss 2003)“ (Freund 2011:19).

Ein komplexes System kann zwar über geeignete Ordnungsparameter beeinflusst werden, doch ist dieser Ansatz oft nicht zu erkennen. Es müssen in einem komplexen System nicht alle Daten erfasst – was nicht möglich ist -, sondern die richtigen Ordnungsparameter gefunden werden. „Wir brauchen eben noch mehr Daten“ ist also eine Antwort, die nicht zu den heute anstehen Fragen passt.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in einem Paper ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Mein zweites Paper:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Schutzrechte: Alles fing mit einem Lastkahn für Marmorblöcke an

Image by Gianluca from Pixabay

Wir haben uns daran gewöhnt, dass es verschiedene Schutzrechte gibt, die auf dem Markt durchgesetzt werden können. Schaut man sich beispielsweise die Geschichte des Patents dazu etwas genauer an, so muss man allerdings feststellen, dass es Schutzrechte für Erfindungen erst seit dem 18. Jahrhundert gibt. Augenscheinlich haben die Menschen vor dieser Zeit auch Möglichkeiten gefunden, mit dem Thema umzugehen.

Das erste überlieferte Patent für eine industrielle Erfindung wurde 1421 an den Architekten und Ingenieur Filippo Brunelleschi vergeben. Es gab ihm für drei Jahre das Monopol, einen Lastkahn mit einer Winde herzustellen, der für den Transport von Marmorblöcken verwendet wurde. Im Laufe der folgenden zwei Jahrhunderte breiteten sich solche Privilegien für Erfinder von Italien über Europa aus. (…) Schutzrecht für eine Erfindung gab es erst im 18. Jahrhundert“ (Grassmuck, 2004).

In der Zwischenzeit sind es nicht nur die klassischen Schutzrechte einer industriell geprägten Gesellschaft (siehe dazu DPMA), sondern auch immer mehr die Urheberrechte, die gerade in Verbindung mit den Trainingsdaten von KI-Modellen kontrovers diskutiert werden. In dieser Übergangsphase entstehen rechtlich Graubereiche, die von dynamischen Geschäftsmodellen rigoros ausgenutzt werden.

Es wird sich zeigen, ob wir eine angemessene Lösung finden, die die Rechte aller Beteiligten beachtet, oder ob wir uns eher in eine Gesellschaft hineinbewegen, in der nicht mehr, sondern eher weniger geschützt wird. Manche Entwicklungen wie die von Open Source, Open Science, Open Data, Open Government, Open Innovation usw. zeigen Wege auf, wie das aussehen könnte. Siehe dazu auch Quack, Sigrid und Leonhard Dobusch (2011): Auf dem Weg zur Wissensallmende? In: Aus Politik und Zeitgeschichte 28-30/2011, S. 41-46.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in einem Paper ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Mein zweites Paper:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Unternehmen sind gut darin, Ideen zu zerstören

Diese Aussage im Blogtitel habe ich in einem Interview gefunden, das mit dem finnischen Professor Alf Rehn schon in 2014 geführt wurde. Darin macht er deutlich, dass es genügend Ideen in den Unternehmen gibt, diese es allerdings schaffen, viele davon zu zerstören, und dadurch Innovationen verhindern.

„Viele Leute glauben, das Problem sei die Menge an Ideen oder das Fehlen von Ideen. Ich kenne Hunderte von Unternehmen, die sagen, sie haben nicht genug Ideen. Aber das ist völlig falsch. Ich habe noch nie einen Betrieb kennengelernt, dem es an Ideen mangelte, niemals, nirgends – und ich habe schon mit den langweiligsten Unternehmen des Planeten zusammengearbeitet. Der Punkt ist vielmehr: Sie sind unglaublich gut darin, Ideen zu zerstören. Sie sind so gut darin, dass sie es nicht einmal merken“ (Interview mit dem finnischen Professor Alf Rehn. In: „Unternehmen sind gut darin, Ideen zu zerstören“, Haufe Online vom 13.10.2014).

Heute können Ideen mit Künstlicher Intelligenz in großer Anzahl generiert und ausgewählt werden. Letztendlich wird das Unternehmen allerdings im Abgleich mit den eigenen Ressourcen und den zu erzielenden Gewinnen entscheiden, ob sie eine Idee umsetzt, oder eben nicht. Dadurch entsteht ein begrenzter Innovationsraum.

Anders sieht es bei einzelnen Usern aus, die seit ca. 2007 (nach Mota, 2011) immer besser in der Lage sind, Ideen auch selbst umzusetzen. Solche Open User Innovation (Eric von Hippel) entgrenzen Innovationen von den Unternehmen und stellen eine bedeutende Möglichkeit dar, endlich das herzustellen, was benötigt wird. Siehe dazu auch Innovationen: Das Europäische Paradox.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) stelle ich dazu ein Paper vor:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Mein zweites Paper:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Musik: Wie viel KI steckt in Deinen Playlists?

https://www.deezer.com/explore/de/ai-music-detector/

Überall wird Künstliche Intelligenz verwendet. bei Texten, Bilder, Videos und auch bei der Musik. Doch wieviel KI in den jeweiligen Musik-Titeln stecken wird uns oftmals nicht mitgeteilt. Um das herauszufinden, hat der Musik-Streamingdienst Deezer eine Plattform (Detector) geschaffen, auf der jeder seine Playlists – auch von verschiedenen Anbietern – überprüfen lassen kann.

Einerseits ein interessantes PR-Feature der Firma, andererseits setzt er andere Streamingdienstleister unter Druck, transparenter bei der Nutzung von Künstlicher Intelligenz in Musiktiteln zu werden. Ich bin sehr gespannt darauf, wie sich diese Plattform und die neue Kennzeichnungspflicht von KI-generierten Inhalten ab 02. August 2026 auswirken werden.

Article 50 of the EU AI Act introduces transparency obligations in four situations:
(1) when AI interacts directly with people,
(2) when AI generates synthetic content,
(3) when AI is used for emotion recognition or biometric categorisation, and
(4) when AI creates deepfakes or text published on matters of public interest.
Quelle: EU AI ACT Article 50

AI Economics Indicators – it all starts with trust

Beschäftigungstrend nach der Einführung von ChatGPT (Quelle: https://digitaleconomy.stanford.edu/project/indicators/)

Die Entwicklungen bei Künstlicher Intelligenz sind sehr dynamisch, sodass manche Studien schon der Realität hinterherhinken, wenn sie veröffentlicht werden. Weiterhin gibt es auch Studien, die sich mit der selben Thematik befassen, aber zu unterschiedlichen Schlussfolgerungen führen. – wem kann man da vertrauen?

Es ist daher gut, das die Stanford University nun eine Plattform veröffentlicht hat, auf der viele graphische Auswertungen zu unterschiedlichen Fragestellungen zu finden sind.

„Yet we lack timely, trusted ways to measure how these changes are affecting work, productivity, and value creation in the economy. (…) We believe that a better understanding of the technology’s effects will lead to better decisions“ (Quelle

Stanford Digital Economy Lab. „AI Economic Indicators.“ Accessed [16th of June 2026]. https://digitaleconomy.stanford.edu/project/indicators/

In der Abbildung wird z.B. deutlich, wie sich der Beschäftigungstrend nach der Einführung von ChatGPT auf die verschiedenen Altersstrukturen ausgewirkt hat. Die Beschäftigungstrend geht beispielsweise für die Personen zwischen 22-25 Jahren im Vergleich zum November 2022 zurück.

Siehe dazu auch Künstliche Intelligenz – It All Starts with Trust.

Design heute: Entwicklung von Möglichkeiten, wie andere selbst kreativ sein können

Image by free stock photos from www.picjumbo.com from Pixabay

Wir bewundern oft das Design von Produkten (Gegenständen), die von anderen – meist berühmten Designern – entworfen und umgesetzt wurden. Es ist also eher etwas, das man bei anderen findet – sogar eher bei der Künstlichen Intelligenz als bei uns selbst.

„We are treating humans as robots and ai as creatives. it is time to flip the equation“ (David de Cremer in Bornet et al. 2025).

In der Zwischenzeit wird gerade bei gesellschaftlichen Veränderungen deutlich, dass sich dieses Verständnis von Design ändert, denn es geht hier immer häufiger darum, die Kreativität der Menschen in die vielen Prozesse mit einzubinden.

Das persönliche Design-Verständnis wird dabei zu einem wichtigen Beitrag im Transformationsprozess. Das neue Verständnis von Design will Wege entwickeln, wie andere dies (kreativ Probleme lösen) selbst tun können. In dem Buch von Hyysalo (2025) werden alle Zusammenhänge umfangreich dargestellt.

„Meanwhile there already are concrete, doable, and demonstrated ways by which design can become a major contributor to social and environmental change. These ways rest in shifting design from a creative act of defining and solving problems to developing ways by which others can do so“ (Hyysalo, S. (2025) Design Participation | eBook).

Diese Strömungen im Design habe eine ganz praktische Relevanz, wenn es um Open User Innovation (Eric von Hippel) geht. Auch hier geht es darum User zu befähigen, in ihrem eigenen Kontext Probleme zu lösen und eigene Produkte zu entwickeln und herzustellen..

Auf der MCP 2026 stelle ich dazu ein Paper vor:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Mein zweites Paper:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs