Abstract structure and delineation of an AI system. Source: Fraunhofer IAIS Assessment Catalogue (2021) (MISSION AI 2025)
Es gibt Millionen von KI-Modellen bei denen manchmal nicht klar ist, ob man ihnen als Privatperson, als Unternehmen oder als Öffentliche Verwaltung trauen kann. Denn: It all starts with trust.
Wenn dem so ist, stellt sich natürlich gleich die Frage, wie Vertrauenswürdigkeit bei KI-Modellen eingeschätzt und bewertet werden kann.
Zunächst einmal muss so eine Vorgehensweise von neutralen Stellen und nicht von den Unternehmen selbst durchgeführt werden. Auch die Kriterien sollten natürlich transparent und offen sein.
Solche Initiativen gibt es seit einigen Jahren auf internationaler und nationaler Ebene. International befasst sich die IEEE 8000.1 Working Group mit der Vertrauenswürdigkeit von Künstlicher Intelligenz. In Deutschland ist es seit 2023 die MISSION AI, die ein entsprechendes Rahmenwerk entwickelt.
Es ist schon erstaunlich, wie schnell sich alles ändern kann. Vor mehreren Jahren, als ich auf Konferenzen die Digitale Abhängigkeit von amerikanischen Tech-Konzernen gerade bei der Nutzung von Künstlicher Intelligenz angesprochen hatte, wurde der Hinweis eher belächelt.
In der Zwischenzeit ist in Europa der Gedanke einer Digitalen Souveränität nicht nur als neue Einstellung angekommen, sondern ist in vielen Bereichen schon zu erkennen, dass die Einstellung in Handlungen umgesetzt werden. Das ist nicht eine von mir formulierte Wunschvorstellung, sondern kann in der Zwischenzeit durch aktuelle Zahlen bestätigt werden.
„Digitale Souveränität wandelt sich innerhalb eines Jahres von einer Frage der Einstellung zu einer Frage der Umsetzung. Fast doppelt so viele Unternehmen in Deutschland befinden sich 2026 aktiv in der Einführung europäischer Software-Lösungen: 39,7 Prozent gegenüber 20,4 Prozent im Vorjahr. Der Anteil derer, die einen Wechsel innerhalb der nächsten sechs Monate planen, steigt von 3,9 Prozent auf 20,4 Prozent um über 400 Prozent. Gleichzeitig bricht der Anteil der Entscheider, die keine europäische Software einführen wollen, von 47,7 auf 4,6 Prozent fast komplett ein. Die Zahl der Unentschlossenen sinkt von 17,4 auf 3,9 Prozent. Eine klare Kehrtwende“ MYRA Security GmbH (2026) Unchartered Waters. State of Digital Sovereignty 2026 (PDF).
Wenn man sich mit dem Begriff der Souveränität beschäftigt, kann man bis zum 16. Jahrhundert zurückgehen. Dabei ging es zunächst um die Rolle des Souverän als Gewaltmonopol, mit Bodin (1530–1596) als Vordenker. Doch gibt es auch einen Bezug zu Souveränität, wenn wir uns die Entwicklung des Seerechts ansehen.
Durch die globale Vernetzung über die Weltmeere kam es schon im 15. Jahrhundert immer wieder zu Auseinandersetzungen, obwohl sich Spanien und Portugal in dieser Zeit im Vertrag von Tordesillas (1494) die Weltmeere aufgeteilt hatten. Es waren dabei zwei souveräne Meere entstanden, die von dem jeweiligen Land beansprucht wurden. In diesem Sinne kam es also zu jeweils geschlossenen Meeren: Lateinisch: Mare Clausum – Englisch: Closed Sea.
Um die dadurch immer wieder auftretenden Konflikte zu lösen, schlug Hugo Grotius vor, die Meere als offene Meere zu sehen, die allen zur Verfügung stehen sollten. Er veröffentlichte „1609 die Schrift Mare Liberum, die das niederländische Begehren eines freien Handels zur See unterstützt und juristisch begründet“ (Quelle: Wikipedia). Lateinisch: Mare Liberum – Englisch: Open Sea. „Der Teil der Weltmeere, der außerhalb einer Dreimeilenzone lag (Seemeile, 1852 m), galt als internationales Gewässer“ (Internationale Gewässer).
„Damals stand Mare Clausum – das geschlossene Meer – gegen Mare Liberum. Europa will keine Isolation und keinen „Konflikt“ gegen amerikanische oder asiatische Technologie. Es will verhindern, dass kritische digitale Infrastruktur faktisch in fremden Hoheitszonen gefangen bleibt. Die Forderung Europas nach digitaler Souveränität bedeutet in diesem Sinne dasselbe, was Grotius damals forderte: offene Räume, faire Regeln und echte Wahlfreiheit. Freiere digitale Weltmeere für eine neue Generation von Händlern“ (MYRA Security GmbH, 2026).
Ich kann mir hier die Analogie zu Closed Source AI und Open Source AI nicht verkneifen, auch wenn der Vergleich etwas hinkt. Dennoch: Open Source AI ist der zukunfsträchtigere Weg, Künstliche Intelligenz für alle Nationen und ihren Menschen nutzbar zu machen.
Durch die neuen Möglichkeiten, Künstliche Intelligenz (KI, englisch AI) im privaten Umfeld, in Unternehmen und Öffentlichen Verwaltungen einsetzen zu können, entsteht natürlich ein riesiger Weiterbildungsbedarf.
In erster Linie versuchen die etablierten Anbieter proprietärer KI-Systeme durch „kostenlose“ Online-Lehrgänge mit firmeneigenem Zertifikat Personen und Organisationen an sich zu binden. Ich habe dabei das Wort „kostenlos“ absichtlich in Anführungszeichen gesetzt. Der Grund ist, dass diese Lehrgänge sich natürlich auf die KI-Modelle beziehen, die diese Unternehmen anbieten. Durch die Gewöhnung an die KI-Modelle entsteht eine Pfadabhängigkeit, die die Unternehmen dann später für die Kommerzialisierung nutzen. Die Nutzer solcher Angebote zahlen also mit ihrer KI-Abhängigkeit.
In der Zwischenzeit gibt es auf dem Weiterbildungsmarkt auch wieder sehr viele Angebote, die sich mit Künstlicher Intelligenz befassen. Dabei wird in den Ausschreibungen nicht immer angegeben, um welche KI-Modelle es sich handelt. Auch verwenden diese Angebote oftmals die gewohnten KI-Modelle, die die führenden Tech-Unternehmen anbieten. Es handelts sich hierbei um seine subtilere Art, seine Produkte in den Markt zu bringen, und die Nutzer auch über diesen Weg in die KI-Abhängigkeit zu führen.
Es freut mich daher, dass der KI-Campus hier eine Alternative bietet. Die vom Bund geförderte, gemeinwohlorientierte Initiative bietet kostenlose Online-Kurse (auch mit Zertifikat) für jeden und jede Organisation an. Dabei wird auch die strategische Bedeutung von Open Source KI (Closed Source AI – Open Source AI), Datensouveränität (Digitale Souveränität) durch Open Source KI thematisiert.
„Der KI-Campus ist die Lernplattform des Stifterverbandes für Künstliche Intelligenz. Mit kostenlosen Onlinekursen, Videos, Podcasts und Tools stärken wir als gemeinwohlorientierte Initiative KI-Kompetenzen in der Gesellschaft. Kooperation und Offenheit sind dabei Leitprinzipien für unsere Arbeit.“
Wenn es Ihnen also um Digitale Souveränität, Datenschutz und Transparenz bei der Nutzung von Künstlicher Intelligenz geht, sollten Sie sich überlegen, ob Sie sich nicht einmal mit Open Source AI befassen – am besten mit einem der vom KI-Campus dazu angebotenen kostenlosen Online-Kursen.
Beispielhaft sollen hier nur einige wenige KI-Modelle genannt werden, die sich auf europäische Sprachen konzentrieren: TEUKEN 7B (Alle europaischen Sprachen), EURO LLM (Alle europäischen Sprachen), MINERVA AI LLM (Italienisch), PLLuM (Polnisch), RAKA 4B (Ungarisch), GPT-SW3 (Schwedisch), ALIA (Spanisch).
Nun kommt mit AMALIA (Agente Multimodal Automático de Linguagem com IA) ein weiteres Open Source KI-Modell hinzu, das mit den Besonderheiten der portugiesischen Sprache trainiert wurde, und frei zur Verfügung steht. Auf der Website werden folgende Ziele formuliert:
Förderung der portugiesischen Sprache
Souveränität über die Daten der Bürger
Die kulturelle Repräsentation Portugals bewahren
Förderung von Forschung und Innovation im Bereich der Künstlichen Intelligenz
Wirkungstreppe bei Not-for-Profit-Projekten (PHINEO 2021)
Die Abbildung zeigt zwar die Wirkungstreppe bei Not-for-Profit-Projekten, doch möchte ich daran verschiedene Aspekte der heutigen KI-Diskussion aufzeigen. Wie zu erkennen ist, geht es bei der Entwicklung und Anwendung der verschiedenen KI-Modelle meistens darum, dass sich Künstliche Intelligenz rechnet – die Kosten also niedriger sind als der Nutzen. In den Anfängen der KI-Nutzung sind dazu sehr viele Beispiel veröffentlicht worden die zeigen, wie wirtschaftliche der KI-Einsatz sein kann. In der Zwischenzeit wird allerdings immer öfter auch darüber diskutiert, welche immensen Kosten entstehen können. Siehe dazu auch Wirtschaftlichkeit von KI-Agenten: Warum kommt es bei den Token-Kosten oft zu regelrechten Abrechnungsschocks? Diese Zusammenhänge gehören in die Kategorie Output oder Outcome.
Entscheidender für mich ist allerdings die Frage: Welchen Impact generiert Künstliche Intelligenz? Die großen US amerikanischen Tech-Konzerne wollen die Gesellschaft nach ihren wirtschaftlichen Vorstellungen ändern. Chinesische Modelle wollen das auch, doch haben diese einen anderen, eher politischen Ansatz. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.
Wenn es um Künstliche Intelligenz geht, sollten wir uns zunächst die Frage nach dem Impact stellen, da die KI-Modelle gravierende Auswirkungen auf unsere Gesellschaft haben. Es sollte nicht so sein, dass KI-Unternehmen unsere Daten für ihre Geschäfte nutzen und auch noch bestimmen, welche Werte in der Gesellschaft vertreten werden sollen.
In Europa wird nach und nach erkannt, dass es Zeit ist, europäische Werte als Rahmen für die Nutzung von Künstlicher Intelligenz zu setzen. Solche Grenzen werden die Tech-Konzerne nicht akzeptieren. Sie werden politischen Druck und ihre Lobbyarbeit nutzen, diesen europäischen Ansatz zu verwässern. Ich hoffe, dass die Europäische Union den eingeschlagenen Weg der sinnvollen Regulierung von Künstlicher Intelligenz weitergeht – zum Wohle der Menschen. Siehe dazu auch SuperEurope: The Unexpected Hero of the 21st Century.
Auf der Seite footwareology wird ein zweitägiger Online-Workshop für 75€ angeboten, in dem mit Unterstützung von Experten gezeigt wird, wie man selbst eigene Schuhe entwickeln und herstellen kann (Customization).
Die Unterstützung ist erforderlich, da es in dem komplexen Prozess immer wieder kleine Hürden gibt, die zu bewältigen sind. Vor dem Workshop sind einige Programme zu installieren, die auf der Website angegeben werden.
Insgesamt finde ich es spannend zu sehen, dass es immer mehr Möglichkeiten gibt, sein eigenes Produkt, seine eigenen Schuhe nicht nur zu entwickeln, sondern auch mit modernen technologischen Möglichkeiten herzustellen.
Dennoch halte ich es für zukunftsfähiger, wenn der gesamte Prozesses – nicht nur einzelne Elemente – zur Herstellung seiner eigenen Schuhe von Künstlicher Intelligenz unterstützt wird. Wir empfehlen dafür natürlich Open Source AI, wie z.B. Mistral 7b (open weight) und Open Source Software.
Diese beiden Punkte heben den Entwicklungs- und Herstellungsprozess auf ein neues Niveau.
Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf ein:
Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework
Mein zweites Paper:
Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs
Herauszufinden, welche Präferenzen (Vorlieben, Neigungen) ein Nutzer üblicherweise hat, ist für Unternehmen wichtig. Es wird aus diesen Präferenzen oft interpretiert, welche Produkte und Dienstleistungen den Nutzer möglicherweise auch noch interessieren könnten. Die im 20. Jahrhundert entstandenen philosophischen und ökonomischen Theorien hatten dabei das Ziel, Präferenzen möglichst zu befriedigen. In den Anfängen solcher Überlegungen wurden zwei Präferenzen unterschieden:
„From these early theories emerges the distinction between revealed preferences and ideal preferences (Samuelson, 1948). Revealed preferences refer to how people’s desires are acted upon in real life through the choices they make (Samuelson, 1948). Ideal preferences refer to people’s desires that would manifest if they were rational and informed in an ideal world (Samuelson, 1948). This distinction importantly points to the idea that people’s actions may or may not reflect their actual desires“ (Li, J. (2026) Beyond Preference-based Value-alignment, IEAI Research Brief – Q2 2026).
Das Konzept der Präferenzen wurde auf Methoden zur Werteausrichtung (Value Alignment) ausgeweitet, bei denen der Schwerpunkt darauf liegt, Informationen beispielsweise über das bevorzugte Verhalten von KI-Systemen anhand offenbarter Präferenzen zu extrapolieren.
An dieser Stelle stellt sich allerdings die Frage, ob sich das KI-Modell an die Präferenzen und Werte des Nutzers anpasst, oder ob nicht das KI-Modell den Nutzer so beeinflussen will, dass er die in dem KI-Modell hinterlegten Werte adaptiert. Da die Werte der proprietären KI-Modelle oft nicht transparent sind, kann es daher zu unerwünschten Manipulationen kommen. Siehe dazu auch
Speech bubbles, blank boards and signs held by voters with freedom of democracy and opinion. The review, say and voice of people in public news adds good comments to a diverse group.
In dem Beitrag Künstliche Intelligenz und die Kompetenz-Illusion habe ich ausführlich dargestellt, dass es bei der Frage zur Kompetenzentwicklung für die Nutzung Künstlicher Intelligenz nicht alleine darauf ankommen kann, dass sich alle Privatpersonen, Mitarbeiter in Organisationen und ganze Öffentliche Verwaltungen an die proprietären KI-Modelle wie ChatGPT, Gemini, Grok, Claude etc. anpassen.
Dabei werden die Menschen auf die Nutzung der KI-Systeme trainiert, und teilweise auch manipuliert. Eine so verstandene Kompetenzentwicklung ist zu eng definiert und zu sehr auf die KI-Modelle ausgerichtet.
Weiterhin kann die Nutzung von Künstlicher Intelligenz auch zu einer Art Kompetenz-Illusion führen. Dabei verbessert sich zwar die jeweilige Aufgabenleistung durch die Nutzung von Künstlicher Intelligenz, allerdings nicht das dauerhafte Lernen – es entsteht die Illusion einer Kompetenzentwicklung.
Daher sollteKompetenz besser als Selbstorganisationsdispositionverstanden werden: – Als Selbstorganisationsdispositionen verweisen Kompetenzen darauf, dass der Mensch der Welt handelnd gegenübersteht, nicht durch „Reize“ mechanisch zu „Verhalten“ determiniert. – Als Selbstorganisationsdispositionen verweisen sie darauf, dass sie die Komplexität des Chaos’ zu reduzieren in der Lage sind. – Als Selbstorganisationsdispositionen schließlich sind sie mehr oder weniger performanzoffen im Sinne des Erkennens und Gestaltens von Neuem. Quelle: Arbeitsgemeinschaft Betriebliche Weiterbildungsforschung e. V./ Projekt Qualifikations-Entwicklungs-Management (2006:13)
Eine so verstandene Kompetenzentwicklung geht in Bezug auf Künstliche Intelligenz über die reine Nutzung des jeweiligen KI-Systems hinaus und stellt immer mehr die Urteilskraft des Menschen in den Mittelpunkt – seine Selbstbestimmtheit, seine mentale Souveränität.
„Nicht mehr Wissensanhäufung entscheidet über Zukunftsfähigkeit, sondern Urteilskraft, Metakognition und die Fähigkeit, sich von der scheinbaren Souveränität der Maschine nicht verführen zu lassen“ (ebd.).
Aktuell wird oft darüber gesprochen und geschrieben, dass alle Kompetenzen in der Nutzung von Künstlicher Intelligenz benötigen. Dabei setzen die Marktführer auf kostenlose Online-Kurse, die die Nutzer an die jeweiligen KI-Modelle adaptieren sollen. Die Nutzer passen sich dabei an die Logik des KI-Modells an, und entwickeln angepasste Kompetenzen.
Im nächsten Schritt wird diese Abhängigkeit (Pfadabhängigkeit) Schritt für Schritt monetarisiert – immerhin müssen ja die hohen Investitionen refinanziert werden. Wenn einzelne Personen oder Organisationen diesen Weg in den letzten Jahren eingeschlagen haben, sprechen sie nur noch von solchen, angepassten Kompetenzen. Siehe dazu auch Künstliche Intelligenz (KI): Lock-in und Switching Costs.
Kompetenzen zur Nutzung von Open Source Software oder Open Source Hardware sind damit weniger gemeint – überspitzt formuliert könnte man auch sagen, dass fast niemand daran denkt.
Wenn es Europa mit der Digitalen Souveränität ernst meint, sollten wir allerdings gerade diese Kompetenzen fördern und entwickeln, da gerade Open Source zu mehr Resilienz auf den verschiedenen Ebenen führt. Aktuell gibt es allerdings nicht so viele Personen, die sich mit den Möglichkeiten von Open Source Software und Open Source Hardware auskennen (digital skill shortage).
„By aligning open source projects with structured upskilling programs, Europe can address its digital skills shortage and build a competitive workforce that supports its ambition for technological sovereignty. By fostering collaboration, investing in education, and ensuring sustainable funding, we can secure the future of open source as a driver of technological and scientific progress. With initiatives like Software Heritage and national policies advocating for open science, the foundation is set for a more inclusive and resilient open source ecosystem“ (Di Cosmo, 2026 Open Source and the Skill Shortage, in Eclipse Foundation, 2026).
