Veröffentlicht am

Lokale Nutzung von KI-Modellen mit der LLama.cpp – App

https://llama-cpp.com/

Immer mehr Prívatpersonen, Kleinstunternehmen, Kleine und Mittlere Unternehmen (KMU), Non-Profit Organisationen etc. erkennen die Möglichkeiten, KI-Modelle lokal auf ihrer Hardware zu nutzen. Dazu gibt es verschiedene Open Source Software.

Wie Sie in vielen unserer Beiträge lesen konnten, haben wir uns Ollama App entschiedenen, da wir eine einfache Integration der in Ollama installierten KI-Modelle in Langflow sehen. Langflow wiederum bietet die Möglichkeit, Workflows, oder KI-Agenten mit Drag & Drop zu erstellen.

Eine Alternative zu Ollama ist u.a. LLama.cpp (Abbildung) – beides natürlich Open Source Software und als App auf der lokalen Hardware installierbar.

„You do not need to pay to use Llama.cpp or buy a subscription. It is completely free, open-source, constantly updated and available under the “MIT” license“ (LLama.cpp-Website)

Wie bei allen Vergleichen haben beide Vorteile und Nachteile. Es kommt darauf an, welche Schwerpunkte Sie bei der Nutzung von lokalen KI-Modellen haben. Bei den vielen im Netz zu findenden Vergleichen habe ich manchmal den Eindruck, dass Äpfel mit Birnen verglichen werden, da Ollama und LLama.ccp unterschiedlichen Kategorien angehören.

Testen Sie die Apps einfach einmal aus und schauen Sie, welche besser zu Ihren Anforderungen passt.

Veröffentlicht am

Digitale Souveränität – auch mit Open Source Hardware

https://oshwa.org/

Wenn es um Open Source geht, denken wir meistens an Open Source Software (OSS), die in vielen Anwendungen zu finden sind – auch in der Robotik. Es leuchtet ein, dass gerade Open Source AI (Open Source Künstliche Intelligenz) auch für die komplexen Steuerungen von kleinen und größeren Robotern verwendet wird.

Parallel dazu gibt es eine Entwicklung, die gar nicht so im Fokus zu stehen scheint. Es ist der weltweite Trend, auch Open Source Hardware zu entwickeln. Die Open Source Hardware Association (OSHWA) hat dazu aktuell 3.369 Projekte zertifiziert (Abbildung). Was versteht die Non-Profit Organisation unter Open Source Hardware?

„Open source hardware is hardware whose design is made publicly available so that anyone can study, modify, distribute, make, and sell the design or hardware based on that design. The hardware’s source, the design from which it is made, is available in the preferred format for making modifications to it“ (OSHWA).

Dieses Verfügbarmachen von Hardware für alle ist eine Grundidee von offenen Systemen, in denen man sich einbringen kann, deren Ergebnisse man auch einfach nur nutzen kann. Es ist erstaunlich wie viele Menschen sich dafür engagieren, und in diesem Sinne auch sozial handeln.

Natürlich gibt es nicht nur die OSHWA, sondern noch weitere Organisationen, die Open Source Hardware fördern.

„However, with the rise of open source chip design initiatives such as the OpenHW Foundation, the FOSSi Foundation lowRISC, the Chips Alliance, the Beijing Institute of Open Source Chip, or the PULP Platform, new opportunities have emerged to make hardware development more accessible and competitive“ (Wallentowitz and Wohlrab (2026): Open Source and the New Regulations on Hardware, in Eclipse Foundation, 2026).

Zusammen mit den Entwicklungen bei Open Source Software stellen die Aktivitäten bei Open Source Hardware dazu bei, Digitale Souveränität auf mehreren Ebenen zu erreichen. Ich bin gespannt, was die jeweiligen Communities in den kommenden Jahren noch entwickeln werden.

Veröffentlicht am

Open Source Software Country Intelligence Report Germany 2026

https://interoperable-europe.ec.europa.eu/sites/default/files/inline-files/germany-2026-osor-country-report.pdf

Deutschland entwickelt sich immer mehr zum Treiber beim Einsatz von Open Source Software in Europa. Der nun veröffentlichte Report der Europäischen Kommission stellt die verschiedenen Aktivitäten übersichtlich und strukturiert dar. Interessant dabei ist, dass gerade Öffentliche Verwaltungen als Vorbilder für den sinnvollen Einsatz von Open Source Software hervorgehoben werden.

„At the local level, states and cities have played a consistent role in advancing open source adoption, often ahead of the federal government. Schleswig-Holstein has been a leading example, developing a clear open source strategy that other states have drawn on. Thüringen and Munich are also significant actors. Munich’s trajectory is particularly notable: the city was an early adopter of open source software, before going back to proprietary software in 2017. Munich has since come back to open source software to reduce dependencies and strengthen its digital autonomy, reflecting a broader shift in political and practical conditions“
Source: European Commission (2026) Open Source Software Country Intelligence Report Germany 2026 | PDF

Die stärkere Nutzung von Open Source Software sollte der erste Schritt sein, sich von den kommerziellen Anwendungen etablierter Tech-Konzerne unabhängiger zu machen. Wie wir wissen, ist das schon für viele eine große Hürde, da sich Personen und Organisationen in eine Pfadabhängigkeit begeben haben. Der Aufwand, sich nun Open Source zuzuwenden, ist nicht wegzudiskutieren, doch übersteigt der Nutzen von Open Source Software die Kosten deutlich.

Weiterhin sollte berücksichtigt werden, dass Open Source Software auch bedeutet, mehr Open Source AI (Open Source Künstliche Intelligenz) einzusetzen. Es macht keinen Sinn, für die Standardabläufe in der Organisation auf Open Source Software zu setzen, und weiterhin proprietäre KI-Modelle zu nutzen. Siehe dazu auch Die erfolgreiche Open Source KI Geschichte.

Es geht somit darum, auf der persönlichen Ebene, auf der Teamebene und auf der organisationalen Ebene ein auf Open Source basierendes Gesamtsystem zu nutzen, um Digitale Souveränität, und damit verbunden eine gewisse Resilienz gegenüber dem turbulenten Umfeld zu erzielen.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich auf diese Zusammenhänge in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Veröffentlicht am

Digitale Souveränität in Deutschland: Von der Einstellung zur Umsetzung – eine deutliche Kehrtwende in Zahlen

Es ist schon erstaunlich, wie schnell sich alles ändern kann. Vor mehreren Jahren, als ich auf Konferenzen die Digitale Abhängigkeit von amerikanischen Tech-Konzernen gerade bei der Nutzung von Künstlicher Intelligenz angesprochen hatte, wurde der Hinweis eher belächelt.

In der Zwischenzeit ist in Europa der Gedanke einer Digitalen Souveränität nicht nur als neue Einstellung angekommen, sondern ist in vielen Bereichen schon zu erkennen, dass die Einstellung in Handlungen umgesetzt werden. Das ist nicht eine von mir formulierte Wunschvorstellung, sondern kann in der Zwischenzeit durch aktuelle Zahlen bestätigt werden.

„Digitale Souveränität wandelt sich innerhalb eines Jahres von einer Frage der Einstellung zu einer Frage der Umsetzung. Fast doppelt so viele Unternehmen in Deutschland befinden sich 2026 aktiv in der Einführung europäischer Software-Lösungen: 39,7 Prozent gegenüber 20,4 Prozent im Vorjahr. Der Anteil derer, die einen Wechsel innerhalb der nächsten sechs Monate planen, steigt von 3,9 Prozent auf 20,4 Prozent um über 400 Prozent. Gleichzeitig bricht der Anteil der Entscheider, die keine europäische Software einführen wollen, von 47,7 auf 4,6 Prozent fast komplett ein. Die Zahl der Unentschlossenen sinkt von 17,4 auf 3,9 Prozent. Eine klare Kehrtwende“  MYRA Security GmbH (2026) Unchartered Waters. State of Digital Sovereignty 2026 (PDF).

Siehe dazu auch  Open Street Map: Europäische Open Source KI Modelle in den jeweiligen Landessprachen und Skill shortage: Es fehlen Kompetenzen zu Open Source Software und Open Source Hardware.

Auf der internationalen Konferenz MCP 2026, 16.-19.09.2026, Balatonfüred, Ungarn gehe ich auf diese Zusammenhänge in zwei meiner Paper ein.

Veröffentlicht am

Eigene Schuhe herstellen? Warum nicht mit KI-Unterstützung?

https://www.footwearology.online/course/3d-ai-footwear-workshop

Auf der Seite footwareology wird ein zweitägiger Online-Workshop für 75€ angeboten, in dem mit Unterstützung von Experten gezeigt wird, wie man selbst eigene Schuhe entwickeln und herstellen kann (Customization).

Die Unterstützung ist erforderlich, da es in dem komplexen Prozess immer wieder kleine Hürden gibt, die zu bewältigen sind. Vor dem Workshop sind einige Programme zu installieren, die auf der Website angegeben werden.

Insgesamt finde ich es spannend zu sehen, dass es immer mehr Möglichkeiten gibt, sein eigenes Produkt, seine eigenen Schuhe nicht nur zu entwickeln, sondern auch mit modernen technologischen Möglichkeiten herzustellen.

Dennoch halte ich es für zukunftsfähiger, wenn der gesamte Prozesses – nicht nur einzelne Elemente – zur Herstellung seiner eigenen Schuhe von Künstlicher Intelligenz unterstützt wird. Wir empfehlen dafür natürlich Open Source AI, wie z.B. Mistral 7b (open weight) und Open Source Software.

Diese beiden Punkte heben den Entwicklungs- und Herstellungsprozess auf ein neues Niveau.

Auf der internationalen Konferenz MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Mein zweites Paper:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Veröffentlicht am

Wussten Sie, dass die Codebasis von Software zu 97% aus Open Source Software besteht?

Image by Pexels from Pixabay

Es ist erstaunlich, dass es vielen Privatpersonen, Unternehmen und Öffentlichen Verwaltungen immer noch schwer fällt, sich von den kommerziellen Software-Angeboten zu lösen, um Digitale Souveränität zu erreichen Der Grund ist oftmals eine Gewöhnung an die jeweiligen Tools und damit auch eine gewisse Abhängigkeit.

Ein Wechsel zu Open Source Software wäre für viele mit Aufwand verbunden. Solche Switching Cost sind mit der Zeit von den etablierten Software-Unternehmen nach und nach immer weiter erhöht worden. Siehe dazu auch Es ist so bequem, unmündig zu sein.

Darüber hinaus gibt es auch Vorbehalte gegenüber Open Source Software, obwohl die Codebasis von Software sage und schreibe zu 97% Open Source Software enthält – auch kommerzielle Software.

„According to the 2025 Black Duck Open Source Security and Analysis Report, 97% of codebases scanned contained open source software“ (Carlber, A. N (2026) Open Source in Europe Amid Geopolitical Tensions, in Eclipse Foundation).

Wenn also fast alle Software zu einem so großen Anteil aus Open Source Software in ihrer Codebasis bestehen, sollten sich alle einmal überlegen, ob die Vorbehalte gegenüber Open Source Software heute noch angebracht sind.

In der Zwischenzeit erkennen immer mehr Personen, Unternehmen und Öffentliche Verwaltungen, dass der Nutzen von Open Source Software die Kosten deutlich übersteigt.

Auch zeigt die erfolgreiche Open Source KI Geschichte, dass Open Source sogar auf dem Gebiet der Künstlichen Intelligenz wettbewerbsfähig ist.

Auf der internationalen Konferenz  MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in zwei Paper ein:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Veröffentlicht am

Der Nutzen von Open Source Software übersteigt die Kosten deutlich

Image by Gerd Altmann from Pixabay

Wenn es um Open Source Software geht (OSS) geht, muss natürlich auch über die anfallenden Kosten gesprochen werden. Dazu zählen beispielsweise Installations- und Supportkosten, Anforderungen an die Lizenzkonformität und um potenzielle Sicherheitslücken. Neben den anfallenden Kosten stellt sich natürlich auch die Frage, wie es mit dem Nutzen von Open Source Software aussieht. In einer Studie von Henry Chesbrough aus dem Jahr 2023 konnte nachgewiesen werden, dass der Nutzen diese Kosten deutlich übersteigt.

„However, the results of this survey are quite consistent with earlier survey research (Nagle, 2019; European Commission, 2021), which shows that the perceived benefits of utilizing OSS significantly exceed these costs for the large majority of organizations that use OSS“ (Chesbrough, H. (2023), Measuring the Economic Value of Open Source: A Survey and a Preliminary Analysi, The Linux Foundation | PDF).

Die wirtschaftlichen Vorteile gehen einher mit einer stärkeren Unabhängigkeit (Digitale Souveränität) und damit verbunden mit einer besseren Widerstandsfähigkeit (Resilienz) der Organisation.

Die in der Zwischenzeit eingetretene Unmündigkeit (Digitale Abhängigkeit) von US amerikanischen digitalen Angeboten, hat einzelne Personen, Organisationen und ganze Öffentliche Verwaltungen in eine Pfadabhängigkeit geführt, aus der viele einfach nicht mehr herauskommen. Denn es ist ja so bequem, unmündig zu sein.

Immanuel Kant schrieb schon 1784 in seiner Streitschrift: „Beantwortung der Frage: Was ist Aufklärung?“: „Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Faulheit und Feigheit sind die Ursachen, warum ein so großer Teil erwachsener Menschen, nachdem sie die Natur längst von fremder Leitung freigesprochen hat, dennoch gerne zeitlebens unmündig bleiben, und warum es anderen so leicht wird, sich zu deren Vormündern aufzuwerfen. Es ist so bequem, unmündig zu sein!“ (Fuchs, J.; Stolorz, C. (2001): Produktionsfaktor Intelligenz. Wiesbaden).

Die Zeit ist reif, sich auf seinen eigenen Verstand zu besinnen, und sich von den aufgebauten digitalen Abhängigkeiten zu lösen. Ganz im Sinne des Wahlspruchs der Aufklärung: „Habe Mut, Dich Deines eigenen Verstandes zu bedienen!“

Siehe dazu auch Die erfolgreiche Geschichte von Open Source KI zeigt, wie dieser Weg aussehen kann. Digitale Souveränität: Europa, USA und China im Vergleich.

Veröffentlicht am

Skill shortage: Es fehlen Kompetenzen zu Open Source Software und Open Source Hardware

Das Bild ist mit Mistral AI generiert

Aktuell wird oft darüber gesprochen und geschrieben, dass alle Kompetenzen in der Nutzung von Künstlicher Intelligenz benötigen. Dabei setzen die Marktführer auf kostenlose Online-Kurse, die die Nutzer an die jeweiligen KI-Modelle adaptieren sollen. Die Nutzer passen sich dabei an die Logik des KI-Modells an, und entwickeln angepasste Kompetenzen.

Im nächsten Schritt wird diese Abhängigkeit (Pfadabhängigkeit) Schritt für Schritt monetarisiert – immerhin müssen ja die hohen Investitionen refinanziert werden. Wenn einzelne Personen oder Organisationen diesen Weg in den letzten Jahren eingeschlagen haben, sprechen sie nur noch von solchen, angepassten Kompetenzen. Siehe dazu auch Künstliche Intelligenz (KI): Lock-in und Switching Costs.

Kompetenzen zur Nutzung von Open Source Software oder Open Source Hardware sind damit weniger gemeint – überspitzt formuliert könnte man auch sagen, dass fast niemand daran denkt.

Wenn es Europa mit der Digitalen Souveränität ernst meint, sollten wir allerdings gerade diese Kompetenzen fördern und entwickeln, da gerade Open Source zu mehr Resilienz auf den verschiedenen Ebenen führt. Aktuell gibt es allerdings nicht so viele Personen, die sich mit den Möglichkeiten von Open Source Software und Open Source Hardware auskennen (digital skill shortage).

„By aligning open source projects with structured upskilling programs, Europe can address its digital skills shortage and build a competitive workforce that supports its ambition for technological sovereignty. By fostering collaboration, investing in education, and ensuring sustainable funding, we can secure the future of open source as a driver of technological and scientific progress. With initiatives like Software Heritage and national policies advocating for open science, the foundation is set for a more inclusive and resilient open source ecosystem“ (Di Cosmo, 2026 Open Source and the Skill Shortage, in Eclipse Foundation, 2026).

Es liegt an uns die bestehenden Abhängigkeiten nach und nach zu reduzieren, um unseren eigenen, europäischen Weg bei der Nutzung von Technologie, speziell auch Künstlicher Intelligenz, zu entwickeln. Die erfolgreiche Geschichte von Open Source KI zeigt, wie dieser Weg aussehen kann. Digitale Souveränität: Europa, USA und China im Vergleich.

Veröffentlicht am

Mit Open Source zu einer vernetzten Gesellschaft – der 4. Sektor

The meshed society model (Phillips 2026)

Unsere Gesellschaft ist traditionell in drei Bereiche gegliedert. Da ist zunächst der Öffentliche Sektor mit seinen verschiedenen Dienstleistungen. Der Private Sektor wiederum umschreibt alle geschäftlichen Aktivitäten in einer Gesellschaft. Scheinbar abschließend kommt noch der Nonprofit Sektor hinzu, der soziale Güter ohne Profitinteressen beschreibt.

Auf diese drei Sektoren sind auch alle regulatorischen Rahmenbedingungen ausgerichtet. Es wird davon ausgegangen, dass die Produktion von Gütern und Dienstleistungen zentral erfolgt und Bürger diese erwerben und nutzen, wobei diese Leistungen mit Geld bezahlt werden. Dieses Geld erhalten die Erwerbstätigen, indem sie für die Organisationen in den Sektoren arbeiten.

Interessant ist, dass sich in den letzten ca. 40 Jahren, seit dem es Open Source Software gibt, ein neuer Sektor mit Open Source Communities gebildet hat, der als Vierter Sektor – oder auch Meshed Society (Vernetzte Gesellschaft) – beschrieben wird. Die Abbildung zeigt deutlich, wie sich so eine Gesellschaft von der eher zentral ausgerichteten Gesellschaft unterscheidet.

„However, open source communities operate within a Fourth Sector or meshed society, distinct from these traditional models. The Fourth Sector consists of decentralised, community-driven initiatives where individuals and organisations collaborate to develop, maintain, and improve non-rivalrous digital goods. These initiatives do not conform to the conventional corporate structure assumed by regulatory frameworks“ (Philipps, S. (2026): Open Source and the Emerging Fourth Sector, in Eclips Foundation (2026): The Vital Role of Open Source in Europe, Whitepaper).

Diese Entwicklung hat sich von den Bürgern aus Bottom-Up entwickelt und sollte in den gesellschaftlichen Strukturen stärker berücksichtigt werden. Aktuell dominieren immer noch die Organisationen aus den ersten drei Sektoren, doch wird der Einfluss des 4. Sektors in Zukunft immer größer. Der Grund ist: Open Source bietet Möglichkeiten, sich aus den vielfältigen Abhängigkeiten zu lösen und dadurch z.B. eine Digitale Souveränität zu erreichen und als Gesellschaft resilienter zu werden. Wie das aussehen kann, skizziere auf der MCP-Konferenz 2026, 16.-19.09.2026 in Balatonfüred, Ungarn.

Die Titel meiner beiden Paper:

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Veröffentlicht am

FSFE: Free Software Foundation Europe

Quelle: https://fsfe.org/

Auf dem Weg zu mehr Digitaler Unabhängigkeit, oder Digitaler Souveränität, kommt Open Source Software eine besondere Rolle zu. Neben der amerikanischen Free Software Foundation hat sich dazu in 2001 die Free Software Foundation Europe e. V. gegründet (Quelle: Wikipedia). Der europäische Blick auf Open Source Software ist wichtig, da dieser sich von der US amerikanischen und der chinesischen Perspektive unterscheidet. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

„Software ist in allen Aspekten unseres Lebens tief verankert. Freie Software gibt allen das Recht, Programme für jeden Zweck zu verwenden, zu verstehen, zu verbreiten und zu verbessern. Diese Rechte stärken andere Grundrechte wie die Redefreiheit, die Pressefreiheit und das Recht auf Privatsphäre“ (FSFE-Website).

Interessant ist, dass die FSFE ganz bewusst von Freier Software ausgeht und sich damit von Open Source etwas abgrenzen möchte. Der Grund ist, dass der Begriff Open Source in den letzten Jahren immer wieder missbräuchlich verwendet wurde, und es zu einer Art „Verwässerung“ oder „Open Washing“ kam – wie das Beispiel von OpenAI zeigt.

In unseren Beiträgen geht es oft um Open Source, da dieser Begriff den meisten Lesern besser bekannt ist – auch wenn der Hinweis von der FSFE natürlich berechtigt ist.

Open Source Software bietet nicht nur aus wirtschaftlichen Gründen Möglichkeiten, sondern stärkt auch demokratische Grundrechte in Gesellschaften – was gerade in Zeiten von Künstlicher Intelligenz immer wichtiger wird. Siehe dazu auch Die erfolgreiche Open Source KI Geschichte.

Auf der MCP 2026 (16.-19.09.2026, Balatonfüred, Ungarn) gehe ich darauf in zwei Paper ein:

Digital Sovereignty and Open-Source AI: The European Way for Innovative SMEs

Open-Source AI for Open User Innovation: Designing a Personal Fabrication Framework