Veröffentlicht am

Künstliche Intelligenz: Open Source Modelle mit der Ollama-App auf dem eigenen Desktop

Ollama ist eine Open Source Software, mit der man kleine und größere Sprachmodelle (Small Language Models und Large Language Models testen kann. (1) Zunächst natürlich auf Ollama selbst nach einem entsprechenden Login. (2) Da Ollama Open Source ist, kann es auch auf dem eigenen Server installiert werden. Wie Sie wissen, haben wir das auch schon …

„Künstliche Intelligenz: Open Source Modelle mit der Ollama-App auf dem eigenen Desktop“ weiterlesen

Veröffentlicht am

Ollama: AI Agenten mit verschiedenen Open Source Modellen entwickeln

Künstliche Intelligenz (KI oder AI: Artificial Intelligence) einzusetzen ist heute in vielen Organisationen schon Standard. Dabei nutzen immer noch viele die von den kommerziellen Anbietern angebotenen KI-Systeme. Dass das kritisch sein kann, habe ich schon in vielen Blogbeiträgen erläutert. Wir wollen einen anderen Weg, aufzeigen, der die Digitale Souveränität für Organisationen und Privatpersonen ermöglicht: Open …

„Ollama: AI Agenten mit verschiedenen Open Source Modellen entwickeln“ weiterlesen

Veröffentlicht am

Um das 30-fache unterscheiden sich je nach KI-Modell die Tokens – und damit die Kosten

Wenn es um die Wirtschaftlichkeit von KI-Agenten geht, kommt es bei den Token-Kosten oftmals zu regelrechten Abrechnungsschocks. In ihrem Paper Bai et al (2026): How Do Coding Agents Spend Your Money? Analyzing and Predicting Token Consumptions in Agentic Coding Tasks | https://arxiv.org/abs/2604.22750 haben die Forscher genauer untersucht, wie die Coding Agenten das Geld der Nutzer …

„Um das 30-fache unterscheiden sich je nach KI-Modell die Tokens – und damit die Kosten“ weiterlesen

Veröffentlicht am

Open Source AI: Das Modell Olmo 1B auf dem eigenen Laptop nutzen (Edge Computing)

Das Allen Institute Ai2 ist eine non-profit Organisation mit Sitz in Seattle. Sie hat sich das Ziel gesetzt, Open Source AI Modelle für allgemeine oder spezielle Anwendnungen bereitzustellen. Die Modelle sind also keine Open Weight, sondern wirkliche Open Source Modelle. In diesem Beitrag soll es um das Olmo-Modell 1B gehen, das so klein und dennoch …

„Open Source AI: Das Modell Olmo 1B auf dem eigenen Laptop nutzen (Edge Computing)“ weiterlesen

Veröffentlicht am

Lokale Nutzung von KI-Modellen mit der LLama.cpp – App

Immer mehr Prívatpersonen, Kleinstunternehmen, Kleine und Mittlere Unternehmen (KMU), Non-Profit Organisationen etc. erkennen die Möglichkeiten, KI-Modelle lokal auf ihrer Hardware zu nutzen. Dazu gibt es verschiedene Open Source Software. Wie Sie in vielen unserer Beiträge lesen konnten, haben wir uns Ollama App entschiedenen, da wir eine einfache Integration der in Ollama installierten KI-Modelle in Langflow …

„Lokale Nutzung von KI-Modellen mit der LLama.cpp – App“ weiterlesen

Veröffentlicht am

Open Source AI: Wie kann ich einen einfachen Workflow in der Langflow App anlegen?

In dem Blogbeitrag Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen hatte ich gezeigt, wie man mit Hilfe der Ollama App, Open Source KI-Modelle (oder Open Weight KI-Modelle) auf dem eigenen Laptop installieren und nutzen kann. Da es in der Zwischenzeit viele kleine und leistungsstarke KI-Modelle (SLM: Small Language Models gibt), ist dieser …

„Open Source AI: Wie kann ich einen einfachen Workflow in der Langflow App anlegen?“ weiterlesen

Veröffentlicht am

Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen

In verschiedenen Blogbeiträgen hatten wir aufgezeigt, wie in der Nextcloud mit Hilfe von Local AI Open Source KI-Modelle von Mistral AI genutzt werden können. Siehe dazu beispielhaft Digitale Souveränität: Wie kann ein KI-Modell aus LocalAI in den Nextcloud Assistenten eingebunden werden? Dazu ist es allerdings empfehlenswert, für Local AI nicht den Server zu nutzen, auf …

„Open Source AI: Ministral 3B auf dem eigenen Laptop nutzen“ weiterlesen

Veröffentlicht am

Künstliche Intelligenz: Wie kann man Mistral-Modelle auf „Heim-Hardware“ betreiben?

Mistral AI ist ein französisches Unternehmen, das eine Modellfamilie veröffentlicht, die europäischen Anforderungen an KI-Modelle entspricht, und Open Source verfügbar ist. (Open Models) Die Leistungsfähigkeit von den Mistral- Modellen nähert sich den Cloud AI Modellen (Closed Models) wie ChatGPT, Gemini etc. an (Open Source AI holt auf). Mit Le Chat gibt es auch eine europäische …

„Künstliche Intelligenz: Wie kann man Mistral-Modelle auf „Heim-Hardware“ betreiben?“ weiterlesen

Veröffentlicht am

Smolagents: Turn your idea into an App – mit verschiedenen LLMs und natürlich Open Source

KI-Agenten sind aktuell gefühlt überall. Natürlich bieten die proprietären Modelle wie ChatGPT, Gemini, Grok etc. viele Möglichkeiten an, solche KI-Agenten zu erstellen und zu nutzen. Wie Sie als Leser unseres Blogs wissen, tentieren wir allerdings dazu, Open Source AI zu nutzen, gerade wenn es um eigene, spezielle Expertise, oder unternehmensspezifisches Wissen in Innovationsprozessen geht. Neben …

„Smolagents: Turn your idea into an App – mit verschiedenen LLMs und natürlich Open Source“ weiterlesen

Veröffentlicht am

KI-Agenten per Drag & Drop: Langflow for Desktop

Langflow ist Open Source basiert und bietet die Möglichkeit, einfache Flows oder auch komplexere KI-Agenten per Drag & Drop zu erstellen. „Langflow is a powerful tool to build and deploy AI agents and MCP servers. It comes with batteries included and supports all major LLMs, vector databases and a growing library of AI tools“ (Langflow-Website). …

„KI-Agenten per Drag & Drop: Langflow for Desktop“ weiterlesen