Lokale KI-Agenten: Goose, Observer AI, AnythingLLM

Lokale KI-Agenten werden oft als offline, gerätebasiert oder vollständig lokal beschrieben. Wir haben drei Tage damit verbracht, das Ökosystem lokaler KI-Agenten zu kartieren, die autonom auf persönlicher Hardware laufen, ohne von externen APIs oder Cloud-Diensten abhängig zu sein.

Unsere Analyse kategorisiert die führenden Lösungen in drei Schlüsselbereiche, basierend auf praktischen Tests von Entwickler-Agenten, Automatisierungstools und Produktivitätsassistenten.

Kategorisierung lokaler KI-Agenten

Kategorienbeschreibungen ansehen.

1. Entwickler- & System-Agenten

*Ausführungstypen:

• Vollständig lokal: Das Tool läuft nativ auf persönlicher Hardware mit lokalen Laufzeitumgebungen. Tools, die vollständig offline betrieben werden können.
• Hybrid lokal: Das Kernmodell oder die Aufgabenausführung erfolgt lokal, aber einige Funktionen wie IDE-Integration, Kontextindizierung, Synchronisation oder Reasoning verlassen sich immer noch auf Cloud-Dienste oder APIs.

** Erklärung zur Spalte „Auf Maschine":

• Vollständig gerätebasiert: Kompletter Offline-Betrieb; Inferenz, Reasoning und Ausführung laufen alle lokal.
• Lokale Inferenz, Cloud-unterstützt: Kernmodell läuft lokal, aber IDE- oder Verwaltungsfunktionen nutzen Online-Dienste.
• Lokale Ausführung, Remote-Reasoning: Code läuft lokal, aber externe APIs unterstützen Reasoning- oder Planungsschritte.

Goose

Goose ist ein Open-Source-Entwicklungs-Agent, der so konzipiert ist, dass er vollständig auf lokaler Hardware läuft.¹

Kernfunktionen:

• Nutzt lokale LLM-Laufzeitumgebungen für Reasoning und Codegenerierung
• Führt mehrstufige Aufgaben wie Schreiben, Testen und Debuggen von Code aus
• Interagiert direkt mit dem lokalen Dateisystem und Entwicklungstools
• Benötigt keine Netzwerkanbindung, wenn es mit lokalen Modellen konfiguriert ist.

Goose erfüllt eine strenge Definition eines lokalen autonomen Agenten, da Beobachtung, Reasoning und Aktion gerätebasiert erfolgen.

Roo Code(Boomerang Mode)

Roo Code ist ein in die IDE integrierter Codierungs-Assistent, der auf iterative Verfeinerung setzt.

• Boomerang Mode ermöglicht die lokale Ausführung von Aktionen
• Reasoning stützt sich üblicherweise auf Cloud-basierte Modelle
• IDE-Koordination und Verwaltungsfunktionen sind nicht vollständig lokal

Daher sollte Roo Code als hybrider, menschlich gesteuerter Entwickler-Agent und nicht als vollständig lokales System klassifiziert werden.

Lokale KI-Agenten-Konfiguration in Roo Code:

Roo Code ermöglicht Entwicklern die Erstellung benutzerdefinierter Konfigurationsprofile, die definieren, wie es mit verschiedenen KI-Modellen verbunden wird, einschließlich lokal gehosteter LLMs.

Über Einstellungen → Anbieter können Sie Profile über OpenRouter oder andere unterstützte Anbieter hinzufügen und dann ein lokales Modell auswählen, das über Ollama oder LM Studio läuft.

Jedes Konfigurationsprofil kann eigene Parameter speichern, einschließlich Temperatur, Reasoning-Tiefe und Token-Limits. Dies ermöglicht den Wechsel zwischen leichten Cloud-Modellen und vollständig lokalen Laufzeitumgebungen für gerätebasierte Inferenz.

Cursor

Cursor ermöglicht die Verwendung lokaler LLMs für die Inferenz, bleibt aber für folgende Funktionen von Cloud-Diensten abhängig:

• Code-Indizierung
• Edit-Anwendung
• Workflow-Koordination

Daher unterstützt Cursor lokale Inferenz, aber keinen vollständig lokalen Agenten-Loop und kann nicht offline betrieben werden.

So verwenden Sie ein lokales LLM in Cursor:

Quelle:Logan Hallucinates²

Aider

Aider ist ein Open-Source-, kommandozeilenbasiertes KI-Coding-Assistent, der so konzipiert ist, dass er direkt mit lokalen Git-Repositories arbeitet. Es modifiziert Code durch das Generieren von Patches und Commits, anstatt über eine IDE-Oberfläche zu arbeiten.

Aider wird häufig mit Cloud-gehosteten Modellen verwendet, aber:

• Das Tool selbst läuft lokal
• In Kombination mit einer lokalen Modell-Laufzeitumgebung kann es vollständig gerätebasiert arbeiten

Die Offline-Fähigkeit hängt daher von der Modellwahl ab und ist nicht inhärent im Tool enthalten.

2. Lokale Automatisierungs- & Steuerungs-Agenten

Observer AI

Observer AI ist ein Open-Source-Framework für lokale Automatisierungs-Agenten.

Kernfunktionen:

• Führt Agenten mit lokalen LLMs aus
• Beobachtet den Bildschirminhalt über OCR oder Screenshots
• Führt Python-Code über eine eingebettete Ausführungsumgebung aus
• Benötigt keine Cloud-Verbindung

Observer AI bietet die Infrastruktur für Agentenverhalten anstelle einer festen Agentenrichtlinie und wird am besten als lokales Steuerungsloop-Framework beschrieben.

Browser-Use

Browser-Use ermöglicht KI-gesteuerte Browser-Interaktion durch Playwright.

• Browser-Aktionen werden lokal ausgeführt
• Reasoning kann entweder mit lokalen oder Remote-Modellen durchgeführt werden
• Offline-Betrieb ist nur in Kombination mit lokaler Inferenz möglich

Dies ordnet Browser-Use standardmäßig eindeutig in die Kategorie der hybriden Automatisierung ein.

So verwenden Sie ein lokales LLM in Browser-Use:

Eine Installationsmethode besteht darin, den Befehl pip install browser-use zu verwenden, der sowohl die Python-Schnittstelle als auch die lokale Browsersteuerung auf derselben Maschine einrichtet.

Wenn es später ausgeführt wird (z. B. mit python -m browser_use), öffnet und steuert es eine Browser-Instanz lokal und führt Aktionen und Reasoning entweder über ein lokales LLM (z. B. über Ollama) oder über verbundene APIs aus:

Einrichtung von Browser-Use lokal³

Für diejenigen, die die vollständige Einrichtung in Aktion sehen möchten, hier eine schrittweise Videoanleitung, die zeigt, wie Browser-Use auf einem lokalen Computer installiert und ausgeführt wird:

Die Anleitung deckt alles ab, von der Installation von Abhängigkeiten wie Playwright und LangChain bis hin zur Verbindung von Browser-Use mit einem lokalen Modell über Ollama.⁴

Für mehr Informationen, schauen Sie sich unseren Benchmark zu Browser-use Tool-Fähigkeiten an.

3. Wissens- & Produktivitäts-Agenten

AnythingLLM (Desktop)

Wenn es mit lokalen Modellen konfiguriert ist, führt AnythingLLM Desktop Folgendes aus:

• Führt Dokumentenindizierung lokal durch
• Führt Agenten-Reasoning gerätebasiert aus
• Unterstützt begrenzte Aktionsfähigkeiten (z. B. Dateischreiben)
• Benötigt keine Cloud-Verbindung

Obwohl seine Autonomie im Vergleich zu System-Agenten eingeschränkt ist, qualifiziert es sich unter einer engen Aufgabendefinition als lokaler Produktivitäts-Agent.

Ein exemplarischer Einsatz eines lokalen KI-Agenten

Wir haben AnythingLLM Desktop getestet, um zu sehen, wie ein lokaler, gerätebasierter Agent von der Einrichtung bis zur endgültigen Ausgabe funktioniert.

1. Einrichtung des Arbeitsbereichs

Wir haben die Einstellungen des Arbeitsbereichs geöffnet und zu „Agent-Konfiguration" gegangen.
Dort haben wir einen LLM-Anbieter ausgewählt und das mistral-medium-2505-Modell gewählt.
Nach dem Klicken auf „Arbeitsbereich-Agent aktualisieren" bestätigte der Arbeitsbereich, dass die Einrichtung abgeschlossen war.

2. Aktivierung von Agenten-Funktionen

Danach haben wir das Panel „Agenten-Funktionen konfigurieren" geöffnet.
Dieses Menü ermöglicht es Ihnen, integrierte Agenten-Funktionen mit einem einzigen Klick zu aktivieren. Keine Programmierung erforderlich.

3. Testen der Funktion „Dateien Files speichern"

Wir haben die Funktion „Dateien Files speichern" aktiviert, wodurch der Agent Ausgaben direkt auf dem lokalen Computer schreiben kann.
Nachdem wir sie eingeschaltet und die Änderung gespeichert hatten, war der Agent bereit.

Um es zu testen, sind wir zum Chat-Fenster zurückgekehrt und haben eine der Beispiel-Prompts aus der Dokumentation verwendet.
Dies bestätigte, dass der Agent eine Datei generieren und zur lokalen Speicherung vorbereiten konnte.

4. Ausführen des Agenten im Chat

Wir haben den Agenten gebeten, ein historisches Thema zusammenzufassen und ihn mit @agent aufgerufen.
Wir haben den Befehl so geändert, dass die Ausgabe als einfache Textdatei und nicht als PDF gespeichert wird.

Das System bestätigte, dass der Agent-Chat-Modus aktiv war und zeigte, wie man den Loop verlässt.
Der Agent erstellte die Zusammenfassung und bereitete die Datei zum Speichern vor.

5. Speichern der Datei lokal

Um die Ausgabe zu speichern, haben wir den Beispielbefehl aus der AnythingLLM-Dokumentation verwendet:
„@agent kann diese Information als PDF in meinem Desktop-Ordner speichern?"
Wir haben die gleiche Struktur im Chat ausgeführt, aber für eine Textdatei.

Ein Datei-Browser-Fenster öffnete sich, und wir haben die Ausgabe auf dem Gerät gespeichert.
Die Datei erschien im Ordner Downloads, was darauf hinweist, dass der gesamte Prozess, Reasoning, Ausführung und Speichern vollständig gerätebasiert durchgeführt wurden.

Beschreibungen der Kategorien lokaler KI-Agenten

• Entwickler- & System-Agenten (Aktionsschicht): Agenten, die direkt auf Ihrem Gerät laufen, um Codierungs-, System- und Workflow-Automatisierungsaufgaben lokal durchzuführen.
• Lokale Automatisierungs- & Steuerungs-Agenten: Agenten, die reale Aktionen auf Ihrem Computer automatisieren, indem sie den Browser, die Benutzeroberfläche oder das Betriebssystem steuern.
• Wissens- & Produktivitäts-Agenten: Lokale Assistenten für Chat, Zusammenfassung und Dokumentenverarbeitung, ohne Daten in die Cloud zu senden.

Verpassen Sie nicht unsere Benchmarks und datengestützten Erkenntnisse. Die Schaltfläche öffnet Google; die Auswahl von AIMultiple bestätigt, dass Sie AIMultiple häufiger in den Google-Suchergebnissen sehen möchten.

Als bevorzugte Quelle hinzufügen

Architekturelle Schichten im lokalen Agenten-Stack

• Aktionsschicht (Agenten): Systeme, die Zustand beobachten, Tools aufrufen und auf der lokalen Umgebung agieren.
• Reasoning- und Orchestrierungsschicht (Frameworks): Bibliotheken wie LangGraph oder LlamaIndex, die Planung, Speicher und Koordination unterstützen. Dies sind keine Agenten selbst.
• Ausführungsschicht (lokale Laufzeitumgebungen): Modell-Laufzeitumgebungen wie Ollama oder LM Studio, die lokale Inferenz ermöglichen.

Praktische Anleitung

Lokale KI-Systeme sollten schrittweise aufgebaut werden:

1. Beginnen Sie mit einer lokalen Laufzeitumgebung, wenn Offline-Inferenz erforderlich ist.
2. Fügen Sie eine Wissensschicht nur hinzu, wenn Dokumentenverständnis benötigt wird.
3. Führen Sie Automatisierungs- oder Steuerungs-Agenten ein, wenn reale Aktionen erforderlich sind.
4. Verwenden Sie Orchestrierungs-Frameworks nur für komplexe, mehrstufige Workflows.

In den meisten Fällen ist ein vollständig geschichteter Stack nicht erforderlich.

So gehen Sie an den lokalen KI-Agenten-Stack heran

Beginnen Sie mit dem kleinsten Satz von Schichten, den Ihr Anwendungsfall erfordert. Wenn Ihr Agent Offline-Reasoning benötigt, beginnen Sie mit einer lokalen Laufzeitumgebung wie Ollama oder LM Studio. Wenn er Ihre Dateien verstehen muss, fügen Sie eine Wissensschicht wie AnythingLLM oder LocalGPT hinzu. Für Agenten, die Aktionen ausführen müssen (Apps öffnen, Browser steuern, Dateien verwalten), fügen Sie eine lokale Automatisierungsschicht hinzu. Verwenden Sie Frameworks wie LangGraph oder LlamaIndex nur, wenn Sie mehrstufige Workflows, Planungs-Loops oder komplexe Toolchains benötigen.

FAQs

Diese Forschung zitieren

Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.

@misc{dilmegani2026,
  author = {Dilmegani, Cem},
  title  = {{Lokale KI-Agenten: Goose, Observer AI, AnythingLLM}},
  year   = {2026},
  month  = may,
  howpublished    = {\url{https://aimultiple.com/local-ai-agent}},
  note   = {AIMultiple. Abgerufen am 30. Mai 2026}
}

Referenzlinks

1.

GitHub - aaif-goose/goose: an open source, extensible AI agent that goes beyond code suggestions - install, execute, edit, and test with any LLM · GitHub

2.

Bevor Sie zu YouTube weitergehen

3.

Install Browser Use Locally to Integrate AI Agents with Websites - YouTube

4.

Install Browser Use Locally to Integrate AI Agents with Websites - YouTube

Cem Dilmegani

Leitender Analyst

Folgen auf

Cem ist seit 2017 leitender Analyst bei AIMultiple. AIMultiple informiert monatlich Hunderttausende von Unternehmen (laut similarWeb), darunter 55 % der Fortune 500. Cems Arbeit wurde von führenden globalen Publikationen wie Business Insider, Forbes und der Washington Post, von globalen Unternehmen wie Deloitte und HPE sowie von NGOs wie dem Weltwirtschaftsforum und supranationalen Organisationen wie der Europäischen Kommission zitiert. Weitere namhafte Unternehmen und Ressourcen, die AIMultiple referenziert haben, finden Sie hier. Im Laufe seiner Karriere war Cem als Technologieberater, Technologieeinkäufer und Technologieunternehmer tätig. Über ein Jahrzehnt lang beriet er Unternehmen bei McKinsey & Company und Altman Solon in ihren Technologieentscheidungen. Er veröffentlichte außerdem einen McKinsey-Bericht zur Digitalisierung. Bei einem Telekommunikationsunternehmen leitete er die Technologiestrategie und -beschaffung und berichtete direkt an den CEO. Darüber hinaus verantwortete er das kommerzielle Wachstum des Deep-Tech-Unternehmens Hypatos, das innerhalb von zwei Jahren von null auf einen siebenstelligen jährlichen wiederkehrenden Umsatz und eine neunstellige Unternehmensbewertung kam. Cems Arbeit bei Hypatos wurde von führenden Technologiepublikationen wie TechCrunch und Business Insider gewürdigt. Er ist ein gefragter Redner auf internationalen Technologiekonferenzen. Cem absolvierte sein Studium der Informatik an der Bogazici-Universität und besitzt einen MBA der Columbia Business School.

Vollständiges Profil anzeigen

Seien Sie der Erste, der kommentiert

Ihre E-Mail-Adresse wird nicht veröffentlicht. Alle Felder sind erforderlich. Kommentare werden in ihrer Originalsprache belassen.

Name

E-Mail-Adresse

Kommentar

0/450

Kommentar posten