Yerel Yapay Zeka Ajanları: Goose, Observer AI, AnythingLLM

Yerel yapay zeka ajanları genellikle çevrimdışı, cihaz üzerinde veya tamamen yerel olarak tanımlanır. Kişisel donanım üzerinde harici API'lere veya bulut hizmetlerine bağımlı olmadan otonom çalışan yerel yapay zeka ajanlarının ekosistemini haritalamak için üç gün harcadık.

Analizimiz, uygulamalı geliştirici ajanları üzerindeki testlere, otomasyon araçlarına ve üretkenlik asistanlarına dayanarak önde gelen çözümleri üç temel alana ayırır.

Yerel yapay zeka ajanı sınıflandırması

Kategori açıklamalarına bakın.

1. Geliştirici ve sistem ajanları

*Yürütme türleri:

• Tamamen yerel: Araç, kişisel donanım üzerinde yerel çalışma zamanları kullanarak doğal olarak çalışır. Tamamen çevrimdışı çalışabilen araçlar.
• Hibrit yerel: Çekirdek model veya görev yürütme yerel olarak gerçekleşir, ancak IDE entegrasyonu, bağlam dizinleme, senkronizasyon veya akıl yürütme gibi bazı özellikler hâlâ bulut hizmetlerine veya API'lere dayanır.

** Makine üzerinde sütunu için açıklama:

• Tamamen cihaz üzerinde: Tam çevrimdışı çalışma inference, akıl yürütme ve yürütme tamamen yerel olarak gerçekleşir.
• Yerel inference, bulut destekli: Çekirdek model yerel olarak çalışır, ancak IDE veya yönetim özellikleri çevrimiçi hizmetleri kullanır.
• Yerel yürütme, uzak akıl yürütme: Kod yerel olarak çalışır, ancak harici API'ler akıl yürütme veya planlama adımlarına güç verir.

Goose

Goose, tamamen yerel donanım üzerinde çalışmak üzere tasarlanmış açık kaynaklı bir geliştirme ajanıdır.¹

Temel yetenekler:

• Akıl yürütme ve kod üretimi için yerel LLM çalışma zamanlarını kullanır
• Kod yazma, test etme ve hata ayıklama gibi çok adımlı görevleri yürütür
• Yerel dosya sistemi ve geliştirici araçlarıyla doğrudan etkileşime girer
• Yerel model'lerle yapılandırıldığında ağ bağlantısı gerektirmez.

Goose; gözlem, akıl yürütme ve eylem cihaz üzerinde gerçekleştiği için yerel otonom ajanın katı tanımını karşılar.

Roo Code(Boomerang Modu)

Roo Code, yinelemeli iyileştirmeye vurgu yapan IDE ile entegre bir kodlama asistanıdır.

• Boomerang Modu, eylemlerin yerel olarak yürütülmesini sağlar
• Akıl yürütme genellikle bulut tabanlı model'lere dayanır
• IDE koordinasyonu ve yönetim özellikleri tamamen yerel değildir

Sonuç olarak, Roo Code, tamamen yerel bir sistemden ziyade hibrit, insan döngüsü içeren bir geliştirici ajanı olarak sınıflandırılmalıdır.

Yerel yapay zeka ajanı yapılandırması Roo Code'da:

Roo Code, farklı yapay zeka model'lerine nasıl bağlandığını tanımlayan özel yapılandırma profilleri oluşturmanıza olanak tanır; buna yerel olarak barındırılan LLM'ler de dahildir.

Ayarlar → Sağlayıcılar bölümünden OpenRouter veya desteklenen diğer sağlayıcılar aracılığıyla profiller ekleyebilir, ardından Ollama veya LM Studio üzerinden çalışan yerel bir model seçebilirsiniz.

Her yapılandırma profili; sıcaklık, akıl yürütme derinliği ve token limitleri dahil kendi parametrelerini saklayabilir. Bu, hafif bulut model'leri ile cihaz üzerinde inference için tamamen yerel çalışma zamanları arasında geçiş yapmanıza olanak tanır.

Cursor

Cursor, inference için yerel LLM'lerin kullanımına izin verir, ancak şu konularda bulut hizmetlerine bağımlı kalmaya devam eder:

• Kod dizinleme
• Düzenleme uygulaması
• İş akışı koordinasyonu

Bu nedenle Cursor yerel inference'ı destekler, ancak tamamen yerel bir ajan döngüsünü desteklemez ve çevrimdışı çalışamaz.

Cursor içinde yerel LLM nasıl kullanılır:

Kaynak:Logan Hallucinates²

Aider

Aider, doğrudan yerel Git depolarıyla çalışmak üzere tasarlanmış açık kaynaklı, komut satırı tabanlı bir yapay zeka kodlama asistanıdır. Bir IDE arayüzü üzerinden çalışmak yerine, yamalar ve commit'ler oluşturarak kodu değiştirir.

Aider genellikle bulutta barındırılan model'lerle kullanılır, ancak:

• Araç kendisi yerel olarak çalışır
• Yerel bir model çalışma zamanıyla eşleştirildiğinde tamamen cihaz üzerinde çalışabilir

Çevrimdışı yetenek bu nedenle araca özgü değil, model seçimine bağlıdır.

2. Yerel otomasyon ve kontrol ajanları

Observer AI

Observer AI, açık kaynaklı bir yerel otomasyon ajan framework'üdür.

Temel özellikler:

• Ajanları yerel LLM'ler kullanarak yürütür
• Ekran durumunu OCR veya ekran görüntüleri aracılığıyla gözlemler
• Python kodunu gömülü bir yürütme ortamı aracılığıyla çalıştırır
• Bulut bağlantısı gerektirmez

Observer AI, sabit bir ajan politikasından ziyade ajan davranışı için altyapı sağlar ve en iyi şekilde yerel bir kontrol döngüsü framework'ü olarak tanımlanır.

Browser-Use

Browser-Use, Playwright aracılığıyla yapay zeka destekli tarayıcı etkileşimi sağlar.

• Tarayıcı eylemleri yerel olarak yürütülür
• Akıl yürütme yerel veya uzak model'ler kullanılarak gerçekleştirilebilir
• Yerel inference ile eşleştirildiğinde çevrimdışı çalışma mümkündür

Bu, Browser-Use'u varsayılan olarak hibrit otomasyon kategorisine sağlam bir şekilde yerleştirir.

Browser-Use içinde yerel LLM nasıl kullanılır:

Kurulumun bir yöntemi, hem Python arayüzünü hem de yerel tarayıcı kontrolünü aynı makinede kuran pip install browser-use komutunu kullanmaktır.

Daha sonra çalıştırıldığında (örneğin, python -m browser_use ile), yerel olarak bir tarayıcı örneği açıp kontrol eder; eylemleri ve akıl yürütmeyi ya yerel bir LLM (ör. Ollama aracılığıyla) ya da bağlı API'ler aracılığıyla yürütür:

Browser-Use'u yerel olarak kurma³

Kurulumun tamamını uygulamalı olarak görmek isteyenler için, Browser-Use'un yerel bir makineye nasıl kurulacağını ve çalıştırılacağını gösteren adım adım bir video rehberi burada:

Rehber, Playwright ve LangChain gibi bağımlılıkların kurulumundan Browser-Use'un Ollama aracılığıyla yerel bir model'e bağlanmasına kadar her şeyi kapsar.³

3. Bilgi ve üretkenlik ajanları

AnythingLLM (Desktop)

Yerel model'lerle yapılandırıldığında, AnythingLLM Desktop:

• Belge dizinlemeyi yerel olarak gerçekleştirir
• Ajan akıl yürütmesini cihaz üzerinde yürütür
• Sınırlı eylem yeteneklerini destekler (ör. dosya yazma)
• Bulut bağlantısı gerektirmez

Özerkliği sistem ajanlarına kıyasla kısıtlı olsa da dar bir görev tanımı altında yerel bir üretkenlik ajanı olarak nitelendirilir.

Yerel bir yapay zeka ajanının örnek bir kullanımı

Kurulumdan nihai çıktıya kadar yerel, cihaz üzerinde bir ajanın nasıl çalıştığını görmek için AnythingLLM Desktop'ı test ettik.

1. Çalışma alanını kurma

Çalışma alanı ayarlarını açtık ve Ajan Yapılandırması bölümüne gittik.
Orada bir LLM sağlayıcısı seçtik ve mistral-medium-2505 model'ini belirledik.
Çalışma Alanı Ajanını Güncelle düğmesine tıkladıktan sonra çalışma alanı kurulumun tamamlandığını doğruladı.

2. Ajan becerilerini etkinleştirme

Ardından, Ajan Becerilerini Yapılandır panelini açtık.
Bu menü, tek tıklamayla yerleşik ajan yeteneklerini etkinleştirmenize olanak tanır. Kod yazma gerekmez.

3. “Save Files” becerisini test etme

Ajanın çıktıları doğrudan yerel makineye yazmasını sağlayan Save Files becerisini etkinleştirdik.
Açtıktan ve değişikliği kaydettikten sonra ajan hazırdı.

Test etmek için sohbet penceresine geri döndük ve dokümantasyondaki örnek prompt'lardan birini kullandık.
Bu, ajanın bir dosya oluşturabildiğini ve yerel kaydetme için hazırlayabildiğini doğruladı.

4. Ajanı sohbette çalıştırma

Ajandan tarihsel bir konuyu summarize etmesini istedik ve onu @agent kullanarak çağırdık.
Çıktıyı PDF yerine basit bir metin dosyası olarak kaydetmek için komutu değiştirdik.

Sistem, Ajan Sohbet Modu'nun aktif olduğunu doğruladı ve döngüden nasıl çıkılacağını gösterdi.
Ajan özeti üretti ve dosyayı kaydetmeye hazırladı.

5. Dosyayı yerel olarak kaydetme

Çıktıyı kaydetmek için AnythingLLM dokümanlarındaki örnek komutu kullandık:
“@agent bu bilgiyi masaüstü klasörüme PDF olarak kaydedebilir mi?”
Aynı yapıyı sohbette ancak bir metin dosyası için çalıştırdık.

Bir dosya tarayıcı penceresi açıldı ve çıktıyı cihaza kaydettik.
Dosya İndirilenler klasöründe göründü; bu da tüm sürecin, akıl yürütmenin, yürütmenin ve kaydetmenin tamamen cihaz üzerinde gerçekleştirildiğini gösterdi.

Yerel yapay zeka ajanı kategori açıklamaları

• Geliştirici ve sistem ajanları (eylem katmanı): Cihazınızda doğrudan çalışarak kodlama, sistem ve iş akışı otomasyon görevlerini yerel olarak gerçekleştiren ajanlar.
• Yerel otomasyon ve kontrol ajanları: Tarayıcıyı, arayüzü veya işletim sistemini kontrol ederek makinenizdeki gerçek dünya eylemlerini otomatikleştiren ajanlar.
• Bilgi ve üretkenlik ajanları: Verileri buluta göndermeden sohbet, özetleme ve belge işleme için yerel asistanlar.

Yerel ajan yığınındaki mimari katmanlar

• Eylem katmanı (ajanlar): Durumu gözlemleyen, araçları çağıran ve yerel ortamda eylemde bulunan sistemler.
• Akıl yürütme ve orkestrasyon katmanı (framework'ler): Planlama, bellek ve koordinasyonu destekleyen LangGraph veya LlamaIndex gibi kütüphaneler. Bunlar kendileri ajan değildir.
• Yürütme katmanı (yerel çalışma zamanları): Yerel inference sağlayan Ollama veya LM Studio gibi model çalışma zamanları.

Donanım: yerel ajanların gerçekte neye ihtiyaç duyduğu

Model ve framework hikayenin yarısıdır. Neyin gerçekten mümkün olduğuna donanım karar verir. Dil modellerini yerel olarak çalıştırmak için en önemli iki sayı vardır: ne kadar belleğe sahip olduğunuz ve bu belleğin ne kadar hızlı olduğu.

RAM (veya VRAM) model boyutunun tavanını belirler

Bir model'in çalışmadan önce belleğe sığması gerekir. 4-bit nicemlenmiş model'ler için kaba bir kılavuz: bir 3B model yaklaşık 2 GB gerektirir, bir 7–8B model yaklaşık 5–6 GB gerektirir, bir 13B model yaklaşık 8–10 GB gerektirir ve bir 70B model yaklaşık 40–48 GB gerektirir. Bağlam, işletim sistemi ve çalışan diğer uygulamalar için boşluk payı ekleyin. Uygulamada bellek, hesaplamadan daha çok darboğazdır ve Copilot+ PC'lerde konforlu yerel LLM kullanımı için önerilen hedef en az 32 GB RAM'dir.⁴

Bellek bant genişliği hızı belirler

Bir model sığdığında, ne kadar hızlı token ürettiği büyük ölçüde sistemin model'in ağırlıklarını bellekten ne kadar hızlı okuyabildiğine bağlıdır. Bu nedenle Apple Silicon'un yüksek bellek bant genişliği (M4 Max'te 800 GB/s'ye kadar) LLM inference'ı için pratik avantajdır; sinir motorlarının sayısı değil.⁵

NPU TOPS, pazarlamanın öne sürdüğünden daha az önemlidir

Bir nöral işlem birimi, yapay zeka matematiği için tasarlanmış bir çiptir ve derecesi TOPS (saniyede trilyonlarca işlem) cinsinden verilir. Microsoft'un Copilot+ PC sertifikası en az 40 TOPS gerektirir. Bu eşik, sohbet tarzı bir LLM çalıştırmaktan ziyade Microsoft'un kendi cihaz üzerindeki özelliklerine (canlı altyazılar, görüntü efektleri, Recall) yöneliktir. LLM iş yükleri için RAM ve bant genişliği baskındır. NPU performansı yararlı bir kırılma noktasıdır, manşet değeri değil.

Pratik bir kural:

• 3B sınıfı asistan model'leri için, 16 GB birleşik belleğe veya RAM'e sahip güncel bir dizüstü bilgisayar yeterlidir.
• Rahat hızda 7–8B model'ler için, 32 GB RAM ve yüksek bellek bant genişliği hedefleyin. Apple Silicon, Snapdragon X serisi ve güncel Intel/AMD Copilot+ PC'lerin tümü çalışır; farklar model'in çalışıp çalışmadığında değil, saniye başına token sayısında ortaya çıkar.
• Daha büyük model'ler (30B ve üzeri) için, seçenekler ayrışır. Yüksek bellekli Apple Silicon (64–192 GB birleşik belleğe sahip Mac Studio veya MacBook Pro yapılandırmaları), hiçbir tüketici ayrık GPU'sunun sığdıramayacağı büyük model'leri çalıştırabilir. Alternatif, bir veya daha fazla yüksek VRAM'li ayrık GPU'lara sahip bir iş istasyonudur. Her iki yol da çalışır; farklı maliyet ve güç profillerine sahiptirler.

Kıyaslamalarımızı ve veri odaklı içgörülerimizi kaçırmayın. Düğme Google'ı açar; AIMultiple'ı seçmeniz, Google arama sonuçlarında AIMultiple'ı daha sık görmek istediğinizi onaylar.

Tercih edilen kaynak olarak ekle

Pratik rehberlik

Yerel yapay zeka sistemleri aşamalı olarak kurulmalıdır:

1. Çevrimdışı inference gerekiyorsa yerel bir çalışma zamanıyla başlayın.
2. Belge anlama gerektiğinde bir bilgi katmanı ekleyin.
3. Gerçek dünya eylemleri gerektiğinde otomasyon veya kontrol ajanları ekleyin.
4. Karmaşık, çok adımlı iş akışları için orkestrasyon framework'lerini kullanın.

Çoğu durumda tamamen katmanlı bir yığın gereksizdir.

Yerel yapay zeka ajanı yığınına nasıl yaklaşılır

Kullanım senaryonuzun gerektirdiği en küçük katman kümesiyle başlayın. Ajanınızın çevrimdışı akıl yürütmeye ihtiyacı varsa, Ollama veya LM Studio gibi yerel bir çalışma zamanıyla başlayın. Dosyalarınızı anlaması gerekiyorsa, AnythingLLM veya LocalGPT gibi bir bilgi katmanı ekleyin. Eylemde bulunması gereken ajanlar için (uygulamaları açma, tarayıcıyı kontrol etme, dosyaları yönetme) yerel bir otomasyon katmanı ekleyin. Çok adımlı iş akışları, planlama döngüleri veya karmaşık araç zincirlerine ihtiyaç duyduğunuzda LangGraph veya LlamaIndex gibi framework'leri kullanın.

Neden bir ajan yerel olarak çalıştırılır

Gizlilik bir tercih değil, yasal bir sorudur

Digital Omnibus kapsamında, AB Yapay Zeka Yasası'nın yüksek risk yükümlülükleri artık bağımsız (Ek III) sistemler için 2 Aralık 2027'den, düzenlenmiş ürünlerdeki yapay zeka için 2 Ağustos 2028'den itibaren geçerlidir; Madde 50 kapsamındaki şeffaflık yükümlülükleri ise 2 Ağustos 2026'dan bu yana uygulanmaktadır.⁶ Cezalar €15 milyona veya küresel yıllık cironun %3'üne ulaşabilir. Kendi donanımınızda çalışan bir model, verileri ortamınızda işler ve bunları bir bulut sağlayıcısına iletmez. Sınır ötesi veri aktarımı riski ortadan kalkar.⁷

Gecikme

Bulut API çağrıları, ilk token görünmeden önce 200–500ms ağ gecikmesi ekler. Cihaz üzerinde inference bunu 20ms'nin altına indirir. Sesli ajanlar, kod tamamlama ve gerçek zamanlı olarak bir arayüze dokunan her şey için bu, akıcı ile gecikmeli arasındaki farktır

Hacimde maliyet

Bulut çağrıları istek başına ucuzdur ve toplu olarak pahalıdır. Yerel bir model'in sabit bir donanım maliyeti vardır ve token başına fatura yoktur. Takas hâlâ gerçektir: yerel ajanlar belleğe sığan model ve masadaki donanım ile sınırlıdır. Sonraki bölümler her ikisini de ele alır.

SSS'ler

Bu araştırmayı kaynak gösterin

Yayınlayacağınız yere uygun formatı seçin. Bağlantılı sürümü CMS'inize yapıştırmak, geri bağlantıyı korur.

@misc{dilmegani2026,
  author = {Dilmegani, Cem and Arslan, Ezgi},
  title  = {{Yerel Yapay Zeka Ajanları: Goose, Observer AI, AnythingLLM}},
  year   = {2026},
  month  = jul,
  howpublished    = {\url{https://aimultiple.com/local-ai-agent}},
  note   = {AIMultiple. Erişim tarihi: 30 Temmuz 2026}
}

Değişiklik günlüğü

3 güncelleme

20262025

1. 30 May

   "Bir aracıyı neden yerel çalıştırmalı" ve yerel donanım gereksinimleri bölümleri eklendi.

2. 28 Oca

   Çerçeveler ve Yerel çalışma zamanları ve altyapı bölümleri kaldırıldı.

Referans Linkleri

1.

GitHub - aaif-goose/goose: an open source, extensible AI agent that goes beyond code suggestions - install, execute, edit, and test with any LLM · GitHub

2.

Bevor Sie zu YouTube weitergehen

3.

Install Browser Use Locally to Integrate AI Agents with Websites - YouTube

4.

How to Run LLM Locally: The Ultimate 2026 Guide

Boltic

5.

Native LLM and MLLM Inference at Scale on Apple Silicon

6.

Browser check - Consilium

7.

AI Act | Shaping Europe’s digital future

Cem Dilmegani

Baş Analist

Takip Et

Cem, 2017'den beri AIMultiple bünyesinde baş analisttir. Cem'in AIMultiple'daki çalışmaları; Business Insider, Forbes, Morning Brew ve Washington Post gibi önde gelen küresel yayınlar, Deloitte ve HPE gibi küresel firmalar, Dünya Ekonomik Forumu gibi STK'lar ve Avrupa Komisyonu gibi uluslarüstü kuruluşlar tarafından alıntılanmıştır. [1], [2], [3], [4], [5] Kariyeri boyunca Cem; teknoloji danışmanı, teknoloji alıcısı ve teknoloji girişimcisi olarak görev yaptı. On yılı aşkın süre boyunca McKinsey & Company ve Altman Solon'da işletmelere teknoloji kararlarında danışmanlık yaptı. Ayrıca dijitalleşme üzerine bir McKinsey raporu yayımladı. CEO'ya rapor verirken bir telekom şirketinin teknoloji stratejisini ve satın alma süreçlerini yönetti. Ayrıca 2 yıl içinde 0'dan 7 haneli yıllık yinelenen gelire ve 9 haneli değerlemeye ulaşan derin teknoloji şirketi Hypatos'un ticari büyümesini yönetti. Cem'in Hypatos'taki çalışmaları TechCrunch ve Business Insider gibi önde gelen teknoloji yayınları tarafından ele alındı. Cem, uluslararası teknoloji konferanslarında düzenli olarak konuşma yapmaktadır. Boğaziçi Üniversitesi'nden bilgisayar mühendisi olarak mezun oldu ve Columbia Business School'dan MBA derecesine sahiptir.

Tam Profili Görüntüle

Araştıran

Ezgi Arslan, PhD.

Sektör Analisti

Takip Et

Ezgi, işletme alanında finans uzmanlığı içeren bir doktora derecesine sahiptir ve AIMultiple'da Sektör Analisti olarak görev yapmaktadır. Teknoloji ve iş dünyasının kesişiminde araştırma ve içgörü çalışmalarını yürütür; uzmanlık alanları arasında sürdürülebilirlik, anket ve duygu analizi, finanstaki AI ajan uygulamaları, yanıt motoru optimizasyonu, güvenlik duvarı yönetimi ve satın alma teknolojileri yer alır.

Tam Profili Görüntüle

Yorum yapan ilk kişi olun

E-posta adresiniz yayınlanmayacak. Tüm alanlar gereklidir. Yorumlar orijinal dilinde bırakılır.

Ad

E-posta Adresi

Yorum

0/450

Yorumu Gönder