Yerel Yapay Zeka Ajanları: Goose, Observer YZ, AnythingLLM

Yerel yapay zeka ajanları genellikle çevrimdışı, cihaz üzerinde veya tamamen yerel olarak tanımlanır. Harici API'lere veya bulut hizmetlerine bağımlı olmadan kişisel donanım üzerinde otonom olarak çalışan yerel yapay zeka ajanlarının ekosistemini haritalamak için üç gün harcadık.

Analizimiz, geliştirici ajanları, otomasyon araçları ve üretkenlik asistanları üzerindeki uygulamalı testlere dayanarak önde gelen çözümleri üç temel alanda kategorize etmektedir.

Yerel yapay zeka ajanı kategorizasyonu

Kategori açıklamalarına bakın.

1. Geliştirici ve sistem ajanları

*Çalıştırma türleri:

• Tamamen yerel: Araç, yerel çalışma zamanlarını kullanarak kişisel donanım üzerinde yerel olarak çalışır. Tamamen çevrimdışı çalışabilen araçlar.
• Hibrit yerel: Temel model veya görev yürütme yerel olarak gerçekleşir, ancak IDE entegrasyonu, bağlam indeksleme, senkronizasyon veya muhakeme gibi bazı özellikler hâlâ bulut hizmetlerine veya API'lere dayanır.

** Makine üzerinde sütunu için açıklama:

• Tamamen cihaz üzerinde: Tam çevrimdışı çalışma; inference, muhakeme ve yürütmenin tümü yerel olarak çalışır.
• Yerel inference, bulut destekli: Temel model yerel olarak çalışır, ancak IDE veya yönetim özellikleri çevrimiçi hizmetleri kullanır.
• Yerel çalıştırma, uzak muhakeme: Kod yerel olarak çalışır, ancak harici API'ler muhakeme veya planlama adımlarını yürütür.

Goose

Goose, tamamen yerel donanım üzerinde çalışmak üzere tasarlanmış açık kaynaklı bir geliştirme ajanıdır.¹

Temel yetenekler:

• Muhakeme ve kod üretimi için yerel LLM çalışma zamanlarını kullanır
• Kod yazma, test etme ve hata ayıklama gibi çok adımlı görevleri yürütür
• Yerel dosya sistemi ve geliştirici araçlarıyla doğrudan etkileşime girer
• Yerel modellerle yapılandırıldığında ağ bağlantısı gerektirmez.

Goose, gözlem, muhakeme ve eylem cihaz üzerinde gerçekleştiği için yerel otonom ajanın katı tanımını karşılar.

Roo Code(Boomerang Mode)

Roo Code, yinelemeli iyileştirmeye vurgu yapan IDE-entegre bir kodlama asistanıdır.

• Boomerang Mode, eylemlerin yerel olarak yürütülmesini sağlar
• Muhakeme genellikle bulut tabanlı modellere dayanır
• IDE koordinasyonu ve yönetim özellikleri tamamen yerel değildir

Sonuç olarak, Roo Code, tamamen yerel bir sistemden ziyade hibrit, döngüde-insan geliştirici ajanı olarak sınıflandırılmalıdır.

Roo Code'da yerel yapay zeka ajanı yapılandırması:

Roo Code, geliştiricilerin yerel olarak barındırılan LLM'ler de dâhil olmak üzere farklı yapay zeka modellerine nasıl bağlanacağını tanımlayan özel yapılandırma profilleri oluşturmasına olanak tanır.

Ayarlar → Sağlayıcılar'dan, OpenRouter veya diğer desteklenen sağlayıcılar aracılığıyla profiller ekleyebilir, ardından Ollama veya LM Studio üzerinden çalışan yerel bir model seçebilirsiniz.

Her yapılandırma profili; sıcaklık, muhakeme derinliği ve token limitleri dâhil olmak üzere kendi parametrelerini saklayabilir. Bu, hafif bulut modelleri ile cihaz üzerinde inference için tamamen yerel çalışma zamanları arasında geçiş yapmanızı sağlar.

Cursor

Cursor, inference için yerel LLM'lerin kullanımına izin verir, ancak aşağıdakiler için bulut hizmetlerine bağımlı kalır:

• Kod indeksleme
• Düzenleme uygulaması
• İş akışı koordinasyonu

Bu nedenle Cursor, yerel inference'ı destekler ancak tamamen yerel bir ajan döngüsünü desteklemez ve çevrimdışı çalışamaz.

Cursor içinde yerel bir LLM nasıl kullanılır:

Kaynak:Logan Hallucinates²

Aider

Aider, doğrudan yerel Git depolarıyla çalışmak üzere tasarlanmış açık kaynaklı, komut satırı tabanlı bir yapay zeka kodlama asistanıdır. Bir IDE arayüzü üzerinden çalışmak yerine yamalar ve commit'ler oluşturarak kodu değiştirir.

Aider genellikle bulutta barındırılan modellerle kullanılır, ancak:

• Aracın kendisi yerel olarak çalışır
• Yerel bir model çalışma zamanı ile eşleştirildiğinde, tamamen cihaz üzerinde çalışabilir

Çevrimdışı yetenek bu nedenle araca içkin değil, model seçimine bağlıdır.

2. Yerel otomasyon ve kontrol ajanları

Observer YZ

Observer YZ, açık kaynaklı bir yerel otomasyon ajan çerçevesidir.

Temel özellikler:

• Ajanları yerel LLM'ler kullanarak çalıştırır
• Ekran durumunu OCR veya ekran görüntüleri aracılığıyla gözlemler
• Gömülü bir çalıştırma ortamı üzerinden Python kodu çalıştırır
• Bulut bağlantısı gerektirmez

Observer YZ, sabit bir ajan politikasından ziyade ajan davranışı için altyapı sağlar ve en iyi şekilde yerel bir kontrol döngüsü çerçevesi olarak tanımlanır.

Browser-Use

Browser-Use, Playwright aracılığıyla yapay zeka güdümlü tarayıcı etkileşimini mümkün kılar.

• Tarayıcı eylemleri yerel olarak yürütülür
• Muhakeme, yerel veya uzak modeller kullanılarak gerçekleştirilebilir
• Yerel inference ile eşleştirildiğinde çevrimdışı çalışma mümkündür

Bu, Browser-Use'u varsayılan olarak hibrit otomasyon kategorisine sıkıca yerleştirir.

Browser-Use içinde yerel bir LLM nasıl kullanılır:

Kurmanın bir yöntemi, hem Python arayüzünü hem de yerel tarayıcı kontrolünü aynı makinede kuran pip install browser-use komutunu kullanmaktır.

Daha sonra çalıştırıldığında (örneğin, python -m browser_use ile), yerel olarak bir tarayıcı örneği açıp kontrol edecek, eylemleri ve muhakemeyi yerel bir LLM (örneğin Ollama aracılığıyla) veya bağlı API'ler aracılığıyla yürütecektir:

Browser-Use'u yerel olarak kurma³

Kurulumun tamamını çalışırken görmek isteyenler için, Browser-Use'un yerel bir makineye nasıl kurulup çalıştırılacağını gösteren adım adım bir video rehberi burada:

Bu anlatım, Playwright ve LangChain gibi bağımlılıkların kurulumundan Browser-Use'un Ollama aracılığıyla yerel bir modele bağlanmasına kadar her şeyi kapsar.³

3. Bilgi ve üretkenlik ajanları

AnythingLLM (Desktop)

Yerel modellerle yapılandırıldığında, AnythingLLM Desktop:

• Belge indekslemeyi yerel olarak gerçekleştirir
• Ajan muhakemesini cihaz üzerinde yürütür
• Sınırlı eylem yeteneklerini destekler (örneğin, dosya yazma)
• Bulut bağlantısı gerektirmez

Otonomisi sistem ajanlarına kıyasla kısıtlı olsa da, dar bir görev tanımı altında yerel bir üretkenlik ajanı olarak nitelendirilir.

Yerel bir yapay zeka ajanının örnek bir kullanımı

AnythingLLM Desktop'ı, yerel, cihaz üzerinde bir ajanın kurulumdan nihai çıktıya kadar nasıl çalıştığını görmek için test ettik.

1. Çalışma alanını kurma

Çalışma alanı ayarlarını açtık ve Ajan Yapılandırması'na gittik.
Orada, bir LLM sağlayıcısı seçtik ve mistral-medium-2505 modelini belirledik.
Çalışma Alanı Ajanını Güncelle'ye tıkladıktan sonra, çalışma alanı kurulumun tamamlandığını onayladı.

2. Ajan becerilerini etkinleştirme

Ardından, Ajan Becerilerini Yapılandır panelini açtık.
Bu menü, yerleşik ajan yeteneklerini tek bir tıklamayla etkinleştirmenize olanak tanır. Kodlama gerekmez.

3. "Files Kaydet" becerisini test etme

Dosyaları Files Kaydet becerisini etkinleştirerek ajanın çıktıları doğrudan yerel makineye yazmasına izin verdik.
Açıp değişikliği kaydettikten sonra, ajan hazırdı.

Test etmek için sohbet penceresine geri döndük ve dokümantasyondaki örnek istemlerden birini kullandık.
Bu, ajanın bir dosya oluşturabildiğini ve yerel kaydetme için hazırlayabildiğini doğruladı.

4. Ajanı sohbette çalıştırma

Alandan tarihî bir konuyu özetlemesini istedik ve @agent kullanarak onu çağırdık.
Çıktıyı PDF yerine basit bir metin dosyası olarak kaydetmek için komutu değiştirdik.

Sistem, Ajan Sohbet Modu'nun etkin olduğunu onayladı ve döngüden nasıl çıkılacağını gösterdi.
Ajan özeti üretti ve dosyayı kaydetmeye hazırladı.

5. Dosyayı yerel olarak kaydetme

Çıktıyı kaydetmek için AnythingLLM dokümanlarındaki örnek komutu kullandık:
"@agent bu bilgiyi masaüstü klasörüme PDF olarak kaydedebilir misin?"
Aynı yapıyı sohbette, ancak bir metin dosyası için çalıştırdık.

Bir dosya tarayıcı penceresi açıldı ve çıktıyı cihaza kaydettik.
Dosya İndirilenler klasöründe göründü; bu, tüm sürecin, muhakemenin, yürütmenin ve kaydetmenin tamamen cihaz üzerinde gerçekleştirildiğini gösterdi.

Yerel yapay zeka ajanı kategori açıklamaları

• Geliştirici ve sistem ajanları (eylem katmanı): Kodlama, sistem ve iş akışı otomasyon görevlerini yerel olarak gerçekleştirmek için doğrudan cihazınızda çalışan ajanlar.
• Yerel otomasyon ve kontrol ajanları: Tarayıcıyı, kullanıcı arayüzünü veya işletim sistemini kontrol ederek makinenizdeki gerçek dünya eylemlerini otomatikleştiren ajanlar.
• Bilgi ve üretkenlik ajanları: Verileri buluta göndermeden sohbet, özetleme ve belge işleme için yerel asistanlar.

Yerel ajan yığınındaki mimari katmanlar

• Eylem katmanı (ajanlar): Durumu gözlemleyen, araçları çağıran ve yerel ortamda eylemde bulunan sistemler.
• Muhakeme ve orkestrasyon katmanı (çerçeveler): Planlama, bellek ve koordinasyonu destekleyen LangGraph veya LlamaIndex gibi kütüphaneler. Bunlar kendi başlarına ajan değildir.
• Çalıştırma katmanı (yerel çalışma zamanları): Yerel inference'ı mümkün kılan Ollama veya LM Studio gibi model çalışma zamanları.

Donanım: yerel ajanların gerçekte neye ihtiyacı var

Model ve çerçeve hikâyenin yarısıdır. Gerçekte neyin mümkün olduğuna donanım karar verir. Dil modellerini yerel olarak çalıştırmak için en önemli iki sayı şunlardır: ne kadar belleğiniz olduğu ve bu belleğin ne kadar hızlı olduğu.

RAM (veya VRAM) model boyutunun tavanını belirler

Bir modelin çalışabilmesi için önce belleğe sığması gerekir. 4-bit nicemlenmiş modeller için kaba bir rehber: bir 3B model yaklaşık 2 GB, bir 7–8B model yaklaşık 5–6 GB, bir 13B model yaklaşık 8–10 GB ve bir 70B model yaklaşık 40–48 GB gerektirir. Bağlam, işletim sistemi ve çalışan diğer uygulamalar için boşluk payı ekleyin. Pratikte, bellek genellikle işlem gücünden daha sık darboğazdır ve Copilot+ PC'lerde rahat yerel LLM kullanımı için önerilen hedef en az 32 GB RAM'dir.⁴

Bellek bant genişliği hızı belirler

Bir model sığdığında, token'ları ne kadar hızlı ürettiği çoğunlukla sistemin modelin ağırlıklarını bellekten ne kadar hızlı okuyabildiğine bağlıdır. Bu nedenle Apple Silicon'un yüksek bellek bant genişliği (M4 Max'te 800 GB/s'ye kadar), sinirsel motor sayısı değil, LLM inference'ı için pratik avantajdır.⁵

NPU TOPS, pazarlamanın öne sürdüğünden daha az önemlidir

Bir sinirsel işlem birimi, yapay zeka matematiği için tasarlanmış bir çiptir ve derecelendirmesi TOPS (saniyede trilyon işlem) cinsinden verilir. Microsoft'un Copilot+ PC sertifikası en az 40 TOPS gerektirir. Bu eşik, sohbet tarzı bir LLM çalıştırmaktan ziyade Microsoft'un kendi cihaz üzeri özelliklerine (canlı altyazılar, görüntü efektleri, Recall) yöneliktir. LLM iş yükleri için RAM ve bant genişliği baskındır. NPU performansı faydalı bir eşitlik bozucudur, manşet sayısı değil.

Pratik bir kural:

• 3B sınıfı asistan modelleri için, 16 GB birleşik belleğe veya RAM'e sahip güncel bir dizüstü bilgisayar yeterlidir.
• Rahat hızda 7–8B modelleri için, 32 GB RAM ve yüksek bellek bant genişliği hedefleyin. Apple Silicon, Snapdragon X-serisi ve güncel Intel/AMD Copilot+ PC'lerin hepsi çalışır; farklılıklar modelin çalışıp çalışmamasında değil, saniyedeki token sayısında ortaya çıkar.
• Daha büyük modeller için (30B ve üzeri), seçenekler ayrışır. Yüksek belleğe sahip Apple Silicon (64–192 GB birleşik belleğe sahip Mac Studio veya MacBook Pro yapılandırmaları), hiçbir tüketici ayrık GPU'nun sığdıramayacağı büyük modelleri çalıştırabilir. Alternatif, bir veya daha fazla yüksek VRAM'li ayrık GPU'ya sahip bir iş istasyonudur. Her iki yol da çalışır; farklı maliyet ve güç profillerine sahiptirler.

Kıyaslamalarımızı ve veri odaklı içgörülerimizi kaçırmayın. Düğme Google'ı açar; AIMultiple'ı seçmeniz, Google arama sonuçlarında AIMultiple'ı daha sık görmek istediğinizi onaylar.

Tercih edilen kaynak olarak ekle

Pratik rehberlik

Yerel yapay zeka sistemleri kademeli olarak oluşturulmalıdır:

1. Çevrimdışı inference gerekiyorsa yerel bir çalışma zamanı ile başlayın.
2. Belge anlama gerektiğinde bir bilgi katmanı ekleyin.
3. Gerçek dünya eylemleri gerektiğinde otomasyon veya kontrol ajanlarını devreye alın.
4. Karmaşık, çok adımlı iş akışları için orkestrasyon çerçevelerini kullanın.

Çoğu durumda, tamamen katmanlı bir yığın gereksizdir.

Yerel yapay zeka ajanı yığınına nasıl yaklaşılır

Kullanım durumunuzun gerektirdiği en küçük katman kümesiyle başlayın. Ajanınızın çevrimdışı muhakemeye ihtiyacı varsa, Ollama veya LM Studio gibi yerel bir çalışma zamanı ile başlayın. Dosyalarınızı anlaması gerekiyorsa, AnythingLLM veya LocalGPT gibi bir bilgi katmanı ekleyin. Eylemde bulunması gereken ajanlar için (uygulama açma, tarayıcıyı kontrol etme, dosyaları yönetme) yerel bir otomasyon katmanı ekleyin. Çok adımlı iş akışları, planlama döngüleri veya karmaşık araç zincirlerine ihtiyacınız olduğunda LangGraph veya LlamaIndex gibi çerçeveleri kullanın.

Neden bir ajan yerel olarak çalıştırılır

Gizlilik bir tercih değil, yasal bir sorundur

2 Ağustos 2026'dan itibaren, AB Yapay Zeka Yasası'nın yüksek risk yükümlülükleri yürürlüğe girer. Cezalar €15 milyona veya küresel yıllık cironun %3'üne ulaşabilir. Kendi donanımınızda çalışan bir model, verileri bir bulut sağlayıcısına iletmeden kendi ortamınızda işler. Sınır ötesi veri aktarımı riski ortadan kalkar.⁶

Gecikme

Bulut API çağrıları, ilk token görünmeden önce 200–500ms ağ gecikmesi ekler. Cihaz üzerinde inference bunu 20ms'nin altına indirir. Sesli ajanlar, kod tamamlama ve gerçek zamanlı olarak bir kullanıcı arayüzüne dokunan her şey için bu, akıcı ile gecikmeli arasındaki farktır

Hacimde maliyet

Bulut çağrıları istek başına ucuz, toplu hâlde pahalıdır. Yerel bir modelin sabit bir donanım maliyeti vardır ve token başına faturalandırma yoktur. Ödünleşim hâlâ gerçektir: yerel ajanlar belleğe sığan model ve masadaki donanım ile sınırlıdır. Sonraki bölümler her ikisini de ele almaktadır.

SSS'ler

Bu araştırmayı kaynak gösterin

Yayınlayacağınız yere uygun formatı seçin. Bağlantılı sürümü CMS'inize yapıştırmak, geri bağlantıyı korur.

@misc{dilmegani2026,
  author = {Dilmegani, Cem and PhD., Ezgi Arslan,},
  title  = {{Yerel Yapay Zeka Ajanları: Goose, Observer YZ, AnythingLLM}},
  year   = {2026},
  month  = may,
  howpublished    = {\url{https://aimultiple.com/local-ai-agent}},
  note   = {AIMultiple. Erişim tarihi: 30 Mayıs 2026}
}

Referans Linkleri

1.

GitHub - aaif-goose/goose: an open source, extensible AI agent that goes beyond code suggestions - install, execute, edit, and test with any LLM · GitHub

2.

Bevor Sie zu YouTube weitergehen

3.

Install Browser Use Locally to Integrate AI Agents with Websites - YouTube

4.

How to Run LLM Locally: The Ultimate 2026 Guide

Boltic

5.

Native LLM and MLLM Inference at Scale on Apple Silicon

6.

AI Act | Shaping Europe’s digital future

Cem Dilmegani

Baş Analist

Takip Et

Cem, 2017'den beri AIMultiple'da baş analisttir. AIMultiple, her ay Fortune 500'ün %60'ı dahil olmak üzere (similarWeb'e göre) yüz binlerce işletmeyi bilgilendirmektedir.

Cem'in çalışmaları Business Insider, Forbes, Washington Post gibi önde gelen küresel yayınlar, Deloitte, HPE gibi küresel firmalar, Dünya Ekonomik Forumu gibi STK'lar ve Avrupa Komisyonu gibi uluslarüstü kuruluşlar tarafından alıntılanmıştır.

Cem, kariyeri boyunca teknoloji danışmanı, teknoloji alıcısı ve teknoloji girişimcisi olarak görev yapmıştır. On yıldan fazla bir süre McKinsey & Company ve Altman Solon'da işletmelere teknoloji kararlarında danışmanlık yapmıştır. Ayrıca dijitalleşme üzerine bir McKinsey raporu yayımlamıştır.

CEO'ya rapor verirken bir telekomünikasyon şirketinin teknoloji stratejisini ve satın alımını yönetmiştir. Ayrıca, 2 yıl içinde 0'dan 7 haneli yıllık yinelenen gelire ve 9 haneli değerlemeye ulaşan derin teknoloji şirketi Hypatos'un ticari büyümesini yönetmiştir. Cem'in Hypatos'taki çalışmaları TechCrunch ve Business Insider gibi önde gelen teknoloji yayınları tarafından ele alınmıştır.

Cem, uluslararası teknoloji konferanslarında düzenli olarak konuşma yapmaktadır. Boğaziçi Üniversitesi'nden bilgisayar mühendisi olarak mezun olmuş ve Columbia Business School'dan MBA derecesine sahiptir.

Tam Profili Görüntüle

Araştıran

Ezgi Arslan, PhD.

Endüstri Analisti

Takip Et

Ezgi, finans alanında uzmanlaştığı İşletme alanında doktora yapmıştır ve AIMultiple'da Endüstri Analisti olarak görev yapmaktadır. Teknoloji ve iş dünyasının kesiştiği noktada araştırma ve içgörüler üretmekte olup; sürdürülebilirlik, anket ve duygu analizi, finansta AI agent uygulamaları, cevap motoru optimizasyonu, firewall yönetimi ve satın alma teknolojileri gibi alanlarda uzmanlığa sahiptir.

Tam Profili Görüntüle

Yorum yapan ilk kişi olun

E-posta adresiniz yayınlanmayacak. Tüm alanlar gereklidir. Yorumlar orijinal dilinde bırakılır.

Ad

E-posta Adresi

Yorum

0/450

Yorumu Gönder