Yerel Yapay Zeka Ajanları: Goose, Observer AI, AnythingLLM

Yerel yapay zeka ajanları genellikle çevrimdışı, cihaz üzerinde veya tamamen yerel olarak tanımlanır. Harici API'lere veya bulut hizmetlerine bağımlı olmadan kişisel donanım üzerinde otonom olarak çalışan yerel yapay zeka ajanlarının ekosistemini haritalamak için üç gün harcadık.

Analizimiz, geliştirici aracıları, otomasyon araçları ve verimlilik yardımcıları genelinde yapılan uygulamalı testlere dayanarak, önde gelen çözümleri üç temel alana ayırıyor.

Yerel yapay zeka ajanı sınıflandırması

Kategori açıklamalarına bakın .

1. Geliştirici ve sistem aracıları

*Yürütme türleri:

• Tamamen yerel : Araç, yerel çalışma ortamlarını kullanarak kişisel donanım üzerinde doğal olarak çalışır. Tamamen çevrimdışı çalışabilen araçlar.
• Hibrit yerel : Temel model veya görev yürütme yerel olarak gerçekleşir, ancak IDE entegrasyonu, bağlam indeksleme, senkronizasyon veya mantıksal çıkarım gibi bazı özellikler hala bulut hizmetlerine veya API'lere bağlıdır.

** Makine üzerindeki kolon için açıklama: **

• Tamamen cihaz üzerinde: Çevrimdışı çalışma, çıkarım, akıl yürütme ve yürütme işlemlerinin tamamı yerel olarak gerçekleştirilir.
• Yerel çıkarım, bulut destekli: Temel model yerel olarak çalışır, ancak IDE veya yönetim özellikleri çevrimiçi hizmetleri kullanır.
• Yerel yürütme, uzaktan akıl yürütme: Kod yerel olarak çalışır, ancak harici API'ler akıl yürütme veya planlama adımlarını destekler.

Kaz

Goose, tamamen yerel donanım üzerinde çalışmak üzere tasarlanmış açık kaynaklı bir geliştirme aracıdır. ¹

Temel yetenekler:

• Akıl yürütme ve kod üretimi için yerel LLM çalışma ortamlarını kullanır.
• Kod yazma, test etme ve hata ayıklama gibi çok adımlı görevleri yürütür.
• Yerel dosya sistemi ve geliştirici araçlarıyla doğrudan etkileşim kurar.
• Yerel modellerle yapılandırıldığında ağ bağlantısı gerektirmez.

Goose, gözlem, akıl yürütme ve eylemin cihaz üzerinde gerçekleşmesi nedeniyle, yerel özerk bir ajanın katı tanımını karşılamaktadır.

Roo Kodu (Bumerang Modu)

Roo Code, yinelemeli iyileştirmeye odaklanan, IDE'ye entegre bir kodlama yardımcısıdır.

• Boomerang Modu, eylemlerin yerel olarak yürütülmesini sağlar.
• Akıl yürütme genellikle bulut tabanlı modellere dayanır.
• IDE koordinasyonu ve yönetim özellikleri tamamen yerel değildir.

Sonuç olarak, Roo Code tamamen yerel bir sistemden ziyade, insan müdahalesi içeren hibrit bir geliştirici aracı olarak sınıflandırılmalıdır.

Roo Code'da yerel yapay zeka ajanı yapılandırması:

Roo Code, geliştiricilerin yerel olarak barındırılan LLM'ler de dahil olmak üzere farklı yapay zeka modellerine nasıl bağlanacağını tanımlayan özel yapılandırma profilleri oluşturmasına olanak tanır.

Ayarlar → Sağlayıcılar bölümünden OpenRouter veya diğer desteklenen sağlayıcılar aracılığıyla profiller ekleyebilir, ardından Ollama veya LM Studio üzerinden çalışan yerel bir model seçebilirsiniz.

Her yapılandırma profili, sıcaklık, çıkarım derinliği ve belirteç sınırları da dahil olmak üzere kendi parametrelerini saklayabilir. Bu, hafif bulut modelleri ile cihaz üzerinde çıkarım için tamamen yerel çalışma ortamları arasında geçiş yapmanızı sağlar.

İmleç

Cursor, çıkarım işlemleri için yerel LLM'lerin kullanımına izin verir ancak aşağıdaki konularda bulut hizmetlerine bağımlıdır:

• Kod indeksleme
• Uygulamayı düzenle
• İş akışı koordinasyonu

Bu nedenle, Cursor yerel çıkarımı destekler ancak tamamen yerel bir ajan döngüsünü desteklemez ve çevrimdışı çalışamaz.

Cursor içinde yerel bir LLM nasıl kullanılır:

Kaynak: Logan Halüsinasyon Görüyor ²

Yardımcı

Aider, yerel Git depolarıyla doğrudan çalışmak üzere tasarlanmış, açık kaynaklı, komut satırı tabanlı bir yapay zeka kodlama asistanıdır. IDE arayüzü üzerinden çalışmak yerine, yamalar ve commit'ler üreterek kodu değiştirir.

Aider genellikle bulut tabanlı modellerle birlikte kullanılır, ancak:

• Aracın kendisi yerel olarak çalışır.
• Yerel bir model çalışma ortamıyla eşleştirildiğinde, tamamen cihaz üzerinde çalışabilir.

Bu nedenle çevrimdışı çalışma özelliği, aracın doğasında var olan bir özellik değil, model seçimine bağlıdır.

2. Yerel otomasyon ve kontrol ajanları

Gözlemci Yapay Zeka

Observer AI, açık kaynaklı yerel otomasyon ajanı çerçevesidir.

Temel özellikler:

• Yerel LLM'leri kullanarak aracıları çalıştırır.
• OCR veya ekran görüntüleri aracılığıyla ekran durumunu gözlemler.
• Gömülü bir yürütme ortamı aracılığıyla Python kodunu çalıştırır.
• Bulut bağlantısı gerektirmez.

Gözlemci yapay zekası, sabit bir ajan politikası yerine ajan davranışına yönelik altyapıyı sağlar ve en iyi şekilde yerel bir kontrol döngüsü çerçevesi olarak tanımlanabilir.

Tarayıcı Kullanımı

Browser-Use, Playwright aracılığıyla yapay zeka destekli tarayıcı etkileşimini mümkün kılar.

• Tarayıcı işlemleri yerel olarak yürütülür.
• Akıl yürütme, yerel veya uzaktan modeller kullanılarak gerçekleştirilebilir.
• Çevrimdışı çalışma, yalnızca yerel çıkarımla birlikte kullanıldığında mümkündür.

Bu durum, Browser-Use'u varsayılan olarak hibrit otomasyon kategorisine yerleştiriyor.

Tarayıcıda yerel bir LLM nasıl kullanılır:

Bunu yüklemenin bir yöntemi, hem Python arayüzünü hem de yerel tarayıcı kontrolünü aynı makineye kuran `pip install browser-use` komutunu kullanmaktır.

Daha sonra çalıştırıldığında (örneğin, `python -m browser_use` komutuyla), yerel olarak bir tarayıcı örneği açacak ve kontrol edecek, eylemleri gerçekleştirecek ve mantıksal çıkarımlar yapacak; bu işlemler ya yerel bir LLM (örneğin, Ollama aracılığıyla) ya da bağlantılı API'ler aracılığıyla gerçekleştirilecektir:

Tarayıcı kullanımını yerel olarak ayarlama ³

Tüm kurulumu uygulamalı olarak görmek isteyenler için, Browser-Use'u yerel bir makineye nasıl kurup çalıştıracağınızı gösteren adım adım bir video kılavuzu burada:

Bu kılavuz, Playwright ve LangChain gibi bağımlılıkların kurulumundan, Browser-Use'u Ollama aracılığıyla yerel bir modelle bağlamaya kadar her şeyi kapsıyor. ⁴

Daha fazla bilgi için, tarayıcı tabanlı araçların kullanım yeteneklerine ilişkin karşılaştırmalı testimize göz atın.

3. Bilgi ve verimlilik aracıları

AnythingLLM (Masaüstü)

Yerel modellerle yapılandırıldığında, AnythingLLM Desktop:

• Belge indeksleme işlemini yerel olarak gerçekleştirir.
• Ajanın mantıksal çıkarımını cihaz üzerinde yürütür.
• Sınırlı işlem yeteneklerini destekler (örneğin, dosya yazma).
• Bulut bağlantısı gerektirmez.

Sistem ajanlarına kıyasla özerkliği kısıtlı olsa da, dar bir görev tanımı altında yerel bir verimlilik ajanı olarak nitelendirilebilir.

Yerel bir yapay zeka aracısının örnek bir kullanımı

Yerel, cihaz üzerinde çalışan bir ajanın kurulumdan nihai çıktıya kadar nasıl çalıştığını görmek için AnythingLLM Desktop'ı test ettik.

1. Çalışma alanının hazırlanması

Çalışma alanı ayarlarını açtık ve Temsilci Yapılandırması bölümüne gittik.
Orada bir LLM sağlayıcısı seçtik ve mistral-medium-2505 modelini tercih ettik.
"Çalışma Alanı Aracısını Güncelle" seçeneğine tıkladıktan sonra, çalışma alanı kurulumun tamamlandığını onayladı.

2. Temsilci becerilerini etkinleştirme

Ardından, Temsilci Becerilerini Yapılandır panelini açtık.
Bu menü, tek bir tıklamayla yerleşik temsilci özelliklerini etkinleştirmenizi sağlar. Kodlama gerekmez.

3. “Dosyaları Kaydet” becerisinin test edilmesi

Dosyaları Kaydet özelliğini etkinleştirerek, aracının çıktıları doğrudan yerel makineye yazmasına olanak sağladık.
Cihazı açıp para üstünü kaydettikten sonra, temsilci hazırdı.

Bunu test etmek için, sohbet penceresine geri döndük ve dokümantasyondaki örnek komutlardan birini kullandık.
Bu, aracının bir dosya oluşturabildiğini ve yerel olarak kaydedilmeye hazır hale getirebildiğini doğruladı.

4. Sohbette aracı çalıştırma

Ajanımızdan tarihi bir konuyu özetlemesini istedik ve bunu @agent kullanarak gerçekleştirdik.
Çıktıyı PDF yerine basit bir metin dosyası olarak kaydetmek için komutu değiştirdik.

Sistem, Temsilci Sohbet Modu'nun aktif olduğunu doğruladı ve döngüden nasıl çıkılacağını gösterdi.
Görevli özeti hazırladı ve dosyayı kaydedilmeye hazır hale getirdi.

5. Dosyayı yerel olarak kaydetme

Çıktıyı kaydetmek için AnythingLLM belgelerindeki örnek komutu kullandık:
"@agent bu bilgileri masaüstümdeki klasöre PDF olarak kaydedebilir mi?"
Aynı yapıyı sohbet uygulamasında da kullandık, ancak bu sefer metin dosyası için.

Bir dosya tarayıcı penceresi açıldı ve çıktıyı cihaza kaydettik.
Dosya İndirilenler klasöründe göründü; bu da tüm sürecin, mantığın, yürütmenin ve kaydetmenin tamamen cihaz üzerinde gerçekleştirildiğini gösteriyor.

Yerel yapay zeka ajanı kategori açıklamaları

• Geliştirici ve sistem aracıları (eylem katmanı): Kodlama, sistem ve iş akışı otomasyon görevlerini yerel olarak gerçekleştirmek için doğrudan cihazınızda çalışan aracılar.
• Yerel otomasyon ve kontrol aracıları: Tarayıcıyı, kullanıcı arayüzünü veya işletim sistemini kontrol ederek makinenizdeki gerçek dünya eylemlerini otomatikleştiren aracılar.
• Bilgi ve verimlilik aracıları: Verileri buluta göndermeden sohbet, özetleme ve belge işleme için yerel asistanlar.

Yerel aracı yığınındaki mimari katmanlar

• Eylem katmanı (ajanlar) : Durumu gözlemleyen, araçları çağıran ve yerel ortamda işlem yapan sistemler.
• Akıl yürütme ve düzenleme katmanı (çerçeveler) : Planlama, bellek ve koordinasyonu destekleyen LangGraph veya LlamaIndex gibi kütüphaneler. Bunlar kendi başlarına ajan değildirler.
• Yürütme katmanı (yerel çalışma ortamları) : Ollama veya LM Studio gibi yerel çıkarımı sağlayan model çalışma ortamları.

Pratik rehberlik

Yerel yapay zeka sistemleri aşamalı olarak oluşturulmalıdır:

1. Çevrimdışı çıkarım gerekiyorsa, yerel bir çalışma ortamıyla başlayın.
2. Belgeyi anlama gerektiğinde yalnızca bilgi katmanı ekleyin.
3. Gerçek dünya eylemleri gerektiğinde otomasyon veya kontrol aracılarını devreye sokun.
4. Orkestrasyon çerçevelerini yalnızca karmaşık, çok adımlı iş akışları için kullanın.

Çoğu durumda, tamamen katmanlı bir yapıya gerek yoktur.

Yerel yapay zeka ajan yığınına nasıl yaklaşılmalı?

Kullanım senaryonuzun gerektirdiği en küçük katman kümesiyle başlayın. Aracınızın çevrimdışı akıl yürütmeye ihtiyacı varsa, Ollama veya LM Studio gibi yerel bir çalışma ortamıyla başlayın. Dosyalarınızı anlaması gerekiyorsa, AnythingLLM veya LocalGPT gibi bir bilgi katmanı ekleyin. Eylem gerçekleştirmesi gereken (uygulamaları açma, tarayıcıyı kontrol etme, dosyaları yönetme) aracılar için yerel bir otomasyon katmanı ekleyin. Çok adımlı iş akışlarına, planlama döngülerine veya karmaşık araç zincirlerine ihtiyaç duyduğunuzda yalnızca LangGraph veya LlamaIndex gibi çerçeveleri kullanın.

SSS'ler

Referans Linkleri

1.

GitHub - aaif-goose/goose: an open source, extensible AI agent that goes beyond code suggestions - install, execute, edit, and test with any LLM · GitHub

2.

Bevor Sie zu YouTube weitergehen

3.

Install Browser Use Locally to Integrate AI Agents with Websites - YouTube

4.

Install Browser Use Locally to Integrate AI Agents with Websites - YouTube

Cem Dilmegani

Baş Analist

Takip Et

Cem, 2017'den beri AIMultiple'da baş analist olarak görev yapmaktadır. AIMultiple, her ay Fortune 500 şirketlerinin %55'i de dahil olmak üzere yüz binlerce işletmeye (benzer Web'e göre) bilgi sağlamaktadır. Cem'in çalışmaları, Business Insider, Forbes, Washington Post gibi önde gelen küresel yayınlar, Deloitte, HPE gibi küresel firmalar, Dünya Ekonomik Forumu gibi STK'lar ve Avrupa Komisyonu gibi uluslararası kuruluşlar tarafından alıntılanmıştır. AIMultiple'ı referans gösteren daha fazla saygın şirket ve kaynağı görebilirsiniz. Kariyeri boyunca Cem, teknoloji danışmanı, teknoloji alıcısı ve teknoloji girişimcisi olarak görev yapmıştır. On yıldan fazla bir süre McKinsey & Company ve Altman Solon'da işletmelere teknoloji kararları konusunda danışmanlık yapmıştır. Ayrıca dijitalleşme üzerine bir McKinsey raporu yayınlamıştır. Bir telekom şirketinin CEO'suna bağlı olarak teknoloji stratejisi ve tedarikini yönetmiştir. Ayrıca, 2 yıl içinde sıfırdan 7 haneli yıllık yinelenen gelire ve 9 haneli değerlemeye ulaşan derin teknoloji şirketi Hypatos'un ticari büyümesini yönetmiştir. Cem'in Hypatos'taki çalışmaları TechCrunch ve Business Insider gibi önde gelen teknoloji yayınlarında yer aldı. Cem düzenli olarak uluslararası teknoloji konferanslarında konuşmacı olarak yer almaktadır. Boğaziçi Üniversitesi'nden bilgisayar mühendisliği diplomasına ve Columbia Business School'dan MBA derecesine sahiptir.

Tam Profili Görüntüle

Yorum yapan ilk kişi olun

E-posta adresiniz yayınlanmayacak. Tüm alanlar gereklidir.

Ad

E-posta Adresi

Yorum

0/450

Yorumu Gönder