Özdeş beş ajanlı seyahat planlama iş akışı ve tutarlı LLM ayarları kullanarak dört büyük ajan tabanlı çerçeveyi karşılaştırmalı olarak değerlendirdik. Her çerçeve 100 kez çalıştırıldı ve gerçek orkestrasyon yükünü izole etmek için işlem hattı gecikmesini, belirteç kullanımını, ajanlar arası geçişleri ve ajan ile araç arasındaki yürütme farkını ölçtük.
Ajan tabanlı orkestrasyon kıyaslaması
Tüm çerçeveler, her biri 100 çalıştırmada görevi başarıyla tamamladı. Bununla birlikte, LangGraph, CrewAI'den 2,2 kat daha hızlı bitirirken, LangChain ve AutoGen, token verimliliğinde 8-9 kat fark gösterdi. Bu, her çerçevenin çoklu ajan iş akışlarını orkestrasyon katmanından nasıl düzenlediği, mesajları nasıl yönlendirdiği, durumu nasıl yönettiği ve ajan devir teslimlerini nasıl koordine ettiği konusundaki temel mimari kararları yansıtmaktadır.
Bunun nedenini anlamak için, ajan yaşam döngüsünün her aşamasını ölçtük.
Temsilcilerin performansı
Ayrıştırıcı aracı: Bu aracı, minimum karmaşıklıkla basit metin çıkarma işlemi gerçekleştirir. Tüm çerçeveler benzer gecikme süreleri göstermektedir.
Uçuş bulma ajanı : Gecikme ve token kullanımında önemli farklılıklar görüyoruz. Bu ajan uçuş API aracını kullanıyor ve ajanın başlatılması ile aracı gerçekten çağırması arasındaki sürede belirgin bir "ajan-araç boşluğu" gözlemliyoruz. Bu boşluğu analizimizin ilerleyen bölümlerinde ayrıntılı olarak inceleyeceğiz ve CrewAI'nin 9 saniyelik gecikmesinin 5 saniyesinin bu boşluktan kaynaklandığını göreceğiz.
Hava durumu muhabiri ajanı: Uçuş Bulucu ajanında gözlemlenenle aynı sıralama modelinin hem gecikme süresi hem de belirteç kullanımı için devam ettiğini görüyoruz.
LangChain, CrewAI hariç diğer çerçevelere kıyasla önemli ölçüde daha fazla token üretir ve daha yüksek gecikme süresine sahiptir; CrewAI'nin ek yükü ise esas olarak ajan-araç farkından kaynaklanır. Bu durum, LangChain'in ara adımları ve tüm konuşma geçmişini koruyan bellek yönetimi yaklaşımından kaynaklanır ve çoklu ajan iş akışlarında ek yük oluşturur.
LangGraph, en az belirteçle en hızlı çerçeve olarak öne çıkıyor. Grafik tabanlı mimarisi, tam konuşma geçmişleri yerine düğümler arasında yalnızca gerekli durum değişikliklerini iletiyor ve bu da minimum belirteç sayısıyla sonuçlanıyor.
kullanım kolaylığı ve gecikme süresinin azalması.
Etkinlik Aracısı: Çoğu çerçeve nispeten yakın performans sergiliyor. Araç çağrıları olmadan, tüm çerçeveler benzer aralıklara yakınsıyor (gecikme için 6-8 saniye, belirteçler için 650-744), bu da şunu gösteriyor:
Varyasyonun temel nedeni, minimum düzenleme yüküyle LLM oluşturma süresidir. Ancak gerçek performans açığı Seyahat Planlayıcı aracısında ortaya çıkmaktadır.
Seyahat planlama ajanı : Ajan, her çerçevede önceki dört ajanın (ayrıştırıcı, uçuş bulucu, hava durumu raporlayıcı ve aktivite önerici) çıktılarını alır ve sentezler. Ancak, her çerçevenin bunu nasıl yaptığı farklıdır.
Bu bağlam birleştirmesi, temel mimari farklılıkları ortaya koyuyor.
CrewAI, her bir önceki görevin eksiksiz ve değiştirilmemiş çıktısını, bağlam parametre sistemi aracılığıyla doğrudan planlayıcının bağlamına iletir. LLM, önceki ajan çıktılarının tüm belirteçlerini ve görevi alır.
Açıklamanın kendisi. Bu yaklaşım bir sınırlama değil, temel bir tasarım felsefesidir: CrewAI, ajanların önceki çalışmalara tam olarak erişebildiği kapsamlı, bağlam odaklı senteze öncelik verir.
Sonuç olarak, mevcut tüm bilgileri kapsamlı bir şekilde entegre eden, 5.339 belirteçten oluşan ayrıntılı bir seyahat programı ortaya çıkmıştır.
LangChain, AutoGen ve LangGraph, bağlamı farklı şekillerde ele alıyor. Her üç çerçeve de önceki ajan çıktılarını planlayıcıya iletirken, kümülatif bağlam yükünü azaltan çeşitli optimizasyon stratejileri uyguluyorlar. LangChain'in bellek yönetimi, ara çıktıları sıkıştırabilir veya özetleyebilir ve çerçeve, ajanları birbirine zincirlerken her ajanın yanıtının tam ayrıntı düzeyini koruyamayabilir. Bu, 3.187 belirteçlik çıktının CrewAI'den daha özlü ancak yine de önemli olmasını sağlıyor.
AutoGen, 3.316 belirteçle benzer bir davranış sergiliyor ve bu da iki çerçeve arasında karşılaştırılabilir bağlam işleme yaklaşımları olduğunu gösteriyor. LangGraph'ın grafik tabanlı durum yönetimi yalnızca gerekli durumu iletiyor.
Düğümler arasındaki delta değerleri, optimize edilmiş durum geçişleri sayesinde en verimli 2.589 belirteçlik çıktıyı elde etmeyi sağlar.
Ajan-araç boşluğu
Ajan-Araç Aralığı, bir ajanın görevi aldığı an ile aracı gerçekten çağırdığı an arasındaki süredir.
CrewAI'nin Uçuş Bulucu'daki 5 saniyelik gecikmesi gerçek düşünme süresini temsil ederken, diğer çerçeveler neredeyse anlık araç çağrılarını göstermektedir.
CrewAI'nin mimarisi, otonom ajan felsefesini somutlaştırır. Uçuş Bulucu ajanı görevini aldığında, hemen get_flights aracını çalıştırmaz. Bunun yerine, bir akıl yürütme sürecini izler:
- Görevi anlama: Ajan, hedefe ulaşmak için hangi bilgilere ihtiyaç duyduğunu analiz eder.
- Seçenekleri değerlendirme: Mevcut araçları göz önünde bulundurur ve hangisinin en uygun olduğuna karar verir.
- Yaklaşımın planlanması: Ajan, parametrelere ve uygulama stratejisine karar verir.
- Harekete Geçme: Son olarak, belirlenen parametrelerle aracı çağırır. Bu 5 saniyelik boşluk, CrewAI'nin harekete geçmeden önce kelimenin tam anlamıyla "düşünmesi" anlamına gelir; bu, ham hızdan ziyade karar kalitesine ve özerk akıl yürütmeye öncelik veren bir tasarım seçimidir. Ajan "şu belirli aracı kullan" diye yönlendirilmez; en iyi hareket tarzını bağımsız olarak belirler.
CrewAI, müzakereyi devre dışı bırakma ve doğrudan alet çağırmaya geçme seçeneği sunmamaktadır.
Bunun aksine, LangGraph, LangChain ve Autogen çerçeveleri doğrudan araç yürütme yaklaşımlarını kullanarak milisaniyenin altında yürütme süreleri elde ederler.
LangChain ve LangGraph, "düşünce → eylem → gözlem" modelinde akıl yürütmeyi gösteren ReAct tarzı ajanları destekler. Ancak, ReAct'teki "Düşünce" bileşeni tamamen metin tabanlı bir yönlendirmedir. Örneğin, LLM "Düşünce: Şunu yapmalıyım..." şeklinde bir çıktı üretebilir. Bu, bazı ek belirteçlerin üretilmesine neden olur, ancak CrewAI'nin 5 saniyelik boşluğu gibi ayrı bir düşünme döngüsü oluşturmaz. Bu "düşünce" adımları, tek bir üretim sürecinin parçası olarak, aynı LLM çağrısı içinde oluşturulur.
Ajanlar arası koordinasyon yükü
Ajanlar arası gecikmeyi, 100 çalıştırma boyunca bir ajanın tamamlanması ile bir sonraki ajanın başlaması arasındaki ortalama süreyi hesaplayarak ölçtük, ancak farklılıklar milisaniye düzeyinde minimaldi. Bu, çerçeve mimarisinin, ajanlar arası geçişlerden ziyade, araç yürütme kalıpları ve bağlam yönetimi için en önemli unsur olduğunu ortaya koymaktadır. Çerçeveler arasındaki performans farklılıkları, ajanlar arasında geçiş için harcanan zamandan değil, araçların değerlendirilmesinden ve bağlam sentezinden kaynaklanmaktadır.
Ajanik orkestrasyon nedir?
Ajan tabanlı orkestrasyon, karmaşık görevleri ve birden fazla sistem ve alanda yapılandırılmış görevleri tamamlamak için otonom yapay zeka ajanlarını birleşik bir sistem içinde koordine eder.
Çoklu orkestrasyon, birden fazla ajanın sanal bir ekip gibi iş birliği yapmasına olanak tanır; burada her ajan belirli bir rolü üstlenir: Bazıları veri toplar, diğerleri analiz eder ve birkaçı kararları uygular. Orkestrasyon katmanı, bu ajanların iletişim kurmasını, görevleri planlamasını ve birlikte çalışmasını sağlar.
Statik otomasyon komut dosyalarının aksine, ajan tabanlı orkestrasyon, bağlama uyum sağlamak, insan müdahalesine olan ihtiyacı en aza indirmek ve çeşitli sistemlerde sorunsuz yürütmeyi sağlamak için üretken yapay zeka ve yapay zeka modellerinden yararlanır.
Ajantik orkestrasyon ile LLM orkestrasyonu karşılaştırması
Bu terimler bazen birbirinin yerine kullanılır çünkü her ikisi de yapay zeka sistemlerinin koordinasyonunu içerir, ancak odak noktaları farklıdır:
- LLM orkestrasyonu , model merkezlidir ve birden fazla dil modeli arasındaki etkileşimleri ve iş akışlarını optimize eder.
- Otonom ajanların, minimum insan müdahalesiyle sistemler genelinde çok adımlı görevleri çözmelerini koordine eden ajan tabanlı orkestrasyon .
Temel prensipler
- Özerklik: Ajanlar, tanımlanmış rolleri dahilinde, harici sistemlere yapılan fonksiyon çağrılarıyla desteklenerek bağımsız olarak hareket edebilirler.
- İşbirliği: Birden fazla yapay zeka ajanı, karmaşık sorunları çözmek, birden fazla görevi dağıtmak ve uçtan uca otomasyon sağlamak için iletişim kurar.
- Uyum: Sistemler, tutarlı hedefleri korur ve yüksek düzeyde düzenlemeye tabi sektörlerde kurumsal ve düzenleyici gerekliliklere uyumu sağlar.
- Gözlemlenebilirlik: Kayıtlar, izleme araçları ve değerlendirmeler, sürekli izleme ve sürekli optimizasyonu mümkün kılar.
- İnsan gözetimi: İnsan müdahalesi gerektiren yaklaşımlar, yüksek riskli veya belirsiz durumlarda otomasyonu insan girdisiyle birleştirir.
Orkestrasyon kalıpları
Ajan tabanlı orkestrasyon, ajanların bir sistem içinde nasıl koordine edildiğine bağlı olarak çeşitli kalıplara ayrılabilir. Bu kalıplar, görevlerin akışını, ajanlar arasındaki iletişimi ve genel sistem mimarisini belirler.
Merkezi orkestrasyon
Bu modelde, tek bir yönetici veya yönlendirici aracı, görevleri atamaktan, iş akışını kontrol etmekten ve hedeflere ulaşılmasını sağlamaktan sorumludur. Yönetici, önceden tanımlanmış kurallara veya dinamik bir plana göre görevleri uzmanlaşmış aracılara yönlendiren merkezi bir merkez görevi görür.
Bu kategoriye giren belirli desenler şunlardır:
- Sıralı orkestrasyon: Bir yöneticinin görevleri sabit, adım adım bir aracı dizisi üzerinden yönlendirdiği doğrusal bir işlem hattı. Bu, veri işleme işlem hatları gibi açık bağımlılıklara sahip süreçler için idealdir.
- Hiyerarşik orkestrasyon: Yönetici-ast ilişkisinin, birden fazla departman veya ekip genelinde karmaşık görevleri yönetmek için kullanıldığı, ölçeklenebilir, kademeli bir yapı.
Merkezi olmayan orkestrasyon
Bu model, tek kontrol noktasını ortadan kaldırarak birden fazla ajanın doğrudan etkileşim kurmasını ve karmaşık bir görevi tamamlamasını sağlar. Bu yaklaşım, dayanıklılığı artırır ve işbirlikçi problem çözme için daha fazla esneklik sunar.
Bu kategoriye giren belirli desenler şunlardır:
- Grup sohbeti yönetimi: Temsilciler, paylaşılan bir konuşma dizisi üzerinden iş birliği yaparak, bir karara varmak veya bir sorunu çözmek için birbirlerinin katkılarından yararlanırlar. Sohbet yöneticisi tartışmayı kolaylaştırabilir, ancak temsilciler fikir birliğine varmak için doğrudan iletişim kurarlar.
- Görev devri düzenlemesi: Temsilciler, merkezi bir yöneticiye ihtiyaç duymadan görevleri birbirlerine dinamik olarak devredebilirler. Her temsilci görevi değerlendirebilir ve görevi kendisi üstlenmeye veya daha uygun uzmanlığa sahip başka bir temsilciye devretmeye karar verebilir; bu, bir yönlendirme sistemine benzer.
Federasyon orkestrasyonu
Bu model, yüksek düzeyde düzenlemeye tabi veya dağıtılmış ortamlar için faydalıdır. Veri yönetimi ve güvenliğini korurken, farklı organizasyonel birimler veya sistemler arasında işbirliğini mümkün kılar. Genellikle, daha geniş bir aracı ve sistem ağını yönetmek için hem merkezi hem de merkezi olmayan yaklaşımların unsurlarını birleştirir.
Araçlar ve çerçeveler
Çeşitli yapay zeka ajanı çerçeveleri, ajan tabanlı iş akışları ve çoklu ajan orkestrasyonu için altyapı sağlar. Bunlardan bazıları şunlardır:
İşte bu araçların alfabetik sırayla tam listesi:
- LangChain tarafından geliştirilen LangGraph: Karmaşık iş akışları ve yapılandırılmış görevler için modüler tasarım ve grafik tabanlı iş akışları sunar.
- FoundationAgents tarafından geliştirilen MetaGPT: Yazılım geliştirmede birden fazla ajanı koordine etmek için rol tabanlı işbirliğini (örneğin, yazılım mühendisi, QA) kodlar.
- Microsoft'un AutoGen ürünü: Genellikle planlayıcı-uygulayıcı-eleştirmen döngüleri olarak yapılandırılan dijital aracılar arasındaki konuşmaya dayalı işbirliğine odaklanır.
- CrewAI : İş süreçleri ve rutin operasyonlar için faydalı olan, uzmanlaşmış ajanları role özgü hedeflere sahip "ekipler" halinde düzenler.
- OpenAI tarafından geliştirilen Agents SDK: Harici araçlara fonksiyon çağrısı yaparak hafif orkestrasyon ve ajan devir teslimi sağlar.
- CAMEL-AI : Büyük ölçekli simülasyonlar ve karmaşık süreçler için koordinatörlere sahip, otonom yapay zeka ajanlarından oluşan modüler topluluklar sağlar.
- Google Agent Development Kit (ADK): Entegre değerlendirme, hata ayıklama ve dağıtım yetenekleriyle çoklu ajan orkestrasyonunu destekler.
- Langroid : Modülerliğe ve yetki devrine önem veren, çoklu ajanlı orkestrasyon için aktör-model tarzı bir yaklaşım uygular.
- BeeAI : Model bağlam protokolü ve üçüncü taraf aracıların sorunsuz entegrasyonu yoluyla birlikte çalışabilirliğe önem verir.
- Azure AI Foundation Agent Service: Altyapı karmaşıklığını soyutlayarak geliştirme, dağıtım ve üretim ortamlarında aracıların çalışmasını sağlar.
Bu çerçeveleri karşılaştırın ve temel yeteneklerini öğrenin:
Ajan iletişim protokolleri
LangGraph, CrewAI ve AutoGen gibi açık kaynaklı ajan tabanlı orkestrasyon çerçevelerinin her biri, ajan iletişimi için kendi kurallarını uygular. Bu durum, aynı orkestrasyon katmanında farklı çerçevelerden gelen ajanları birleştirirken birlikte çalışabilirlik sorunları yaratır. Bu açığı gidermeyi amaçlayan iki yeni protokol ortaya çıkmıştır.
Anthropic'in Model Bağlam Protokolü (MCP), ajanların harici araçlara ve veri kaynaklarına nasıl bağlandığını standartlaştırır. Her çerçevenin kendi araç entegrasyon katmanını uygulaması yerine, MCP, orkestrasyon platformlarının tutarlı ajan-araç iletişimi için kullanabileceği ortak bir arayüz sağlar.
Google'ın Ajanlar Arası (A2A) Protokolü, farklı çerçeveler üzerine kurulu ajanların birbirlerinin yeteneklerini keşfetmelerini ve mesaj alışverişinde bulunmalarını sağlar. A2A, MCP'yi tamamlayacak şekilde tasarlanmıştır: MCP ajan-araç etkileşimlerini ele alırken, A2A ajanlar arası iş birliğine odaklanır. Ajanlar, kimliklerini, uç noktalarını ve desteklenen yöntemleri açıklayan JSON meta veri belgeleri olan "Ajan Kartları" aracılığıyla yeteneklerini duyururlar.
Orkestrasyon için protokoller neden önemlidir:
- Birlikte Çalışabilirlik: A2A, LangChain, Salesforce ve SAP dahil olmak üzere 150'den fazla kuruluştan destek alarak farklı tedarikçilerden gelen temsilcilerin birlikte çalışmasını sağlamıştır.
- Keşif: Ajanlar, standartlaştırılmış mekanizmalar aracılığıyla çalışma zamanında birbirlerinin yeteneklerini dinamik olarak bulabilir ve anlayabilirler.
- Tamamlayıcı tasarım: Orkestralı bir sistem, ajanlar arası iletişim için A2A'yı kullanırken, her ajan kendi araçlarına erişmek için dahili olarak MCP'yi kullanabilir.
- Azaltılmış karmaşıklık: Standartlaştırılmış protokoller, farklı ekosistemlerden gelen ajanları karıştırırken özel adaptörlere olan ihtiyacı azaltır.
A2A veya MCP'yi benimseyen çerçeveler, harici aracılar ve araçlarla daha kolay entegre olabilir, tedarikçi bağımlılığını azaltabilir ve çoklu çerçeve dağıtımlarını basitleştirebilir.
Ajan tabanlı orkestrasyon uygulamaları
Ajanlar arası koordinasyon, bireysel ajanları uyumlu, hedef odaklı bir sisteme dönüştüren kritik bir yetenektir. Aşağıda, çoklu ajan sistemlerinin iş değeri sunmak için koordine olduğu gerçek dünya uygulamaları yer almaktadır.
İş süreçleri
Ajan tabanlı orkestrasyon, birden fazla departman ve sistem genelinde uçtan uca otomasyon sağlar. Karmaşık, çok adımlı iş akışlarını manuel aktarımlar olmadan yönetmek için uzmanlaşmış ajanları koordine eder.
- İnsan kaynakları: İşe alım ve politika soru-cevap süreçlerinden iş gücü yönetimi ve işten ayrılma süreçlerine kadar tüm çalışan yaşam döngüsünü yönetmek için bir ekip oluşturur ve koordine eder.
- Müşteri entegrasyonu:
- Müşteri işlemleri: Orkestralı sistemler, müşteri etkileşimlerini kanallar genelinde yöneterek hizmet kalitesini artırır; bir grup temsilci ilk sorguları ele alır, farklı veritabanlarından bilgi sağlar ve karmaşık sorunları doğrulama için insan müdahalesine bırakır.
İş akışı otomasyonu için yapay zeka aracılarını keşfedin.
Tedarik zinciri
Ajan tabanlı orkestrasyon, planlama, tedarik, lojistik ve envanter yönetiminin karmaşık bir ağını yönetmek ve optimize etmek için birden fazla uzmanlaşmış ajanı koordine ederek tedarik zinciri yönetimini geliştirir.
- Öngörücü bakım: Bir orkestrasyon platformu, gerçek zamanlı ekipman verilerini analiz etmek, potansiyel arızaları tahmin etmek ve bir bakım ajanını otomatik olarak tetikleyerek onarım planlamak veya yeni parçalar sipariş etmek için ajanları koordine eder.
- Stok yönetimi: Temsilciler, stok seviyelerini takip etmek, belirli bir eşiğe ulaşıldığında otomatik olarak tedarik siparişi vermek ve sevkiyat gecikmeleri gibi gerçek zamanlı aksaklıkları gidermek için lojistik temsilcileriyle iletişim kurmak üzere görevlendirilmiştir.
- Tedarikçi entegrasyonu: Dijital aracıların koordineli bir sistemi, uyumluluk kontrollerinden sözleşme oluşturmaya ve yeni tedarikçileri şirketin mevcut iş akışlarına entegre etmeye kadar tüm süreci yönetir.
Kurumsal sistemler
Ajan tabanlı orkestrasyon, ERP, CRM ve RPA gibi farklı kurumsal platformlar arasında sorunsuz iş birliği gerektiren yapay zeka destekli süreçler için temel mantığı sağlar.
- Satın alma-ödeme süreci: Bir dizi koordineli aracı, satın alma temsilcisinin sipariş vermesinden, muhasebe temsilcisinin faturayı ödeme için işlemesine kadar tüm tedarik döngüsünü yöneterek, işlem sürelerini kısaltır ve şeffaflığı artırır.
- Siparişten tahsilata: Çoklu aracı sistem, sipariş işleme, yerine getirme ve alacak hesaplarını yöneten aracıları koordine ederek sipariş alımından ödemeye kadar olan tüm süreci hızlandırır, nakit akışını ve müşteri memnuniyetini artırır.
- Uyuşmazlık çözümü: Düzenli bir iş akışı, bir temsilcinin bilgi toplaması, bir diğerinin uyuşmazlığı analiz etmesi ve üçüncüsünün çözümü iletmesi yoluyla talep ve geri ödeme takibini otomatikleştirerek süreci basitleştirir ve hızlandırır.
Aşağıdakiler gibi kurumsal sistemlerde yapay zeka ajanlarının nasıl kullanıldığını inceleyin:
Bankacılık ve Finansal Hizmetler
Bu sektörde, doğruluk ve uyumluluğu sağlamak için birden fazla aktörün iş birliği yapmasını gerektiren karmaşık, riske duyarlı iş akışlarında orkestrasyon kullanılır.
- Mevzuat uyumluluğu: Koordineli bir temsilci sistemi, müşteri bilgilerini izleme listeleriyle karşılaştırarak, tutarsızlıkları işaretleyerek ve düzenleyici inceleme için her eylemin şeffaf bir denetim kaydını tutarak uyumluluğu sağlar.
- Kredi ve ipotek işlemleri: Düzenli bir iş akışı, bir grup temsilcinin tüm kredi onay sürecini yönetmesini sağlar; belgelerin toplanmasından ve doğrulanmasından, finansal modellerin uygulanmasına ve insan analist tarafından incelenmek üzere nihai yetkilendirmenin verilmesine kadar.
- Dolandırıcılık tespiti ve önlenmesi: Bu, bir ajanın işlemleri izlediği, bir diğerinin şüpheli faaliyetleri belirleyip işaretlediği ve üçüncüsünün hesabı dondurup insan güvenlik ekibi için bir olay raporu oluşturduğu klasik bir orkestrasyon örneğidir.
Yapay zeka ajanlarının ve ajan tabanlı LLM'lerin finans sektöründe nasıl kullanıldığına göz atın:
- Muhasebede Yapay Zeka Ajanları
- Benchmark 30 Finans Yüksek Lisans Programı
- Yapay Zeka Tabanlı Hisse Senedi Alım Satım
Enerji ve kamu hizmetleri
Ajan tabanlı orkestrasyon, uzmanlaşmış ajanların gerçek zamanlı olarak iletişim kurmasını ve hareket etmesini sağlayarak, elektrik şebekeleri ve iş gücü yönetimi gibi oldukça dağıtık ve karmaşık sistemlerin yönetimine olanak tanır.
- Şebeke yönetimi: Üretim istasyonları, dağıtım merkezleri, bireysel akıllı sayaçlar ve akıllı şebeke çözümleri için ayrı ayrı aracıları olan çoklu aracı sistem, enerji arz ve talebini dengelemek, dağıtımı optimize etmek ve kesintileri önlemek için birlikte çalışır.
- Sayaçtan tahsilata: Düzenli bir sayaçtan tahsilata süreci , otomatik sayaç okuma, fatura oluşturma ve ödeme tahsilatını gerçekleştiren temsilcileri koordine ederek tüm faturalama döngüsünü otomatikleştirebilir ve doğruluğu ve verimliliği artırabilir.
- İş gücü yönetimi: Bir orkestrasyon sistemi, saha teknisyenlerinin planlanmasını ve görevlendirilmesini optimize eder; bu sistemde, teknisyenlerin müsaitlik durumlarını takip etmek, konum ve beceriye göre görev atamak ve iş ilerlemesi hakkında gerçek zamanlı güncellemeler sağlamak için temsilciler koordinasyon sağlar.
Telekomünikasyon
Telekomünikasyon sektöründe orkestrasyon, büyük ölçekli, karmaşık ağların ve müşteriyle doğrudan etkileşimli işlemlerin yönetimi ve otomasyonu için kullanılır.
- Ağ işlemleri: Koordineli bir ajan sistemi, ağın farklı bölümlerini izleyerek arızaları otomatik olarak tespit eder, sorunu teşhis eder ve çözmek için bir dizi eylemi tetikler; böylece ağ güvenilirliği sağlanır ve kesinti süresi en aza indirilir.
- Müşteri entegrasyonu: Orkestrasyon, temsilcilerin SIM aktivasyonu, cihaz kurulumu ve hizmet etkinleştirme işlemlerini koordine etmesini sağlayarak süreci hızlandırır ve baştan sona sorunsuz bir müşteri deneyimi sunar.
- Faturalama ve gelir yönetimi: Düzenli bir iş akışı, her adımı uzmanlaşmış temsilcilerin yönetmesiyle karmaşık faturalama düzeltmelerini, ödemeleri ve iadeleri otomatikleştirerek doğruluğu ve müşteri memnuniyetini artırır.
Faydalar
Yöneticilerin %79'u yapay zekâ destekli sistemleri kullanmaya başladı. Ancak firmaların %19'u koordinasyon konusunda zorluk yaşıyor. 7 Ajan tabanlı orkestrasyon, farklı uygulamalar genelinde ajanların yönetilmesine yardımcı olur. İşte ajan tabanlı orkestrasyonun bazı faydaları:
- Operasyonel verimlilik : Rutin işlemleri kolaylaştırır, maliyetleri düşürür ve ölçeklenebilirliği artırır.
- Operasyonel çeviklik: Gerçek zamanlı verilere ve aksaklıklara dinamik olarak yanıt vermeyi sağlar.
- Sorunsuz iş birliği: Temsilciler, insanlar ve birden fazla sistem arasında iş birliğini sağlar.
- Rekabet avantajları: Yapay zeka sistemlerinin insan personelle birlikte çalışmasına olanak tanırken inovasyonu destekler.
- Müşteri memnuniyetinde artış: Üstün müşteri deneyimleri ve hizmet kalitesinde ölçülebilir iyileştirmeler sağlar.
Zorluklar
- Yönetişim : Çok sayıda aktörün çeşitli sistemlerle etkileşiminden kaynaklanan riskleri önlemek için sağlam bir veri yönetişimi gerektirir.
- Uyumluluk : Sistemler, özellikle finans ve sağlık sektörleri gibi yüksek düzeyde düzenlemeye tabi sektörlerde uyumluluğu sağlamalıdır.
- İnsan gözetimi : Etkin konuşlandırma, insan müdahalesi ve durumun tırmandırılması için net eşikler gerektirir.
- Mevcut iş akışları ve eski sistemlerle sorunsuz entegrasyon önemli bir engel olmaya devam ediyor. Bu eski sistemler, modern yapay zeka teknolojileriyle uyumlu olmayan, güncelliğini yitirmiş mimariler üzerine kurulmuş olabilir.
Kıyaslama metodolojisi
İş akışı mimarisi
Sıralı acente iş akışımız, seyahat taleplerini beş aşamadan geçirir:
- Ayrıştırıcı ajan: Doğal dil girdisinden ("25 Ekim 2025'te Berlin'den Roma'ya seyahat etmek istiyorum. 3 gün kalacağım") yapılandırılmış verileri çıkararak kalkış noktasını, varış noktasını, tarihleri ve süreyi belirler.
- Uçuş bulma ajanı : Çıkarılan IATA kodları ve kalkış tarihlerini kullanarak mevcut uçuşları almak için Amadeus API'sini çağırır.
- Hava durumu muhabiri: WeatherAPI'yi kullanarak konaklama süresi boyunca gidilecek yerin hava tahminlerini alır.
- Aktivite öneri ajanı: Aktiviteleri hava koşullarına göre eşleştirir (yağmur için müzeler, güneşli hava için açık hava turları).
- Seyahat planlama ajanı: Tüm önceki çıktıları kapsamlı, günlük bir seyahat programına dönüştürür.
Uçuşlar, hava tahminleri ve önerilen aktiviteler.
Kontrollü değişkenler
Adil bir karşılaştırma sağlamak için, tüm çerçevelerde aynı bileşenleri kullandık:
LLM yapılandırması:
- Model: Claude Haiku 4.5 (OpenRouter aracılığıyla)
- Sıcaklık: 0.1
- Herhangi bir aracıya maksimum token limiti uygulanmamıştır.
Araç fonksiyonları:
- Tüm framework'lerde get_flights() ve get_weather() fonksiyonlarının özdeş Python uygulamaları.
- Amadeus (uçuşlar) ve WeatherAPI (hava durumu) için harici API çağrıları.
Test Parametreleri
- Örneklem boyutu : Çerçeve başına 100 çalıştırma
- Yürütme modu : Sıralı ajan yürütme (paralel işlem yok)
- Metrik toplama: Tüm çalıştırmalardaki ortalama değerler
Ölçülen metrikler
- İşlem hattı gecikmesi: Girişten nihai plana kadar toplam uçtan uca yürütme süresi.
- Ajanlar arası geçişler : Ardışık ajan devir teslimleri arasındaki çerçeve yükü
- Ajan başına gecikme süresi: Beş ajanın her birinin bireysel yürütme süresi.
- Ajan-araç arasındaki süre farkı: Ajanın başlatılmasından ilk araç çağrısına kadar geçen süre.
- Token kullanımı: Oluşturulan çıktı token'ları.
Zamanlama uygulaması: Tüm zamanlama verileri, Python'ın `time.time()` fonksiyonu kullanılarak milisaniye hassasiyetinde kaydedildi. Her bir ajan için, yürütmeden önce başlangıç zamanı ve tamamlandıktan sonra bitiş zamanı kaydedildi ve gecikme süresi şu şekilde hesaplandı:
Fark. Araç yürütme için, API'yi çağırmadan hemen önce ve yanıtı aldıktan hemen sonraki zamanı ölçtük. Ajanlar arası geçişler, bir ajanın işlemi tamamladığı an ile diğer ajanın işlemi tamamladığı an arasındaki boşluğu yakaladı.
Çerçeve bir sonraki aracıyı başlattığında, bu saf çerçeve ek yükü, LLM ve araç yürütme süresini içermez.
Jeton sayımı: Doğruluk için çift kaynaklı bir yaklaşım kullandık:
- Çerçeveye entegre izleme özelliği (varsa):
- LangChain: Geri çağrılardan gelen cb.total_tokens
- LangGraph: Durum kontrol noktalarından token kullanımı
- AutoGen: agent.get_total_usage() from chat results
- TikTok tahmini (OpenRouter üzerinden Claude için yedek yöntem)
Claude, OpenRouter aracılığıyla tüm çerçevelerde token sayısını göstermediği için, uygulamalar arasında tutarlı bir yaklaşım olarak tiktoken'ı kullandık.
Gözlemlenebilirlik altyapısı: Tüm ölçümler gözlemlenebilirlik araçları aracılığıyla doğrulanmıştır:
- Laminar: Gerçek zamanlı izleme verisi toplama, gecikme ölçümleri ve belirteç takibi.
- AgentOps: Ajan yürütme takibi, performans izleme.
Bu platformlar, manuel ölçüm cihazlarımızın doğruluğunu teyit ederek ölçümlerin doğrulanmasını sağladı.
Farklı çerçevelerde doğruluk.
Sonuçlar 100 deneme üzerinden alınan ortalama değerler olarak toplanmıştır.
Ajanik orkestrasyon hakkında daha fazla bilgi
Agentic AI hakkında daha fazla bilgi edinmek için şu adresi ziyaret edin:
- Ajan Tabanlı Yapay Zeka Yığınının 7 Katmanı
- 4 Ajan Tabanlı Yapay Zeka Tasarım Modeli ve Gerçek Dünya Örnekleri .
Yorum yapan ilk kişi olun
E-posta adresiniz yayınlanmayacak. Tüm alanlar gereklidir.