Agentic Mesh: Ölçeklenebilir Yapay Zeka İşbirliğinin Geleceği
Ajan mimarileri hakkında çok şey yazılmış olsa da, gerçek dünyada üretim kalitesinde uygulamalar hala sınırlıdır. Bu yazıda, yakın zamanda McKinsey tarafından tanıtılan bir kavram olan ajan tabanlı yapay zeka ağı ele alınmaktadır. 1
Üretim ortamlarında ortaya çıkan zorlukları inceleyeceğiz ve önerdiğimiz mimarinin yapay zeka yeteneklerinin kontrollü ölçeklendirilmesini nasıl sağladığını göstereceğiz.
Ajan tabanlı sistemlerdeki zorluklar
Ekipler yapay zeka ajanlarını test etme ve deneme aşamasından , ölçeklenebilir, gerçek dünya kullanım senaryolarını devreye alma aşamasına geçerken, çeşitli zorluklar ortaya çıkıyor:
- Entegrasyon açıkları : Deneme aşamasında ekipler, geliştirme sürecini hızlandıran önceden oluşturulmuş çözümler kullanırlar, ancak bu çözümler ölçeklendirme söz konusu olduğunda genellikle tutarlı bir yaklaşımdan yoksundur. Sonuç olarak, entegrasyon ve koordinasyon sorunları ortaya çıkar ve kapsama alanında boşluklara yol açar. Örneğin, yapay zeka destekli sohbet botlarını ölçeklendirmeye çalışırken, müşteri verileri ve etkileşimleri için farklı sistemlerin senkronize olamadığını gördük.
- Ajanların izolasyonu : Günümüzde çoğu ajan, yerel bilgilerle bağımsız olarak çalışmaktadır. Örneğin, API'ler aracılığıyla birbirine bağlı bir Planlayıcı, Veri Toplayıcı ve Yürütücü ajan, birleşik bir bağlamdan yoksun olabilir. Kuruluşlar çoklu ajan ekosistemlerine doğru ölçeklendikçe, paylaşılan bellek ve koordinasyon eksikliği önemli bir zorluk haline gelir.
- Operasyonel sınırlamalar : Yapay zeka ajan uygulamaları, öngörülemeyen çıktılara ve deterministik olmayan davranışlara yol açarak tutarsız yanıtlar üretebilir veya doğru çözümler sunamayabilir.
Ajan tabanlı ağ mimarisinin tanıtımı
Yapay zeka ağı, birden fazla ajanın dağıtılmış bir sistem ve araç ağı üzerinden bağımsız olarak akıl yürütebildiği, işbirliği yapabildiği ve hareket edebildiği bir "Ajanlar için İnternet" öngörüyor.
RAG işlem hatları veya mikroservis API'lerinin aksine, ajan davranışı için bir kayıt sistemi oluşturur: her araç çağrısı, hata ve sonuç olay ağı üzerinden dağıtılır ve koordinasyon katmanı tarafından korunur.
Zamanla, bu ortak tarih birikerek daha zengin bir bilgi tabanı oluşturur ve aktörlerin ortak bir bağlam etrafında birleşmelerini ve daha etkili bir şekilde işbirliği yapmalarını sağlar.
Ajan tabanlı ağ yapısı nasıl çalışır:
1. Birleştirilebilirlik:
Herhangi bir aracı, aleti veya modeli (örneğin, yeni bir LLM) diğer bileşenlerde değişiklik yapılmasına gerek kalmadan ağa bağlayabilirsiniz.
Bu modüler tasarım, kuruluşların mevcut iş akışlarını aksatmadan yetenekleri kademeli olarak eklemelerine veya değiştirmelerine olanak tanıyarak ölçeklenebilirliği destekler.
2. Paralel ajan akıl yürütmesi:
Bu ağ yapısı, akıl yürütmenin birden fazla ajan arasında dağıtılmasını sağlar. Bu, karmaşıklığı artırır ancak uzmanlaşmış ajanların tek bir LLM'ye güvenmek yerine daha büyük bir görevin parçalarını ele almasına olanak tanır.
Bu iş bölümü, iş yüklerinin paralel olarak çalışan ajanlar arasında dağıtılabilmesi sayesinde yapay zeka sistemlerinin ölçeklendirilmesini kolaylaştırır.
3. Katmanlı ayırma:
Bu ağ yapısı, temel işlevleri (eglogik, bellek, orkestrasyon ve arayüzler) ayrı katmanlara ayırır. Bu, bir ajanın akıl yürütmesinin veri depolamasından veya kullanıcı arayüzünden bağımsız olarak çalışabileceği anlamına gelir.
4. Tedarikçi tarafsızlığı:
Bu ağ, herhangi bir tek tedarikçiye veya platforma bağlı değildir. Bileşenler bağımsız olarak değiştirilebilir veya güncellenebilir; tescilli API'ler yerine Model Bağlam Protokolü (MCP) ve Agent2Agent (A2A) gibi açık standartlar tercih edilir.
Örneğin, Google'ın A2A'sı, çerçeveler arası iş birliği için ortak bir mesaj formatı ve keşif mekanizması tanımlarken, Anthropic'in MCP'si, aracıların veri alması için evrensel bir yol sağlar. USB'ye benzer şekilde, bu standartlar birlikte çalışabilirliği mümkün kılar, böylece ekipler ek entegrasyon çalışması yapmadan farklı sağlayıcılardan gelen araçları ve modelleri bir arada kullanabilirler.
5. Yönetilen özerklik:
Ağdaki ajanlar kendi başlarına hareket ederler, ancak güvenlik önlemleri, yerleşik politikalar ve diğer kısıtlamalar dahilinde hareket ederler. Başka bir deyişle, her özerk eylem önceden kurallarla yönetilir.
Operasyonel yetenekler: Ağ yapısı pratikte nasıl çalışır?
Bu yeteneklerin her biri tüm ağa yayılır (tek bir platforma bağlı değildir) ve genellikle bulut veya mikro hizmet ortamlarındaki hizmet kayıtları veya denetim günlükleri gibi kavramlarla paralellik gösterir.
Aşağıda, her bir özelliğin nasıl işlediğini ve pratikte nasıl çalıştığını özetliyoruz:
Ajan ve iş akışı keşfi :
Bu ağ, mevcut tüm ajanların ve iş akışlarının merkezi bir dizinini tutar. Bu, ekiplerin mevcut yetenekleri sıfırdan yeniden oluşturmak yerine kolayca bulmasını, yeniden kullanmasını ve entegre etmesini sağlar. Ajanlar ayrıca, yapabileceklerini açıklayan standartlaştırılmış "yetenek kartları" yayınlayabilir ve bu kartlar diğer ajanlar veya insan operatörler tarafından sorgulanabilir.
Ortak bir taksonomi ve meta veri standardı uygulayarak, kuruluşlar belirli hassas görevleri yalnızca sertifikalı yetkililerle sınırlandırmak gibi yönetişim politikalarını da uygulayabilirler.
Yapay zeka varlık kayıt defteri :
Varlık kayıt defteri, ajan davranışını şekillendiren tüm kritik yapay zeka varlıkları için bir depo sağlar. Bu, komut istemlerini, araç tanımlarını, model yapılandırmalarını, veri kümelerini ve politikaları içerir. Depodaki her şey sürüm kontrolüne tabidir, denetlenebilir ve yönetişime tabidir.
Temel varlıklar genellikle şunları içerir:
- İstemler ve talimatlar, jailbreak veya önyargıya karşı test edilmiştir.
- Aracı yapılandırmaları, hangi araçların, API'lerin ve modellerin kullanılmasına izin verildiğini belirtir.
- LLM ayarları, mevcut modelleri ve parametreleri tanımlar.
- Araç tanımları ve erişim kontrolleri entegre edilmiş MCP sunucuları .
- Öğrenme ve değerlendirme için güvenilir referanslar oluşturan altın standartta girdi/çıktı örnekleri .
Geri bildirim yönetimi :
Geri bildirim döngüleri ağa entegre edilmiştir, böylece her iş akışı yürütmesi bir öğrenme kaynağı haline gelir. Gecikme, doğruluk, hata oranları veya hatta insan değerlendirmeleri gibi ölçümler toplanır ve sisteme geri beslenir.
Uyumluluk ve risk yönetimi :
Her ajan tabanlı iş akışı, tanımlanmış kurallar ve kısıtlamalar dahilinde çalışmalıdır. Bunu sağlamak için uyumluluk ve risk yönetimi araçları doğrudan ağa entegre edilmiştir.
Örneğin,
- Uyumluluk görevlileri, sonuçlar kesinleşmeden önce eylemleri kurumsal veya düzenleyici standartlara göre denetleyebilirler.
- Politikalar, hassas görevlerin gizlilik veya güvenlik yetkililerinden onay içermesini gerektirebilirken, denetim kayıtları daha sonra incelenmek üzere her eylemi kaydeder.
Değerlendirme sistemleri :
Değerlendirme işlem hatları, ajan tabanlı iş akışları için entegrasyon testleri gibi işlev görür. Temel LLM'ler değişse veya dış koşullar değişse bile iş akışlarının sağlam kalmasını sağlamayı amaçlar.
Dağıtım veya model güncellemesi gerçekleştiğinde, doğruluğu teyit etmek için yapılandırılmış test paketleri çalıştırırlar.
Bunlar genellikle şunları içerir:
- Aşamalı testler (örneğin, doğru API/araç çağrıldı mı?).
- İş akışı düzeyindeki testler (örneğin, genel süreç beklenen sonucu üretti mi?).
- Çekişmeli testler (örneğin, hızlı enjeksiyon, kötüye kullanım, hizmet reddi).
Gözlemlenebilirlik :
Ajan tabanlı bir ağda, gözlemlenebilirlik, her ajan etkileşiminin ve iş akışının izlenebilmesini, kaydedilebilmesini ve analiz edilebilmesini sağlar. Bu özellik, ajanların nasıl iş birliği yaptığına, hangi araçların çağrıldığına ve hangi kaynakların tüketildiğine dair uçtan uca görünürlük sağlar.
Ölçüm verilerini ve olay kayıtlarını merkezileştirerek, kuruluşlar anormallikleri tespit edebilir, maliyetleri kontrol edebilir ve çıktıların yönetim politikaları dahilinde kaldığını doğrulayabilir.
Ajanlar için OpenTelemetry gibi yeni ortaya çıkan standartlar, gözlemlenebilirliğin farklı çalışma ortamlarında birlikte çalışabilirliğini sağlamaya yardımcı oluyor.
Kimlik doğrulama ve yetkilendirme :
Ajan tabanlı bir ağda, her ajan-ajan veya ajan-hizmet çağrısının kimlik doğrulaması ve yetkilendirilmesi gerekir. Bunu geçici güvenlik rozetleri vermek gibi düşünün: ajanlar yalnızca ihtiyaç duydukları izinleri alırlar ve bu izinler hızla sona erer.
OAuth 2.0, JWT'ler ve en az ayrıcalıklı erişim gibi standartların kullanılması, etkileşimleri güvenli tutar ve bir bileşenin güvenliğinin ihlal edilmesi durumunda oluşacak etkiyi sınırlar.
Bu neden önemli?
Bir araya getirildiğinde, bu yetenekler gevşek bağlantılı ajanları tutarlı, iyi yönetilen bir ağa dönüştürür. İş akışları denetlenebilir, denetlenebilir ve uyarlanabilir hale gelirken, gerektiğinde yeni ajanları, araçları veya modelleri entegre etme esnekliğini de korur.
Örneğin, Atlassian tarafından geliştirilen bir aracı, paylaşılan protokoller aracılığıyla kimlik ve veri akışlarının yönetilmesiyle, ağ üzerinden uzman bir Salesforce aracısını sorunsuz bir şekilde keşfedebilir ve çağırabilir.
Bu, ajan tabanlı ağları geleneksel iş akışı yönetim sistemlerinden ayıran şeydir. Geleneksel düzenleyiciler API'leri ve görevleri birbirine bağlayabilir, ancak genellikle ağın sağladığı yerleşik yönetim, sürekli geri bildirim ve uyumluluk mekanizmalarından yoksundurlar.
Ajan tabanlı ağın kullanım örnekleri
Ajan tabanlı ağ kavramları giderek daha fazla ilgi görüyor, ancak gerçek dünyada, üretim kalitesinde uygulamalar hala sınırlı . Mevcut örneklerin çoğu erken aşama dağıtımlar veya kavram kanıtlarıdır. Bununla birlikte, birkaç satıcı pratik kullanım örneklerini sergilemeye başlıyor:
Kubernetes ve giriş kontrolü
Statik giriş denetleyicilerine tamamen güvenmek yerine, ajan tabanlı bir ağ sisteminde, yapay zeka ajanları, API'ler ve olay akışları genelinde trafiği yönetmeyi, güvenliği sağlamayı ve iş yüklerini optimize etmeyi mümkün kılarak Kubernetes yerel ortamlarını genişletebilir.
Uygulama alanları:
- Giriş kontrolü : Ajanlar, API'leri yetkisiz erişimden korumak için kimlik doğrulama, TLS sonlandırma ve politika kurallarını uygular.
- Küme tabanlı orkestrasyon : Aracılar, kaynak kullanılabilirliğine bağlı olarak iş yüklerini artırır veya azaltır ve yönlendirme stratejilerini ayarlar.
Gerçek hayattan bir örnek:
Arka uç sistemlerinin optimizasyonu
Ajan tabanlı bir ağ, ajanların trafiği yönetmesine, politikaları uygulamasına ve iş yüklerini gerçek zamanlı olarak dengelemesine olanak tanıyarak arka uç sistemlerinin optimize edilmesine yardımcı olabilir.
Uygulama alanları:
- Trafik yönetimi : Aşırı yüklenmeyi önlemek için ayrıntılı hız sınırlamaları, kotalar ve ani yük artış kontrolleri uygulayın.
- Yük dengeleme : Gelen API çağrılarını ve olay akışı trafiğini sunucular arasında dağıtarak hizmetlerin hızlı yanıt vermesini sağlar.
- Darboğaz önleme : Tutarlı performans sağlamak için aşırı API veya veri akışı isteklerini tespit edin ve kısıtlayın.
- Dayanıklılık ve çalışma süresi optimizasyonu : Başarısız API/olay isteklerini yeniden yönlendirerek hata toleransını iyileştirin.
Gerçek hayattan bir örnek:
Demiryolu şirketi Eurostar, arka uç sistemlerini optimize etmek için ajan tabanlı bir ağ yapısı kullanıyor. Daha güvenli trafik kontrolü ve yük dağıtımı için istemcilerin API'lere erişimini ayrıntılı bir şekilde yönetiyorlar. 5
Merkezi API yönetimi
Ajan tabanlı bir ağ, kuruluşların API'leri, olay akışlarını ve yapay zeka ajanlarını tek bir birleşik platformda merkezileştirmesine yardımcı olur.
Uygulama alanları:
- Çoklu ağ geçidi desteği : AWS, Azure ve Apigee gibi çeşitli platformlardan API'leri entegre edin.
- Kurumsal düzeyde kimlik doğrulama : API'ler ve aracılarla kimlerin etkileşim kurabileceğini yönetmek için uygun erişim kontrolünü sağlayın.
Gerçek hayattan bir örnek :
Üretim şirketi SKF, API'lerini merkezileştirmek ve yönetmek için ajan tabanlı bir ağ platformu kullanıyor. 6
Gerçek zamanlı veri ve olay akışlarını yönetmek ve sunmak
Ajan tabanlı bir ağ, kuruluşların gerçek zamanlı verilere ve olay akışlarına erişimi yönetmesine ve güvenliğini sağlamasına yardımcı olarak sorunsuz entegrasyon ve kontrol sağlar. Bunu, API'ler ve olay aracıları gibi farklı sistemlerin verimli bir şekilde iletişim kurabileceği ve veri paylaşabileceği merkezi bir merkez olarak düşünün.
Uygulama alanları:
- Merkezi güvenlik : Tüm verilerin ve API'lerin güvenli olduğundan ve kuruluş standartlarına uygun olduğundan emin olun.
- Protokol arabuluculuğu : Farklı veri akışı türlerini (örneğin, Kafka, MQTT) REST veya WebSocket gibi yaygın, kullanımı kolay formatlara dönüştürme.
- API ve olay keşfi : Geliştiricilerin veri ve API'leri bulup kullanmaları için tek bir portal sağlayın.
- Birleşik yönetim : REST ve WebSocket dahil olmak üzere tüm API ve veri akışı türlerini tek bir yerden yönetin.
Ajan tabanlı ağ teknolojisinin geleceği: Sadece bir moda akımı mı?
Otonom yapay zeka ajanlarının yapılandırılmış bir ekosistem içinde iş birliği yapmaları için dönüştürücü bir yol sunan ajan tabanlı ağ yapısı , hizmet ağları ve entegrasyon ağları gibi altyapı çözümlerinin hakim olduğu bir başka teknik çerçeve haline gelme riski de taşıyor .
- Benzer bir durum veri ağı konseptinde de ortaya çıktı. Zhamak Dehghani bu fikri ortaya attığında, veri yönetiminde sahiplik, yönetişim ve veriyi bir ürün olarak ele almaya odaklanarak devrim yarattı. Ancak satıcılar mevcut çözümleri hızla Veri Ağı olarak yeniden markaladılar. 7
- Aynı eğilim artık ajan tabanlı ağlarda da görülüyor. Konuşmalar güvenli iletişim/orkestrasyon gibi teknik yönlere odaklanırken, bunlar esasen altyapı bileşenleridir.
Bunu sadece yapay zekâ destekli bir başka Hizmet Ağı 2.0 veya Veri Kumaşı 2.0'a indirgemekten kaçınmak için, gerçek fırsat sadece altyapıya değil, değer yaratmaya odaklanmakta yatmaktadır.
İş alanlarının, yalnızca ara yazılım tedarikçilerine güvenmek yerine, kendi aracıları için sorumluluk almalarını sağlamak çok önemlidir. Kuruluşlar alan sahipliği, yönetim ve birleşik yönetişimi benimserse, aracı ağı dönüşüm için güçlü bir araç haline gelebilir.
Referans Linkleri
Yorum yapan ilk kişi olun
E-posta adresiniz yayınlanmayacak. Tüm alanlar gereklidir.