Ekrem Sarı
Ekrem, AIMultiple'da Yapay Zeka Araştırmacısı ve Veri Bilimcidir. Yapay zeka ve LLM sistemleri için uygulamalı benchmark'lar tasarlar ve yürütür.
Profesyonel Deneyim
AIMultiple'da Ekrem, uçtan uca yapay zeka sistemlerini benchmark eder ve benchmark ve ürün metriklerini izlemek için kullanılan veri iş akışlarını ve panoları geliştirir. Onun benchmark'ları embedding ve reranker model'lerini, vektör ve grafik veritabanlarını, inference motorlarını, kuantizasyonu, GPU eşzamanlılığını ve çoklu-GPU ölçeklemesini, bulut GPU fiyatlandırmasını ve sağlayıcılarını, metinden-SQL'e dönüşümü ve RAG ile ajan bazlı RAG framework'lerini kapsar.
AIMultiple'dan önce Yandex'te Veri Bilimci olarak çalıştı; burada büyük dataset'leri SQL ile sorgulayıp analiz ederek arama ve sıralama kalitesini ayrıntılı yönergelere göre değerlendirdi.
Araştırma İlgi Alanı
Ekrem'in çalışmaları, LLM ve erişim sistemlerinin pratikte nasıl performans gösterdiğini ölçmeye odaklanır. Test düzeneğini tasarlar, iş yüklerini gerçek donanımda çalıştırır; embedding model'lerinden vektör veritabanlarına ve inference motorlarından GPU altyapısına kadar tüm yığında model'leri, framework'leri ve altyapıyı doğruluk, verim, gecikme, maliyet ve ölçeklenebilirlik açısından karşılaştırır. Yüksek lisans tezi, sistematik literatür taramalarını RAG tabanlı bir pipeline ile otomatikleştirir.
Eğitim
Ekrem, Başkent Üniversitesi'nden Yönetim Bilişim Sistemleri alanında yüksek lisans derecesine sahiptir; tezinde sistematik literatür taramalarını RAG tabanlı bir pipeline ile otomatikleştirmiştir ve Hacettepe Üniversitesi'nde Veri ve Bilgi Mühendisliği alanında ikinci yüksek lisansına devam etmektedir.
Ekrem Tarafından Son Makaleler
LLM Kendi Kendine Barındırma için VRAM Hesaplayıcı
Bir LLM'yi kendi kendine barındırmak, çıkarımı operatörün kontrol ettiği donanımda, üçüncü taraf bir API aracılığıyla değil, çalıştırmak anlamına gelir; bu da maliyeti, veri kontrolünü ve gizlilik profilini değiştirir. Bir modelin hiç çalışıp çalışmayacağı belleğe bağlıdır. Hesaplayıcı, modele, hassasiyetine, bağlam uzunluğuna ve hedef donanıma bağlı olarak bir modelin yerel olarak çalıştırılması için gereken VRAM veya birleşik…
Çoklu-GPU Benchmark: B200 vs H200 vs H100 vs MI300X
Yirmi yılı aşkın süredir, hesaplama performansını optimize etmek işimin temel taşlarından biri olmuştur. NVIDIA'nın B200, H200, H100 ve AMD'nin MI300X GPU'larının Büyük Dil Modeli (LLM) inference için ne kadar iyi ölçeklendiğini değerlendirmek üzere benchmark yaptık. vLLM framework'ü ve meta-llama/Llama-3.1-8B-Instruct model'i ile 1, 2, 4 ve 8 GPU üzerinde testler yaptık. Her GPU mimarisinin paralelleştirilmiş, hesaplama…
GPU Eşzamanlılık Benchmark'ı: H100 vs H200 vs B200 vs MI300X
Son 20 yılı sistem düzeyinde hesaplama performansı optimizasyonuna odaklanarak geçirdim. En yeni NVIDIA GPU'larını; NVIDIA'nın H100, H200 ve B200'ü ve AMD'nin MI300X'i dahil olmak üzere eşzamanlılık ölçekleme analizi için benchmark'ledik. vLLM framework'ü ile gpt-oss-20b modelini kullanarak, bu GPU'ların 1'den 512'ye kadar eşzamanlı istekleri nasıl işlediğini test ettik. Sistem çıktı verimini, sorgu başına çıktı hızını ve…
DGX Spark alternatifleri: RTX, Ryzen AI Halo ve Mac Studio
Yayınlanmış DGX Spark, RTX ve Ryzen AI Halo inference benchmark'larını karşılaştırıyoruz; prompt işleme, token üretimi ve daha uzun bağlamları kapsıyoruz. Alternatifler arasında Framework Desktop, Mac Studio ve diğer üreticilerin GB10 sistemleri yer alıyor. Decode hızı, saniyede üretilen çıktı token'larını ölçer. Daha yüksek değerler daha hızlı yanıt üretimi anlamına gelir. Altı sonucun tümü, LMSYS'nin DGX Spark…
İlişkisel Temel Modelleri Karşılaştırın
SAP-RPT-1-OSS'yi gradyan artırma (LightGBM, CatBoost) ile 17 tablo dataset'inde kıyasladık; bunlar semantik-sayısal spektrumu, küçük/yüksek semantik tabloları, karma iş dataset'lerini ve büyük düşük semantik sayısal dataset'leri kapsıyor. Amacımız, ilişkisel bir LLM'nin önceden eğitilmiş semantik önceliklerinin geleneksel ağaç modellerine göre nerede avantaj sağlayabileceğini ve ölçek ya da düşük semantik yapı altında nerede zorluklarla karşılaştığını ölçmektir. Aşağıda, tüm…
Felaket Kurtarma Kıyaslaması: Acronis vs Comet vs MSP360
Acronis Cyber Protect Cloud, Comet Backup ve MSP360 Managed Backup'ı felaket kurtarma konusunda kıyasladık. Her satıcı, aynı deterministik iş yükünü, bir web hizmetini, 10.000 satırlık bir veritabanını ve 50 dosyayı taşıyan canlı bir Windows Server 2022 ve canlı bir Ubuntu 24.04 sunucusunu görüntüledi; ardından fidye yazılımı tarzı bir felaket verileri şifreledikten sonra tüm makineyi ayrı…
Vektör Veritabanı Kıyaslaması: RAG için 7 Açık Kaynak Motor
Yedi açık kaynak, kendi barındırılan vektör veritabanını bir RAG pipeline'ının getirme katmanı olarak kıyasladık; her biri aynı bge-m3 embedding'leri ve gerçek tıbbi ve teknik sorgular üzerinde birer kez çalıştırıldı, böylece veritabanı indeksi tek değişken oldu. İş yükü; doğruluk ve getirme kalitesinden hız, bellek, filtrelenmiş ve hibrit arama, derleme maliyeti ve canlı değişime kadar sekiz boyutta…
Bulut GPU Fiyatlandırması, Performans ve Sağlayıcı Karşılaştırması
Bulut GPU liste fiyatları aynı model için bir sağlayıcıdan diğerine birkaç kat farklılık gösterebilir. Üç fiyatlandırma kademesinin tamamında 40+ GPU yapılandırması için en düşük ücreti, sağlayıcıyı, piyasa aralığını ve medyanı; ayrıca 10 modelde dolar başına verim kıyaslamasını derledik. İş yükünüz için en uygun maliyetli GPU'yu 13 hiperskaler ve neocloud sağlayıcı arasında, dolar başına verim bazında…
RAG Framework'leri: LangChain vs LangGraph vs LlamaIndex
5 RAG framework'ünü, aynı ajanik RAG iş akışını standartlaştırılmış bileşenlerle oluşturarak kıyasladık: LangChain, LangGraph, LlamaIndex, Haystack ve DSPy; özdeş modeller (GPT-4.1-mini), embedding'ler (BGE-small), retriever (Qdrant) ve araçlar (Tavily web araması). Bu, her framework'ün gerçek ek yükünü ve token verimliliğini izole eder. Kıyaslama, istikrarlı ortalamalar sağlamak için her framework'ün tam seti 100 kez çalıştırdığı 100 sorgudan…
En İyi RAG Araçları, Framework'ler ve Kütüphaneler
RAG, LLM yanıtlarını yalnızca modelin eğitimde ezberledikleriyle değil, harici verilere dayandırarak iyileştirir. Bir RAG sisteminin bileşenlerini kıyasladık ve sonuçları tek yerde topladık; yığının her parçasını seçmeye yönelik pratik bir rehberle birlikte. Her RAG bileşeni için benchmark sonuçlarımıza, bir RAG yığını seçme rehberimize veya RAG temellerine bakın: ne olduğu, nasıl çalıştığı ve nereye oturduğu. Embedding modeli,…
AIMultiple Bülteni
Haftada 1 ücretsiz e-posta ile en son B2B teknoloji haberleri ve uzman içgörüler ile işletmenizi hızlandırın.