Ekrem Sarı
Ekrem, AIMultiple'da Yapay Zeka Araştırmacısı ve Veri Bilimcidir. Yapay zeka ve LLM sistemleri için uygulamalı benchmark'lar tasarlar ve yürütür.
Profesyonel Deneyim
AIMultiple'da Ekrem, uçtan uca yapay zeka sistemlerini benchmark eder ve benchmark ve ürün metriklerini izlemek için kullanılan veri iş akışlarını ve panoları geliştirir. Onun benchmark'ları embedding ve reranker model'lerini, vektör ve grafik veritabanlarını, inference motorlarını, kuantizasyonu, GPU eşzamanlılığını ve çoklu-GPU ölçeklemesini, bulut GPU fiyatlandırmasını ve sağlayıcılarını, metinden-SQL'e dönüşümü ve RAG ile ajan bazlı RAG framework'lerini kapsar.
AIMultiple'dan önce Yandex'te Veri Bilimci olarak çalıştı; burada büyük dataset'leri SQL ile sorgulayıp analiz ederek arama ve sıralama kalitesini ayrıntılı yönergelere göre değerlendirdi.
Araştırma İlgi Alanı
Ekrem'in çalışmaları, LLM ve erişim sistemlerinin pratikte nasıl performans gösterdiğini ölçmeye odaklanır. Test düzeneğini tasarlar, iş yüklerini gerçek donanımda çalıştırır; embedding model'lerinden vektör veritabanlarına ve inference motorlarından GPU altyapısına kadar tüm yığında model'leri, framework'leri ve altyapıyı doğruluk, verim, gecikme, maliyet ve ölçeklenebilirlik açısından karşılaştırır. Yüksek lisans tezi, sistematik literatür taramalarını RAG tabanlı bir pipeline ile otomatikleştirir.
Eğitim
Ekrem, Başkent Üniversitesi'nden Yönetim Bilişim Sistemleri alanında yüksek lisans derecesine sahiptir; tezinde sistematik literatür taramalarını RAG tabanlı bir pipeline ile otomatikleştirmiştir ve Hacettepe Üniversitesi'nde Veri ve Bilgi Mühendisliği alanında ikinci yüksek lisansına devam etmektedir.
Ekrem Tarafından Son Makaleler
En İyi Sunucusuz Fonksiyonlar: Vercel vs Azure vs AWS
Sunucusuz fonksiyonlar, geliştiricilerin bir sunucu yönetmek zorunda kalmadan kod çalıştırmasını sağlar. Bu, altyapı ölçeklendirme ve bakım arka planda otomatik olarak yapılırken uygulama yazma ve dağıtmaya odaklanmalarına olanak tanır. Bu kıyaslamada, sunucusuz fonksiyon performanslarını test etmek için metodolojimizi takip ederek 7 popüler bulut hizmeti sağlayıcısını değerlendirdik. En hızlı ve en yavaş yanıt sürelerini, 1000 istek için…
LLM Çıkarım Motorları: vLLM vs LMDeploy vs SGLang
NVIDIA H100 üzerinde 3 lider LLM çıkarım motorunu kıyasladık: vLLM, LMDeploy ve SGLang. Her motor, mimari tercihlerinin ve optimizasyon stratejilerinin gerçek performans etkisini yalıtmak için aynı iş yüklerini işledi: Llama 3.1 8B-Instruct kullanarak 1.000 ShareGPT prompt'u. İstatistiksel kararlılığı sağlamak için 10.000 toplam çıkarım işlemi (1.000 prompt × motor başına 10 çalıştırma) boyunca çevrimdışı toplu iş…
En İyi 10 Çok Dilli Embedding Model'leri RAG için
10 çok dilli embedding model'ini ~606k Amazon yorumu üzerinde 6 dilde (Almanca, İngilizce, İspanyolca, Fransızca, Japonca, Çince) kıyasladık. 1.800 sorgu oluşturduk (dil başına 300), her biri kaynak incelemesinden somut ayrıntılara değinir. Arama için eğitilmiş modeller (sorgu vs belge ayrımı), genel metin benzerliği için eğitilmiş daha büyük modellerden daha iyi performans gösterir: e5_base (110M parametre), 5x…
Çoklu-GPU Benchmark: B200 vs H200 vs H100 vs MI300X
Yirmi yılı aşkın süredir, hesaplama performansını optimize etmek çalışmalarımın temel taşı olmuştur. Büyük Dil Modeli (LLM) çıkarımı için ne kadar iyi ölçeklendiklerini değerlendirmek amacıyla NVIDIA'nın B200, H200, H100 ve AMD'nin MI300X'ini test ettik. meta-llama/Llama-3.1-8B-Instruct modeli ile vLLM framework'ünü kullanarak 1, 2, 4 ve 8 GPU üzerinde testler gerçekleştirdik. Her bir GPU mimarisinin paralelleştirilmiş, hesaplama yoğun…
LLM Kuantizasyonu: BF16 vs FP8 vs INT4
Qwen3-32B'yi tek bir NVIDIA H100 80GB GPU üzerinde 4 hassasiyet seviyesinde (BF16, FP8, GPTQ-Int8, GPTQ-Int4) benchmark'ladık. Her yapılandırma, bilgi ve kod üretimi kapsayan 2 benchmark'ta (~12.2K soru) ve verimliliği ölçmek için 2.000'den fazla inference çalıştırmasında değerlendirildi. Int4, MMLU-Pro'da 2 puandan daha az kayıp yaşarken BF16'dan 2.7 kat daha hızlıdır, ancak kod üretimi (HumanEval) 8 puan…
AIMultiple Bülteni
Haftada 1 ücretsiz e-posta ile en son B2B teknoloji haberleri ve uzman içgörüler ile işletmenizi hızlandırın.