Ekrem Sarı
Ekrem ist KI-Forscher und Datenwissenschaftler bei AIMultiple. Er entwirft und führt praxisnahe Benchmarks für KI- und LLM-Systeme durch.
Berufserfahrung
Bei AIMultiple führt Ekrem Benchmarks für End-to-End-KI-Systeme durch und erstellt die Daten-Workflows und Dashboards, die zur Verfolgung von Benchmark- und Produktmetriken verwendet werden. Seine Benchmarks decken Embedding- und Reranker-Models, Vektor- und Graphdatenbanken, Inference-Engines, Quantisierung, GPU-Parallelität und Multi-GPU-Skalierung, Cloud-GPU-Preise und -Anbieter, Text-zu-SQL sowie RAG- und agentische RAG-Frameworks ab.
Vor AIMultiple arbeitete er als Datenwissenschaftler bei Yandex, wo er große Datensätze mit SQL abfragte und analysierte, um die Such- und Rankingqualität anhand detaillierter Richtlinien zu bewerten.
Forschungsinteresse
Ekrems Arbeit konzentriert sich darauf zu messen, wie LLM- und Retrieval-Systeme in der Praxis funktionieren. Er entwirft das Test-Harness, führt die Workloads auf echter Hardware aus und vergleicht Models, Frameworks und Infrastruktur hinsichtlich Genauigkeit, Durchsatz, Latenz, Kosten und Skalierbarkeit – über den gesamten Stack von Embedding-Models und Vektordatenbanken bis hin zu Inference-Engines und GPU-Infrastruktur. Seine MSc-Arbeit automatisiert systematische Literaturrecherchen mit einer auf RAG basierenden Pipeline.
Ausbildung
Ekrem hat einen MSc in Management-Informationssystemen von der Başkent University, wo seine Abschlussarbeit systematische Literaturrecherchen mit einer auf RAG basierenden Pipeline automatisierte, und strebt einen zweiten MSc in Daten- und Wissensengineering an der Hacettepe University an.
Neueste Artikel von Ekrem
LLM VRAM-Rechner für Self-Hosting
Self-Hosting eines LLMs bedeutet, Inferenz auf Hardware auszuführen, die der Betreiber kontrolliert, statt über eine API eines Drittanbieters, was Kosten, Datenkontrolle und Datenschutzprofil verändert. Ob ein Modell überhaupt läuft, hängt vom Speicher ab. Der Rechner schätzt den VRAM oder Unified Memory, den ein Modell lokal benötigt, basierend auf dem Modell, seiner Präzision, der Kontextlänge und…
Multi-GPU-Benchmark: B200 vs. H200 vs. H100 vs. MI300X
Seit über zwei Jahrzehnten ist die Optimierung der Rechenleistung ein Eckpfeiler meiner Arbeit. Wir haben die B200, H200, H100 von NVIDIA und die MI300X von AMD einem Benchmark unterzogen, um zu bewerten, wie gut sie für die Large Language Model (LLM)-Inferenz skalieren. Mit dem vLLM-Framework und dem Modell meta-llama/Llama-3.1-8B-Instruct führten wir Tests auf 1, 2,…
GPU Parallelitäts-Benchmark: H100 vs H200 vs B200 vs MI300X
Ich habe die letzten 20 Jahre auf die Optimierung der Rechenleistung auf Systemebene konzentriert. Wir haben die neuesten NVIDIA-GPUs getestet, einschließlich der NVIDIA’s H100, H200 und B200 sowie der AMD’s MI300X, um die Parallelitätsskalierung zu analysieren. Unter Verwendung des vLLM-Framework mit dem gpt-oss-20b model haben wir getestet, wie diese GPUs gleichzeitige Anfragen von 1 bis…
DGX Spark Alternativen: RTX, Ryzen KI Halo und Mac Studio
Wir vergleichen veröffentlichte Inference-Benchmarks für DGX Spark, RTX und Ryzen KI Halo, einschließlich Prompt-Verarbeitung, Token-Generierung und längeren Kontexten. Zu den Alternativen gehören Framework Desktop, Mac Studio und GB10-Systeme anderer Hersteller. Die Decode-Geschwindigkeit misst die pro Sekunde generierten Output-Tokens. Höhere Werte bedeuten eine schnellere Antwortgenerierung. Alle sechs Ergebnisse verwenden GPT-OSS 20B MXFP4 in Ollama bei Batchgröße…
Vergleich relationaler Foundation-Modelle
Wir haben SAP-RPT-1-OSS mit Gradient Boosting (LightGBM, CatBoost) auf 17 tabellarischen Datensätzen verglichen, die das semantisch-numerische Spektrum abdecken: kleine/hochgradig semantische Tabellen, gemischte Geschäftsdatensätze sowie große, wenig semantische numerische Datensätze. Unser Ziel ist es zu messen, wo die durch Vortraining erworbenen semantischen Priors eines relationalen LLM Vorteile gegenüber traditionellen Baummodellen bieten können und wo sie bei…
Disaster-Recovery-Benchmark: Acronis vs Comet vs MSP360
Wir haben Acronis Cyber Protect Cloud, Comet Backup und MSP360 Managed Backup im Bereich Disaster Recovery getestet. Jeder Anbieter erstellte ein Image eines laufenden Windows Server 2022 und eines laufenden Ubuntu-24.04-Servers mit derselben deterministischen Workload – einem Webservice, einer Datenbank mit 10.000 Zeilen und 50 Dateien – und stellte anschließend die gesamte Maschine auf einem…
Vektordatenbank-Benchmark: 7 Open-Source-Engines für RAG
Wir haben sieben Open-Source-, selbst gehostete Vektordatenbanken als Retrieval-Schicht einer RAG-Pipeline einem Benchmark unterzogen, wobei jede einzeln auf identischen bge-m3-Embeddings und echten medizinischen und technischen Anfragen lief, sodass der Datenbankindex die einzige Variable war. Die Arbeitslast umfasste MedRAG-50k, TechQA-28k und einen Korpus mit 2.25M Vektoren über acht Dimensionen hinweg, von Genauigkeit und Retrieval-Qualität über Geschwindigkeit,…
Cloud-GPU-Preise, Leistung & Anbietervergleich
Cloud-GPU-Listenpreise für dasselbe Model können sich von Anbieter zu Anbieter um ein Vielfaches unterscheiden. Wir haben den niedrigsten Preis, den Anbieter, die Marktspanne und den Median für 40+ GPU-Konfigurationen über alle drei Preisstufen hinweg zusammengestellt, plus einen Durchsatz-pro-Dollar-Benchmark bei 10 Models. Hier sehen Sie die kosteneffizienteste GPU für Ihre Workload über 13 Hyperscaler- und Neocloud-Anbieter…
RAG-Frameworks: LangChain vs. LangGraph vs. LlamaIndex
Wir haben 5 RAG-Frameworks gebenchmarkt: LangChain, LangGraph, LlamaIndex, Haystack und DSPy, indem wir denselben agentischen RAG-Workflow mit standardisierten Komponenten erstellt haben: identische Modelle (GPT-4.1-mini), Embeddings (BGE-small), Retriever (Qdrant) und Tools (Tavily-Websuche). Dadurch werden der tatsächliche Overhead und die Token-Effizienz jedes Frameworks isoliert. Der Benchmark bestand aus 100 Anfragen, wobei jedes Framework den gesamten Satz 100…
Beste RAG Tools, Frameworks und Bibliotheken
RAG verbessert LLM-Antworten, indem es sie auf externe Daten stützt, statt nur auf das, was das Modell im Training auswendig gelernt hat. Wir haben die Komponenten, aus denen ein RAG-System besteht, einem Benchmark unterzogen und die Ergebnisse an einem Ort zusammengeführt, mit einem praktischen Leitfaden zur Auswahl jedes Teils des Stacks. Siehe unsere Benchmark-Ergebnisse für…
AIMultiple Newsletter
1 kostenlose E-Mail pro Woche mit den neuesten B2B-Technachrichten und Experten Einblicken.