Ekrem Sarı
Ekrem es investigador de IA y científico de datos en AIMultiple. Diseña y ejecuta benchmarks prácticos para sistemas de IA y LLM.
Experiencia profesional
En AIMultiple, Ekrem evalúa sistemas de IA de extremo a extremo y crea los flujos de trabajo de datos y los paneles que se usan para rastrear métricas de benchmark y de producto. Sus benchmarks cubren modelos de embedding y reranker, bases de datos vectoriales y de grafos, motores de inference, cuantización, concurrencia de GPU y escalado multi-GPU, precios y proveedores de GPU en la nube, text-to-SQL, y frameworks de RAG y RAG agéntico.
Antes de AIMultiple, trabajó como científico de datos en Yandex, donde consultó y analizó grandes datasets con SQL para evaluar la calidad de búsqueda y ranking según directrices detalladas.
Intereses de investigación
El trabajo de Ekrem se centra en medir cómo funcionan en la práctica los sistemas de LLM y de recuperación. Diseña el banco de pruebas, ejecuta las cargas de trabajo en hardware real y compara modelos, frameworks e infraestructura en precisión, rendimiento, latencia, costo y escalabilidad, en toda la pila, desde modelos de embedding y bases de datos vectoriales hasta motores de inference e infraestructura de GPU. Su tesis de maestría automatiza revisiones sistemáticas de literatura con un pipeline basado en RAG.
Educación
Ekrem tiene un MSc en Sistemas de Información Gerencial por la Universidad de Başkent, donde su tesis automatizó revisiones sistemáticas de literatura con un pipeline basado en RAG, y está cursando un segundo MSc en Ingeniería de Datos y del Conocimiento en la Universidad de Hacettepe.
Últimos artículos de Ekrem
Las mejores funciones serverless: Vercel vs Azure vs AWS
Las funciones serverless permiten a los desarrolladores ejecutar código sin tener que gestionar un servidor. Esto les permite centrarse en escribir y desplegar aplicaciones mientras el escalado de la infraestructura y el mantenimiento se gestionan automáticamente en segundo plano. En esta comparativa, evaluamos a 7 proveedores de servicios en la nube populares siguiendo nuestra metodología…
LLM Motores de Inferencia: vLLM vs LMDeploy vs SGLang
Evaluamos comparativamente 3 motores de inferencia de LLM líderes en hardware NVIDIA H100: vLLM, LMDeploy y SGLang. Cada motor procesó cargas de trabajo idénticas: 1.000 prompts de ShareGPT usando Llama 3.1 8B-Instruct para aislar el verdadero impacto en el rendimiento de sus decisiones arquitectónicas y estrategias de optimización. Medimos el rendimiento por lotes sin conexión…
Los 10 mejores Modelos de Embedding Multilingüe para RAG
Evaluamos 10 modelos de embedding multilingüe en ~606k reseñas de Amazon en 6 idiomas (Alemán, Inglés, Español, Francés, Japonés, Chino). Generamos 1.800 consultas (300 por idioma), cada una haciendo referencia a detalles concretos de su reseña fuente. Los modelos entrenados para búsqueda (separación consulta vs documento) superan a modelos más grandes entrenados para similitud de…
Múltiple GPU Benchmark: B200 vs H200 vs H100 vs MI300X
Durante más de dos décadas, optimizar el rendimiento de cálculo ha sido una piedra angular de mi trabajo. Realizamos pruebas de rendimiento de las B200, H200, H100 de NVIDIA y la MI300X de AMD para evaluar su escalabilidad en la inferencia de Modelos de Lenguaje Grande (LLM). Utilizando el framework vLLM con el modelo meta-llama/Llama-3.1-8B-Instruct,…
LLM Cuantización: BF16 vs FP8 vs INT4
Hemos realizado un benchmark de Qwen3-32B en 4 niveles de precisión (BF16, FP8, GPTQ-Int8, GPTQ-Int4) en una sola NVIDIA H100 80GB GPU. Cada configuración fue evaluada en 2 benchmarks (~12.2K preguntas) que cubren conocimiento y generación de código, además de 2.000+ ejecuciones de inferencia para medir el rendimiento. Int4 es 2.7x más rápido que BF16…
Boletín informativo de AIMultiple
Reciba un correo electrónico gratuito a la semana con las últimas noticias tecnológicas B2B y análisis de expertos para impulsar su empresa.