Comparativa de los 9 principales proveedores de IA
El ecosistema de infraestructura de IA está creciendo rápidamente y los proveedores ofrecen diversos enfoques para crear, alojar y acelerar models. Si bien todos buscan impulsar aplicaciones de IA, cada uno se centra en una capa diferente de la pila.
Hicimos un benchmark de los proveedores más utilizados en OpenRouter: Cerebras, DeepInfra, Fireworks AI, Groq, Nebius y SambaNova, usando el model GPT-OSS-120B. Evaluamos a cada proveedor con el mismo dataset de 108 preguntas, que comprende 35 preguntas de conocimiento del mundo real y 73 problemas de razonamiento matemático.
Benchmark de precisión de proveedores de IA
Enviamos 108 preguntas (35 preguntas de conocimiento basadas en artículos + 73 problemas matemáticos) a cada proveedor cada 5 minutos durante todo el día y calculamos los promedios diarios de precisión. Junto con estas preguntas, enviamos cada vez una pregunta de referencia específica para medir las métricas de latencia FTL y E2E.
Probamos GPT-OSS-120B en una instancia RunPod H200 GPU y logró una precisión del 98 % en el dataset que usamos en nuestro benchmark. Lea nuestra metodología de benchmark.
Benchmark de latencia de proveedores de IA
En los días en que la latencia aumentó para Fireworks, hubo un tiempo de inactividad de 1 minuto, pero durante el día respondió la mayoría de las preguntas en aproximadamente 10 minutos cada una por razones desconocidas.
Comparación de latencia y coste
Identificamos los models más utilizados que también son los que más se ofrecen entre los proveedores de IA y, después, recopilamos los precios combinados de los proveedores por 1M tokens de entrada/salida y sus métricas de latencia del primer token.
Proveedores de IA: comparación detallada
Integración de pipeline de datos y ML
CoreWeave Forge
CoreWeave Forge, anteriormente Weights & Biases (W&B), combina el seguimiento de experimentos, la evaluación de models y la observabilidad de aplicaciones con infraestructura gestionada de entrenamiento e inference. W&B comenzó como un sistema de registro para flujos de trabajo de ML. CoreWeave adquirió W&B y trasladó sus productos a Forge, la plataforma de desarrollo de IA de CoreWeave.
Capacidades
- Realiza un seguimiento de experimentos, hiperparámetros, métricas, datasets y artefactos para favorecer la reproducibilidad y la comparación entre models y la infraestructura.
- Ofrece un registro de models, CoreWeave Registry, con control de versiones, promoción, reversión y linaje que vincula los models con los datos y las ejecuciones de entrenamiento.
- Ofrece entrenamiento y fine-tuning gestionados, incluida la computación serverless con GPU para cargas de trabajo de aprendizaje por refuerzo y de IA generativa.
- Admite inference alojada a través de CoreWeave Serverless Inference (models abiertos, facturados por token) y Dedicated Inference (pesos de model personalizados en las GPU que elija el cliente).
- Permite la observabilidad a nivel de solicitud para aplicaciones LLM a través de Weave, capturando prompts, respuestas, latencia y puntuaciones de evaluación.
- Admite evaluación y benchmarking automatizados y con intervención humana en models, prompts y proveedores.
- Se integra con proveedores de IA de terceros, GPU autogestionadas y API externas, además de con su propia infraestructura.
Limitaciones
Forge cubre la inference serverless y dedicada, además del fine-tuning serverless y el aprendizaje por refuerzo. El entrenamiento de models a gran escala o personalizado necesita otra infraestructura, como CoreWeave Cloud Platform, un producto independiente de CoreWeave.
Caso de uso: Ideal para equipos de IA que requieren visibilidad de extremo a extremo en la experimentación, el entrenamiento, la evaluación y el despliegue, sobre todo al comparar varios models o proveedores y mantener una observabilidad de nivel de producción sin una dependencia total de un proveedor.
Databricks
Databricks ofrece una plataforma unificada que combina análisis de datos, machine learning y gestión de models.
Capacidades
- Basado en la infraestructura de Spark, lo que permite la integración de extremo a extremo de la preparación de datos, el entrenamiento de models y la inference.
- Utiliza MLflow para el seguimiento de models, incluidos parámetros, métricas e historial de experimentos.
- Unity Catalog garantiza el linaje de datos y la gobernanza para prácticas de IA responsable.
- Destaca en el procesamiento por lotes y la comparación de models.
Limitaciones
- No está optimizado para la inference en tiempo real. La supervisión y las métricas están diseñadas para trabajos por lotes, no para la latencia por solicitud.
- Más adecuado para gestionar procesos complejos en datos y models que para cargas de trabajo de IA críticas en latencia.
Caso de uso: Eficaz para empresas que necesitan integrar la IA en pipelines de ciencia de datos, en particular para el modelado predictivo y aplicaciones empresariales donde se requieren gobernanza y trazabilidad.
Plataformas de alojamiento de models
Baseten
Baseten se posiciona como una plataforma de alojamiento de models para implementar y ejecutar models de IA, centrándose en la fiabilidad en producción y en la observabilidad detallada.
Capacidades
- Desglosa la duración de la llamada a la API en carga de model, inference y serialización de la respuesta, lo que permite a los desarrolladores identificar las fuentes de latencia.
- Los arranques en frío se supervisan a nivel de réplica para medir el impacto en el rendimiento.
- Los usuarios configuran parámetros de autoescalado, como el número de réplicas y los umbrales de concurrencia. Esto aporta flexibilidad, pero introduce el riesgo de una configuración incorrecta, lo que puede generar costes desperdiciados o una mayor latencia.
- Este sistema ofrece un seguimiento de costes por solicitud vinculado al tipo y uso de GPU, lo que permite comparar rendimiento y costes al cambiar entre hardware como A100 y H100 GPUs.
- La transmisión de registros en tiempo real está disponible, aunque el filtrado y la búsqueda son limitados.
Limitaciones
- La supervisión es detallada a nivel de solicitud, pero la búsqueda y el filtrado de registros son básicos, lo que dificulta la depuración de cargas de trabajo grandes.
- Un autoescalado mal configurado puede afectar directamente al coste y a la latencia.
Caso de uso: Baseten es ideal para desarrolladores de IA que buscan una observabilidad transparente de models de IA generativa en entornos de producción.
Parasail
Parasail ofrece una red de inference de IA diseñada para una utilización flexible de GPU y la optimización de costes.
Capacidades
- El sistema admite el cambio entre tipos de GPU, con asignación automática de recursos según las necesidades de la carga de trabajo.
- El panel destaca métricas de uso agregadas, incluidos el tiempo de actividad y la asignación de GPU.
- Ofrece flexibilidad de precios mediante diferentes clases de GPU, lo que permite equilibrar coste y rendimiento.
Limitaciones
- No ofrece trazabilidad a nivel de solicitud. Los desarrolladores no pueden analizar el coste ni el rendimiento de solicitudes individuales.
- La observabilidad se mantiene en un nivel agregado, lo que limita la profundidad de la depuración.
Caso de uso: Parasail está diseñado para organizaciones que priorizan soluciones de IA flexibles y de bajo coste, pero ofrece menos información a los equipos que requieren una observabilidad detallada.
DeepInfra
DeepInfra ofrece alojamiento de serverless GPU en varias regiones, lo que permite implementar models de IA de forma escalable como APIs.
Capacidades
- El soporte multirregión permite realizar inference más cerca de los usuarios finales, lo que reduce la latencia.
- Proporciona métricas de latencia y rendimiento a nivel de panel.
- Ofrece precios de pago por uso con informes de costes agregados.
- Admite la implementación de models de IA generativa de código abierto con APIs sencillas.
Limitaciones
- No proporciona trazabilidad a nivel de solicitud, lo que dificulta el análisis de la causa raíz.
- El desglose de costes está agregado, sin detalle por solicitud ni por región.
- El control de versiones de models y los mecanismos de reversión no están automatizados y requieren gestión manual.
Caso de uso: Ideal para organizaciones que implementan cargas de trabajo de IA en varias regiones, donde la flexibilidad de costes y la cobertura geográfica importan más que una depuración profunda.
Together AI
Together AI opera como una nube de aceleración de IA que ofrece capacidades de alojamiento y entrenamiento de models.
Capacidades
- Proporciona métricas tanto a nivel agregado como a nivel de solicitud, incluidos histogramas de latencia y desgloses de llamadas por versión.
- El control de versiones de models y la reversión integrados permiten volver rápidamente a versiones anteriores.
- La división de tráfico permite realizar pruebas A/B entre versiones de model.
- Fuerte soporte de SDK con bibliotecas cliente en varios lenguajes.
- Las integraciones de CI/CD hacen que los pipelines de implementación sean más maduros que en otras plataformas de alojamiento.
Limitaciones
- Esta solución ofrece más madurez operativa, pero a costa de una mayor complejidad del sistema en comparación con plataformas de alojamiento más ligeras.
Caso de uso: Together AI es adecuado para empresas de IA y firmas de servicios profesionales que necesitan un control de versiones fiable, una supervisión avanzada y la integración de herramientas de IA generativa en flujos de trabajo estructurados.
Infraestructura optimizada para hardware / especializada
Cerebras
Cerebras se centra en infraestructura de IA optimizada para hardware, construida en torno a su motor a escala de oblea (WSE).
Capacidades
- El WSE integra millones de unidades de procesamiento en un solo chip, lo que proporciona un rendimiento extremadamente alto para cargas de trabajo de IA.
- Los paneles exponen métricas estándar como tokens por segundo y rendimiento general.
- Adecuado para el entrenamiento y la inference en models de IA avanzados a escala.
Limitaciones
- La implementación no es instantánea; requiere preparación de infraestructura.
- Los detalles internos del hardware, como la planificación y el uso de memoria, se abstraen de los usuarios.
- Soporte limitado para incorporar models personalizados arbitrarios.
Caso de uso: Eficaz para tareas de aprendizaje automático a gran escala y de alto rendimiento en laboratorios de IA, la industria de defensa o agencias gubernamentales, donde el rendimiento importa más que la flexibilidad.
Gruve IA Inference Infrastructure Fabric
Gruve proporciona una infraestructura distribuida de inference de IA diseñada para un rendimiento predecible, una menor latencia y un escalado de capacidad más rápido en entornos de producción. Su posicionamiento está más cerca del tejido de infraestructura que del alojamiento de models, con énfasis en el acceso a la energía, las ubicaciones distribuidas y la optimización de pila completa.
Capacidades
- Admite capacidad de inference escalable mediante infraestructura distribuida cerca de ciudades Tier 1 y Tier 2.
- Utiliza energía varada e infrautilizada para reducir y estabilizar los costes de la infraestructura de inference.
- Despliega la inference más cerca de los usuarios, las aplicaciones y los datos para reducir la latencia de red.
- Ofrece clústeres de infraestructura de alta densidad, incluidos armarios refrigerados por líquido y centros de varios megavatios.
- Proporciona infraestructura nativa de IA diseñada para soportar los requisitos cambiantes de model, serving y cargas de trabajo de agentes.
- Combina infraestructura, fundamento de datos y capacidades de agentes de IA en una pila de ejecución empresarial de IA más amplia.
- Incluye funciones de fiabilidad empresarial como operaciones 24/7, seguridad integrada, gobernanza y control operativo.
Limitaciones
Puede ser más adecuado para organizaciones que necesitan infraestructura de inference dedicada que para equipos que buscan una plataforma ligera de alojamiento de models basada en API.
Caso de uso: Ideal para empresas y compañías de IA que ejecutan cargas de trabajo de inference a escala de producción, donde la eficiencia de costes, la disponibilidad de capacidad, la baja latencia y la fiabilidad de la infraestructura son prioridades.
SambaNova
SambaNova crea soluciones de hardware de IA y software basadas en su arquitectura de flujo de datos, optimizada a nivel de grafo de cómputo.
Capacidades
- Ofrece plataformas como SambaCloud (servicio en la nube), SambaStack (on-premise) y SambaManaged (servicio gestionado).
- Optimizado para la inference y el entrenamiento de models de IA generativa.
- Métricas de panel estándar para la latencia a nivel de token y el rendimiento.
Limitaciones
- La implementación requiere compatibilidad del model con su arquitectura, lo que exige una optimización adicional.
- Las métricas internas de rendimiento, como el ancho de banda de memoria, no se exponen a los usuarios.
- Los despliegues no son inmediatos; se requieren fases de implementación.
Caso de uso: Adecuado para empresas que necesitan soluciones impulsadas por IA que combinan hardware y software, especialmente en sectores que requieren una infraestructura de TI controlada.
Groq
Groq ofrece una plataforma de inference de IA impulsada por sus Language Processing Units (LPUs).
Capacidades
- Optimizado para la generación secuencial de tokens con respuestas de streaming de baja latencia.
- Los paneles exponen recuentos de tokens, latencia y tasas de error.
- El coste se sigue a nivel de token.
Limitaciones
- No admite la implementación de models personalizados. Están disponibles los models proporcionados por Groq.
- Hay herramientas de depuración mínimas; si surgen problemas de rendimiento, es necesario enviar un ticket de soporte.
- Las operaciones internas de las LPU siguen siendo opacas.
Caso de uso: Ideal para aplicaciones donde las respuestas de latencia ultrabaja para large language models son críticas, como la IA conversacional o los algoritmos de toma de decisiones.
Antimatter
Antimatter proporciona una infraestructura de IA integrada verticalmente que combina activos energéticos, centros de datos modulares y software de nube distribuida.
Capacidades
- Despliega computación en emplazamientos donde existe energía renovable, infrautilizada o varada.
- Utiliza unidades modulares Policloud para poner en marcha computación de IA de alta densidad más rápido que las construcciones tradicionales de centros de datos a hiperescala.
- Conecta centros distribuidos en un tejido operativo único mediante el software Hivenet.
- Proporciona servicios en la nube como computación, almacenamiento y transferencia de archivos a través de APIs.
- Admite la orquestación de cargas de trabajo entre centros en función de la demanda, la capacidad, los precios y las restricciones locales.
- Separa la infraestructura física de los servicios orientados al cliente, lo que permite que nuevos centros y servicios escalen de forma independiente.
- Utiliza orquestación basada en Kubernetes, máquinas virtuales, soporte bare metal, almacenamiento distribuido, redes cifradas, paso directo de GPU y observabilidad centralizada.
Limitaciones
Su model puede ser más relevante para organizaciones que necesitan infraestructura de IA distribuida o soberana que para equipos que buscan una API simple de model serverless.
Caso de uso: Ideal para compradores empresariales de infraestructura de IA que necesitan capacidad de inference escalable cerca de las fuentes de energía, los usuarios y las jurisdicciones reguladas, especialmente donde la previsibilidad de costes, la soberanía y la velocidad de implementación son importantes.
Alojamiento basado en API
Fireworks AI
Fireworks AI ofrece un servicio de alojamiento ligero basado en API para models de IA.
Capacidades
- Implementación rápida de models con endpoints de API inmediatos.
- Admite fine-tuning de models de IA generativa.
- Los paneles proporcionan métricas como latencia de llamadas, uso de tokens, tasa de errores y número de solicitudes.
Limitaciones
- No hay trazabilidad a nivel de solicitud, lo que limita la depuración detallada.
- Los datos de costes están agregados, sin visibilidad por solicitud.
- La reversión es manual; volver a versiones anteriores requiere una reimplementación.
Caso de uso: Adecuado para desarrolladores de IA que necesitan un acceso rápido a las capacidades de IA generativa sin una observabilidad profunda ni una gestión de implementación compleja.
¿Qué es un proveedor de IA?
Un proveedor de IA es una empresa de inteligencia artificial que proporciona la infraestructura, los models y los servicios necesarios para que otros desarrollen y ejecuten soluciones impulsadas por IA.
Los proveedores de IA son fundamentales porque:
- Reducen las barreras para la adopción de la IA, especialmente para empresas sin una gran experiencia interna.
- Proporcionan escalabilidad al gestionar procesos complejos como el autoescalado y el entrenamiento distribuido.
- Ofrecen eficiencia de costes con infraestructura bajo demanda en lugar de inversiones iniciales en hardware de IA.
- Garantizan prácticas de IA responsable mediante funciones de gobernanza, trazabilidad y cumplimiento.
Tipos de proveedores de IA
Los proveedores de IA pueden agruparse en tres categorías principales:
- Proveedores de infraestructura de IA se centran en hardware de IA especializado, incluidos procesadores personalizados y chips de alto rendimiento, para el entrenamiento y la inference.
- Plataformas de alojamiento de models proporcionan acceso a models de IA generativa a través de APIs, lo que facilita la integración de la IA en las aplicaciones. Suelen ofrecer funciones como autoescalado, supervisión de latencia y fine-tuning.
- Plataformas de datos y aprendizaje automático hacen hincapié en la integración de extremo a extremo del análisis de datos, el entrenamiento de models y la gobernanza, con un enfoque en la IA responsable.
Características clave de los proveedores de IA
En todas las categorías, la mayoría de los proveedores de IA comparten varias características fundamentales que determinan cómo aportan valor y permiten a las organizaciones adoptar capacidades de IA de forma eficaz:
Acceso a large language models y otros models de IA generativa
Los proveedores de IA ofrecen acceso directo a large language models (LLMs) y a una variedad de models de IA generativa para tareas como la generación de texto, el procesamiento del habla y el reconocimiento de imágenes. Estos models suelen ofrecerse a través de APIs, lo que facilita que las organizaciones integren soluciones impulsadas por IA en las aplicaciones sin necesidad de tener una gran experiencia en el entrenamiento de models.
Infraestructura de IA para gestionar cargas de trabajo de IA exigentes
Los proveedores suministran entornos de computación adaptados a models de IA avanzados y cargas de trabajo de IA a gran escala. Esto incluye la potencia de procesamiento necesaria para el entrenamiento, el fine-tuning y la inference, a menudo diseñada para admitir tanto operaciones por lotes de alto rendimiento como tareas sensibles a la latencia. Esta infraestructura permite a las empresas ejecutar procesos complejos de forma eficiente y fiable.
Paneles de implementación y supervisión con métricas de latencia, rendimiento y costes
Los paneles son una función estándar que ofrece visibilidad del rendimiento y la eficiencia de los sistemas de IA. Las métricas típicas incluyen la latencia por solicitud, el rendimiento general, las tasas de procesamiento de tokens y el número de errores. También se proporciona visibilidad de costes, que va desde informes por solicitud hasta resúmenes agregados. Estas herramientas contribuyen a una gestión y optimización eficaces de los recursos.
Opciones de fine-tuning y gestión de models
Muchas plataformas incluyen la capacidad de hacer fine-tuning de models de IA generativa para casos de uso especializados. Esto permite a las organizaciones adaptar los models a necesidades específicas del sector, como el modelado predictivo en la cadena de suministro o la IA conversacional en atención al cliente. Las funciones de gestión de models suelen incluir control de versiones, reversión y división de tráfico para experimentos, lo que ayuda a mantener la fiabilidad mientras se iteran nuevos despliegues.
Flexibilidad de precios, a menudo basada en el pago por uso o el consumo de tokens
En lugar de depender de grandes inversiones iniciales en hardware de IA, los proveedores suelen utilizar precios basados en el consumo. Esto puede estructurarse por solicitud, por token o por tiempo de computación. La flexibilidad de precios reduce la barrera de entrada para las organizaciones que experimentan con la adopción de la IA, a la vez que permite a las empresas alinear el gasto con las demandas de la carga de trabajo y optimizar tanto el coste como el rendimiento.
Añadir como fuente preferida¿Qué son las pasarelas de IA?
Una pasarela de IA es una plataforma de middleware que gestiona la integración, el enrutamiento y la gobernanza de los models y servicios de IA en entornos empresariales. En lugar de proporcionar los models en sí, las pasarelas de IA actúan como un punto de entrada unificado entre las aplicaciones y múltiples herramientas de IA, incluidos large language models, sistemas de reconocimiento de imágenes y otros servicios de IA generativa.
Gestionan funciones como la estandarización de API, la orquestación de models, la supervisión, la aplicación de la seguridad y el seguimiento de costes, lo que permite a las organizaciones controlar cómo se accede a las cargas de trabajo de IA y cómo se utilizan en diversos proveedores.
Diferencias clave entre las pasarelas de IA y los proveedores de IA
Función
- Los proveedores de IA entregan infraestructura de IA, models de IA y la potencia de computación necesaria para ejecutarlos.
- Las pasarelas de IA gestionan y orquestan las interacciones con esos models, ofreciendo coherencia y gobernanza.
Posición en la pila
- Los proveedores de IA operan en la capa de infraestructura y model, suministrando las capacidades reales de IA.
- Las pasarelas de IA se sitúan por encima de los proveedores, conectando las aplicaciones con uno o más models a través de una única capa de control.
Ámbito de responsabilidad
- Los proveedores de IA se centran en el entrenamiento, el fine-tuning, el alojamiento y el serving de models.
- Las pasarelas de IA se centran en la unificación de API, el enrutamiento de cargas de trabajo, la observabilidad y la aplicación de políticas en todos los models.
Gobernanza y seguridad
- Los proveedores de IA implementan la gobernanza de sus propios models, como el control de versiones y la supervisión de costes.
- Las pasarelas de IA proporcionan una gobernanza centralizada, lo que permite el cumplimiento, el control de acceso y la protección de datos en múltiples models y proveedores.
Enfoque de implementación
- Los proveedores de IA ofrecen diversas opciones de infraestructura, incluidas API en la nube, clústeres dedicados y hardware on-premises.
- Las pasarelas de IA proporcionan models de implementación (global, multicloud, sidecar o micro-gateway) que optimizan el enrutamiento del tráfico entre las aplicaciones y los models.
Metodología del benchmark
En este benchmark, se analizó y seleccionó GPT-OSS-120B, el model de código abierto más utilizado en la plataforma OpenRouter. Antes de proceder con el benchmark, se estableció el rendimiento de referencia del model GPT-OSS-120B. El model se probó en un entorno autogestionado en una instancia RunPod H200 GPU y logró una precisión del 98 % en el dataset de 108 preguntas utilizado en el benchmark (35 preguntas basadas en artículos + 73 problemas matemáticos).
Antes de iniciar el benchmark, se analizaron los datos de cuota de mercado en OpenRouter para identificar a los seis principales proveedores de IA con mayor cuota, y estos proveedores se utilizaron en la prueba. Todas las solicitudes a la API se enviaron a través del mismo OpenRouter API endpoint para garantizar la coherencia de las condiciones de la prueba.
Dataset y proceso de prueba
El dataset del benchmark consta de un total de 108 preguntas. De estas preguntas, 35 son preguntas de conocimiento del mundo real extraídas de artículos de CNN News y contrastadas con una verdad de referencia verificada. El propósito de esta sección es medir si el model recuerda con precisión información numérica como porcentajes, fechas y cantidades, y evaluar su tendencia a las alucinaciones. Las 73 preguntas restantes consisten en problemas de razonamiento matemático y ponen a prueba la coherencia numérica, la inference lógica y la precisión computacional del model.
Las 108 preguntas utilizadas en el proceso de prueba son preguntas que el model responde correctamente de forma sistemática. El propósito de esta prueba es observar la degradación del rendimiento y la calidad del model en momentos concretos del día o durante cambios en la carga del sistema.
El proceso de prueba se lleva a cabo de la siguiente manera:
- Las 108 preguntas se envían individualmente a intervalos de 5 minutos, y este proceso continúa de forma continua.
- Las respuestas de verdadero/falso obtenidas de cada pregunta se utilizan en los cálculos de precisión.
- Simultáneamente, con cada envío, también se envía una pregunta de referencia fija a todos los proveedores. Las métricas medidas a partir de esta pregunta de referencia son:
- Latencia del primer token (FTL): El tiempo desde el envío de la solicitud hasta que el model produce el primer token.
- Latencia de extremo a extremo (E2E latency): El tiempo que tarda el model en generar por completo la respuesta.
Las solicitudes se envían a todos los proveedores simultáneamente para el mismo model y a través del mismo API endpoint. El sistema de benchmark opera de forma cíclica; al final de cada día, los valores de precisión obtenidos de las 108 preguntas y los promedios diarios de los valores de latencia FTL/E2E medidos a partir de la pregunta de referencia fija se reflejan en gráficos.
Detalles de la prueba de referencia autogestionada
La prueba de rendimiento de referencia se llevó a cabo ejecutando el model openai/gpt-oss-120b en un entorno autogestionado en una instancia RunPod H200 GPU. El entorno de prueba se creó con la plantilla RunPod PyTorch y el motor de inference vLLM (versión 0.10.2) instalado como biblioteca principal de serving. Un componente crítico de la pila de software fue el SDK openai-harmony, que es obligatorio para codificar correctamente los prompts y decodificar las respuestas de la serie de model GPT-OSS. El motor vLLM se configuró con gpu_memory_utilization=0.85 y max_model_len=4096 para adaptarse a los requisitos de cuantización MXFP4 y contexto del model. Para optimizar el rendimiento, también se instaló la biblioteca flashinfer, que proporciona una aceleración significativa de la inference en hardware H200.
El benchmark se ejecutó con el script test_baseline_harmony_correct.py, que procesa un dataset consolidado de 108 preguntas (35 preguntas basadas en artículos y 73 problemas matemáticos). Para cada pregunta, se construyó un prompt programáticamente con el SDK openai-harmony. Esto implicaba crear un objeto Conversation con mensajes distintos Role.SYSTEM, Role.DEVELOPER y Role.USER; el DeveloperContent incluía específicamente la instrucción “Reasoning: high” para obtener respuestas detalladas. Este objeto se convirtió en IDs de token mediante la codificación HarmonyEncodingName.HARMONY_GPT_OSS. La inference se llevó a cabo con parámetros de muestreo deterministas (temperature=0.0) y max_tokens=2048 para capturar todo el razonamiento. Los stop_token_ids se suministraron directamente desde el método stop_tokens_for_assistant_actions() de la codificación de harmony. Por último, los tokens de salida del model fueron analizados por el SDK harmony para extract la respuesta estructurada, que luego se normalizó y validó con la verdad de referencia para calcular la precisión.
Cita este benchmark
Elige el formato que se ajuste al lugar donde vas a publicar. Pegar la versión con enlace en tu CMS conserva el enlace de retroceso.
@misc{ermut2026,
author = {Ermut, Sıla and Şipi, Nazlı},
title = {{Comparativa de los 9 principales proveedores de IA}},
year = {2026},
month = may,
howpublished = {\url{https://aimultiple.com/ai-providers}},
note = {AIMultiple. Recuperado el 18 de mayo de 2026}
}Resultados y marcas de tiempo de 0 puntos de datos. Descargue los datos resumidos que se muestran en los gráficos y las tablas de este artículo como un archivo ZIP que contiene 0 archivos CSV.
¿Quieres los datos granulares que hay detrás? Únete a Premium
Registro de cambios
4 actualizacionesAñadidos Gruve AI y Antimatter como secciones completas de proveedores en la comparativa.
Anteriormente trabajó como reclutadora en empresas de gestión de proyectos y consultoría. Sıla tiene un máster en Psicología Social y una licenciatura en Relaciones Internacionales.
Sé el primero en comentar
Tu dirección de correo electrónico no será publicada. Todos los campos son obligatorios. Los comentarios se dejan en su idioma original.