Inteligencia Artificial
Explore perspectivas prácticas, investigaciones y puntos de referencia sobre inteligencia artificial, incluyendo IA generativa, modelos de lenguaje a gran escala, RAG, marcos de gobernanza, prácticas MLOps y hardware de IA. Comprenda las herramientas clave, las estrategias de implementación y los casos de uso empresariales que dan forma al panorama de la IA.
Explorar Inteligencia Artificial
- Codificación con IABenchmark22 de sep
Benchmark de herramientas de revisión de código con IA
Con el mayor uso de herramientas de programación con IA, los repositorios de código se han vuelto más propensos a vulnerabilidades, lo que aumentó la necesidad de revisiones de código eficaces. Para abordar esto, presentamos RevEval (IA Code Review Eval), que compara las cuatro principales herramientas de revisión de código con IA en 309 solicitudes…
- LLMAnálisis21 de sep
LLM Calculadora de VRAM para alojamiento propio
Alojar por tu cuenta un LLM implica ejecutar la inferencia en hardware que controla el operador, en lugar de a través de una API de terceros, lo que cambia el coste, el control de los datos y el perfil de privacidad. El hecho de que un modelo pueda ejecutarse depende de la memoria. La calculadora…
- Hardware de IABenchmark21 de sep
Benchmark Multi-GPU: B200 vs H200 vs H100 vs MI300X
Durante más de dos décadas, optimizar el rendimiento computacional ha sido una piedra angular de mi trabajo. Evaluamos las GPU NVIDIA B200, H200, H100 y la MI300X de AMD para medir qué tan bien escalan para la inferencia de Large Language Model (LLM). Utilizando el framework vLLM con el model meta-llama/Llama-3.1-8B-Instruct, ejecutamos pruebas en 1,…
- Hardware de IABenchmark21 de sep
GPU Benchmark de concurrencia: H100 vs H200 vs B200 vs MI300X
He pasado los últimos 20 años centrado en la optimización del rendimiento computacional a nivel de sistema. Evaluamos las NVIDIA GPU más recientes, incluidas las H100, H200 y B200 de NVIDIA, y la MI300X de AMD, para el análisis de escalado de concurrencia. Utilizando el framework vLLM con el gpt-oss-20b model, probamos cómo estas GPU…
- LLMBenchmark18 de sep
TI agéntica: ¿Pueden los agentes de IA diseñar un benchmark?
Probamos 16 modelos en un diseño de benchmark de texto a SQL y llamada de herramientas. Cada modelo creó un benchmark por tema, para un total de 32 envíos. Ningún envío superó todos los criterios de la rúbrica. Los agentes pudieron construir y ejecutar pruebas, pero ninguno demostró a la vez una prueba de respuesta…
- LLMBenchmark17 de sep
AIM Enterprise: Benchmark empresarial agéntico
Las empresas usan LLM todos los días para sus tareas habituales. Para encontrar los LLM más rentables, diseñamos AIM Enterprise, un benchmark empresarial agéntico, donde usamos 69 tareas empresariales reales en estrategia, marketing, RR. HH., ventas y operaciones. Dos modelos jueces puntuaron cada archivo que superó las comprobaciones. En el 32,7 % de las puntuaciones individuales,…
- Hardware de IABenchmark17 de sep
Alternativas a DGX Spark: RTX, Ryzen IA Halo y Mac Studio
Comparamos benchmarks de inferencia publicados de DGX Spark, RTX y Ryzen IA Halo, que cubren el procesamiento de prompts, la generación de tokens y contextos más largos. Las alternativas incluyen Framework Desktop, Mac Studio y sistemas GB10 de otros fabricantes. La velocidad de decodificación mide los tokens de salida generados por segundo. Valores más altos…
- Modelos de IAAnálisis15 de sep
Modelos Fundamentales del Mundo: 10 casos de uso
Entrenar robots y vehículos autónomos (AV) en el mundo físico puede ser costoso, lento y arriesgado. Los Modelos Fundamentales del Mundo ofrecen una alternativa escalable al permitir simulaciones realistas de entornos del mundo real. Estos modelos aceleran el desarrollo y la implementación en robótica, vehículos autónomos y otros ámbitos al reducir la dependencia de las…