Inteligencia Artificial
Explore perspectivas prácticas, investigaciones y puntos de referencia sobre inteligencia artificial, incluyendo IA generativa, modelos de lenguaje a gran escala, RAG, marcos de gobernanza, prácticas MLOps y hardware de IA. Comprenda las herramientas clave, las estrategias de implementación y los casos de uso empresariales que dan forma al panorama de la IA.
Explorar Inteligencia Artificial
- LLMAnálisis21 de sep
LLM Calculadora de VRAM para alojamiento propio
Alojar por tu cuenta un LLM implica ejecutar la inferencia en hardware que controla el operador, en lugar de a través de una API de terceros, lo que cambia el coste, el control de los datos y el perfil de privacidad. El hecho de que un modelo pueda ejecutarse depende de la memoria. La calculadora…
- Hardware de IABenchmark21 de sep
Benchmark Multi-GPU: B200 vs H200 vs H100 vs MI300X
Durante más de dos décadas, optimizar el rendimiento computacional ha sido una piedra angular de mi trabajo. Evaluamos las GPU NVIDIA B200, H200, H100 y la MI300X de AMD para medir qué tan bien escalan para la inferencia de Large Language Model (LLM). Utilizando el framework vLLM con el model meta-llama/Llama-3.1-8B-Instruct, ejecutamos pruebas en 1,…
- Hardware de IABenchmark21 de sep
GPU Benchmark de concurrencia: H100 vs H200 vs B200 vs MI300X
He pasado los últimos 20 años centrado en la optimización del rendimiento computacional a nivel de sistema. Evaluamos las NVIDIA GPU más recientes, incluidas las H100, H200 y B200 de NVIDIA, y la MI300X de AMD, para el análisis de escalado de concurrencia. Utilizando el framework vLLM con el gpt-oss-20b model, probamos cómo estas GPU…
- LLMBenchmark18 de sep
TI agéntica: ¿Pueden los agentes de IA diseñar un benchmark?
Probamos 16 modelos en un diseño de benchmark de texto a SQL y llamada de herramientas. Cada modelo creó un benchmark por tema, para un total de 32 envíos. Ningún envío superó todos los criterios de la rúbrica. Los agentes pudieron construir y ejecutar pruebas, pero ninguno demostró a la vez una prueba de respuesta…
- LLMBenchmark17 de sep
AIM Enterprise: Benchmark empresarial agéntico
Las empresas usan LLM todos los días para sus tareas habituales. Para encontrar los LLM más rentables, diseñamos AIM Enterprise, un benchmark empresarial agéntico, donde usamos 69 tareas empresariales reales en estrategia, marketing, RR. HH., ventas y operaciones. Dos modelos jueces puntuaron cada archivo que superó las comprobaciones. En el 32,7 % de las puntuaciones individuales,…
- Hardware de IABenchmark17 de sep
Alternativas a DGX Spark: RTX, Ryzen IA Halo y Mac Studio
Comparamos los benchmarks de inference publicados de DGX Spark, RTX y Ryzen IA Halo, cubriendo el procesamiento de prompt, la generación de tokens y contextos más largos. Las alternativas incluyen Framework Desktop, Mac Studio y sistemas GB10 de otros fabricantes. La velocidad de decodificación mide los tokens de salida generados por segundo. Valores más altos…
- Hardware de IAEvaluación en Mundo Abierto16 de sep
Gratuitas GPUs en la nube: modelos, límites y requisitos de acceso
Las GPUs gratuitas en la nube están disponibles a través de notebooks de Python, demos de IA y créditos de cómputo mensuales. Compare el hardware de GPU, las asignaciones gratis y los requisitos de acceso, o compruebe qué servicios se adaptan a su carga de trabajo. Dos T4 proporcionan dos asignaciones de memoria de 16…
- ChatbotsAnálisis15 de sep
Wu Dao 3.0: La versión china de GPT-5
Cuando Estados Unidos cortó el acceso de China a chips avanzados, la Academia de Inteligencia Artificial de Pekín se enfrentó a una elección: quejarse de las restricciones o trabajar a su alrededor. Eligieron la segunda opción. Wu Dao 3.0, lanzado en julio de 2023, tira el manual de instrucciones. No hay modelos masivos de billones…