Modelos de IA
Os modelos de IA fazem previsões com base em seus dados de treinamento. Eles podem funcionar em qualquer domínio, como números, texto ou multimídia.
LLM Benchmark de Latência por Casos de Uso
Fizemos o benchmark de 11 dos principais modelos de linguagem de grande escala com um total de 1.320 pedidos, dividindo modelos de raciocínio e não-raciocínio, e medimos a latência do primeiro token, a latência por token e o tempo total de resposta. Pode encontrar detalhes sobre como medimos a latência aqui. Relatamos modelos de raciocínio…
Benchmark de Modelos Tabulares: Desempenho em 19 Datasets
Comparamos 8 modelos de aprendizagem tabular em 19 datasets reais que abrangem aproximadamente 260.000 amostras, com tamanhos de dataset de 435 a 48.800 linhas. Todos os modelos foram executados na mesma máquina com validação cruzada de 5 dobras e divisões idênticas. Cada dataset é um round-robin de confrontos diretos entre modelos, decididos pela métrica principal.…
LLM Quantização: BF16 vs FP8 vs INT4
Realizamos o benchmark do Qwen3-32B em 4 níveis de precisão (BF16, FP8, GPTQ-Int8, GPTQ-Int4) em uma única NVIDIA H100 80GB GPU. Cada configuração foi avaliada em 2 benchmarks (~12,2 mil perguntas) cobrindo conhecimento e geração de código, além de mais de 2.000 execuções de inferência para medir a vazão. O Int4 é 2,7x mais rápido…