Inteligência Artificial
Explore insights práticos, pesquisas e benchmarks sobre inteligência artificial, incluindo IA generativa, grandes modelos de linguagem, RAG (Random Access Group), frameworks de governança, práticas de MLOps (Multiple Logging Operations) e hardware de IA. Compreenda as principais ferramentas, estratégias de implementação e casos de uso corporativos que estão moldando o cenário da IA.
Explore Inteligência Artificial
- LLMAnálise21 set
LLM Calculadora de VRAM para Auto-Hospedagem
Auto-hospedar um LLM significa executar a inferência em hardware que o operador controla, em vez de via uma API de terceiros, o que altera o custo, o controle de dados e o perfil de privacidade. O fato de um modelo executar ou não depende da memória. A calculadora estima a VRAM ou memória unificada que…
- Hardware de IABenchmark21 set
Benchmark Multi-GPU: B200 vs H200 vs H100 vs MI300X
Por mais de duas décadas, otimizar o desempenho computacional tem sido um pilar do meu trabalho. Avaliamos a B200 e a H200 da NVIDIA, a H100 e a MI300X da AMD para avaliar o quão bem elas escalam para inferência de Modelos de Linguagem de Grande Porte (LLM). Usando o framework vLLM com o modelo…
- Hardware de IABenchmark21 set
GPU Benchmark de Concorrência: H100 vs H200 vs B200 vs MI300X
Passei os últimos 20 anos focando na otimização de desempenho computacional em nível de sistema. Avaliamos as mais recentes NVIDIA GPUs, incluindo as NVIDIA H100, H200 e B200, e a AMD MI300X, para análise de escalabilidade de concorrência. Usando o framework vLLM com o gpt-oss-20b model, testamos como essas GPUs lidam com solicitações simultâneas, de…
- LLMBenchmark18 set
TI Agêntica: Podem os Agentes de IA Conceber um Benchmark
Testámos 16 models na conceção de um benchmark em text-to-SQL e chamada de ferramentas. Cada model criou um benchmark por tópico, num total de 32 submissões. Nenhuma submissão passou em todos os critérios da rubrica. Os agentes conseguiram criar e executar testes, mas nenhum demonstrou simultaneamente um teste de resposta em branco e um teste…
- LLMBenchmark17 set
AIM Enterprise: Benchmark Empresarial Agêntico
As empresas usam LLMs todos os dias para suas tarefas regulares. Para encontrar os LLMs com melhor custo-benefício, projetamos o AIM Enterprise, um benchmark empresarial agêntico, no qual usamos 69 tarefas empresariais reais em estratégia, marketing, RH, vendas e operações. Dois modelos juízes pontuaram cada arquivo que passou nas verificações. Em 32,7% das pontuações individuais,…
- Hardware de IABenchmark17 set
Alternativas ao DGX Spark: RTX, Ryzen IA Halo e Mac Studio
Comparamos benchmarks de inference publicados do DGX Spark, RTX e Ryzen IA Halo, cobrindo processamento de prompt, geração de tokens e contextos mais longos. As alternativas incluem Framework Desktop, Mac Studio e sistemas GB10 de outros fabricantes. A velocidade de decodificação mede os tokens de saída gerados por segundo. Valores mais altos significam geração de…
- Hardware de IAAvaliação em Mundo Aberto16 set
GPUs gratuitas na nuvem: modelos, limites e requisitos de acesso
GPUs gratuitas na nuvem estão disponíveis por meio de notebooks Python, demonstrações de IA e créditos mensais de computação. Compare o hardware de GPU, as franquias gratuito e os requisitos de acesso, ou verifique quais serviços se adequam à sua carga de trabalho. Duas T4s fornecem duas alocações separadas de 16 GB de memória. Executar…
- ChatbotsAnálise15 set
Wu Dao 3.0: A Versão Chinesa do GPT-5
Quando os EUA cortaram o acesso da China a chips avançados, a Academia de Inteligência Artificial de Pequim enfrentou uma escolha: reclamar das restrições ou contorná-las. Eles escolheram a segunda opção. Wu Dao 3.0, lançado em julho de 2023, descarta o manual de instruções. Sem modelos massivos de trilhões de parâmetros competindo por manchetes. Em…