IA e ML · 13 de ago.
Nemotron 3.5 Lightning da Nvidia muda os pesos abertos do foco em tamanho para a facilidade de implantação
Um modelo MoE de 30B com 3B de parâmetros ativos, contexto de 1M, licenciamento OpenMDW-1.1 e receitas faz da implantação a história.
- Avalie a implantabilidade, não apenas a contagem de parâmetros, ao comparar modelos de agentes com pesos abertos.
- Teste o comportamento em contexto longo e a velocidade de serviço antes de apostar no Nemotron 3.5 Lightning em produção.
- Revise o OpenMDW 1.1 e as receitas da Nvidia com antecedência se você planeja personalização comercial.