IA y ML · 13 ago
Nemotron 3.5 Lightning de Nvidia cambia los pesos abiertos de presumir tamaño a facilitar el despliegue
Un modelo MoE de 30B con 3B de parámetros activos, contexto de 1M, licencia OpenMDW-1.1 y recetas hace que el despliegue sea lo importante.
- Evalúa la capacidad de despliegue, no solo el número de parámetros, al comparar modelos de agentes de pesos abiertos.
- Prueba el comportamiento en contextos largos y la velocidad de servicio antes de apostar por Nemotron 3.5 Lightning en producción.
- Revisa OpenMDW 1.1 y las recetas de Nvidia con antelación si planeas una personalización comercial.