Agentes de Nvidia Nemotron 3.5 por niveles: análisis de Super VL a Bolt

Todo el mundo sigue entrecerrando los ojos ante los recuentos de parámetros como si fueran etiquetas nutricionales de la inteligencia. El lanzamiento más reciente de Nemotron de Nvidia es más interesante porque reconoce lo que casi no se dice: no todos los agentes quieren vivir en el mismo apartamento. TechCrunch informó que Nvidia lanzó nuevos modelos de pesos abiertos para agentes siempre activos y computación en el borde, con Nemotron 3.5 Super VL orientado al uso empresarial y modelos Bolt pensados para PCs de IA locales y estaciones de trabajo. Esa es la historia de arquitectura escondida bajo el confeti del lanzamiento.

La conclusión práctica no es que un modelo gane y los demás se sienten tristemente en una esquina. Es que la infraestructura de agentes se está volviendo escalonada: modelos grandes para flujos de trabajo empresariales con mucho uso de herramientas, modelos más pequeños para máquinas locales donde importan la latencia, la disponibilidad y la fricción de despliegue. Esto se parece menos a elegir un cerebro y más a gestionar una flota, excepto que los patinetes pueden navegar por la web y, de vez en cuando, resumir tu documento de planificación trimestral con la confianza de un mapache con bata de laboratorio.

TechCrunch muestra la división entre agentes de servidor y agentes locales

TechCrunch informó que Nemotron 3.5 Super VL es un modelo de 120 mil millones de parámetros creado para agentes empresariales, mientras usa menos parámetros que Nemotron 3 Ultra y apunta a una precisión similar en tareas de seguimiento de instrucciones y uso de herramientas, según Nvidia. Eso importa porque los agentes empresariales no son solo cajas de chat con corbata. Necesitan seguir instrucciones, llamar herramientas y sobrevivir a trabajos de varios pasos sin perderse en el bosque semántico.

TechCrunch también informó que Nvidia lanzó dos modelos Bolt ligeros para el otro lado del mapa de despliegue. Nemotron 3.5 Bolt 74B-A9B 24GB se describe como un modelo de 74 mil millones de parámetros para tareas agénticas locales, incluido el razonamiento de varios pasos, la llamada de herramientas y la navegación web. El Bolt E4B más pequeño está orientado a agentes conversacionales, que es una forma educada de decir que no toda carga de trabajo necesita el equivalente en modelo de una carretilla elevadora.

@title Niveles de agentes de Nvidia
@source TechCrunch
@source The Next Web

  Model              Size       Target
  Super VL           120B       Enterprise agents
  Bolt 74B A9B       74B 24GB   Local tasks
  Bolt E4B           4GB        Conversation

@caption Nvidia está dividiendo los modelos de agentes por escala y objetivo de despliegue.

La distinción clave no es simplemente grande frente a pequeño. Es dónde se ejecuta el agente y qué tipo de lío se espera que limpie. Super VL es el nivel empresarial para flujos de trabajo más pesados, mientras que Bolt es el nivel de desplegabilidad para sistemas locales. Si tu hoja de cálculo de compras necesita un modelo, bien. Si tu portátil necesita un asistente local que no llame a la nave nodriza por cada estornudo, eso es otro animal.

The Next Web explica por qué los agentes locales son una historia de despliegue

The Next Web informó que los portátiles RTX Spark están diseñados para ejecutar agentes de IA en el propio dispositivo, con sistemas que ofrecen hasta 128 GB de memoria compartida y hasta 1 petaflop de rendimiento de IA. También informó que Nemotron 3.5 Bolt tiene 74 mil millones de parámetros, 9 mil millones activos a la vez, y se comprime en 24 GB de memoria en configuraciones RTX Spark compatibles. Ese es el argumento del agente local en miniatura: hacer que el modelo sea lo bastante pequeño, lo bastante disperso o esté lo bastante bien empaquetado como para que pueda vivir cerca del usuario.

Aquí es donde la capacidad y la desplegabilidad empiezan a pelearse en el estacionamiento. Un modelo más grande puede manejar flujos de trabajo más difíciles, pero un modelo local puede ser útil cuando a la carga de trabajo le beneficia ejecutarse cerca de archivos, apps o usuarios. Para quienes construyen, la pregunta se vuelve menos romántica y más operativa: ¿dónde debería ejecutarse este agente para que sea lo bastante rápido, lo bastante gobernado y lo bastante barato como para conservarlo después de que termine la demo?

VentureBeat y WSJ señalan la razón empresarial de los modelos abiertos

VentureBeat informó que Nvidia dice que las organizaciones pueden posentrenar Super VL con sus propios datos, herramientas y políticas, y luego desplegarlo en infraestructura adecuada para sus necesidades de seguridad y residencia de datos. Esa es la frase aburrida con el presupuesto real detrás. Las empresas no solo quieren un modelo ingenioso; quieren uno que pueda adaptarse a sus procedimientos sin convertir el cumplimiento normativo en una piñata.

The Wall Street Journal informó que Kari Briski, de Nvidia, dijo que el interés en Nemotron ha crecido en parte porque los modelos están hechos en EE. UU. y porque sus datos subyacentes pueden inspeccionarse. WSJ también informó que las organizaciones del sector público y las instituciones financieras son especialmente cautelosas con los modelos fabricados en China, y que las empresas se sienten cada vez más cómodas ajustando modelos abiertos. Traducción: la elección del modelo ahora también es una elección de cadena de suministro, gobernanza y personalización. La adquisición de IA se ha vuelto menos ciencia ficción y más duende del papeleo.

Qué deberían observar ahora quienes construyen, según el patrón del lanzamiento

TechCrunch presentó el lanzamiento como Nvidia dando a las organizaciones un modelo abierto optimizado para distintos niveles de infraestructura, en lugar de forzar una sola elección entre capacidad y desplegabilidad. Ese enfoque es útil si estás planificando agentes más allá de un prototipo. Coloca los flujos de trabajo pesados que usan herramientas en el nivel empresarial; coloca los agentes conversacionales o de tareas locales donde el hardware realmente pueda cargarlos sin estallar en una danza interpretativa.

La pieza que falta es evidencia independiente de despliegues reales. Las afirmaciones de Nvidia son claras, y la estructura por niveles tiene sentido, pero quienes construyen aún deberían probar la precisión, la latencia, la fiabilidad de las herramientas y el comportamiento de la memoria en sus propias cargas de trabajo. Observa si los equipos realmente enrutan agentes entre niveles de nube, estación de trabajo y PC, o si todo el mundo simplemente inventa un nuevo diagrama de orquestación para sentirse vivo. La era de los agentes no es un único modelo para gobernarlos a todos; es un problema de despacho con mejores GPU y peores notas de reunión.