Etiqueta: dgx spark

  • Nvidia abre Nemotron 3.5 para agentes en empresa y en tu PC

    Nvidia abre Nemotron 3.5 para agentes en empresa y en tu PC

    Los modelos open-weight de Nvidia para agentes suman dos familias nuevas: Nemotron 3.5 Super VL, con 120.000 millones de parámetros y orientado a agentes empresariales, y los Bolt, dos modelos ligeros pensados para ejecutarse en local en PCs con chip RTX Spark y en estaciones DGX Spark. La idea es doble. Las empresas pueden hacer post-training con sus propios datos y desplegar en su infraestructura. Los usuarios pueden ejecutar agentes sin enviar las tareas a la nube. Super VL y Bolt 74B-A9B ya están disponibles, y Bolt E4B llegará este mes.

    Modelos open-weight de Nvidia: qué se ha lanzado y por qué importa

    Nvidia presenta dos líneas con públicos distintos. Nemotron 3.5 Super VL es el modelo grande: 120.000 millones de parámetros, publicado con pesos abiertos y dirigido a agentes que trabajan dentro de una empresa. Según la compañía, iguala la precisión de Nemotron 3 Ultra en seguimiento de instrucciones y en uso de herramientas, pero con menos parámetros. Son justo las dos capacidades que más pesan cuando un agente tiene que ejecutar tareas reales: entender lo que se le pide y llamar a las herramientas correctas en el orden correcto.

    La segunda línea es Bolt, con dos modelos ligeros: Bolt 74B-A9B, ya disponible, y Bolt E4B, que llegará este mes. Están pensados para correr en local en PCs con el chip RTX Spark y en estaciones DGX Spark. Nvidia cita como usuarios de esta generación a EY, Ramp, Crowdstrike, Perplexity y Salesforce. Conviene leer ese listado con calma: el anuncio nombra a las empresas, pero el resumen no detalla en qué casos concretos las usan ni con qué resultados medidos.

    Un matiz importante sobre el término open-weight. Significa que los pesos del modelo se pueden descargar y ajustar, y eso es lo que permite el post-training con datos propios. No equivale automáticamente a código abierto en sentido estricto, ni a que los datos de entrenamiento sean públicos. Antes de comprometer un proyecto, hay que leer la licencia concreta de cada modelo y confirmar qué usos comerciales permite.

    Implicaciones técnicas: más control sobre dónde corre el agente

    El dato técnico más llamativo es la comparación con Nemotron 3 Ultra. Si la afirmación de Nvidia se sostiene en las pruebas de cada empresa, igualar precisión con menos parámetros significa un modelo más manejable. En general, menos parámetros exigen menos memoria de GPU y menos capacidad de cómputo por consulta. Ahora bien, el anuncio no aporta cifras de coste ni requisitos de hardware exactos para Super VL, así que cualquier cálculo de presupuesto tiene que esperar a probarlo con carga real.

    Lo segundo es el control del despliegue. Un modelo con pesos abiertos puede alojarse en la infraestructura propia, y eso cambia la conversación con el departamento legal y de seguridad. Para una empresa que maneja datos de clientes, contratos o información financiera, no tener que enviarlos a una API externa elimina una fricción habitual en las auditorías internas. Además, el post-training con datos propios permite ajustar el comportamiento del agente a procesos concretos de la organización, algo que con un modelo cerrado queda limitado a lo que el proveedor ofrezca.

    Bolt apunta al otro extremo: el dispositivo del usuario. Ejecutar agentes en un PC con RTX Spark o en una estación DGX Spark evita enviar las tareas a la nube. Eso tiene valor evidente en privacidad, y también para quien trabaja con conexión irregular o con documentos que no deben salir del equipo. El límite es el obvio: hace falta tener ese hardware. Nvidia vincula estos modelos a sus propios chips, de modo que adoptarlos implica, en la práctica, estar dentro de su plataforma.

    Queda por ver cómo rinden fuera de las demos. El resumen no incluye benchmarks independientes ni comparativas con modelos abiertos de otros fabricantes. Hasta que la comunidad y los equipos técnicos publiquen resultados propios, lo prudente es tratar las cifras de precisión como declaraciones del fabricante.

    Cómo pueden aplicar esto las empresas hoy

    Lo primero es no empezar por el modelo, sino por el proceso. Elige un flujo donde el agente tenga que seguir instrucciones precisas y llamar a herramientas internas, como consultar un ERP, clasificar incidencias o preparar informes a partir de documentos propios. Ese es el terreno donde Nvidia dice que Super VL rinde igual que un modelo mayor, y es el que puedes medir con facilidad: tasa de tareas completadas sin intervención humana, errores en llamadas a herramientas y tiempo por tarea.

    Segundo paso: compara con lo que ya usas. Si hoy pagas una API de un modelo cerrado y funciona, el modelo open-weight solo compensa si ganas algo concreto: datos que no pueden salir de tu red, costes que escalan mal con el volumen o necesidad de ajustar el comportamiento. Para una PYME con poco volumen, alojar un modelo de 120.000 millones de parámetros puede costar más que la API. Haz la cuenta con tu hardware real o con una instancia GPU alquilada antes de decidir.

    Tercero, el post-training no es magia. Requiere datos propios limpios, ejemplos bien etiquetados y alguien que sepa evaluar el resultado. Si no tienes ese equipo, empieza sin ajuste y con buenos prompts y herramientas bien definidas. Y para equipos pequeños, los Bolt son el punto de entrada más realista: Bolt 74B-A9B ya está disponible y Bolt E4B llegará este mes. Prueba en un PC compatible con tareas que manejen información sensible, y deja la decisión de infraestructura para cuando tengas datos de rendimiento. Lo que conviene evitar es migrar todo de golpe por una nota de prensa.

    Análisis Blixel

    El valor de un modelo abierto no está en su precisión en un gráfico, sino en quién decide dónde corre y con qué datos. Ahí es donde Nvidia hace una jugada coherente: ofrece los modelos open-weight de Nvidia para agentes en dos escalas, servidor y PC, y ambas llevan a sus chips. Es un movimiento inteligente y también interesado. El modelo es abierto, pero el camino natural para sacarle partido pasa por hardware de la casa. No es un reproche, es un detalle que cualquier directivo debería tener en la hoja de cálculo.

    Me parece más relevante el mensaje sobre eficiencia. Si Super VL iguala a Nemotron 3 Ultra en seguimiento de instrucciones y uso de herramientas con menos parámetros, la pregunta útil ya no es quién tiene el modelo más grande, sino cuál hace el trabajo con menos infraestructura. Para una PYME, esa diferencia decide si un agente propio es viable o se queda en un experimento caro.

    Mi cautela es la de siempre: la lista de EY, Ramp, Crowdstrike, Perplexity y Salesforce impresiona, pero no sustituye a una prueba con tus datos. Mi recomendación es concreta: elige un caso acotado, mide contra tu solución actual y decide con números. Los agentes en local son una opción real para datos sensibles. Convertirlos en estrategia antes de validarlos es el error que vamos a ver repetido durante los próximos meses.

    ¿Quieres aplicar esto en tu empresa? En Blixel.ai te ayudamos a integrar IA con sentido común. Hablemos.