NVIDIA Nemotron 3.5 Bolt: un modelo abierto de 74.000 millones de parámetros que cabe en 24 GB para agentes de IA locales

Ejecutar un agente de IA capaz en casa suele exigir mucha memoria. El 15 de octubre de 2026, NVIDIA publicó tres nuevos modelos Nemotron 3.5, y el más interesante para el usuario doméstico está pensado para caber en una sola tarjeta gráfica de consumo.

Tres modelos, tres tamaños

• Nemotron 3.5 Super VL: un modelo multimodal abierto de 120.000 millones de parámetros para agentes empresariales. NVIDIA asegura que es hasta 5 veces más rápido que el mejor modelo abierto rival de su categoría.
• Nemotron 3.5 Bolt 74B-A9B 24GB: un modelo «mixture of experts» de 74.000 millones de parámetros, unos 9.000 millones activos por token, con cuantización nativa de 2 bits para caber en 24 GB. Ya disponible.
• Nemotron 3.5 Bolt E4B 4GB: un modelo pequeño para asistentes de voz y robots, previsto para el 23 de octubre.

Lo que significan realmente 24 GB

Los 24 GB son para texto solo. Según la ficha del modelo, la visión añade unos 1,68 GB, y una configuración realista con llama.cpp necesita 32 GB o más para un contexto de 65.000 tokens, o 48 GB para 256.000. Funciona con llama.cpp, Ollama, LM Studio, Unsloth y vLLM, en PC con GeForce RTX, DGX Spark y los nuevos portátiles RTX Spark.

NVIDIA afirma que Bolt 74B es el primer modelo abierto de su categoría en PinchBench y el segundo en BrowseComp. Son cifras de NVIDIA, no nuestras. TechRepublic señala que los modelos Bolt apuntan a agentes que navegan por la web, escriben y depuran código en local.

La opinión de Rocks

Es el lanzamiento de «agente local» más realista en semanas: una tarjeta tipo RTX 4090 o 5090 puede cargarlo de verdad, a diferencia de los gigantes de 800.000 millones de parámetros. Para una instalación de Home Assistant, el pequeño Bolt E4B podría ser el más interesante: 4 GB para un asistente de voz local. Lo probaremos cuando salga el 23 de octubre.