TOPIC COLLECTION
NVIDIA Nemotron 3.5 Super VL与Bolt是什么？怎么下、本地/云怎么跑、和Lightning/Ultra怎么选
NVIDIA于2026-10-15发布Nemotron 3.5 Super VL（开源约120B，面向常驻智能体，官称同级吞吐最高约5×）与Bolt边缘线：Bolt 74B-A9B 24GB现已可用（llama.cpp/Ollama/LM Studio/Unsloth/vLLM），Bolt E4B 4GB约10-23上线。权重经Hugging Face、OpenRouter、ModelScope与NIM分发。
资料更新：2026-10-16
依据NVIDIA官方博客（2026-10-15）整理；与10-15旧文RTX Spark入口文区分，本文侧重模型家族与选型。吞吐与榜单数字为官方自述，未做本地实测。核查2026-10-16（新加坡时间）。
主题标签：Nemotron 3.5 Super VL、Nemotron Bolt、NVIDIA开源模型、本地智能体、Ollama vLLM
Nemotron 3.5 Super VL与Bolt是什么？它们是NVIDIA在2026-10-15扩容的开源Nemotron家族新成员。Super VL是约1200亿参数的视觉语言开源模型，面向「常驻在线」的企业智能体：指令跟随、工具调用、多步业务流与文档视觉理解；官方称同级里任务完成最快、吞吐最高约5倍（相对同档对比模型，见Artificial Analysis Intelligence Index相关表述）。Bolt是边缘线：Bolt 74B-A9B 24GB现已可下，用原生2-bit量化塞进24GB内存，支持llama.cpp、Ollama、LM Studio、Unsloth、vLLM；更小的Bolt E4B 4GB面向对话与嵌入式智能体，官宣约2026-10-23上线。权重入口包括Hugging Face、OpenRouter、ModelScope与NVIDIA NIM。
和Lightning、Ultra怎么选：先看一张表
| 型号 | 定位 | 大概体量/内存 | 适合谁 |
|---|---|---|---|
| Lightning（8月已发） | 高吞吐批量任务 | 以官方当时规格为准 | 要量大、延迟敏感的服务端流水线 |
| Ultra | 最难推理 | 家族里偏「重」的一档 | 复杂推理、愿换算力换上限的团队 |
| Super VL（本篇） | 常驻智能体 + 多模态文档 | 约120B开源；可私有后训练 | 要自托管、要看图/PDF/网页的企业Agent |
| Bolt 74B-A9B 24GB | 本地智能体，智力与速度折中 | 约24GB（2-bit） | RTX/DGX Spark、本机不想上云的研发 |
| Bolt E4B 4GB（约10-23） | 对话与嵌入式 | 约4GB | Jetson、GeForce、轻量语音助手 |
一句话：要云端/机房里「一直开着」的多模态业务Agent，优先评估Super VL；笔记本或工作站本地跑项目，看Bolt 24GB；手机级边缘或极轻对话等E4B。只想聊天写作、不想碰权重，继续用闭源订阅往往更省心——本地与订阅的取舍见本地模型vs Claude Max。开源大模型另一条线见Muse Spark Open怎么用。另有一篇偏RTX Spark硬件入口的旧文，角度不同：本篇只讲模型家族与选型，不重复硬件开箱。
怎么下、怎么跑
- 拉权重：Super VL现可在Hugging Face、OpenRouter、ModelScope社区获取，也可作为NVIDIA NIM微服务部署（官方称约每两周刷新安全补丁与性能优化）。Bolt 74B-A9B 24GB权重已在Hugging Face；E4B按官宣日程再查合集页。
- 服务端推理：Super VL可走vLLM、NIM、Dynamo等NVIDIA栈。官方写在Dynamo上可服务约多8倍用户、延迟约降85%——属厂商场景数字，上线前用自己的压测说话。需要继续训练时，用NVIDIA NeMo、Python流水线与开放数据集；博客称预训练约26万亿token，后训练约380万样本并跨数十个环境做强化学习，配套数据集也在Hugging Face开放。
- 本机Bolt：24GB档装好llama.cpp / Ollama / LM Studio / Unsloth / vLLM任一栈，按合集页模型名拉取。官方强调可与其他应用并行，把研究、写代码、调试交给本地agent harness，而不必把上下文送上云。
- 边缘E4B：目标硬件含GeForce RTX、Jetson、RTX/DGX Spark。10-23前后再核下载页与量化格式，别提前按「已上线」写进生产依赖。
- 后训练与行业定制：博客列举Scale AI、AfterQuery、AI21、Mercor、Atlassian、CrowdStrike、Perplexity、Salesforce等在做垂直后训练或集成——说明Super VL的卖点之一是「能改」，不是只能提示词。
Super VL实际「看见」什么
官方把视觉能力对准智能体真实场景：OCR、表格、图表、结构化视觉文档。网页、PDF、扫描件进来后，文本与视觉在同一模型里连贯处理，减少「先OCR再换文本模型」的接力丢失。保险理赔查重、信贷材料审阅、安全蓝队等案例，共同点都是：数据留在自有基础设施，模型可按公司策略微调。
选型时容易踩的坑
- 把「5×」当成任意对比的绝对倍数：官方写的是同档吞吐对比语境，换精度、换卡、换批大小，数字会变。
- 24GB当成「任意24GB显卡都能跑满」：Bolt写的是为NVIDIA RTX/DGX Spark等优化的2-bit方案；其他品牌卡、其他量化工具能否跑，以各引擎当前支持矩阵为准。
- E4B还没上线就写进交付合同：官宣约10-23，工期要留缓冲。
- 和旧文RTX Spark混为一谈：Spark是硬件入口叙事；本文是Super VL / Bolt / Lightning / Ultra的家族选型。
常见问题
Super VL是不是闭源API？
不是。官方强调开源权重、开放数据集与训练配方，可在自有基础设施部署与后训练；NIM则是带企业支持的封装选项。
Bolt 74B和E4B怎么选？
要本地做研究、写代码、多步agent，优先74B-A9B 24GB；只要轻量对话、角色或嵌入式界面，等E4B 4GB。内存与延迟需求差一个数量级，别硬用大模型塞进4GB场景。
一定要NVIDIA显卡吗？
官方故事线围绕NVIDIA全栈（RTX、DGX、Jetson、NIM、Dynamo）。第三方引擎是否支持其他加速器，以llama.cpp/vLLM等当前文档为准，本文不保证跨厂商。
和Lightning、Ultra还能一起用吗？
可以按工作负载分流：批量吞吐走Lightning，最难推理走Ultra，常驻多模态Agent走Super VL，边缘走Bolt。不必强行「全家只用一个checkpoint」。
中国大陆怎么下权重？
Hugging Face与部分海外端点在境内常不稳定；ModelScope、合规云区域与公司已审批的镜像往往更稳。出口管制与模型用途限制要单独评估，个人与企业场景都请遵守当地法律法规。
相关：Hugging Face、Ollama、vLLM、llama.cpp、OpenRouter、Unsloth。
来源与核查日期
核查日期：2026-10-16（新加坡时间）。参数量、吞吐倍数、上线日期与硬件支持以官网及Hugging Face合集页为准；本站未做本地推理实测。
