Ollama2026年9月21日 12:0317 天前
Nemotron 3.5 实测：30B 模型本地跑 Agent
AI 摘要
- NVIDIA 的 Nemotron 3.5 Lightning 上架 Ollama，30B 总参数仅 3B 激活
- 官方称同级开源模型中吞吐高 4 倍，任务完成时间快 30%
- 支持 1M 上下文，主打常驻 Agent 的读文件、调工具与失败重试
为什么重要
小激活参数模型把常驻 Agent 的推理成本压进本地可承受区间，云端调用不再是默认选项。
- 官方称同级开源模型中吞吐高 4 倍，任务完成时间快 30%
- 支持 1M 上下文，主打常驻 Agent 的读文件、调工具与失败重试
AI Pulse 编辑解读
本地小模型扛高频步骤、云端大模型做关键决策，混合架构最划算。
风险与不确定性
4 倍吞吐为厂商自测数据，实际表现依赖硬件与量化配置，建议自测后再替换。
影响对象
开发者创业者企业
来源与透明度
本文由 AI Pulse 编辑部基于公开来源整理，摘要可能使用 AI 辅助生成，并经过人工检查标题、来源和关键信息一致性。
原始来源：Ollama。发布时间：2026年9月21日 12:03。如果你发现事实错误或来源失效，欢迎通过联系页面提交纠错。