返回首页
标签聚合

Ollama

Ollama 领域的最新 AI 动态与独家辣评，共 10 篇

Ollama

Ollama 本地部署决策模型：Nimble 9B 实测

  • Ollama 0.35 新增 /v1/systemone 接口，一次请求就能回答一组带类型的判断问题
  • 上线 nimble（Bespoke Labs 开源 9B），以及 Together AI 的 tev1 两个决策模型
  • 官方称 Nimble 9B 在 M5 Max 本地平均每次决策 91ms，可用于工单分流、模型路由与内容审核
8 天前访问原文链接
Ollama

Ollama 改按 token 计费：对比订阅制谁更划算

  • Ollama 的 Pro、Max、Team 套餐改为按 token 计价，每档都附带每月用量额度。
  • Pro/Max/Team 三档月费 20/100/500 美元，分别含 60/300/1000 美元用量额度。
  • 官方称兼容 Claude Code 与 Codex，并承诺零数据留存、不记录提示词。
11 天前访问原文链接
Ollama

Ollama 0.30 开源：GGUF 本地部署与核心亮点

  • Ollama 0.30 借 llama.cpp 增强 GGUF 兼容性，NVIDIA 硬件上吞吐最高提升 20%
  • Vulkan 默认开启，GPU 加速扩展到 AMD、Intel 硬件，无需再单独安装厂商库
  • 支持 LFM、Prism、Unsloth 等更多模型与微调版本，GGUF 同样保留工具调用能力
  • 可把 GGUF 模型接进 coding agent：ollama launch claude 加模型名即可
15 天前访问原文链接
Ollama

Ollama MLX 深度实测：Mac 本地推理提速 20%

  • Ollama 更新 MLX 引擎，Apple Silicon 输出速度最高提升 20%
  • 新增 NVIDIA NVFP4 量化支持，官方称把 Gemma 4 12B 的 4bit 量化质量损失减半
  • 引入快照机制，多 Agent、思考模型、分支重试可复用上下文，避免重复处理 prompt
  • 启动方式 ollama run gemma4:12b-mlx，或一条命令把模型接进 agent
15 天前访问原文链接
Ollama

Nemotron 3 Ultra 开源：长时 Agent 本地跑实测

  • NVIDIA 开源模型上线 Ollama 云端，550B 总参数、每个 token 仅激活 55B
  • 面向长跑型 Agent：100 万 token 上下文，覆盖 Agent 编排、编程 Agent 与深度研究等数百步流程
  • 官方称在 agentic 与长上下文基准上领先开源模型，并用 NVFP4 量化把成本压最多 30%
16 天前访问原文链接
Ollama

OpenJarvis 开源：本地优先的个人 AI 好用吗

  • 斯坦福 Hazy Research 等实验室开源 OpenJarvis v1.0，定位本地优先的个人 AI 框架
  • 内置 Ollama 支持，模型默认本地运行、云端可选，同时记录能耗、成本与延迟
  • 自带跨文件研究（返回引用）与本地代码助手两种预设 Agent
17 天前访问原文链接
Ollama

Gemma 4 深度实测：Mac 上代码 Agent 提速 90%

  • Ollama 0.31 为 Gemma 4 开启多 token 预测（MTP），Apple Silicon 上默认生效
  • 做法是用小型草稿模型猜若干 token，主模型一次校验并采纳同意的部分
  • 官方用 Aider polyglot 真实编码 Agent 基准测得平均提速近 90%，且不改变输出
17 天前访问原文链接
Ollama

Nemotron 3.5 实测：30B 模型本地跑 Agent

  • NVIDIA 的 Nemotron 3.5 Lightning 上架 Ollama，30B 总参数仅 3B 激活
  • 官方称同级开源模型中吞吐高 4 倍，任务完成时间快 30%
  • 支持 1M 上下文，主打常驻 Agent 的读文件、调工具与失败重试
17 天前访问原文链接
Ollama

Muse Glimmer 开源：30B 本地部署与核心亮点

  • Meta Superintelligence Labs 首个开源模型 Muse Glimmer 上架 Ollama：30B 多模态、Apache 2.0 许可、128K+ 上下文
  • 面向本地 Agent 负载，可驱动 Claude Code、Codex、Pi 等编程智能体，以及 OpenClaw、Hermes 等长期助手
  • Ollama 的 MLX 引擎新增 DFlash 支持，Apple Silicon 上提速 1.5 至 1.8 倍，并支持图像输入
18 天前访问原文链接
Ollama

Claude Desktop 接 Ollama：本地部署几步跑起来

  • Ollama 成为 Claude Desktop 可配置的第三方网关提供方，能在 Claude 客户端里直接调用本地开源模型
  • 用户保留 Claude 的界面与使用习惯，推理却跑在本机，代码与文档不必上传云端
  • （基于原文摘要推断）仍需自行下载对应开源权重，本地能力决定体验上限
18 天前访问原文链接