Ollama
Ollama 0.30 开源:GGUF 本地部署与核心亮点
- Ollama 0.30 借 llama.cpp 增强 GGUF 兼容性,NVIDIA 硬件上吞吐最高提升 20%
- Vulkan 默认开启,GPU 加速扩展到 AMD、Intel 硬件,无需再单独安装厂商库
- 支持 LFM、Prism、Unsloth 等更多模型与微调版本,GGUF 同样保留工具调用能力
- 可把 GGUF 模型接进 coding agent:ollama launch claude 加模型名即可
27 天前访问原文链接