AIDC
DC AI 热点

全部 AI 动态

9月25日2026-09-25
Ollama 更新AI 评分 58/10010:25

llama-server 发布 v0.40.0-rc0 候选版本:重构清单管理并推进移除兼容补丁

llama-server 发布 v0.40.0-rc0 候选版本,着手准备移除历史兼容补丁。该版本引入了清单列表存储机制,支持在同一标签下共存针对特定运行时的清单配置,CLI 工具也全面支持基于 runner 和摘要的选择与传输。新版还为旧版 Ollama GGUF 模型增加了向 llama.cpp 兼容格式的惰性本地迁移能力,完整保留模板、投射器及 MTP 等元数据,并同步扩展了创建与导入路径。

阅读原文 ↗推荐理由:该版本重构了本地模型清单存储机制,推进了与 llama.cpp 生态的深度兼容及平滑过渡。# llama-server# llama.cpp# Ollama# GGUF# 推理框架
9月23日2026-09-23
Ollama 更新✦ 精选AI 评分 60/10004:42

Ollama 发布 v0.34.3 版本更新,支持模型思考控制查询与 Nemotron 视觉模型

本地模型运行框架 Ollama 发布 v0.34.3 版本更新。新版本在 CLI 和 /api/show 接口中新增了对各模型“思考级别(thinking controls)”参数及其默认值的展示支持;同时支持通过 MLX 在 Apple Silicon 设备上运行 Nemotron H 视觉模型。此外,该版本还修复了从 HuggingFace 拉取模型的问题,并优化了 macOS 客户端的应用激活窗口逻辑。

阅读原文 ↗推荐理由:开源大模型本地部署与推理工具 Ollama 的功能更新,增强了思考参数控制及多模态模型支持。# Ollama# 开源# 推理# 端侧AI# 多模态
9月18日2026-09-18
Ollama 更新AI 评分 45/10007:04

Ollama 发布 v0.34.2 版本,修复 MLX 推测解码内存增长问题并更新 llama.cpp

本地大模型运行框架 Ollama 发布 v0.34.2 版本更新。新版本新增了首次运行时的设置流程,用户可选择登录或直接在本地继续使用,且设置状态可在 macOS 和 Windows 桌面应用间共享;支持通过 ollama://apps 协议直接唤起桌面应用的应用页面;修复了在使用 MLX 推测解码进行长文本生成时内存过度占用的问题,并同步更新了底层 llama.cpp 依赖。

阅读原文 ↗推荐理由:本地大模型运行工具 Ollama 的常规维护更新,修复了推理长文本内存泄漏并优化了桌面端交互流程。# Ollama# 开源# 推理# 端侧AI# llama.cpp