AIDC
DC AI 热点

全部 AI 动态

9月25日2026-09-25
Ollama 更新AI 评分 58/10010:25

llama-server 发布 v0.40.0-rc0 候选版本:重构清单管理并推进移除兼容补丁

llama-server 发布 v0.40.0-rc0 候选版本,着手准备移除历史兼容补丁。该版本引入了清单列表存储机制,支持在同一标签下共存针对特定运行时的清单配置,CLI 工具也全面支持基于 runner 和摘要的选择与传输。新版还为旧版 Ollama GGUF 模型增加了向 llama.cpp 兼容格式的惰性本地迁移能力,完整保留模板、投射器及 MTP 等元数据,并同步扩展了创建与导入路径。

阅读原文 ↗推荐理由:该版本重构了本地模型清单存储机制,推进了与 llama.cpp 生态的深度兼容及平滑过渡。# llama-server# llama.cpp# Ollama# GGUF# 推理框架
9月24日2026-09-24
Ollama 更新AI 评分 40/10012:45

本地大模型工具发布 v0.34.4:优化思维模型结构化输出与 Apple Silicon 性能

本地大模型工具发布 v0.34.4 版本更新。新版本支持在思考模型上单次生成结构化输出,提升了运行速度与可靠性;同时加速了 Apple Silicon 设备上 Qwen 3.8 的提示词处理,并改进了 Gemma 4 对高分辨率图像的处理机制。此外,更新修复了大型本地库偶发“模型未找到”及 macOS 界面卡顿等问题,并同步升级了 llama.cpp、MLX 和 XGrammar 依赖。

阅读原文 ↗推荐理由:包含端侧模型结构化输出优化及 Apple Silicon 平台性能与稳定性修复的小版本更新。# Apple Silicon# 结构化输出# llama.cpp# MLX# 端侧AI
9月18日2026-09-18
Ollama 更新AI 评分 45/10007:04

Ollama 发布 v0.34.2 版本,修复 MLX 推测解码内存增长问题并更新 llama.cpp

本地大模型运行框架 Ollama 发布 v0.34.2 版本更新。新版本新增了首次运行时的设置流程,用户可选择登录或直接在本地继续使用,且设置状态可在 macOS 和 Windows 桌面应用间共享;支持通过 ollama://apps 协议直接唤起桌面应用的应用页面;修复了在使用 MLX 推测解码进行长文本生成时内存过度占用的问题,并同步更新了底层 llama.cpp 依赖。

阅读原文 ↗推荐理由:本地大模型运行工具 Ollama 的常规维护更新,修复了推理长文本内存泄漏并优化了桌面端交互流程。# Ollama# 开源# 推理# 端侧AI# llama.cpp