AIDC
DC AI 热点

全部 AI 动态

9月24日2026-09-24
Ollama 更新AI 评分 40/10012:45

本地大模型工具发布 v0.34.4:优化思维模型结构化输出与 Apple Silicon 性能

本地大模型工具发布 v0.34.4 版本更新。新版本支持在思考模型上单次生成结构化输出,提升了运行速度与可靠性;同时加速了 Apple Silicon 设备上 Qwen 3.8 的提示词处理,并改进了 Gemma 4 对高分辨率图像的处理机制。此外,更新修复了大型本地库偶发“模型未找到”及 macOS 界面卡顿等问题,并同步升级了 llama.cpp、MLX 和 XGrammar 依赖。

阅读原文 ↗推荐理由:包含端侧模型结构化输出优化及 Apple Silicon 平台性能与稳定性修复的小版本更新。# Apple Silicon# 结构化输出# llama.cpp# MLX# 端侧AI
9月23日2026-09-23
Ollama 更新AI 评分 55/10008:53

开源项目发布 v0.34.4-rc0:通过 MLX 算子优化加速 Qwen 3.8 Prompt 处理

在 v0.34.4-rc0 版本更新中,针对 Qwen 3.8 模型的 Prompt 处理性能进行了多项优化。技术方案包括在长序列扫描中采用 MLX 的 gated-delta 核函数,并将 Dense MLP 全局缩放折叠融合至 SwiGLU 结构中,以此降低计算开销并加速提示词处理阶段的推理效率。

阅读原文 ↗推荐理由:展示了基于 MLX 框架对 Qwen 模型的算子融合与长序列处理加速的具体工程实践。# MLX# Qwen# 推理# 芯片# 开源