AIDC
DC AI 热点

全部 AI 动态

9月23日2026-09-23
vLLM 更新AI 评分 45/10016:06

ROCm CI 新增 AMD MI355 芯片 Dense NVFP4 与 MoRI 算子镜像支持

开源项目在 v0.30.1rc0 版本更新中,针对 AMD ROCm 持续集成(CI)流程添加了下一代加速卡 MI355 的 Dense NVFP4 精度及 MoRI 算子内核镜像。该更新由 AMD 工程师提交,旨在完善对 AMD 新一代硬件低精度计算格式的持续集成测试与底层算子支持,加速相关 AI 框架对 MI355 算力生态的适配。

阅读原文 ↗推荐理由:展示了 AMD 下一代 MI355 算力卡在开源生态与低精度算子层面的适配进展。# AMD# ROCm# MI355# NVFP4# 算力生态
9月22日2026-09-22
vLLM 更新✦ 精选AI 评分 75/10013:20

大模型推理框架发布 v0.30.0 版本:新增 DeepSeek-V4.1、GLM-5.3 等多款模型及优化支持

开源大模型推理框架发布 v0.30.0 版本更新,包含来自 315 位贡献者的 762 次提交。新版本支持了多款前沿大模型及架构优化,包括支持 MXFP8 格式 KV 缓存与 FlashMLA 的 DeepSeek-V4.1-Flash、支持 ROCm 与 LoRA 的 DeepSeek-V4-Flash-Vision-Exp、支持 EPLB 的 GLM-5.3-Flash,以及 K2-Horizon、Cohere Compass、Bailing V3 VL 等,并引入了基于 AVX512/AMX 的 CPU 后端支持。

阅读原文 ↗推荐理由:包含 DeepSeek-V4.1、GLM-5.3 等最新模型的推理支持及 FlashMLA、MXFP8 等底层算力优化特性。# 大模型# 推理# 开源# 算力# 多模态
9月19日2026-09-19
vLLM 更新AI 评分 25/10005:15

开源项目发布 v0.30.0rc2 候选版本,修复通知请求相关漏洞

该版本为 v0.30.0rc2 预发布候选版本,主要包含针对 NIXL 模块的缺陷修复(Bugfix),旨在避免仅通知类请求(notification-only requests)接收报告。由于输入素材信息较为有限,更多具体更新内容及完整变更日志需参考官方项目发布页面。

阅读原文 ↗推荐理由:常规开源软件预发布版本修补记录,信息较少,主要面向特定开发维护人员。# 开源
9月17日2026-09-17
vLLM 更新AI 评分 25/10018:37

开源框架发布 v0.30.0rc1 补丁:隔离 FlashInfer BF16 自动调优

本动态为开源项目的 v0.30.0rc1 预发布版本修复记录(PR #57285)。该修复主要针对 FlashInfer 库在 BF16 精度下的补充自动调优(autotuning)逻辑进行了隔离处理,旨在提升相关推理计算的稳定性和性能表现。由于原始素材仅为 Git 代码合并签名记录,未披露具体的 Bug 表现及更多技术细节。

阅读原文 ↗推荐理由:属于开源推理框架中针对 FlashInfer BF16 自动调优的具体工程修复,信息量有限。# 开源# 推理# AI编程
vLLM 更新AI 评分 30/10011:47

vLLM-proto 0.3.0 版本正式发布

开源大模型推理引擎 vLLM 的关联组件库 vllm-proto 正式发布 0.3.0 版本。由于发布页面目前仅包含版本更新标签,未提供详细的更新日志、特性列表或功能改进说明,具体变更细节有待官方进一步补充披露。该库通常用于定义 vLLM 相关的协议缓冲区与接口规范,为推理系统服务化提供基础通信支持。

阅读原文 ↗推荐理由:开源大语言模型推理框架 vLLM 相关协议组件的版本发布,但缺乏具体更新细节。# vLLM# 推理# 开源
9月16日2026-09-16
vLLM 更新AI 评分 25/10016:32

vLLM 协议组件 vllm-proto 0.2.0 版本发布

开源大语言模型推理框架 vLLM 相关协议组件 vllm-proto 发布 0.2.0 版本更新。当前素材仅包含该版本通过相关 Pull Request CI 验证的基础记录,未披露具体的更新日志、新特性及性能优化等技术细节,整体信息较为有限。

阅读原文 ↗推荐理由:开源大模型推理引擎相关组件的常规版本发布记录,但缺乏详细变更细节。# 推理# 开源# 大模型