AIDC
DC AI 热点

全部 AI 动态

9月26日2026-09-26
ServeTheHome✦ 精选AI 评分 75/10001:00

AMD揭晓下一代EPYC 9006 Venice服务器处理器及Zen 6产品路线图

AMD即将推出下一代代号为“Venice”的EPYC 9006系列服务器处理器,正式将Zen 6微架构引入服务器市场。本次披露涵盖了AMD完整的第六代EPYC产品线布局,并展示了该公司从当下至2027年下半年的服务器与数据中心芯片演进规划,为未来算力基础设施的升级提供支撑。

阅读原文 ↗推荐理由:AMD公开了基于Zen 6架构的下一代EPYC服务器处理器及至2027年的完整产品路线图,对数据中心算力演进具有重要参考价值。# 芯片# 算力# 数据中心# AMD
9月25日2026-09-25
vLLM 官方博客(网页)✦ 精选AI 评分 65/100收录 07:49

在 AMD GPU 上探索 vLLM 投机解码技术

本文主要探讨在 AMD GPU 硬件平台上利用 vLLM 推理框架实现投机解码(Speculative Decoding)的技术探索与优化。投机解码是一种有效降低大语言模型推理延迟的高级加速技术。结合 vLLM 与 AMD 算力生态,旨在提升大模型的生成吞吐量。由于原始素材仅提供标题,具体的实现细节、支持的硬件型号及性能评测数据等信息暂未披露。

阅读原文 ↗推荐理由:关注开源推理框架 vLLM 在 AMD GPU 算力平台上的投机解码实践与性能加速。# AMD# vLLM# 投机解码# GPU算力# 推理
9月23日2026-09-23
vLLM 更新AI 评分 45/10016:06

ROCm CI 新增 AMD MI355 芯片 Dense NVFP4 与 MoRI 算子镜像支持

开源项目在 v0.30.1rc0 版本更新中,针对 AMD ROCm 持续集成(CI)流程添加了下一代加速卡 MI355 的 Dense NVFP4 精度及 MoRI 算子内核镜像。该更新由 AMD 工程师提交,旨在完善对 AMD 新一代硬件低精度计算格式的持续集成测试与底层算子支持,加速相关 AI 框架对 MI355 算力生态的适配。

阅读原文 ↗推荐理由:展示了 AMD 下一代 MI355 算力卡在开源生态与低精度算子层面的适配进展。# AMD# ROCm# MI355# NVFP4# 算力生态
9月14日2026-09-14
vLLM 官方博客(网页)✦ 精选AI 评分 78/10000:00

AMD MI300X实现Megatron训练与vLLM推理的按位完全一致性

vime与RL-Kernel在AMD Instinct MI300X及ROCm软件栈上,实现了Megatron训练端与vLLM推理端(Rollout)选定Token对数概率的按位(bit-for-bit)完全一致。该技术解决了大模型强化学习微调过程中,因训练与采样引擎底层算子实现差异导致的数值偏差痛点,达成测试零误差,大幅提升了AMD算力生态在RLHF等强化学习工作流中的稳定性和可用性。

阅读原文 ↗推荐理由:攻克了大模型强化学习中训练与采样数值不一致的关键系统工程难题,完善了AMD GPU的开源生态。# AMD# 芯片# 算力# 强化学习# 微调