AIDC
← 返回全部动态
vLLM 更新AI 评分 25/10009月17日 18:37

开源框架发布 v0.30.0rc1 补丁:隔离 FlashInfer BF16 自动调优

本动态为开源项目的 v0.30.0rc1 预发布版本修复记录(PR #57285)。该修复主要针对 FlashInfer 库在 BF16 精度下的补充自动调优(autotuning)逻辑进行了隔离处理,旨在提升相关推理计算的稳定性和性能表现。由于原始素材仅为 Git 代码合并签名记录,未披露具体的 Bug 表现及更多技术细节。

推荐理由属于开源推理框架中针对 FlashInfer BF16 自动调优的具体工程修复,信息量有限。

原标题:v0.30.0rc1: [Bugfix] Isolate supplemental FlashInfer BF16 autotuning (#57285)

阅读 vLLM 更新 原文 ↗