Transformers 现已支持直接运行 llama.cpp 量化模型

Hugging Face 旗下核心框架 Transformers 现已支持直接加载和运行 llama.cpp 的量化格式模型。该功能进一步融合了主流开源推理生态，允许开发者在 Transformers 生态内直接使用经过 llama.cpp 极限量化的模型权重，大幅降低本地推理的显存占用并提升部署灵活性。由于输入信息较少，详细支持范围与参数请参阅官方更新说明。

原标题：Transformers now runs llama.cpp quants