AIDC
DC AI 热点

全部 AI 动态

9月22日2026-09-22
Hugging Face✦ 精选AI 评分 75/10008:00

Transformers 现已支持直接运行 llama.cpp 量化模型

Hugging Face 旗下核心框架 Transformers 现已支持直接加载和运行 llama.cpp 的量化格式模型。该功能进一步融合了主流开源推理生态,允许开发者在 Transformers 生态内直接使用经过 llama.cpp 极限量化的模型权重,大幅降低本地推理的显存占用并提升部署灵活性。由于输入信息较少,详细支持范围与参数请参阅官方更新说明。

阅读原文 ↗推荐理由:打通了主流开源大模型框架与轻量化量化格式的生态壁垒,极大便利了开发者的低成本部署。# 大模型# 开源# 模型压缩# 推理# Hugging Face
Hugging FaceAI 评分 55/10008:00

oMLX 创建者 Jun Kim 加入 Hugging Face,将重点支持 MLX 社区生态

开源项目 oMLX 的创建者兼维护者 Jun Kim 宣布加入 Hugging Face,未来将专注于支持与发展苹果芯片机器学习框架 MLX 的开源生态。MLX 是苹果专为 Apple Silicon 设计的深度学习框架,oMLX 则为其相关衍生工具。由于原文仅提供标题信息,其具体职责及合作路线图等细节尚未披露。

阅读原文 ↗推荐理由:知名苹果端侧框架生态开发者加盟 Hugging Face,或进一步推动端侧 AI 及 Mac 算力生态整合。# Hugging Face# 开源# 端侧AI# 大模型