自动语音识别（ASR）模型通常在全精度下接受人口统计公平性审查，但实际生产部署的模型大多经过量化、剪枝和蒸馏等压缩处理。该研究探索了后训练权重压缩是否会重新分配不同人口群体的识别错误负担。在Fair-Speech、Common Voice 25和AfriSpeech-200等数据集上的评测显示，对Whisper-large-v3执行50% Wanda剪枝会显著拉大黑人/非裔与亚裔群体间的词错误率差距，表明压缩会复合加剧时间成本与识别公平性差异。
该研究针对微控制器级的三值（1.58-bit）权重语言模型进行了严格的受控复验。此前有研究称混合路由三值模块在6万参数规模下性能超越参数匹配的全精度Transformer达22%，并归因于归纳偏置。研究人员通过固定训练配方、多随机种子及98次测试进行复查，发现基线Transformer的具体结构形状对性能起主导作用，揭示了此前结论可能受基线设计差异误导，强调了极小模型对比的评估规范。
针对Transformer语言模型在自回归生成中长上下文计算开销大的问题，研究人员提出了一种序列计算蒸馏方法。该方法观察到许多相邻Token片段具有高度可预测性或常作为稳定单元出现，因而具备可压缩性。研究设计了一个轻量级合并模块，可动态将输入的多个Token片段替换为单个折叠表征，利用该替代嵌入捕捉原多Token序列的功能角色，从而减少序列计算开销并提升处理效率。
针对长流程大语言模型智能体积累海量交互历史带来的效率挑战，现有压缩策略通常独立评估单条记录，忽略了组合删除所引起的冗余或累积信息损失。为此，研究团队提出了直接关系集合风险修剪（DRSR）框架。该方法将智能体历史上下文压缩建模为基于删除集合的风险约束选择问题，从集合层面综合评估删除风险与保留信息，在保障决策安全与任务表现的前提下，实现了长程智能体的高效修剪。
Hugging Face 旗下核心框架 Transformers 现已支持直接加载和运行 llama.cpp 的量化格式模型。该功能进一步融合了主流开源推理生态，允许开发者在 Transformers 生态内直接使用经过 llama.cpp 极限量化的模型权重，大幅降低本地推理的显存占用并提升部署灵活性。由于输入信息较少，详细支持范围与参数请参阅官方更新说明。
该研究提出了一种从物理学视角出发的大语言模型剪枝新方法，将大模型中的层块移除（Block Removal）形式化建模为伊辛优化问题（Ising Optimization Problem），旨在通过统计物理中的经典优化模型探索更高效、系统化的模型压缩与结构化剪枝方案。注：原始素材仅提供标题，详细算法实现与实验结果待论文正文披露。
开源社区发布了 Bonsai 2 27B 模型及其相关量化版本。该模型通过先进的压缩与量化技术，在保持接近无损性能的前提下将模型体积缩减至原来的九分之一，其 GGUF 格式模型大小仅约 5.95 GB。开发者可以通过定制的 llama.cpp 分支运行时环境在本地设备（如 macOS 等）上部署和体验该高效压缩模型。
mlxrunner 推出 v0.34.2-rc1 预发布版本，重点对 model 模块进行了结构重构。新版本梳理了 runner 与模型架构协议、检查点打开以及从检查点张量构建神经网络层这三项核心职责。通过将 base.go 重命名为 model.go，并把 safetensors 头部扫描与 TensorQuantInfo 集中归入 quant.go，使得检查点量化信息的读取与解析逻辑更加聚合规范，同时规范了 nvfp4 等全局缩放辅助工具的处理。