英伟达推出机密计算方案，助力实现私有高性能生产级AI推理
随着大语言模型（LLM）推理在个人、企业及受监管行业中日益广泛地处理敏感数据和专有模型上下文，隐私与安全防护变得至关重要。英伟达通过其机密计算（Confidential Computing）技术，致力于在保护数据隐私和知识产权的同时，提供生产级的高性能AI推理能力，确保大模型在云端及基础设施中的安全可靠运行。
DC AI 热点
全部 AI 动态
9月23日2026-09-23
9月22日2026-09-22
英伟达在Dynamo-Triton中集成TensorRT多设备推理，简化多GPU模型部署服务
随着生成式AI对计算与显存的需求不断超出单卡上限，英伟达推出TensorRT多设备推理新功能，并将其集成至NVIDIA Dynamo-Triton中。该方案旨在简化跨多个GPU的大模型推理服务部署流程，有效降低多卡分布式推理的工程复杂度，提升大规模生成式AI模型在多GPU环境下的服务效率与吞吐能力。
9月21日2026-09-21
利用英伟达 Earth-2 平台将最新观测数据转化为及时气象决策
气象敏感型行业如今能够获取更具前瞻性和局部化的环境变化观测数据。英伟达通过 Earth-2 气候数字孪生平台，帮助能源等行业整合最新观测数据并实现高精度的天气模拟与预测，从而在气候变化加剧的背景下辅助企业优化运营、评估灾害风险并制定更及时的业务决策。摘要信息有限，主要展示了该技术在气象敏感领域的赋能潜力。
9月19日2026-09-19
使用 AIPerf 对大规模大语言模型推理进行基准评测
在系统上部署大语言模型后，评估其实际推理速度与性能表现是关键难题。本文介绍了用于大规模大模型推理评测的工具 AIPerf，旨在帮助开发者和工程师摆脱直觉猜测，建立系统化、规模化的性能基准测试方法，准确衡量模型在不同负载下的响应速度与吞吐能力。
9月16日2026-09-16
稠密模型与MoE架构对比：激活参数、吞吐量与选型策略解析
文章深入探讨了稠密（Dense）模型与混合专家（MoE）模型的核心差异，重点解析了激活参数量、推理吞吐量以及不同应用场景下的选型策略。文中以 Nemotron 3.5 Lightning 为例，剖析了总参数量达 30B 的模型如何通过每个 Token 仅激活 3B 参数，既保持了大模型的表征能力又大幅提升了计算效率，为开发者在算力受限下权衡推理成本与模型表现提供了系统指导。
9月15日2026-09-15
利用 NVIDIA Transformer Engine 加速 JAX 下的无丢弃 MoE 训练
混合专家模型（MoE）已成为当前大模型训练的主流架构趋势，如 DeepSeek、Qwen 和 Mixtral 等模型均采用了该方案。针对 MoE 训练过程中的计算与通信开销，技术团队探讨了如何利用 NVIDIA Transformer Engine 在 JAX 深度学习框架下实现无丢弃（Dropless）MoE 模型的高效训练加速，进一步优化大语言模型的训练性能与资源利用率。