面向生物基础模型的高效混合专家（MoE）训练方法
随着语言模型规模的持续扩大，扩展传统密集架构的计算成本变得愈发昂贵。在密集 Transformer 模型中，每个标记都会经过所有网络层，导致算力消耗剧增。针对这一挑战，该研究探讨了面向生物基础模型的高效混合专家（MoE）训练技术，旨在通过稀疏激活机制降低计算开销，提升大模型在生物医学等特定领域的训练效率与扩展能力。
DC AI 热点
全部 AI 动态
9月24日2026-09-24
NV-Reason-CT 发布：面向放射科思维链推理的开源 3D CT 视觉语言模型
虽然放射科 AI 在胸部 X 光、病理切片及 2D 影像检测中已取得显著进展，但针对临床信息更为丰富的 3D CT 影像理解仍面临挑战。为此，相关研究推出了开源 3D CT 视觉语言模型 NV-Reason-CT。该模型旨在引入放射科医生的思维链（Chain-of-Thought）推理机制，强化 AI 对三维医学断层扫描数据的深度解读与逻辑分析能力，助力复杂的临床影像辅助诊断。
部署AI负载前如何全面验证GPU集群就绪性
在实际运行AI工作负载前，即便GPU集群通过了各项常规健康检查（如GPU单卡、网络链路及Pod状态均显示正常），512卡等大规模分布式训练任务仍可能面临运行失败。文章指出传统的基础硬件监控无法完全保障复杂AI任务的稳定运行，强调了在正式上线AI负载前，必须对GPU集群进行深度的端到端就绪性验证，以提前排查潜在隐患。
NodeWright：专注于 Kubernetes 节点集群底层配置与运维管理的工具
Kubernetes 主要负责调度和管理节点上运行的工作负载，但对节点底层的运维管理仍具挑战。NodeWright 旨在解决节点自身的管理难题，涵盖内核参数调优、系统软件包安装与更新、存储布局配置以及安全代理部署等底层系统级运维需求，帮助运维团队更高效地管理 Kubernetes 节点集群基础设施。
SWE-Serve揭示AI编程智能体在本地测试与线上推理服务间的表现差距
该研究探讨了AI编程智能体在修改模型推理服务软件时的现实局限，并推出相关评测框架SWE-Serve。研究指出，AI智能体生成的代码补丁即使能够顺利通过本地测试，在服务器加载真实模型并处理实际服务请求时仍可能失败。该成果重点分析了针对推理服务系统进行代码评估的复杂性，指出了传统离线测试环境与真实高负载在线部署之间的关键工程脱节问题。
9月23日2026-09-23
英伟达推出机密计算方案，助力实现私有高性能生产级AI推理
随着大语言模型（LLM）推理在个人、企业及受监管行业中日益广泛地处理敏感数据和专有模型上下文，隐私与安全防护变得至关重要。英伟达通过其机密计算（Confidential Computing）技术，致力于在保护数据隐私和知识产权的同时，提供生产级的高性能AI推理能力，确保大模型在云端及基础设施中的安全可靠运行。
英伟达推出Topograph：面向AI工厂的拓扑感知工作负载调度方案
随着AI工厂受限于功耗与互联网络瓶颈，系统最大化价值高度依赖全栈优化，其中GPU工作负载的调度放置成为核心环节。英伟达推出Topograph调度工具，通过感知底层硬件与网络拓扑结构，优化多GPU任务在集群中的分配方案，旨在消除网络通信拥塞并提升整体算力集群的运行效率与能效表现。
9月22日2026-09-22
英伟达发布DLSS 5：引入3D引导神经渲染，升级ACE与RTX套件功能
英伟达面向游戏开发者发布系列技术更新，推出DLSS 5并引入DLSS 3D引导神经渲染（3D-Guided Neural Rendering）及精细化控制功能，旨在帮助开发者在保持渲染性能的同时，呈现逼真的光照效果和材质细节。此外，本次更新还涵盖了NVIDIA ACE（虚拟数字人技术）的最新进展以及RTX Kit套件的新功能增强。
利用AI智能体与NVIDIA Isaac ROS加速ROS 2节点性能
GPU加速虽能提升计算密集型机器人工作负载的效率，但仅凭高效的CUDA内核并不足以确保整个ROS 2图的高性能运行。随着消息在节点之间传递，系统架构与通信开销往往成为瓶颈。本文探讨如何结合AI智能体与英伟达Isaac ROS套件，对ROS 2节点及计算图进行端到端的深度优化与性能加速，克服机器人数据流传输中的性能瓶颈。
英伟达在Dynamo-Triton中集成TensorRT多设备推理，简化多GPU模型部署服务
随着生成式AI对计算与显存的需求不断超出单卡上限，英伟达推出TensorRT多设备推理新功能，并将其集成至NVIDIA Dynamo-Triton中。该方案旨在简化跨多个GPU的大模型推理服务部署流程，有效降低多卡分布式推理的工程复杂度，提升大规模生成式AI模型在多GPU环境下的服务效率与吞吐能力。
如何评估AI智能体：从工具调用到任务完成的全流程解析
在部署和应用AI智能体时，核心挑战在于验证其能否在真实运行环境中，通过连续数十次工具调用顺畅执行一系列复杂工作流，并最终准确完成任务。本文探讨了评估AI智能体端到端表现的关键方法与指标，重点聚焦于智能体在多步调用链中的鲁棒性、环境交互能力及任务达标率的系统性评测框架。
9月21日2026-09-21
利用英伟达 Earth-2 平台将最新观测数据转化为及时气象决策
气象敏感型行业如今能够获取更具前瞻性和局部化的环境变化观测数据。英伟达通过 Earth-2 气候数字孪生平台，帮助能源等行业整合最新观测数据并实现高精度的天气模拟与预测，从而在气候变化加剧的背景下辅助企业优化运营、评估灾害风险并制定更及时的业务决策。摘要信息有限，主要展示了该技术在气象敏感领域的赋能潜力。
9月19日2026-09-19
使用 AIPerf 对大规模大语言模型推理进行基准评测
在系统上部署大语言模型后，评估其实际推理速度与性能表现是关键难题。本文介绍了用于大规模大模型推理评测的工具 AIPerf，旨在帮助开发者和工程师摆脱直觉猜测，建立系统化、规模化的性能基准测试方法，准确衡量模型在不同负载下的响应速度与吞吐能力。
9月17日2026-09-17
如何利用AI智能体构建与验证用于物理仿真的3D场景
文章介绍了如何将AI智能体工作流应用于物理AI系统的数字孪生准备与验证中。通过智能体工作流，AI能够自动巡检并解析3D场景，生成和编辑仿真所需的关键数据，从而大幅提升物理仿真环境的搭建效率，为具身智能与机器人等物理AI系统的训练与测试提供高质量的数字孪生支撑。
英伟达 TensorRT Edge-LLM 在 Jetson AGX Thor 上实现 MLPerf 边缘智能体基准 6.4 倍加速
英伟达公布最新测试结果，TensorRT Edge-LLM 在 Jetson AGX Thor 平台上运行 MLPerf 边缘智能体基准测试时实现了 6.4 倍的速度提升。随着 AI 智能体逐步从云端数据中心迁移至汽车、机器人及其他边缘硬件，该技术针对需要多步骤推理的智能体工作流进行了优化，显著提升了端侧设备本地处理复杂任务的能力与能效表现。
基于智能体 AI 实现 CUDA Tile 操作从 Python 到 Rust 的转换
该项目介绍了 cuTile Rust（cutile-rs），这是一个用于在 Rust 编程语言中安全、规范编写 GPU 内核的基于 Tile 的系统。研究探讨了利用智能体 AI（Agentic AI）技术，将 Python 中的 CUDA Tile 操作自动转换并适配至 Rust，将 Rust 的所有权和类型安全机制扩展到高性能 GPU 算子开发中。
9月16日2026-09-16
稠密模型与MoE架构对比：激活参数、吞吐量与选型策略解析
文章深入探讨了稠密（Dense）模型与混合专家（MoE）模型的核心差异，重点解析了激活参数量、推理吞吐量以及不同应用场景下的选型策略。文中以 Nemotron 3.5 Lightning 为例，剖析了总参数量达 30B 的模型如何通过每个 Token 仅激活 3B 参数，既保持了大模型的表征能力又大幅提升了计算效率，为开发者在算力受限下权衡推理成本与模型表现提供了系统指导。
英伟达探讨 Groq 3 LPX 确定性执行如何驱动 Vera Rubin 架构实现高效低延迟推理
功耗已成为 AI 数据中心的关键制约因素。随着 AI 工作负载对全栈计算平台提出更高要求，计算平台的各个组件都必须最大化能效。文章探讨了在英伟达下一代 Vera Rubin 平台上，如何通过 Groq 3 LPX 风格的确定性执行机制来优化高交互性推理任务，从而在严苛的功耗限制下实现极低延迟和高能效表现。
英伟达解析 NVLink 6 如何为 AI 工厂构建多层容错韧性
英伟达阐述了下一代互联技术 NVLink 6 如何为超大规模“AI 工厂”提供多层弹性与高可用保障。对于大规模 AI 训练而言，保障集群持续稳定运行是提升算力生产力的关键。NVLink 6 通过针对性设计的多层韧性机制，在庞大 GPU 集群互联中降低软硬件故障引发的训练中断风险，确保超大规模并行计算的高吞吐与业务连续性。
9月15日2026-09-15
利用 NVIDIA FLARE 在 Docker、Kubernetes 和 Slurm 上扩展联邦学习
联邦学习项目通常起步于单服务器、少数客户端及各站点单一数据集的基础架构。随着项目规模扩大，跨异构环境的部署与扩展成为关键挑战。文章介绍了如何借助 NVIDIA FLARE 框架，将联邦学习工作负载高效扩展至 Docker 容器、Kubernetes 集群以及超算常用的 Slurm 调度系统，帮助开发者统一跨平台编排并提升分布式隐私计算的扩展能力。
利用 NVIDIA Transformer Engine 加速 JAX 下的无丢弃 MoE 训练
混合专家模型（MoE）已成为当前大模型训练的主流架构趋势，如 DeepSeek、Qwen 和 Mixtral 等模型均采用了该方案。针对 MoE 训练过程中的计算与通信开销，技术团队探讨了如何利用 NVIDIA Transformer Engine 在 JAX 深度学习框架下实现无丢弃（Dropless）MoE 模型的高效训练加速，进一步优化大语言模型的训练性能与资源利用率。
9月11日2026-09-11
How Full-Stack NIM Optimizations Deliver 2.5x More Users on Nemotron 3 Ultra
Deploying a large language model is only the first step toward production-ready serving. Production teams also need to serve as many concurrent users as...
9月10日2026-09-10
High-Throughput Structure Prediction with BioNeMo Inference Runtime
Biomolecular structure prediction is now often run at proteome scale, where the goal is to move an entire worklist through the pipeline efficiently. NVIDIA...
From Wafer-Out to First Token: Codifying Supply Chain Expertise with Nemotron and Palantir Foundry
NVIDIA has one of the largest and most complex supply chains in the world, and its performance is measured from wafer-out to first token. The interval is in two...
When to Use Encode-Prefill-Decode Disaggregation to Accelerate Multimodal Model Serving
Encode-prefill-decode (EPD) disaggregation is an inference optimization technique for multimodal models that separates the vision encoder stage from the prefill...
CUDA Toolkit 13.4 Adds Windows on Arm Support and Greater Control over Shared GPUs
Every NVIDIA CUDA Toolkit release adds functionality and performance improvements that help developers get more from NVIDIA GPUs and the broader NVIDIA software...
9月8日2026-09-08
Introducing CUDA Rust: Two Tracks for Writing GPU Kernels
In September 2026, NVIDIA announced it is leaning into native GPU programming in Rust. CUDA C++ and CUDA Python are mature, enterprise-grade toolchains, and...
9月5日2026-09-05
Building a Memory-Driven Agent with NVIDIA NemoClaw
Enterprise work spans messages, decisions, projects, and obligations that change over time. An AI agent that starts without this context must reconstruct it...
Frontier Reasoning Reaches the Edge: How to Deploy and Optimize Models on NVIDIA Jetson
Running reasoning and agentic AI at the edge has been harder than it needs to be. Until recently, models capable of multi-step reasoning were too large to run...
9月4日2026-09-04
How to Carry User Identity Across Federated Kubernetes and AI Platforms
Modern AI platforms are no longer a single application behind one login screen. A user may start in a central portal, open a governed dataset, launch a notebook...
1 / 2下一页 →