英伟达 TensorRT Edge-LLM 在 Jetson AGX Thor 上实现 MLPerf 边缘智能体基准 6.4 倍加速
英伟达公布最新测试结果，TensorRT Edge-LLM 在 Jetson AGX Thor 平台上运行 MLPerf 边缘智能体基准测试时实现了 6.4 倍的速度提升。随着 AI 智能体逐步从云端数据中心迁移至汽车、机器人及其他边缘硬件，该技术针对需要多步骤推理的智能体工作流进行了优化，显著提升了端侧设备本地处理复杂任务的能力与能效表现。
推荐理由展示了英伟达下一代 Jetson Thor 平台在边缘端与具身硬件上加速运行 AI 智能体的性能突破。
原标题：TensorRT Edge-LLM Completes the MLPerf Edge Agentic Benchmark 6.4x Faster on Jetson AGX Thor
阅读 NVIDIA Developer Blog 原文 ↗