
Jetson Thor是英伟达推出的一款专为物理AI和机器人开发设计的高性能计算平台,能够为机器人提供强大的AI计算能力和高效的实时处理能力。
1 主要功能
强大的AI计算能力:Jetson Thor可提供高达2070 FP4 TFLOPS的AI计算性能,与前代产品相比,AI计算性能提高至7.5倍以上。
高速传感器处理:平台支持4个25 GbE网络、摄像头卸载引擎和Holoscan传感器桥接器,能够提取高速传感器数据以实现实时性能。
多模态AI模型支持:支持包括视觉、语音、运动规划等多模态AI模型并行计算。
多任务并行与资源隔离:通过多实例GPU(MIG)技术,可将单块GPU划分为多个相互隔离的实例,为关键工作负载预留计算资源。
强大的安全性:在计算平台、AI模型和整个边缘到云工作流中提供端到端安全性。
2 技术原理
Blackwell架构GPU:Jetson Thor基于英伟达最新的Blackwell架构GPU打造,集成2560个CUDA核心与96颗第五代Tensor核心,支持FP4稀疏计算格式。
Transformer引擎与FP4支持:引入原生FP4量化技术,并搭配下一代Transformer引擎,该引擎可在FP4与FP8精度之间动态切换,以实现最优性能。
多实例GPU(MIG)技术:可将单块GPU划分为多个相互隔离的实例,每个实例拥有专属资源,确保性能的可预测性。
丰富的加速器集成:集成了一整套加速器,包括第三代Programmable Vision Accelerator(PVA)、双编码器与解码器、光流加速器等。
3 应用场景
人形机器人:为人形机器人提供强大的计算支持,使其能够在复杂环境中进行实时决策和交互。
工业机械臂:适用于工业机械臂的控制和优化,提高生产效率和质量。
自主移动机器人(AMR):帮助AMR在仓库、工厂和户外环境等非结构化环境中进行感知、定位和操作。
视频分析AI智能体:可用于视频监控、智能交通等场景中的视频分析和处理。
传感器处理:支持激光雷达、摄像头、麦克风等多模态传感器数据的同步处理,满足机器人在复杂环境下的实时决策需求。
4 使用方法
开发者套件:Jetson Thor开发者套件提供了丰富的输入输出(I/O)接口选项,包括1个支持4路25GbE的QSFP插槽、1个有线Multi-GbE RJ45接口、多个USB端口及其他连接接口,方便开发者进行原型开发。
软件栈优化:通过Jetson软件栈优化,可满足实时应用对低延迟与高性能的需求,支持所有主流生成式AI框架与AI推理模型。
全栈工具链:深度集成Isaac机器人平台与GR00T基础模型,提供从训练到部署的全栈工具链。开发者可通过Isaac Sim仿真平台进行数字孪生训练,再利用JetPack 7 SDK将模型无缝部署至边缘设备。
5 适用人群
机器人开发者:包括人形机器人、工业机械臂、自主移动机器人等领域的开发者,可用于开发各种机器人应用。
AI研究人员:适用于从事生成式AI、视觉语言模型等研究的人员,可在Jetson Thor平台上进行模型训练和推理。
工业自动化工程师:可用于工业自动化领域的系统集成和优化,提高生产效率和质量。
视频分析工程师:适用于视频监控、智能交通等领域的视频分析工程师,可用于开发高效的视频分析系统。
6 优缺点介绍
优点:
高性能:AI计算性能强大,能够满足复杂机器人应用的需求。
多任务处理能力:通过MIG技术实现多任务并行与资源隔离,提高资源利用率。
丰富的接口和加速器:提供多种接口和加速器,方便开发者进行原型开发和系统集成。
强大的软件支持:支持完整的NVIDIA AI软件栈,提供从训练到部署的全栈工具链。
安全性高:在计算平台、AI模型和整个边缘到云工作流中提供端到端安全性。
缺点:
价格较高:开发者套件售价3499美元,量产模组批量采购单价2999美元,成本相对较高。
功耗较大:虽然能效比有所提高,但其功耗范围在40W到130W之间,对于一些对功耗要求极低的应用场景可能不太适用。
分类标签:机器人计算平台、物理AI、人形机器人、工业自动化、视频分析
NVIDIA GPU Cloud 提供高性能GPU算力资源和优化的AI开发工具,专注于深度学习和AI应用。