作者:原创
英伟达推出了一款全新的尺寸小巧的生成式 AI 超级计算机NVIDIA Jetson Orin Nano Super开发者套件,只有手掌大小,能够为商业 AI 开发者、科技爱好者和学生等各类人群提供更强大的生成式 AI 功能与性能,目前建议零售价为 2070 元。
Jetson Orin Nano Super 现已上市,可用于创建基于检索增强生成的 LLM 聊天机器人、构建视觉 AI 智能体和部署基于AI的机器人。与上一代产品相比,其生成式 AI 推理性能提升至1.7倍,性能提升了 70%,达到67 INT8 TOPS,内存带宽提高了50%,达到102GB/s。
全新 Jetson Orin Nano Super 的软件更新同样适用于现有 Jetson Orin Nano 开发者套件用户,通过升级软件,可显著提升生成式 AI 性能。
Jetson Orin Nano Super 适合对生成式 AI 开发、机器人技术以及计算机视觉感兴趣的开发者。随着AI 领域正在从特定任务模型转向基础模型,它为用户提供了一个易于上手的平台,帮助他们将创意转化为现实。
Jetson Orin Nano Super 在性能上的提升可为所有主流的生成式 AI 模型和基于 Transformer 的计算机视觉带来增益。
该开发者套件包含一个Jetson Orin Nano 8GB系统级模组(SoM)和一个参考载板,Jetson Orin Nano 8GB 模组配备了 NVIDIA Ampere GPU 和 6 核 ARM CPU,支持多个并发的 AI 应用管道和高性能推理。该模组支持最多 4 通道的摄像头模块,提供比以往更高的分辨率和帧率。
生成式 AI 正在迅速发展。NVIDIA Jetson AI 实验室为来自开源社区的前沿模型提供即时支持,并为开发者提供易于使用的教程。开发者还可以从Jetson社区获得广泛支持,并从开发者创建的项目中获得灵感。
Jetson可支持各种NVIDIA AI软件,包括NVIDIA Isaac机器人平台、NVIDIA Metropolis视觉AI平台和NVIDIA Holoscan传感器处理平台。借助NVIDIA Omniverse Replicator实现合成数据生成(SDG),以及通过NVIDIA TAO开发者套件对NGC目录中的预训练AI模型进行精细调整,可以有效缩短开发时间。
Jetson 生态系统合作伙伴可以提供额外的AI和系统软件、开发者工具以及定制软件开发,他们还可以针对摄像头、传感器、载板以及产品设计服务等提供支持。
Jetson Orin NX 和 Orin Nano 系列系统级模组也可以通过这一软件更新,实现 1.7 倍的生成式 AI性能提升。