Crossin的编程教室

标题: NVIDIA Jetson Orin Nano 开箱测评 [打印本页]

作者: crossin先生 时间: 2023-3-28 16:23
标题: NVIDIA Jetson Orin Nano 开箱测评

大家好，我是Crossin。欢迎来到 Crossin的编程教室！

今天给大家带来的是一期开箱测评视频。

视频版：https://www.bilibili.com/video/BV1Rv4y1G7mU/

大家都知道最近AI是非常的火，哪怕你不关心科技圈的新闻，也一定不止一次看到ChatGPT、AI画画之类的内容。

而我今天要体验的，正是一款AI相关的硬件设备。

话不多说，我们来一起看看吧。

今天的主角是英伟达刚刚在GTC大会上最新发布的人工智能计算机：

NVIDIA Jetson Orin Nano 开发者套件

这个开发者套件主要由3部分组成，一个 Orin Nano 8G 模组，一块载板和一个风扇。

载板上的主要接口有电源接口、连接显示设备的DP接口，4个USB接口，网线接口，type-c接口。

两边还有40针引脚用来连接一些传感器和外设，以及连接高速摄像头的接口。

背后还有个micro-sd卡插槽作为外部存储。

之前我有一期视频是在一个动作识别项目中用到 NVIDIA Jetson AGX Orin 这款机器，同样都是适用于AI边缘计算的产品。很直观地可以看出，这次的 Orin Nano 在体积上要小很多，重量上也轻了不少。所以它会更适合一些对空间和便携性要求高的应用场景，比如用在小型机器人和无人机上。

那么它的性能怎么样？我们来真机体验一下，跑个分试试看。

通过预先写入 NVIDIA JetPack SDK 的 Micro-SD 卡进行系统和环境安装。安装完成后，我们从官网下载 benchmark 的测试文件，运行脚本安装环境后，就可以跑benchmark测试了。

这是视觉AI模型相关的测试，跑完大约45分钟，结果如下。

在之前 AGX orin 的视频中我们也跑过一次，对比一下之前的结果，AGX orin 的性能大致上是 orin nano 的 3~5 倍。但这么比显然不公平，不管是体积还是价格，包括电源输入功率，AGX 都大了几倍。两者面向的需求场景并不相同。

但如果我们跟之前老的 Jetson nano 对比，就会发现 Orin Nano 的性能是数量级上的提升。根据官方给出的数据，Orin Nano 达到了每秒40万亿次运算(TOPS)的AI性能，是之前 nano 的80倍。

再来看一个更直观些的demo。一个基于 PeopleNet Transformer 的人物检测程序。官方为这个demo提供了docker容器，所以只需要简单几行命令就可以完成下载、配置和运行。

运行帧数大约在每秒7到8帧。这个程度虽然不能达到实时，但对于很多应用场景来说已经是足够了。如果有更高要求那可以考虑 AGX orin，同样的demo它的效率可以达到每秒30帧。

通过以上的介绍和测试可以看出，Jetson Orin Nano

体积小、重量轻、功耗小，比较适合一些条件苛刻的边缘计算场景
但小归小，它的性能并不弱，可以提供40万亿次运算的AI性能，是之前JetsonNano的80倍。可以胜任大量的AI相关开发需求。
另外它还配套了NVIDIA JetPack 5.1，提供了用于加速GPU计算、多媒体、计算机视觉和图形的相关库，支持DeepStream、Isaac、Riva等SDK，是一套完整的边缘AI开发环境。极大地方便了开发者。

所以 NVIDIA Jetson Orin Nano 很适合用来开发入门级AI应用。另外，用它来作为学习和实践AI的设备也是一种不错的选择。但如果你对性能有更高要求，那可能就要考虑 AGX orin 了。

除了刚刚演示的程序，Jetson上还有许多有意思的AI demo，可以很方便地构建和运行，以及在此基础上开发自己的AI应用。这里就不一一演示了。

如果你对AI方面的开发有什么想法，欢迎在留言区中讨论。

欢迎光临 Crossin的编程教室 (https://bbs.crossincode.com/)