请选择 进入手机版 | 继续访问电脑版
设为首页收藏本站

Crossin的编程教室

 找回密码
 立即加入
查看: 2851|回复: 0

NVIDIA Jetson Orin Nano 开箱测评

[复制链接]

174

主题

45

好友

11万

积分

管理员

Rank: 9Rank: 9Rank: 9

发表于 2023-3-28 16:23:05 |显示全部楼层
大家好,我是Crossin。欢迎来到 Crossin的编程教室 !
今天给大家带来的是一期开箱测评视频。
视频版:https://www.bilibili.com/video/BV1Rv4y1G7mU/
大家都知道最近AI是非常的火,哪怕你不关心科技圈的新闻,也一定不止一次看到ChatGPT、AI画画之类的内容。
而我今天要体验的,正是一款AI相关的硬件设备。
话不多说,我们来一起看看吧。

今天的主角是英伟达刚刚在GTC大会上最新发布的人工智能计算机:
NVIDIA Jetson Orin Nano 开发者套件
640.jpg
这个开发者套件主要由3部分组成,一个 Orin Nano 8G 模组,一块载板和一个风扇。
载板上的主要接口有电源接口、连接显示设备的DP接口,4个USB接口,网线接口,type-c接口。
两边还有40针引脚用来连接一些传感器和外设,以及连接高速摄像头的接口。
背后还有个micro-sd卡插槽作为外部存储。
640(1).jpg
之前我有一期视频是在一个动作识别项目中用到 NVIDIA Jetson AGX Orin 这款机器,同样都是适用于AI边缘计算的产品。很直观地可以看出,这次的 Orin Nano 在体积上要小很多,重量上也轻了不少。所以它会更适合一些对空间和便携性要求高的应用场景,比如用在小型机器人和无人机上。
640(2).jpg
那么它的性能怎么样?我们来真机体验一下,跑个分试试看。
通过预先写入 NVIDIA JetPack SDK 的 Micro-SD 卡进行系统和环境安装。安装完成后,我们从官网下载 benchmark 的测试文件,运行脚本安装环境后,就可以跑benchmark测试了。
这是视觉AI模型相关的测试,跑完大约45分钟,结果如下。
640(3).jpg
在之前 AGX orin 的视频中我们也跑过一次,对比一下之前的结果,AGX orin 的性能大致上是 orin nano 的 3~5 倍。但这么比显然不公平,不管是体积还是价格,包括电源输入功率,AGX 都大了几倍。两者面向的需求场景并不相同。
640(4).jpg
但如果我们跟之前老的 Jetson nano 对比,就会发现 Orin Nano 的性能是数量级上的提升。根据官方给出的数据,Orin Nano 达到了 每秒40万亿次运算(TOPS)的AI性能,是之前 nano 的80倍。
640(5).jpg

640(6).jpg

再来看一个更直观些的demo。一个基于 PeopleNet Transformer 的人物检测程序。官方为这个demo提供了docker容器,所以只需要简单几行命令就可以完成下载、配置和运行。
640(7).jpg

运行帧数大约在每秒7到8帧。这个程度虽然不能达到实时,但对于很多应用场景来说已经是足够了。如果有更高要求那可以考虑 AGX orin,同样的demo它的效率可以达到每秒30帧。
通过以上的介绍和测试可以看出,Jetson Orin Nano
  • 体积小、重量轻、功耗小,比较适合一些条件苛刻的边缘计算场景
  • 但小归小,它的性能并不弱,可以提供40万亿次运算的AI性能,是之前JetsonNano的80倍。可以胜任大量的AI相关开发需求。
  • 另外它还配套了NVIDIA JetPack 5.1,提供了用于加速GPU计算、多媒体、计算机视觉和图形的相关库,支持DeepStream、Isaac、Riva等SDK,是一套完整的边缘AI开发环境。极大地方便了开发者。
所以 NVIDIA Jetson Orin Nano 很适合用来开发入门级AI应用。另外,用它来作为学习和实践AI的设备也是一种不错的选择。但如果你对性能有更高要求,那可能就要考虑 AGX orin 了。
除了刚刚演示的程序,Jetson上还有许多有意思的AI demo,可以很方便地构建和运行,以及在此基础上开发自己的AI应用。这里就不一一演示了。
640(8).jpg
如果你对AI方面的开发有什么想法,欢迎在留言区中讨论。

#==== Crossin的编程教室 ====#
微信ID:crossincode
网站:http://crossincode.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即加入

QQ|手机版|Archiver|Crossin的编程教室 ( 苏ICP备15063769号  

GMT+8, 2024-7-15 14:07 , Processed in 0.018028 second(s), 26 queries .

Powered by Discuz! X2.5

© 2001-2012 Comsenz Inc.

回顶部