這是一台全新的AI主機”Jetson Orin Nano Super Developer Kit”，效能提昇1.7倍，具有Cuda、cuDNN神經網路且透過全新的架構可以處理機器人以及大型語言模型。
我的ESP32實做書籍：我出書了 ESP32 物聯網專題
博客來網址：https://www.books.com.tw/products/0010901195
前言
2024年12月17日，NVIDIA執行長皮衣男黃仁勳在毫無預告下，在YT發布一個影片，只見他趣味的從廚房的烤爐端出一個”蛋糕”， 他說到這是一台全新的AI主機”Jetson Orin Nano Super Developer Kit”，效能提昇1.7倍，具有Cuda、cuDNN神經網路且透過全新的架構可以處理機器人以及大型語言模型。
這台號稱全新的Jetson Orin Nano “Super” 具有以下規格：
- 6 Core ARM Cortex78AR
- 1024 CUDA
- 32 Tensor
- 8GB 128-bit LPDDR5
這時候像我網路柯南就聞到一點奇怪的氣味，因為這個規格跟我目前手上的Jetson Orin Nano “without Super” 不是完全一樣的嗎？這個問題立即就有人在NVIDIA的官方論壇中詢問
“Is that mean there is no hardware difference? It’s just a BSP/software performance improvement?”
官方的回覆是
Yes, the existing Jetson Nano Orin Developer Kit can be upgraded to Jetson Orin Nano Super Developer Kit with this software update.
看來我的猜測是正確的，而前幾天，官方的FAQ已經加入這個問題的標準解答
也就是說，這台所謂的全新的Jetson Orin Nano “Super”，與舊版的Orin完全無硬體上的差異，而所謂的效能提昇1.7倍就是透過軟體升級來達成的，如果你手上有一台舊版Orin，只要安裝新的軟體，就可以穿上”紅內褲”變成Super的超人模式，不需要再為了這號稱的1.7倍效能購買新裝置，而原本Nano這個產品線的所有機器都會以Super型態出廠，不會再有純Nano規格的產品。
這樣說來，黃仁勳稱這台為”All brand New”，事實上並非是全新的架構，只是舊瓶裝新酒而已，那麼你肯定會控告這個廣告華而不實對吧，錯錯錯，這次NVIDIA的Jetson Orin Nano “Super”效能提昇了，但定價卻從$499美金(約台幣16400)降到$249(約台幣8200)，對消費者來說這才是真正的有用的實惠吧。
那麼一個舊硬體框架是如何透過軟體提升到1.7倍效能？另外一個問題則是8G小機器加上了最佳化軟體就能飛天鑽地嗎？
這期我們先回答第一個問題，Super Mode到底是從哪裡壓榨出來的？
答案可能是：加壓超頻
我們觀察兩個不同Jetpack套件，前版本5.1與Super版本6.1，可以發現，早期的電源模式最高15W，而在Super版比15W還多了MAXN選項，根據官方數據MAXN代表大約25W，那麼我們選擇MAXN模式後，會有什麼改變呢？
下圖則是將電源模式調整為MAXN模式後，比較其運作數據可以發現CPU運作頻率可高達1.7GHz（原本1.5 GHz），記憶體從2.1 GHz提升到3.2 GHz。
依照官方數據，與AI運算的主要裝置GPU，其頻率更從原本的635 MHz提升到1020 MHz，這也就是主要的Super模式的由來。經由這幾個方向的壓榨，我們可以看到裝置在AI效能有顯著的提昇，包括整數及浮點數的神經網路運算大約都能提昇70%以上效能。
如果你手上擁有的不是Nano這個規格的，是不是就沒辦法穿上紅內褲變成Super模式呢？嘿嘿，見鬼了，Orin NX也有Super模式，效能一樣提昇近50%，但（人生最恨的就是這個但）NX沒有降價，目前依舊為原價，另外Orin中最高等級的AGX似乎還沒有紅內褲的消息，有賴後續更新。
NX實體開箱
最後，筆者要拿出殺手鐧了，世界知名的工業電腦製造商研華科技提供一台Jetson Orin NX給筆者測試，這台NX出場就已經改成Super模式了，不僅如此現在因應各領域的AI流行趨勢，目前正在全面特價中，現在就來開箱。
開箱後可以看到與一般開發板不同的地方，研華科技專業的工業電腦工藝讓這台裝置穿上厚厚的盔甲，抵抗工業生產環境的各種職業災害。
拆掉上方的散熱片，非常厚實，光是這個散熱片就重達780g，可以說是用料實在，也可以發現整機不需要散熱風扇，避免了風扇故障帶來的風險。
前方面板則增加了SIM卡插槽及USB OTG，後續可以讓裝置直接升級到5G LTE網路基地台上網，對於有些沒有WiFi的廠區可以說是非常好方案。
後方面板則有雙網路卡、HDMI、雙USB3.0、及一個工業電源插頭。
內部設計也可以見到研華科技的用心，都已經預留WiFi模組、5G LTE模組、SSD模組接口，讓你擴充方便，適合所有的應用場域。
開機後可以看到，本系統出廠都已經改成Super模式，上圖為系統狀態表，也可以看到MAXN選項已經出現，接下來讓我們期待下一期我們將測試使用Super模式的NX執行效能，除了我最熟悉的YOLO影像辨識之外，也包括現今最流行的LLM，例如Ollama模型、文字生圖(Text to Image)、圖轉文字(Image to Text)，當然最近最火紅的deepseek離線版我們也將安裝測試他的效能，讓我們拭目以待。