MarkdownとBullet Journal

いわゆるプログラマーのつぶやき

Jetson AGX Orin 導入編

2024/2時点で最高スペックのAIエッジデバイス

生成AIをエッジで動かしたいニーズが高まりつつあり、手軽にGPUを動かせるJetsonシリーズの内、2024/3時点で最高スペックのJetson AGX Orinを入手したので、導入ステップを備忘録として残す。

Jetson AGX Orin スペック

GPUエッジデバイスとしては現時点ではダントツの性能だ。生成AIも量子化などの工夫はいるが実用速度で動く（実証追記予定）。

  • AI パフォーマンス 275 TOPS
  • GPU 2048-core NVIDIA Ampere architecture GPU with 64 Tensor Cores
  • GPU 最大周波数 1.3 GHz

本体開梱

整然と箱に収まっており、取り出しは容易。

大きな箱に入ってます

蓋を開けると本体が見えます

裏面を見ると部品が見えます

付属のACアダプタと配線類

配線一式。なぜか電源ケーブルが３本もある

システムインストール

添付のペラペラのマニュアルに開始用のURLが書いてあるが、そこにアクセスするとページが無いと出るw。

指定のURLではNG

そこでQRコードで表示されるURLにアクセスすると無事にたどり着いた。

developer.nvidia.com

自動翻訳で表示した画面。

導入ステップガイドのページ

導入手順は以下となる。

導入手順

なお、他に以下を準備する必要がある。

  • ディスプレイ
  • DisplayPort-HDMI変換アダプターとHDMIケーブル
  • キーボードとマウス
  • イーサネットケーブル

導入① Ubuntuセットアップ

まず、以下を開発者キットに接続する。

  • HDMI入力モニターと、DisplayPort-HDMIアダプター/ケーブルを介して接続
  • USBキーボードとマウスを接続
  • イーサネットケーブル
  • 付属電源アダプタをJetson本体のDCジャックの上にあるUSBType-C™ポートに接続

しばらく経つと開発者キットの電源が自動的にオンになり、電源ボタンの近くにある白色LEDが点灯する。（そうでない場合は、電源ボタンを押すみたい）。コンピューターのモニターにUbuntuの画面が表示されるまで最大1分待つ。初めて起動するときは、開発者キットを使用して、次のような初期設定を行う。

  • NVIDIA Jetson ソフトウェアの EULA を確認して同意する
  • システム言語、キーボードレイアウト、タイムゾーンを選択する
  • ユーザー名、パスワード、およびコンピューター名を作成する
  • chromiun browserのインストール（まぁまぁ時間がかかる）
  • ワイヤレス ネットワークの構成

oem-configを完了すると、開発者キットが再起動し、ディスプレイに次のようなUbuntuデスクトップが表示される。

Ubuntuが起動した状態

なおこの画面で表示されるonline acountは選んでも反応しないのでSKIP。

導入② JetPack コンポーネントをインストール

初期設定が完了したら、L4T バージョンに対応する最新の JetPack コンポーネントをインターネットからインストールできる。

Ubuntuデスクトップを使用している場合は、ターミナルウィンドウを開く(Ctrl+Alt+T).

確認事項

まず L4T のバージョンをチェックして、古いバージョンの BSP でフラッシュされたユニットがあるかどうかを確認する。

cat /etc/nv_tegra_release

次のようなものが表示される場合があり、これは JetPack 5.0 Developer Preview の L4T があることを示す。

# R34 (release), REVISION: 1.0, GCID: 30102743, BOARD: t186ref, EABI: aarch64, DATE: Wed Apr 6 19:11:41 UTC 2022

以前のバージョンの L4T を使用している場合は、次のコマンドを発行して、以下のコマンドを使用して apt リポジトリ エントリを手動で配置する。

sudo bash -c 'echo "deb https://repo.download.nvidia.com/jetson/common r34.1 main" >> /etc/apt/sources.list.d/nvidia-l4t-apt-source.list'
sudo bash -c 'echo "deb https://repo.download.nvidia.com/jetson/t234 r34.1 main" >> /etc/apt/sources.list.d/nvidia-l4t-apt-source.list'

またはそれ以降が表示されている場合は、aptソースリストがすでに最新であり、続行できる。私の場合はR35（r35.2）と最新だったためこの作業はSKIP。

R34 (release), REVISION: 1.0

確認が終わったら次のコマンドを発行して、JetPack コンポーネントをインストールする。

sudo apt update
sudo apt dist-upgrade
sudo reboot
sudo apt install nvidia-jetpack

インストールが完了するまでに約1時間かかる。

次のステップ

以上でJetson AGX Orin 開発者キットのセットアップは完了。

次に、開発者キットと理想的な開発環境の設定に進む。