Setting up Google coral on NVIDIA Jetson Orin Nano

대부분의 정보는 다음 페이지에 깔끔하게 정리되어 있다.

https://coral.ai/docs/accelerator/get-started/#requirements

Get started with the USB Accelerator | Coral

 

한 가지 문제점이 있다면, Python 3.6~3.9를 요구하는데, Jetpack 6에서는 기본 파이썬이 3.11인가? 아무튼 호환되지 않았다.

파이썬 다른 버전을 설치하고 쓸까 고민하다, 어차피 용량이 부족해서 ssd도 교체해야하고.. 다른 라이브러리들과 꼬일 것이 걱정되어서 그냥 Jetpack 5.1.4로 새롭게 설치했다.

(사실 6.2인가 새로 나온 버전을 깔았다가 호환되는 pytorch가 아직 없길래 고생하다가 때려쳤다. 역시 OS와 라이브러리는 바로 업데이트하면 정신건강에 좋지 않다.)

 

 

 

 

 

Jetson은 리눅스 기반이기 때문에, 위 페이지에 나온대로 On Linux를 따라간다.

 

우선 패키지를 다운받기 위해 시스템에 apt source를 추가해주고, 

echo "deb https://packages.cloud.google.com/apt coral-edgetpu-stable main" | sudo tee /etc/apt/sources.list.d/coral-edgetpu.list

curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo apt-key add -

sudo apt-get update

 

 

 

 

 

TPU를 사용할 환경에 따라 아래의 패키지를 설치한다.

 

(1). standard환경

sudo apt-get install libedgetpu1-std

 

 

(2). maximum frequency 사용

(몇 도 이하의 환경에서만 사용하고, 사용 직후 디바이스를 만지지 말라는 경고들이 나온다. 선풍기로 식혀줄거라 그냥  max로 설치했다.)

sudo apt-get install libedgetpu1-max

 

 

 

 

그리고 Pycoral library 설치

sudo apt-get install python3-pycoral

 

 

 

 

패키지 설치가 완료되면, 예제를 돌려보기 위해

1. Download the example code from GitHub:

mkdir coral && cd coral

git clone https://github.com/google-coral/pycoral.git

cd pycoral

 

2. Download the model, labels, and bird photo:

bash examples/install_requirements.sh classify_image.py

 

3. Run the image classifier with the bird photo

python3 examples/classify_image.py \
--model test_data/mobilenet_v2_1.0_224_inat_bird_quant_edgetpu.tflite \
--labels test_data/inat_bird_labels.txt \
--input test_data/parrot.jpg

를 실행해주면 되는데,,, 

이 때 바로 결과가 뜨지 않고, 

  File "/home/nam/anaconda3/lib/python3.6/site-packages/tflite_runtime/interpreter.py", line 168, in load_delegate
    library, str(e)))
ValueError: Failed to load delegate from libedgetpu.so.1.0

다음과 같은 에러가 떴다....

 

 

당황하지 말고, tpu가 제대로 인식되었는지를 확인한다.

설치한 패키지에 맞게 

dpkg -L libedgetpu1-std | grep libedgetpu.so.1

dpkg -L libedgetpu1-max | grep libedgetpu.so.1

 

중 하나를 입력하여 장치가 제대로 인식되는지 확인한다.

 

장치가 인식이 안된다면 뭐 다시 힘줘서 꽉 꽂아보고, 인식이 된다면 장치를 불러올 권한이 없는 상황이다.

 

sudo로 실행하여 문제를 해결할 수도 있지만, 더 큰 재앙을 가져올 수 있기에

sudo usermod -aG plugdev $USER

를 입력하여 실행 권한을 추가해주고 reboot해주면 적용이 된다.