쿠버네티스를 활용한 AI모델 분산처리 시스템

쿠버네티스를 사용해서 영상처리에 대한 분산처리 시스템을 만들었습니다.

환경

Master : rasberri pi 3

Node 1 : rasberri pi 4

Node 2 : Jetson Nano 4GB

Node 3 : Jetson Nano 4GB

Usage

All node must linked with one router

Master : main.py, dlskawo0409/spring_test:v18, jaehyuk00/distributed_flask:v105,

rasberri Pi Worker : dlskawo0409/capston:v30

Jetson Worker : dlskawo0409/gpu:v13

must install

docker

K3s

Use GPU in Kubernetes

use arm K3s gpu daemon file

Result