1 of 65

지속가능한 서비스를 위한

개발자용 플랫폼

AI

2 of 65

3 of 65

주제 선정의 이유

AI 모델 개발에서의 난관

파이프라인 부재, 부진한 진척

불필요한 리소스 활용

개발, 배포, 최적화 업무의 협업 어려움

먼저 주제선정이유 전에

ai모델 개발에서의 난관에대해 말씀드리겠습니다

머신러닝 모델은 데이터 기반으로 주기적인 업데이트가 필요합니다

이를 위해 개발 초기 단계로 돌아가 데이터를 학습하고 배포하는 프로세스를 반복해야합니다

이 과정을 원활하게 수행하는 정제된 파이프라인의 부재로 진척에 어려움이 생기고 개발이 늦춰지는 난관이 있습니다

결국

개발자들이 AI나 서비스를 초기 개발하거나 개선하기 위해서, 조건에 맞는 데이터를 수집하고, 처리방법을 고안하고, 결과 분석 및 개선법 구상 등 많은 시간과 노력이 듭니다

ml-ops 플랫폼을 구성해놓으면 개발중인 서비스의 배포, 필요에 따라 데이터 자동 수집 및 전처리, 자원관리 등을 유용하게 사용할 수 있다는 장점이 있습니다.

그래서 저희는 정답이 정해져 있지 않은 Walker의 행동을 개선시키기 위해 플랫폼 기반의 ml-ops 환경을 구성하고,

많은 작업들을 자동화하여 개발자의 부담을 최대한 줄일 수 있는지 확인해볼 수 있는 플랫폼을 구축하였습니다.

4 of 65

앞선 문제들을 극복하기 위해, 머신러닝 모델의 효율적인 개발과 배포를 가능하게하는 인프라를 구축 및 프로세스를 자동화하는 플랫폼이 필요

주제 선정의 이유

5 of 65

주제 소개

WALKER

기존에 수많은 데이터가 존재하고,

사람마다 달라 정답이 정해져 있지 않은

“걷기"

를 실제와 같이 관절의 움직임과 힘 등을 통해 AI를 학습시킨다.

྿ 학습 데이터 생성, 전처리 파이프라인 구성, (추가)학습, CI/CD, 자원 관리 및

시각화등을 ML-Ops 기반으로 효율적으로 수행하여 개발자의 부담을 최소화한다.

6 of 65

달성 목표

Effectiveness

Reality

Expansion

파이프라인, 클라우드 플랫폼과 CI/CD 서비스로 불필요하거나 반복 작업 시간 단축

Spark 등의 분산 데이터 처리 클러스터 구성으로 작업 효율화

현실성 있는 모델 학습을 위해 다수의 Parameter 설정, 일반화된 모델 구현

실제와 같은 3D 환경에서 물리법칙 하에 움직임이 수행됨

관절의 움직임과 가해지는 힘으로 행동

Kubernetes, Docker와 Jenkins 등을 활용한 플랫폼 확장

AWS S3 등의 DB를 활용하여 접근성 높임

7 of 65

8 of 65

9 of 65

상세설명 - Kubernetes

10 of 65

상세설명 - Kubernetes

Kubernetes Cluster

Master Node

Worker Node1

Worker Node3

Worker Node2

pod

container

pod

container

pod

container

pod

container

pod

container

pod

container

API server
Controller
Scheduler

pod

container

pod

container

Docker Engine (host)

다음은 쿠버네티스 클러스터구성입니다

저희 팀에서는 리눅스 우분투 18.04기반 본체PC 마스터1대 본체PC워커1대 VM웨어 워커3대로 총 4대의 노드를 사용하였습니다.

컨테이너는 요청 시 특정 컨테이너를 시작하고, 컨테이너가 서로 통신할 수 있도록 하였습니다.

컴퓨팅 리소스를 동적으로 회전 및 종료하고, 오류로부터 복구하고 컨테이너의 수명 주기를 관리합니다

일반적으로 최적의 성능과 높은 유효성이 있습니다.

�Kubernetes 클러스터에는 클러스터를 제어하고 예약하는 하나 이상의 마스터 노드와

동일한 호스트(Docker 엔진)에 배포된 (하나 이상의 파드를 각각 실행하는) 3대의 작업자 노드가 포함되어 있습니다.

파드는 작업 단위를 나타내며 캡슐화된 서비스로 단일 컨테이너를 실행하거나

네트워크 및 스토리지 리소스를 공유하는 여러 컨테이너를 실행합니다.

Kubernetes는 파드를 인프라에 연결하고, 런타임(모니터링, 확장, 롤링 배포 등) 중에 파드를 관리합니다.

11 of 65

상세설명 - Kubernetes

Docker, Helm

spakr_master_deployment.yml

spakr_master_svc.yml

jenkins_tree

docker images

helm list

쿠버네티스에서 컨테이너를 만드는 도구로는 도커와 헬름을 사용하였습니다.

저희 프로젝트에서 도커로 만든 이미지는 주로 도커허브의 우분투기반으로 만들어진 이미지이며

해당이미지로 장고 스파크 등을 필요한 부분에 한해서만 install하여

디폴로이먼트yaml 서비스yaml 등을 보시는 바와 같이 저장하고 파드로 만들었습니다.

Helm은 컨테이너 배포는 물론이고, 이에 필요한 쿠버네티스 리소스를 모두 배포해주는 역할을 합니다.

오른쪽에 보시는바와같이 배포를 패키지형태로 합니다.

도커 이미지를 파드로 만드는데에 있어서 필요에 따라 서비스 PV등의 yaml파일을 만들어야하지만 대중화되어있어 적용하기 쉽고,�헬름은 이미 패키지형태로 야믈파일들이 패키지형태로 파드가 만들어지기때문에 사용이 용이하다는 장점이 있습니다.

12 of 65

상세설명 - Kubernetes

pod

13 of 65

상세설명 - Spark

Spark Master Web UI

14 of 65

상세설명 - Kafka

15 of 65

상세설명 - ZooKeeper

Kafka, Spark를 관리하는 Zookeeper

16 of 65

17 of 65

18 of 65

19 of 65

20 of 65

21 of 65

22 of 65

23 of 65

24 of 65

25 of 65

26 of 65

27 of 65

28 of 65

29 of 65

30 of 65

31 of 65

32 of 65

이름 변경

파일 업로드 후, 삭제

33 of 65

34 of 65

35 of 65

36 of 65

Topic List

37 of 65

38 of 65

이미지 저장

이미지 처리

39 of 65

40 of 65

41 of 65

42 of 65

43 of 65

① 전처리 후 csv 파일 전송

② csv 파일로 demo 학습 데이터 생성

③ 강화학습 & 모방학습, pt 파일과 onnx 파일 전송

<서현파트 대본>

그럼 이어서 인공지능 파트에 대해 소개하겠습니다.

인공지능 부분은 앞서 팀원들이 발표한 데이터 파이프라인 하에서 필용한 작업 공간과 파일들을 원활히 제공받으며 수행됩니다.

인공지능 부분은 크게 3 부분으로 나눠지는데, 각각은 이미지 전처리, 모방학습 데이터 생성, 그리고 모방 및 강화학습 부분입니다.

첫번째 전처리 파트에서는 S3 공간에 업로드된 영상 및 이미지 데이터를 받아와서 유니티 가상공간에 사람의 포즈를 구현할 수 있는 데이터로 처리합니다. 해당 작업은 부하가 크기 때문에 Kuber 환경에서 Spark를 통한 분산처리로 수행했습니다.
두 번째 파트는 전처리된 데이터를 가상공간의 Walker에 입혀, 동영상의 움직임대로 행동하는 demo 파일을 생성하는 작업입니다. 해당 파일들은 뒤이은 모방 및 강화학습에서 guiding 데이터로서 사용됩니다.
마지막으로는 실제와 비슷한 물리엔진이 적용된 가상공간에서 모방 및 강화학습을 거치며 Walker의 brain을 학습시키는 과정입니다. 이 과정에서 pt 파일과 onnx(온액스) 파일이 생성되며, pt 파일은 모델의 추가학습을 위해, 그리고 onnx 파일은 해당 가중치가 적용되어 교정된 움직임을 보이는 Walker의 brain으로서 사용됩니다. 이 파일들 역시 S3로 전송되며, 이렇게 결과가 추가될때마다 개발자의 공간에 업로드되어 tensorboard를 활용해 한 눈에 확인할 수 있는 환경을 제공합니다.

뒤 장에서부터는 각각의 과정들에 대해 시연영상과 함께 상세히 설명드리겠습니다.

44 of 65

상세설명 - 인공지능

프레임 관절 데이터 추출 (Openpose)

① 전처리 후 csv 파일 전송

45 of 65

상세설명 - 인공지능

2D 관절 데이터 ➡ 3D 관절 데이터

① 전처리 후 csv 파일 전송

Light3DPose: Real-time Multi-Person 3D Pose Estimation from Multiple Views

https://github.com/Jacob12138xieyuan/3d-tf-pose-real-time.git

46 of 65

상세설명 - 인공지능

관절 위치 데이터 ➡ 관절 방향 데이터

① 전처리 후 csv 파일 전송

P

Q

P

Q

P

Q

47 of 65

상세설명 - 인공지능

방향 데이터 분석 (기존 Sample)

time-series 데이터를 frequency기반으로 변환한 결과, 특정 주파수에 주도적인 흐름을 확인

① 전처리 후 csv 파일 전송

48 of 65

상세설명 - 인공지능

방향 데이터 분석 (기존 Sample)

=> 연결된 Part간 Direction의 Dependency 높음

① 전처리 후 csv 파일 전송

49 of 65

상세설명 - 인공지능

유효 변수 최소화 및 최적화

forearm

arm

thigh

shin

=> 4개의 값만 시간에 따라 잘 조정하기

① 전처리 후 csv 파일 전송

50 of 65

상세설명 - 인공지능

프레임 방향 데이터 Interpolation

FFT (Fast Fourier Transform)

FFT는 오디오 및 음향 측정 과학 분야에서 중요한 측정법.

신호를 개별 스펙트럼 구성요소로 변환하여 신호에 대한 주파수 정보 제공

어떠한 주기적인 신호의 흐름도 삼각함수의 합으로 구현할 수 있음.

① 전처리 후 csv 파일 전송

51 of 65

상세설명 - 인공지능

보정된 데이터 확인

① 전처리 후 csv 파일 전송

52 of 65

전처리 시연 영상

53 of 65

상세설명 - 인공지능

강화학습과 모방학습 진행계획

Unity에서 ml-agents 출시와 함께 발표된 Walker

오랜 시간 강화학습을 거쳐 Target object를 향해 걷는 법을 익힘

FFT 데이터 전처리를 거쳐, 3D Openpose로부터 추정한 관절 데이터로 움직이는 Walker

(별도의 학습 진행하기 전의 상태)

강화학습

전처리

모방 학습

강화 학습

54 of 65

상세설명 - 인공지능

모방학습 데이터셋 생성

② csv 파일로 demo 학습 데이터 생성

55 of 65

강화학습 Reward 조건

타겟 방향과의 일치, 서 있는 프레임 수, 발 움직임

타겟과의 충돌

③ 강화학습 & 모방학습, pt 파일과 onnx 파일 전송

56 of 65

강화학습 Reward 조건 시연영상

③ 강화학습 & 모방학습, pt 파일과 onnx 파일 전송

57 of 65

모방학습 & 강화학습 시연영상

③ 강화학습 & 모방학습, pt 파일과 onnx 파일 전송

58 of 65

상세설명 - 인공지능

결과 onnx 모델과 .pt 파일 생성

③ 강화학습 & 모방학습, pt 파일과 onnx 파일 전송

59 of 65

상세설명 - 인공지능

여러 모델의 학습 결과 분석

60 of 65

61 of 65

기존 문제점 -> 우리가 생각한 방식(ml-ops)을 썼을때 어떻게 개선될 수 있는지(기대효과) -> 그래서 우리도 이 방법(ml-ops)을 써서 간단한 프로젝트를 진행해봤다

-기존 문제점 : 개발자들이 AI나 서비스를 초기 개발하거나 개선하기 위해서는, 조건에 맞는 데이터를 수집하고, 처리방법을 고안, 결과 분석 및 개선법 구상 등 많은 시간과 노력이 듬

-기대효과 : ml-ops 플랫폼을 구성해놓으면 개발중인 서비스의 배포, 필요에 따라 데이터 자동 수집 및 전처리, 자원관리 등을 유용하게 사용할 수 있다는 장점이 있습니다.

-우리 주제 : 그래서 우리는 정답이 정해져 있지 않은 Walker의 행동을 개선시키기 위해 플랫폼 기반의 ml-ops 환경을 구성하고, 많은 작업들을 자동화하여 개발자의 부담을 최대한 줄일 수 있는지 확인해볼 수 있는 플랫폼을 구축하였습니다.

1 of 65

2 of 65

3 of 65

4 of 65

5 of 65

6 of 65

7 of 65

8 of 65

9 of 65

10 of 65

11 of 65

12 of 65

13 of 65

14 of 65

15 of 65

16 of 65

17 of 65

18 of 65

19 of 65

20 of 65

21 of 65

22 of 65

23 of 65

24 of 65

25 of 65

26 of 65

27 of 65

28 of 65

29 of 65

30 of 65

31 of 65

32 of 65

33 of 65

34 of 65

35 of 65

36 of 65

37 of 65

38 of 65

39 of 65

40 of 65

41 of 65

42 of 65

43 of 65

44 of 65

45 of 65

46 of 65

47 of 65

48 of 65

49 of 65

50 of 65

51 of 65

52 of 65

53 of 65

54 of 65

55 of 65

56 of 65

57 of 65

58 of 65

59 of 65

60 of 65

61 of 65

62 of 65

63 of 65

64 of 65

65 of 65