1 of 47

딥러닝 기초

김성훈

2 of 47

1. 딥러닝이란?

딥러닝을 간단히 정의하면 기계학습의 한 분야라고 할 수 있습니다.

그런데 가끔 딥러닝이 기계학습이나 인공지능과 대등하거나 더 포괄적인 것이라고 생각하기도 하는데 그것은 잘못된 것입니다.

복습겸 이 3가지 개념을 다시 짚어보겠습니다.

먼저 인공지능은 인식, 학습, 추론, 문제해결 등과 같은 인간의 지능적 활동을 기계가 흉내낼 수 있도록 하는 연구분야를 말합니다.

기계가 흉내낼 인간의 지능적 해위 중에 학습이라는게 있는데,

인간이 경험을 통해 학습하듯이 기계가 데이터 속에서 규칙을 스스로 학습하는 것을 기계학습이라고 하는 것입니다.

이런 기계학습의 구체적인 방법은 다양합니다. 통계나 수학적인 이론을 바탕으로 데이터 속에서 규칙을 찾기도 하는데 이것을 통계 기반 기계학습이라고 부르기도 합니다. 이런 방법중 인간의 신경망을 흉내낸 인공 신경망의 깊이를 깊게하여 학습 한다고 해서 심층 학습 영어로 딥러닝이라고 부르는 것입니다.

3 of 47

1. 딥러닝이란?

딥러닝(Deep Learning, 심층학습)은 기계 학습의 한 분야로 생물학적인 신경망을 모방한 인공 신경망을 사용하여 컴퓨터가 스스로 학습하도록 하는 방법을 연구하는 분야

뉴런

인공 신경망

딥러닝을 좀더 자세히 알아보겠습니다.

딥러닝은 생물학적인 신경망을 모방한 인공 신경망을 사용하여 컴퓨터가 스스로 학습하도록 하는 방법을 연구하는 기계 학습의 한 분야입니다.

여기서 인공신경망은 특히 인간의 뇌 속의 신경망을 본떠서 만든 컴퓨팅 구조로서 노드(뉴런)와 연결선(시냅스)으로 이루어져 있다.

생물학적 신경망의 뉴런은 수상 돌기와 신경 세포체, 그리고 축삭 돌기로 이루어져 있다.

다른 뉴런에서 받은 자극들(x1, x2, x3,,..,xn)은 수상 돌기를 통해 신경 세포체로 전달되고, 이 자극들을 합하여 반응 을 할지 결정한 후 신호(y1, y2, y3,..., yn)를 전달할 때에는 축삭 돌기의 끝에서 다른 뉴런으로 보낸다.

이러한 생물학적 신경망의 구조를 따라 인공신경망은 입력 부분과 출력 부분을 입력층(input layer) 과 출력층(output layer)으로 두고,

중간에는 은닉층(hidden layer)을 두어 신호를 전달하는 구조를 구현한 것이다.

오른쪽 그림은 은닉층이 1개인 단순한 인공신경망의 구조를 나타낸다.

이때, 은닉층의 개수를 여러 개를 추가함으로써 보다 깊은(deep) 신경망을 만들고 이를 학습(learning) 모델로 사용한다고 해서 딥(Deep)+러닝(Learning) 이라고 합니다.

4 of 47

더 알아보기, 심층 인공 신경망

입력층

은닉층

출력층

...

레이어

인공신경망은 입력층, 은닉층, 출력층으로 구성되어 있고, 은닉층은 여러 개의 퍼셉트론으로 이루어져 있음
은닉층을 여러 개 쌓아 신경망을 깊게 구성할수록 더 복잡한 문제를 해결할 수 있으며, 이를 심층 인공신경망이라 함

5 of 47

더 알아보기, 심층 인공 신경망

인공 신경망은 층을 따라 데이터의 처리를 거듭할수록 입력된 데이터는 더 높은 차원의 속성으로 변환되며, 최종 층에 다다랐을 때는 클래스 속성을 나타내게 된다.

인공 신경망은 값을 입력받고 처리하여 그 결과를 출력하는 여러 개의 층이 서로 연결된 형태로 구성된다.

예를들어, 고양이 이미지를 심층 인공 신경망에 입력하면 각각의 은닉층은 다른 역할을 하게 됩니다.

은닉층 1번에서는 특정 픽셀의 색상과 밝기를 추출하고 두번째 은닉층에서는 선의 모양을 추출하는 식으로 층마다 고양이의 서로 다른 속성 정보를 찾게 되는 것입니다. 그리고 은닉층의 가장 마지막에서는 이런 정보를 조합하여 마지막인 출력층에서는 이런 정보를 바탕으로 고양이일 확률과 개일 확률을 출력해 주는 것입니다.

이처럼, 층을 따라 데이터의 처리를 거듭할수록 입력된 데이터는 더 높은 차원의 속성으로 변환되며,

최종 층에 다다랐을 때는 개인지 고양이인지의 클래스 속성을 출력하는 것입니다.

6 of 47

2. 딥러닝은 왜 특별할까?

이미지 인식 경진 대회(ILSVRC)의 역대 우승 알고리즘을 보면 2010년도와 2011년도에 우승을 차지한 알고리즘은 전통적인 기계 학습 방법이었는데, 2012년 우승한 알렉스넷(AlexNet)은 전년도 우승 알고리즘의 오류율을 10%

나 낮추며 놀라움을 안겨

주었다. 알렉스넷의 우승

은 딥러닝의 재탄생을 알

리는 계기가 되었고, 이

때부터 딥러닝의 독주가

시작되었다.

딥러닝 기술은 다양한 분야에서 활용되고 놀라운 성능을 보이지만

그중에서도 딥페이크 사례와 같이 이미지나 영상을 처리하는 분야에서 두드러진 성과를 보이고 있습니다.

딥러닝 이전의 기계학습이 이미지 분야에 조금도 성과가 없었던 것은 아닙니다.

딥러닝이 재조명되기 이전에도 차량의 번호를 인식하는 것과 같이 간단한 인식 문제는 기계학습 알고리즘으로도 해결할 수 있었습니다.

기계학습 모델의 성능을 겨루는 이미지 인식 경진 대회의 역대 우승 알고리즘을 보면

2010년도와 2011년도에 우승을 차지한 알고리즘은 전통적인 기계 학습 방법이었는데, 각각 72%와 74%의 정확도를 기록했습니다.

딥러닝 모델이 이미지 인식 경진 대회에서 우승을 거머쥔 첫 번째 해는 2012년도로,

이때 우승한 알렉스넷(AlexNet)은 전년도 우승 알고리즘의 오류율을 10%인 정확도 84%데로 크게 성능이 개선되면 놀라움을 안겨 주었습니다.

이후 개최된 이미지 인식 경연 대회부터는 딥러닝의 독주가 시작되었고

2015년에는 마이크로 소프트 연구팀에서 만든 레스넷(Resnet)은 정확도 96.43%로 높은 성능을 기록하여 이미 인간의 이미지 인식 기술을 훨씬 뛰어넘는 성능을 보이고 있습니다.

7 of 47

3. 딥러닝 이전 기계학습과 딥러닝의 비교

우리는 사람의 얼굴을 보고 대부분 상대의 성별을 쉽게 알아맞히지만, 남자 얼 굴과 여자 얼굴의 차이를 나열하여 판단의 근거를 들어 보려면 답하기가 쉽지 않 다.

그만큼 이미지 데이터를 기계학습 알고리즘에 적합한 속성 데이터로 표현하 는 것은 매우 어려운 일이다.

이런 어려운 과정이지만 딥러닝은 데이터가 충분할 경우 이것을 쉽게 해결할 수 있었다.

이미지 데이터에서 성별을 구분하는 과정을 딥러닝 이전의 기계학습 방법을 이용한 방법과 딥러닝방법을 비교해서 알아봅시다.

1_ 딥러닝 이전 인식

딥러닝 기술이 실용적인 수준에 오르기 전까지 인공지능 연구자들은 전통적인 기계학습에 사용할 데이터 속성을 직접 고르고 정하는 데 적지 않은 시간과 노력을 들였다.

예를들어 사진과 같은 데이터가 입력되면 사진에서 얼굴형과 눈코 입 위치에 윤곽선을 찾고는 눈 사이의 거리, 눈 사이의 거리와 눈과 코사이의 거리 비율 , 귀의 크기 등의 구체적인 속성들을 일일히 계산하여 속성 집합으로 만들었다. 이런 속성 데이터들을 이용해 K-NN, 로지스틱 회귀, 결정 트리 등 숫자로 이루어진 데이터들을 구분해 줄 수 있는 수학 공식들을 가지고 남자인지 여자인지를 분류하는 규칙을 찾게 하였다. 즉 얼굴에서 성별을 분류하기 위한 속성을 사람이 일일히 정해 주어야 했다는 것이다. 그렇기에 많은 시간과 비용이 들었는데 거기다 인식의 정확도 마저도 그렇게 좋지 않았고, 당시의 최고 수준의 모델이라고 해도 80%정도를 기록할 뿐이었다.

2_딥러닝 이후 인식

딥러닝은 기존의 기계학습 알고리즘과 비교하여 분류 데이터에서 속성을 일일 이 정하는 작업을 대폭 줄일 수 있다는 점에서 큰 차이가 있다.

이미지 분류의 경 우에 대량의 이미지를 있는 그대로 사용하기만 하면 학습 과정에서 딥러닝이 스 스로 핵심 속성을 찾아 인식 모델을 만들어 낸다.

기존의 기계학습과 가장 커다란 차이점이 바로 속성을 인간이 정해 주지 않고 기계가 스스로 찾아낸다는 점입니다.

예를들어, 사람의 얼굴이 나온 이미지데이터가 있고, 이것이 여자인지 남자인지 이름표가 붙어있기만 하면 됩니다.

그리고 이미지에서 특징을 자동으로 추출하게 되는데 여기에 사용되는 심층 인공 신경망의 다양한 형태 중 하나인 합성곱 신경망을 이용합니다.

이것은 우리 인간이 이미지를 볼때 모든 것을 보는게 아니라 가장 특징이 되는 한 부분만 집중해서 본다는 것을 모방한 방법인데요.

이 알고리즘을 이용하게 되면서 딥러닝 이전 기계학습이 했던 방식 처럼 더이상 인간이 일일히 속성을 찾는 것이 아니라 기계 스스로 알알서 속성을 찾게 되었습니다.

데이터가 충분하고 컴퓨팅 성능이 뛰어나다면 그리 오랜 시간이 걸리지 않고도 95%이상의 정확도로 이것이 여자인지 남자인지를 구분할 수 있는 모델을 만들수 있게 되었습니다.

8 of 47

3. 딥러닝 이전 기계학습과 딥러닝의 비교

텐서 플로우 플레이그라운드 https://playground.tensorflow.org/

9 of 47

3. 딥러닝 이전 기계학습과 딥러닝의 비교

텐서 플로우 플레이그라운드에서 사용할 수 있는 학습 데이터 4종

10 of 47

3. 딥러닝 이전 기계학습과 딥러닝의 비교

가. 기계학습으로 데이터를 학습시킨 후 결과를 확인해 보자.

•HIDDEN LAYERS의 수를 0으로 설정해 인공 신경망의 은닉층을 없애면, 전통적인 기계학습 방법으로 경계선을 구한다.

•Training loss는 학습 데이터를 구분하는 경계를 얼마나 잘못 구했는지 보여 주는 지표이다

기계학습으로 데이터를 학습시킨 후 결과를 확인해 보겠습니다.

먼저 featuer 즉 속성을 선택해 줍니다. X1, x2 속성을 선택했습니다.

딥러닝이 아닌 일반적인 기계학습 방법을 사용할 것이므로

HIDDEN LAYERS의 수를 0으로 설정해 인공 신경망의 은닉층을 없앱니다.

여기서 loss는 모델이 두 데이터를 구분하는 경계선을 얼마나 잘못 구했는지 보여 주는 지표를 말하는데요.

Traing loss는 0.497이고 test loss는 0.510입니다.

Loss 값은 작을 수록 좋은 것이고 이정도 수치면 좋은 모델이라고 할 수 없습니다.

기계학습에서는 속성을 잘 선택하지 않으면 문제를 해결할 수 없습니다.

학습 데이터의 분포를 살펴보면 두 클래스는 하나의 직선으로 구분할 수 없다는 것을 알 수 있습니다.

이는 X 1 과 X 2 는 두 데이터의 차이를 보여 주기에 적합한 속성이 아니기 때문입니다.

11 of 47

3. 딥러닝 이전 기계학습과 딥러닝의 비교

나. 다른 속성을 선택해 데이터를 학습시켜 보자.

12 of 47

3. 딥러닝 이전 기계학습과 딥러닝의 비교

다. 딥러닝으로 데이터를 학습시킨 후 결과를 확인해 보자.

딥러닝의 특징은 기계학습과 달리 속성을 인간이 찾지 않아도 기계 스스로 찾아 낸다는 것입니다.

그래서 속성은 처음 시도했던 x1, x2로만 정하고 은닉층을 2개로 하고 은닉층 1번의 인공 뉴런인 퍼셉트론을 4개로 은닉층 2번의 뉴런을 2개로 설정하여 학습을 시켰습니다.

그랬더니 결과는 test loss 0.001, traing loss 0.001입니다.

은닉층이 없던 전통적인 기계학습 방법에서 우리가 속성을 하나씩 비교해서 찾아서 실험했을때 나왔던 가장 좋은 결과와 동일한 수준입니다.

여기서 중요한 점은 동일한 속성을 입력하고 은닉층이 없이 했던 결과는 loss 값이 0.5 정도였는데,

은닉층을 추가하게 되면 속성을 선택해서 정해준 것과 동일한 결과를 만들었다는 것입니다.

이처럼 딥러닝은 적절한 속성을 찾는 수고로음을 덜어주기에 기존의 전통적인 기계학습 방법에 비해 더욱 간편하다는 장점이 있다고 할 수 있습니다.

13 of 47

더 알아보기, 전통적인 기계학습과 딥러닝 비교

14 of 47

4. 딥러닝은 어떻게 활용될까?

딥러닝으로 인식과 같이 복잡한 작업을 수행할 인공지능을 구현할 수 있음.

15 of 47

4. 딥러닝은 어떻게 활용될까?

데이터가 나타내는 대상이 무엇인지 식별하는 모델을 판별 모델이라고 한다면, 대상을 나타내는 데이터를 만들어 내는 모델을 생성 모델이라고 하는데, 딥 페이크에 사용된 GAN도 이러한 생성 모델의 하나이다. 위의 다섯 장의 사진은 실존하는 사람을 촬영한 것이 아니라 모두 GAN을 이용해 만든 것인데, 가장 왼쪽부터 시작해 2014년과 2018년 사이에 이미지 생성 기술이 얼마나 발전했는지를 보여 준다.

진짜 같은 가짜를 만드는 딥러닝 기술, GAN

미국의 한 온라인 매체가 인 공지능을 이용한 영상 합성 기 술 ‘딥 페이크’의 위험성을 경고 하고자 제작한 영상을 통해 인 공지능의 부작용에 대한 경각 심을 높인 사건이 있었다.

데이터가 나타내는 대상이 무엇인지 식별하는 모델을 판별 모델이라고 한다면, 대상을 나타내는 데이터를 만들어 내는 모델을 생성 모델이라고 하는데, 딥 페이크에 사용된 GAN도 이러한 생성 모델의 하나이다.

2014년 처음 소개된 GAN은 불과 몇 년 사이에 엄청난 속도의 발전을 보여 주고 있다. 위의 다섯 장의 사진은 실존하는 사람을 촬 영한 것이 아니라 모두 GAN을 이용해 만든 것인데, 가장 왼쪽부터 시작해 2014년과 2018년 사이에 이미지 생성 기술이 얼마나 발전 했는지를 보여 준다.

16 of 47

더 알아보기, 적대 신경망(GAN)

Generative Adversarial Networks(GAN)

출처: http://mcheleplant.blogspot.com/2019/03/gan-generative-adversarial-networks.html

GAN은 2014년에 공개된 기계학습 분류 알고리즘 중 하나입니다.

적대 신경망이라는 이름에서 알 수 있듯이, 생성자 G와 판별자 D는 서로를 적대적으로 경쟁하여 성능을 향상시키는 모델이다.

생성자(Generator)는 위조지폐범이고, 판별자(Discriminator)는 위조 지폐범을 잡으려는 경찰입니다.

사기꾼(Generator, G)는 열심히 위조 지폐를 만드는 생성 모델을 훈련시킵니다.

경찰(Discriminator, D)은 진짜 돈과 가짜 돈을 구분할 수 잇는 분류 모델을 훈련시킵니다.

결과적으로, 생성 모델은 진짜 데이터와 완벽히 유사한 가짜 데이터를 만들 수 있게 되고 이에 따라 분류 모델은 분류에 성공할 확률을 높이려 하면서 서로가 서로를 경쟁적으로 발전시키는 구조를 이루고 있다는게 적대 신경망의 특징입니다.

17 of 47

참고자료_딥러닝

https://www.playsw.or.kr/artificial/view/playswtv/682?currentTab=ai_data_video_hello_ai&path=ai_data_video_hello_ai

18 of 47

- 퍼셉트론과 심층신경망�- 순전파와 역전파

부록

19 of 47

학습목표

퍼셉트론과 심층신경망의 관계를 이해할 수 있다.
순전파와 역전파 과정을 이해할 수 있다.

20 of 47

퍼셉트론(PERCPETRON)

21 of 47

퍼셉트론이란?

뉴런을 인공지능에서 활용하기 위하여 수학적으로 표현한 것
외부로부터 입력되는 신호를 바탕으로 신호 합이 임계값을 넘으면 신호를 전달

뉴런

퍼셉트론

22 of 47

퍼셉트론 주요 키워드

입력(X)과 가중치(W)를 곱한 것과 편향(b)을 모두 합한 값이 임계값이 넘는지 확인

wx + b

y

^

w

활성화함수

1

w

2

x

1

x

2

b

23 of 47

활성화 함수(Activation Function)

활성화 함수 : 입력값에 가중치를 곱하고 각 항을 모두 더한 값의

결과가 임계값을 넘는지 확인하는 함수

활성화 함수가 미분 가능해야 신경망 학습이 가능함

계단 함수

Step

24 of 47

활성화 함수(Activation Function)

활성화 함수 : 입력값에 가중치를 곱하고 각 항을 모두 더한 값의

결과가 임계값을 넘는지 확인하는 함수

활성화 함수가 미분 가능해야 신경망 학습이 가능함

계단 함수

시그모이드 함수

25 of 47

활성화 함수(Activation Function)

활성화 함수 : 입력값에 가중치를 곱하고 각 항을 모두 더한 값의

결과가 임계값을 넘는지 확인하는 함수

활성화 함수가 미분 가능해야 신경망 학습이 가능함

계단 함수

시그모이드 함수

렐루(ReLU) 함수

26 of 47

심층신경망

다층 퍼셉트론

27 of 47

심층신경망이란?

입력층

은닉층

출력층

...

레이어

인공신경망은 입력층, 은닉층, 출력층으로 구성되어 있고, 은닉층은 여러 개의 퍼셉트론으로 이루어져 있다.
은닉층을 여러 개 쌓아 신경망을 깊게 구성할수록 더 복잡한 문제를 해결할 수 있으며, 이를 심층 신경망이라 한다.

28 of 47

심층심경망의 의의

신경망

깊이

해결

가능한

문제

29 of 47

XOR Problem

AND 게이트: 두 입력에 대해 모두 1인 경우를 제외하고 출력은 0인 회로

<진리표>

30 of 47

XOR Problem

NAND 게이트: AND 게이트의 반대로 동작하는 게이트

<진리표>

31 of 47

XOR Problem

XOR 게이트: 두 개의 입력이 같을 경우에는 0, 다를 경우에는 1을 출력하는 회로

<진리표>

32 of 47

XOR Problem

XOR 게이트: 두 개의 입력이 같을 경우에는 0, 다를 경우에는 1을 출력하는 회로

<NAND>

<XOR>

NAND

33 of 47

비용함수(Cost Function)이란?

가설

34 of 47

최소의 Cost 값을 찾는 방법, 경사하강법

35 of 47

순전파, 역전파

36 of 47

순전파(Forward Propagation)란?

복잡한 네트워크에서 오차를 줄이기 위해 가중치를 어떻게 조정해 나갈까?

8가지 재료가

입력되어 친구들의

레시피를 거친 후,

길동이가 국수를

만든 과정

→ 순전파와 관련

37 of 47

역전파(Backward Propagation)란?

복잡한 네트워크에서 오차를 줄이기 위해 가중치를 어떻게 조정해 나갈까?

길동이가 만든 국수가

맛있는 국수와

거리가 멂

→ 오차를 줄인

모델이

필요하다!

38 of 47

역전파(Backward Propagation)란?

복잡한 네트워크에서 오차를 줄이기 위해 가중치를 어떻게 조정해 나갈까?

국수의 결과에 영향을

미친 정도를 바탕으로

친구의 레시피와

재료 반영 비율을�조정하는 과정

→ 역전파와 관련

39 of 47

예제를 통해 순전파와 역전파 이해하기

붓꽃(Iris) 데이터를 이해해보자.

꽃잎

꽃받침

꽃잎

꽃받침

꽃잎

꽃받침

40 of 47

1단계) 데이터 확인하기

setosa

versicolor

virginica

꽃받침 길이 (Sepal Length)	꽃받침 너비 (Sepal Width)	꽃잎 길이 (Petal Length)	꽃잎 너비 (Petal Width)	품종 (Class)
5.1	3.5	1.4	0.2	0
4.9	3	1.4	0.2	0
5.0	2.0	3.5	1.0	1
5.9	3.0	4.2	1.5	1
7.1	3.0	5.9	2.1	2
6.3	3.3	6.0	2.5	2

41 of 47

2단계) 데이터 시각화

setosa

versicolor

virginica

42 of 47

3단계) 모델 과정 이해하기

인공신경망이 붓꽃 데이터를 바탕으로 붓꽃 품종을 분류하려면?

→ 순전파

붓꽃 데이터를 인공신경망의 입력층에 전달하여 여러 층의 은닉층을 따라 계산을 한 후, 출력층을 통해 결과를 전달하는 과정
인공신경망이 출력한 결과가 원하는 답과 오차가 얼마나 되는지 평가하는 과정
출력 결과에 영향을 미친 정도를 바탕으로

신경망 내부의 가중치를 조정하는 과정

→ 오차 측정

→ 역전파

43 of 47

순전파 계산해 보기

44 of 47

순전파 계산해 보기

꽃받침 길이	꽃받침 너비	꽃잎 길이	꽃잎 너비
5.1	3.5	1.4	0.2

품종
setosa

45 of 47

순전파 계산해 보기

꽃받침 길이	꽃받침 너비	꽃잎 길이	꽃잎 너비
5.1	3.5	1.4	0.2

품종
setosa

h1 > 0 인가?

5.23 > 0 이므로

h1노드의 출력값 = 5.23

② ReLU 함수에 의해 출력되는 값

= w1 * 꽃받침 길이 + w2 * 꽃받침 너비 + w3 * 꽃잎 길이 + w4 * 꽃잎 너비

= 0.5 * 5.1 + 0.4 * 3.5 + 0.7 *1.4 + 1.5*0.2

= 2.55 + 1.4 + 0.98 + 0.3

= 5.23

h1에서 출력되어 o1, o2, o3에 가는 값 계산하기

① h1 노드에 입력된 값과 가중치를 곱한 값의 합

46 of 47

순전파 계산해 보기

꽃받침 길이	꽃받침 너비	꽃잎 길이	꽃잎 너비
5.1	3.5	1.4	0.2

품종
setosa

setosa일 확률 = 0.9998

② Sigmoid 함수(활성화 함수로 가정)에 의해 출력되는 값

= w5*h1 + w6 *h2 + w7*h3 + w8*h4

= 0.8*5.23 + 0.3*4.12 + 0.8*3.8 + 0.9*0.1

= 6.03 + 1.24 + 3.04 + 0.09

= 8.55

o1 노드에 입력되는 값 계산하기

(h1 = 5.23, h2 = 4.12, h3 = 3.8, h4 = 0.1이라고 가정)

① o1 노드에 입력된 값과 가중치를 곱한 값의 합

47 of 47

역전파 계산하기

0.7만큼의 오차

o1 노드에 w5 값을 조정해야 하는 비율 계산하기

(o1이 예측한 값이 실제값과 평균적으로 0.7 정도 차이가 난다고 가정)

o1 값의 계산에 영향을 준 w5 ~ w8 값에 대한

비율만큼 조정