1 of 16

Cost Function & Grandient Descent

2 of 16

Cost Function 單一權重參數

3 of 16

Cost Function單一權重參數

4 of 16

Cost Function 兩個權重參數

5 of 16

Cost Function 兩個權重參數

6 of 16

權重參數調整範例 單一權重參數

7 of 16

權重參數調整範例 單一權重參數

8 of 16

權重參數調整範例 多權重參數

9 of 16

權重參數調整範例 雙權重參數

X

Y

Z (Cost Function)

(2,4,20)

10

 

10 of 16

權重參數調整範例 多權重參數

11 of 16

權重參數調整範例 多權重參數

12 of 16

Cost Function

Z = f(x,y) =

X

Y

2.5X + 5Y

2

2

Z

權重參數調整範例 多權重參數

13 of 16

X

Y

Z (Cost Function)

(10,6,0)

(10,6,50)

10

6

(10,6) 🡪 (10+∆, 6- ∆)

Z 軸就下降

權重參數調整範例 多權重參數

14 of 16

X

Y

Z (Cost Function)

(15,6,0)

(15,6,50)

10

6

(10,6) 🡪 (10-∆, 6- ∆)

Z 軸就下降

10

權重參數調整範例 多權重參數

15 of 16

X

Y

Z (Cost Function)

(-10,6,0)

(-10,6,50)

-10

6

(-10,6) 🡪 (-10-, 6- ∆)

Z 軸就下降

權重參數調整範例 多權重參數

16 of 16

X

Y

Z (Cost Function)

(-15,6,0)

(-15,6,50)

-15

6

(-15,6) 🡪 (-15+, 6- ∆)

Z 軸就下降

50

6

權重參數調整範例 多權重參數