1 of 35

רקורסיות�

צביקה ברגר

מרתון למידת מכונה

Neural Network

צביקה ברגר

בס"ד

2 of 35

Neural network

3 of 35

Neural network

4 of 35

Multi-Class Neural network

5 of 35

Train Pseudocode

6 of 35

Forward Propagation

7 of 35

Forward Propagation

W1 + b1

W2 + b2

8 of 35

Forward Propagation

9 of 35

Activation Function

torch.sigmoid()

torch.nn.Tanh()

torch.nn.functional.relu()

torch.nn.LeakyReLU()

torch.nn.ELU()

torch.nn.PReLU()

10 of 35

Calculate the Loss

11 of 35

Back-Propagation

12 of 35

Back-Propagation

13 of 35

Update

14 of 35

Optimizer

15 of 35

16 of 35

Optimizer

17 of 35

  • For each x: do forward Propagation
  • The predict y is the class with largest probability.

Predict

18 of 35

Dropout

19 of 35

Dropout

20 of 35

Batch Normalization

21 of 35

Question 1

בס"ד

22 of 35

מבחן 2018 מועד ב

בס"ד

23 of 35

פתרון

בס"ד

24 of 35

Question 2

בס"ד

25 of 35

מבחן 2018 מועד ב

בס"ד

26 of 35

פתרון

בס"ד

27 of 35

Question 3

בס"ד

28 of 35

מבחן 2020 מועד ב

בס"ד

29 of 35

פתרון

בס"ד

30 of 35

Question 4

בס"ד

31 of 35

מבחן 2020 מועד ב

בס"ד

32 of 35

פתרון

בס"ד

33 of 35

Question 5

בס"ד

34 of 35

מבחן 2018 מועד א

בס"ד

35 of 35

פתרון

בס"ד