1 of 21

Döntési fák

2 of 21

3 of 21

Döntési fa építése

1. Ha minden megmaradt példa egy adott osztályhoz tartozik, akkor adjuk vissza az adott osztály címkéjét tartalmazó levélcsomópontot.

2. Ha nem maradt meg példánk, akkor adjuk vissza a szülő csomópontban szereplő példák többségi szavazatát tartalmazó levélcsomópontot.

3. Ha maradt még pozitív és negatív példánk is, de már minden attribútumot felhasználtunk a teszteléshez, akkor térjünk vissza a megmaradt példák többségi szavazatát tartalmazó levélcsomóponttal. Ekkor az adatok zajosak (nem konzisztensek), és így a döntési fánk sem lesz konzisztens.

4. Egyéb esetben válasszuk ki a legjobban szeparáló, még fel nem használt attribútumot a megmaradt példáink szétválasztására. A kiválasztott attribútumból létrehozunk egy belső csomópontot, az ebből kilépő ágak lesznek az attribútum lehetséges értékei. A kiválasztott attribútum gyerekei pedig azok a csomópontok lesznek, amiket a létrejött példahalmazokra az algoritmus rekurzív hívásával kapunk.

4 of 21

5 of 21

Outlook	Temperature	Humidity	Wind	Play tennis
Sunny	Hot	High	Weak	No
Sunny	Hot	High	Strong	No
Overcast	Hot	High	Weak	Yes
Rain	Mild	High	Weak	Yes
Rain	Cool	Normal	Weak	Yes
Rain	Cool	Normal	Strong	No
Overcast	Cool	Normal	Strong	Yes
Sunny	Mild	High	Weak	No
Sunny	Cool	Normal	Weak	Yes
Rain	Mild	Normal	Weak	Yes
Sunny	Mild	Normal	Strong	Yes
Overcast	Mild	High	Strong	Yes
Overcast	Hot	Normal	Weak	Yes
Rain	Mild	High	Strong	No

6 of 21

Outlook	Play tennis	Temperature	Play tennis
Sunny	No	Hot	No
Sunny	No	Hot	No
Overcast	Yes	Hot	Yes
Rain	Yes	Mild	Yes
Rain	Yes	Cool	Yes
Rain	No	Cool	No
Overcast	Yes	Cool	Yes
Sunny	No	Mild	No
Sunny	Yes	Cool	Yes
Rain	Yes	Mild	Yes
Sunny	Yes	Mild	Yes
Overcast	Yes	Mild	Yes
Overcast	Yes	Hot	Yes
Rain	No	Mild	No

7 of 21

Outlook	Play tennis	Temperature	Play tennis
Sunny	No	Hot	No
Sunny	No	Hot	No
Sunny	No	Hot	Yes
Sunny	Yes	Hot	Yes
Sunny	Yes
		Mild	Yes
Rain	Yes	Mild	No
Rain	Yes	Mild	Yes
Rain	No	Mild	Yes
Rain	Yes	Mild	Yes
Rain	No	Mild	No

Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	No
Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	Yes

8 of 21

Információnyereség

��Shannon-féle entrópia:��Gini index:

9 of 21

Shannon entrópia vs Gini index

Shannon féle entrópia

10 of 21

Shannon entrópia vs Gini index

Shannon féle entrópia

Gini index / 4

11 of 21

Shannon entrópia vs Gini index

Shannon féle entrópia

Gini index / 4

Gini index

12 of 21

Információnyereség

��Shannon-féle entrópia:��Gini index:

13 of 21

Outlook	Play tennis	Temperature	Play tennis
Sunny	No	Hot	No
Sunny	No	Hot	No
Sunny	No	Hot	Yes
Sunny	Yes	Hot	Yes
Sunny	Yes
		Mild	Yes
Rain	Yes	Mild	No
Rain	Yes	Mild	Yes
Rain	No	Mild	Yes
Rain	Yes	Mild	Yes
Rain	No	Mild	No

Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	No
Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	Yes

14 of 21

Outlook	Play tennis	Temperature	Play tennis
Sunny	No	Hot	No
Sunny	No	Hot	No
Sunny	No	Hot	Yes
Sunny	Yes	Hot	Yes
Sunny	Yes
		Mild	Yes
Rain	Yes	Mild	No
Rain	Yes	Mild	Yes
Rain	No	Mild	Yes
Rain	Yes	Mild	Yes
Rain	No	Mild	No

Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	No
Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	Yes

15 of 21

Outlook	Play tennis	Temperature	Play tennis
Sunny	No	Hot	No
Sunny	No	Hot	No
Sunny	No	Hot	Yes
Sunny	Yes	Hot	Yes
Sunny	Yes
		Mild	Yes
Rain	Yes	Mild	No
Rain	Yes	Mild	Yes
Rain	No	Mild	Yes
Rain	Yes	Mild	Yes
Rain	No	Mild	No

Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	No
Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	Yes

16 of 21

Outlook	Play tennis	Temperature	Play tennis
Sunny	No	Hot	No
Sunny	No	Hot	No
Sunny	No	Hot	Yes
Sunny	Yes	Hot	Yes
Sunny	Yes
		Mild	Yes
Rain	Yes	Mild	No
Rain	Yes	Mild	Yes
Rain	No	Mild	Yes
Rain	Yes	Mild	Yes
Rain	No	Mild	No

Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	No
Overcast	Yes	Cool	Yes
Overcast	Yes	Cool	Yes

1 of 21

2 of 21

3 of 21

4 of 21

5 of 21

6 of 21

7 of 21

8 of 21

9 of 21

10 of 21

11 of 21

12 of 21

13 of 21

14 of 21

15 of 21

16 of 21

17 of 21

18 of 21

19 of 21

20 of 21

21 of 21