A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|

1 | Algorithm | Problem Type | Results interpretable by you? | Easy to explain algorithm to others? | Average predictive accuracy | Training speed | Prediction speed | Amount of parameter tuning needed (excluding feature selection) | Performs well with small number of observations? | Handles lots of irrelevant features well (separates signal from noise)? | Automatically learns feature interactions? | Gives calibrated probabilities of class membership? | Parametric? | Features might need scaling? | Algorithm | ||||||||||

2 | KNN | Either | Yes | Yes | Lower | Fast | Depends on n | Minimal | No | No | No | Yes | No | Yes | KNN | ||||||||||

3 | Linear regression | Regression | Yes | Yes | Lower | Fast | Fast | None (excluding regularization) | Yes | No | No | N/A | Yes | No (unless regularized) | Linear regression | ||||||||||

4 | Logistic regression | Classification | Somewhat | Somewhat | Lower | Fast | Fast | None (excluding regularization) | Yes | No | No | Yes | Yes | No (unless regularized) | Logistic regression | ||||||||||

5 | Naive Bayes | Classification | Somewhat | Somewhat | Lower | Fast (excluding feature extraction) | Fast | Some for feature extraction | Yes | Yes | No | No | Yes | No | Naive Bayes | ||||||||||

6 | Decision trees | Either | Somewhat | Somewhat | Lower | Fast | Fast | Some | No | No | Yes | Possibly | No | No | Decision trees | ||||||||||

7 | Random Forests | Either | A little | No | Higher | Slow | Moderate | Some | No | Yes (unless noise ratio is very high) | Yes | Possibly | No | No | Random Forests | ||||||||||

8 | AdaBoost | Either | A little | No | Higher | Slow | Fast | Some | No | Yes | Yes | Possibly | No | No | AdaBoost | ||||||||||

9 | Neural networks | Either | No | No | Higher | Slow | Fast | Lots | No | Yes | Yes | Possibly | No | Yes | Neural networks | ||||||||||

10 | |||||||||||||||||||||||||

11 | |||||||||||||||||||||||||

12 | |||||||||||||||||||||||||

13 | |||||||||||||||||||||||||

14 | |||||||||||||||||||||||||

15 | |||||||||||||||||||||||||

16 | |||||||||||||||||||||||||

17 | |||||||||||||||||||||||||

18 | |||||||||||||||||||||||||

19 | |||||||||||||||||||||||||

20 | |||||||||||||||||||||||||

21 | |||||||||||||||||||||||||

22 | |||||||||||||||||||||||||

23 | |||||||||||||||||||||||||

24 | |||||||||||||||||||||||||

25 | |||||||||||||||||||||||||

26 | |||||||||||||||||||||||||

27 | |||||||||||||||||||||||||

28 | |||||||||||||||||||||||||

29 | |||||||||||||||||||||||||

30 | |||||||||||||||||||||||||

31 | |||||||||||||||||||||||||

32 | |||||||||||||||||||||||||

33 | |||||||||||||||||||||||||

34 | |||||||||||||||||||||||||

35 | |||||||||||||||||||||||||

36 | |||||||||||||||||||||||||

37 | |||||||||||||||||||||||||

38 | |||||||||||||||||||||||||

39 | |||||||||||||||||||||||||

40 | |||||||||||||||||||||||||

41 | |||||||||||||||||||||||||

42 | |||||||||||||||||||||||||

43 | |||||||||||||||||||||||||

44 | |||||||||||||||||||||||||

45 | |||||||||||||||||||||||||

46 | |||||||||||||||||||||||||

47 | |||||||||||||||||||||||||

48 | |||||||||||||||||||||||||

49 | |||||||||||||||||||||||||

50 | |||||||||||||||||||||||||

51 | |||||||||||||||||||||||||

52 | |||||||||||||||||||||||||

53 | |||||||||||||||||||||||||

54 | |||||||||||||||||||||||||

55 | |||||||||||||||||||||||||

56 | |||||||||||||||||||||||||

57 | |||||||||||||||||||||||||

58 | |||||||||||||||||||||||||

59 | |||||||||||||||||||||||||

60 | |||||||||||||||||||||||||

61 | |||||||||||||||||||||||||

62 | |||||||||||||||||||||||||

63 | |||||||||||||||||||||||||

64 | |||||||||||||||||||||||||

65 | |||||||||||||||||||||||||

66 | |||||||||||||||||||||||||

67 | |||||||||||||||||||||||||

68 | |||||||||||||||||||||||||

69 | |||||||||||||||||||||||||

70 | |||||||||||||||||||||||||

71 | |||||||||||||||||||||||||

72 | |||||||||||||||||||||||||

73 | |||||||||||||||||||||||||

74 | |||||||||||||||||||||||||

75 | |||||||||||||||||||||||||

76 | |||||||||||||||||||||||||

77 | |||||||||||||||||||||||||

78 | |||||||||||||||||||||||||

79 | |||||||||||||||||||||||||

80 | |||||||||||||||||||||||||

81 | |||||||||||||||||||||||||

82 | |||||||||||||||||||||||||

83 | |||||||||||||||||||||||||

84 | |||||||||||||||||||||||||

85 | |||||||||||||||||||||||||

86 | |||||||||||||||||||||||||

87 | |||||||||||||||||||||||||

88 | |||||||||||||||||||||||||

89 | |||||||||||||||||||||||||

90 | |||||||||||||||||||||||||

91 | |||||||||||||||||||||||||

92 | |||||||||||||||||||||||||

93 | |||||||||||||||||||||||||

94 | |||||||||||||||||||||||||

95 | |||||||||||||||||||||||||

96 | |||||||||||||||||||||||||

97 | |||||||||||||||||||||||||

98 | |||||||||||||||||||||||||

99 | |||||||||||||||||||||||||

100 |