Friday, 11 May 2018 14:32:03 1

The HPFOREST Procedure

Performance Information

Execution Mode Single-Machine

Number of Threads 2

Data Access Information

Data Engine Role Path

WORK.NEW V9 Input On Client

Model Information

Parameter Value

Variables to Try 4 (Default)

Maximum Trees 100 (Default)

Inbag Fraction 0.6 (Default)

Prune Fraction 0 (Default)

Prune Threshold 0.1 (Default)

Leaf Fraction 0.00001 (Default)

Leaf Size Setting 1 (Default)

Leaf Size Used 1

Category Bins 30 (Default)

Interval Bins 100

Minimum Category Size 5 (Default)

Node Size 100000 (Default)

Maximum Depth 20 (Default)

Alpha 1 (Default)

Exhaustive 5000 (Default)

Rows of Sequence to Skip 5 (Default)

Split Criterion . Gini

Preselection Method . BinnedSearch

Missing Value Handling . Valid value

Number of Observations

Type N

Number of Observations Read 213

Number of Observations Used 213

Baseline Fit Statistics

Statistic Value

Average Square Error 0.248

Misclassification Rate 0.451

Log Loss 0.688

 Friday, 11 May 2018 14:32:03 2

The HPFOREST Procedure

Fit Statistics

Average Average
Square Square Misclassification Misclassification Log Log
Number Number Error Error Rate Rate Loss Loss
of Trees of Leaves (Train) (OOB) (Train) (OOB) (Train) (OOB)

1 21 0.0845 0.209 0.08451 0.209 1.946 4.819

2 45 0.0505 0.221 0.06103 0.214 0.425 4.954

3 73 0.0360 0.187 0.03286 0.200 0.208 3.854

4 92 0.0314 0.190 0.02347 0.225 0.109 3.558

5 117 0.0302 0.208 0.01878 0.250 0.112 3.712

6 138 0.0280 0.191 0.02347 0.230 0.112 3.112

7 159 0.0273 0.179 0.01408 0.220 0.112 2.731

8 179 0.0273 0.180 0.01878 0.223 0.115 2.619

9 197 0.0273 0.171 0.02817 0.222 0.115 2.397

10 220 0.0257 0.154 0.01878 0.225 0.113 1.773

11 240 0.0255 0.148 0.01408 0.211 0.113 1.564

12 261 0.0253 0.149 0.01408 0.216 0.115 1.476

13 279 0.0256 0.151 0.00469 0.216 0.115 1.483

14 299 0.0254 0.146 0.00939 0.207 0.117 1.279

15 323 0.0249 0.141 0.00469 0.207 0.116 1.078

16 340 0.0249 0.142 0.00469 0.192 0.117 0.889

17 362 0.0251 0.140 0.00469 0.188 0.118 0.886

18 380 0.0251 0.138 0.00469 0.183 0.118 0.878

19 400 0.0245 0.138 0.00939 0.192 0.117 0.878

20 422 0.0247 0.136 0.00939 0.192 0.118 0.874

21 444 0.0243 0.136 0.01408 0.192 0.117 0.874

22 465 0.0240 0.134 0.01408 0.183 0.116 0.870

23 488 0.0232 0.131 0.01408 0.178 0.113 0.769

24 513 0.0233 0.135 0.00939 0.192 0.115 0.780

25 532 0.0233 0.132 0.00469 0.174 0.115 0.773

26 552 0.0230 0.131 0.00469 0.169 0.115 0.770

27 574 0.0228 0.127 0.00000 0.160 0.114 0.570

28 595 0.0230 0.127 0.00469 0.164 0.115 0.570

29 615 0.0229 0.126 0.00000 0.174 0.116 0.568

30 637 0.0231 0.126 0.00469 0.174 0.116 0.569

31 657 0.0235 0.127 0.00469 0.178 0.117 0.571

32 679 0.0234 0.127 0.00469 0.169 0.117 0.570

33 704 0.0230 0.125 0.00000 0.169 0.116 0.566

34 728 0.0228 0.127 0.00469 0.174 0.116 0.570

35 747 0.0231 0.127 0.00469 0.169 0.116 0.571

36 767 0.0231 0.127 0.00469 0.169 0.116 0.569

37 785 0.0231 0.126 0.00939 0.174 0.116 0.568

 Friday, 11 May 2018 14:32:03 3

The HPFOREST Procedure

Fit Statistics

Average Average
Square Square Misclassification Misclassification Log Log
Number Number Error Error Rate Rate Loss Loss
of Trees of Leaves (Train) (OOB) (Train) (OOB) (Train) (OOB)

38 808 0.0231 0.126 0.00939 0.178 0.116 0.568

39 826 0.0230 0.126 0.00939 0.174 0.116 0.479

40 847 0.0232 0.126 0.00939 0.178 0.117 0.479

41 868 0.0227 0.124 0.00000 0.178 0.116 0.474

42 886 0.0228 0.123 0.00939 0.169 0.115 0.472

43 906 0.0226 0.123 0.00469 0.169 0.115 0.472

44 929 0.0223 0.121 0.00939 0.169 0.114 0.468

45 947 0.0222 0.120 0.00939 0.169 0.113 0.371

46 965 0.0223 0.120 0.00939 0.164 0.114 0.372

47 989 0.0223 0.121 0.00939 0.164 0.114 0.374

48 1007 0.0222 0.120 0.00939 0.169 0.113 0.372

49 1027 0.0221 0.119 0.00469 0.169 0.113 0.365

50 1048 0.0220 0.118 0.00939 0.169 0.112 0.364

51 1067 0.0220 0.118 0.00939 0.164 0.113 0.362

52 1083 0.0220 0.117 0.00939 0.169 0.113 0.362

53 1103 0.0221 0.117 0.00939 0.160 0.113 0.361

54 1119 0.0220 0.116 0.00939 0.155 0.113 0.358

55 1144 0.0217 0.116 0.00000 0.160 0.113 0.359

56 1168 0.0215 0.116 0.00469 0.155 0.112 0.358

57 1187 0.0215 0.116 0.00000 0.155 0.112 0.357

58 1209 0.0216 0.116 0.00000 0.160 0.112 0.358

59 1226 0.0216 0.116 0.00000 0.164 0.112 0.357

60 1247 0.0217 0.116 0.00000 0.164 0.112 0.358

61 1263 0.0219 0.116 0.00000 0.160 0.113 0.360

62 1285 0.0219 0.116 0.00000 0.169 0.113 0.361

63 1305 0.0219 0.116 0.00000 0.164 0.114 0.361

64 1333 0.0218 0.116 0.00469 0.160 0.113 0.360

65 1359 0.0215 0.114 0.00469 0.160 0.113 0.355

66 1378 0.0214 0.114 0.00469 0.155 0.112 0.356

67 1396 0.0215 0.115 0.00469 0.150 0.113 0.357

68 1419 0.0215 0.115 0.00469 0.155 0.113 0.357

69 1436 0.0215 0.114 0.00000 0.150 0.113 0.355

70 1458 0.0215 0.114 0.00000 0.150 0.113 0.355

71 1480 0.0213 0.114 0.00000 0.150 0.113 0.354

72 1501 0.0213 0.114 0.00000 0.169 0.113 0.355

73 1526 0.0211 0.114 0.00000 0.164 0.113 0.353

74 1543 0.0211 0.113 0.00000 0.169 0.112 0.353

 Friday, 11 May 2018 14:32:03 4

The HPFOREST Procedure

Fit Statistics

Average Average
Square Square Misclassification Misclassification Log Log
Number Number Error Error Rate Rate Loss Loss
of Trees of Leaves (Train) (OOB) (Train) (OOB) (Train) (OOB)

75 1562 0.0211 0.113 0.00000 0.164 0.112 0.353

76 1582 0.0210 0.113 0.00000 0.164 0.112 0.353

77 1606 0.0208 0.113 0.00000 0.160 0.112 0.353

78 1631 0.0207 0.112 0.00000 0.160 0.111 0.352

79 1652 0.0205 0.113 0.00000 0.160 0.111 0.353

80 1671 0.0206 0.113 0.00000 0.174 0.111 0.352

81 1690 0.0206 0.113 0.00000 0.164 0.111 0.352

82 1709 0.0207 0.113 0.00000 0.164 0.112 0.353

83 1730 0.0207 0.113 0.00000 0.164 0.112 0.353

84 1751 0.0207 0.114 0.00000 0.164 0.112 0.355

85 1772 0.0206 0.114 0.00000 0.169 0.112 0.356

86 1795 0.0205 0.114 0.00000 0.164 0.112 0.354

87 1819 0.0205 0.114 0.00000 0.164 0.112 0.354

88 1848 0.0205 0.115 0.00000 0.164 0.112 0.356

89 1872 0.0205 0.115 0.00000 0.164 0.112 0.357

90 1901 0.0205 0.115 0.00000 0.164 0.113 0.358

91 1917 0.0205 0.115 0.00000 0.164 0.112 0.357

92 1944 0.0204 0.115 0.00000 0.164 0.113 0.359

93 1969 0.0204 0.116 0.00000 0.169 0.113 0.360

94 1992 0.0205 0.115 0.00000 0.169 0.113 0.360

95 2018 0.0205 0.116 0.00000 0.169 0.113 0.361

96 2041 0.0205 0.117 0.00000 0.169 0.113 0.363

97 2063 0.0204 0.116 0.00000 0.169 0.113 0.362

98 2080 0.0204 0.116 0.00000 0.174 0.113 0.361

99 2105 0.0203 0.116 0.00000 0.178 0.113 0.362

100 2127 0.0203 0.116 0.00000 0.178 0.113 0.362

Loss Reduction Variable Importance

Number OOB OOB

Variable of Rules Gini Gini Margin Margin

internetuserate 238 0.084941 0.03887 0.169883 0.12264

urbanrate 363 0.104771 0.03391 0.209542 0.13727

relectricperperson 187 0.063650 0.01963 0.127299 0.08309

lifeexpectancy 202 0.060829 0.01263 0.121658 0.07236

democracy 12 0.002024 0.00100 0.004048 0.00296

oilperperson 53 0.012293 -0.00059 0.024586 0.01139

breastcancerper100th 96 0.021005 -0.00574 0.042010 0.01649

 Friday, 11 May 2018 14:32:03 5

The HPFOREST Procedure

Loss Reduction Variable Importance

Number OOB OOB

Variable of Rules Gini Gini Margin Margin

alcconsumption 161 0.035187 -0.00598 0.070374 0.03010

armedforcesrate 43 0.006585 -0.00690 0.013171 -0.00070

employrate 139 0.023832 -0.00711 0.047665 0.01821

femaleemployrate 131 0.017039 -0.00801 0.034077 0.00834

co2emissions 101 0.011367 -0.00921 0.022734 0.00206

hivrate 105 0.014646 -0.01124 0.029292 0.00331

suicideper100th 196 0.030131 -0.02576 0.060261 0.00642