R語言隨機森林

在隨機森林方法中,創建了大量的決策樹。每個觀察結果都被送入每個決策樹。 每個觀察結果最常用作最終輸出。對所有決策樹進行新的觀察,並對每個分類模型進行多數投票。

對於在構建樹時未使用的情況進行錯誤估計。 這被稱爲*OOB(Out-of-bag)*錯誤估計,以百分比表示。

R中的軟件包「randomForest」用於創建隨機林。

安裝R包 - randomForest

在R控制檯中使用以下命令安裝軟件包,還必須安裝其它依賴軟件包(如果有的話)。

install.packages("randomForest")

軟件包「randomForest」具有用於創建和分析隨機林的randomForest()函數。

語法

在R中創建隨機林的基本語法是 -

randomForest(formula, data)

以下是使用的參數的描述 -

  • formula - 是描述預測變量和響應變量的公式。
  • data - 是使用的數據集的名稱。

輸入數據

我們將使用名爲readingSkills的R內置數據集來創建一個決策樹。 如果我們知道變量:"age","shoesize","score"以及"nativeSpeaker"表示該人員是否爲講母語的人,那麼它描述某個人員的閱讀技能的得分。

以下是樣本數據 -

# Load the party package. It will automatically load other required packages.
library(party)

# Print some records from data set readingSkills.
print(head(readingSkills))

當我們執行上面的代碼,它產生以下結果 -

  nativeSpeaker age shoeSize    score
1           yes   5 24.83189 32.29385
2           yes   6 25.95238 36.63105
3            no  11 30.42170 49.60593
4           yes   7 28.66450 40.28456
5           yes  11 31.88207 55.46085
6           yes  10 30.07843 52.83124

示例

我們將使用randomForest()函數來創建決策樹並查看它生成的圖形。參考以下代碼 -

setwd("F:/worksp/R")
# Load the party package. It will automatically load other required packages.
library("party")
library("randomForest")

# Create the forest.
output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score, 
           data = readingSkills)

# View the forest results.
print(output.forest) 

# Importance of each predictor.
print(importance(output.forest,type = 2))

當我們執行上面的代碼,它產生以下結果 -

Call:
 randomForest(formula = nativeSpeaker ~ age + shoeSize + score,      data = readingSkills) 
               Type of random forest: classification
                     Number of trees: 500
No. of variables tried at each split: 1

        OOB estimate of  error rate: 1.5%
Confusion matrix:
    no yes class.error
no  99   1        0.01
yes  2  98        0.02

         MeanDecreaseGini
age              14.09296
shoeSize         17.88001
score            57.55174

結論

從上面所示的隨機森林可以得出結論,鞋子大小和得分是決定某人是否是母語者的重要因素。 此外,該模型只有1%的誤差,這意味着我們可以以99%的準確度預測。