首頁  |   網站導覽  |   會員登入  |  
首頁 » 分析方法 » 快速不偏有效統計樹(QUEST)

快速不偏有效統計樹
Quick Unbiased and Efficient Statistical Tree, QUEST
此方法是由Loh and Shih於1997年所提出,也是一種分類樹方法,方法中修正了二階判別分析,改善了CART方法的缺點,使得此方法的效率提升且變數的選擇具有不偏(unbiased)。

決策樹-方法簡介

本方法使用之R相關套件與參考文獻:
相關套件:tree
參考文獻(依套件名稱排序):
  1. Breiman L., Friedman J. H., Olshen R. A., and Stone, C. J. (1984) Classification and Regression Trees. Wadsworth.
  2. Ripley, B. D. (1996) Pattern Recognition and Neural Networks. Cambridge University Press, Cambridge. Chapter 7.
範例F-6:

鳶尾花(iris)資料,最早由英國統計學家費雪(R. A. Fisher, 1890 – 1962)用於多變量分析(multivariate analysis)中的判別分析(discriminant analysis),故常稱為費雪鳶尾花資料。此資料是由美國植物學家安德生(E. S. Anderson, 1897 – 1969)所收集,故也稱為安德生鳶尾花資料。此資料記錄了鳶尾花三個亞種及其特徵,三亞種分別為山鳶尾(setosa)、變色鳶尾(versicolor)及維吉尼亞鳶尾(virginica),花的特徵則包含花萼(sepal)與花瓣(petal)的長度與寬度。

表:鳶尾花資料
變數名稱 花萼長度 花萼寬度 花瓣長度 花瓣寬度 品種
1 5.1 3.5 1.4 0.2 setosa
2 4.9 3.0 1.4 0.2 setosa
3 4.7 3.2 1.3 0.2 setosa
150 5.9 3.0 5.1 1.8 virginica

Q2:資料中記錄有花萼與花瓣的長度與寬度以及花的亞種,且花的亞種個數已確知為3種,植物學家想了解,若未看到花的實體,僅由記錄的資料中(花萼與花瓣的長度與寬度)是否能分辨出花的亞種?當有新的紀錄資料時,能否分辨該朵花屬於何種亞種?
統計方法:問題中想利用花萼與花瓣的長度與寬度來了解該花屬於何種亞種,且亞種個數為已知,故適合使用具有分類能力的分析方法。具有分類能力的方法有許多種,如判別分析(discriminat analysis)、決策樹(decision tree)或是類神經網路(neural network),以下列出適用於此鳶尾花資料的方法,使用者可比較在相同的目的下,不同分析方法所獲得結果的差異性。
分類模式
決策樹 判別分析 類神經網路 其它分類方法
分類與迴歸樹(CART) 判別分析
(Discriminant Analysis)
單一隱藏層
Feed Forward網路(NNET)
支援向量機器
(Support Vector Machine)
快速不偏有效統計樹(QUEST) 多層感知機網路(MLP) K最近鄰演算法
(K-Nearest Neighbors Algorithm)
卡方自動交互檢視法(CHAID) 輻射基底類神經網路( RBF ) 單純貝式分類器
(Naïve Bayesian Classifier)
C5.0法 機率類神經網路(PNN) 適應型強化分類法
(Adaptive Boosting)
隨機森林法(Random Forest)
快速不偏有效統計樹(QUEST) - 分析結果
  • 分析方法:快速不偏有效統計樹(QUEST)
  • 資料名稱:範例F-6
  • 依變數名稱:Species
  • 自變數名稱:Sepal.Length, Sepal.Width, Petal.Length, Petal.Width
  • 決策樹建構方式: 不刪剪:切成訓練樣本 vs. 測試樣本
    (使用隨機選取的 10% 資料作為測試樣本)
  • 決策樹刪剪標準: 不刪剪
  • 計算時間:0.497秒

  • 變數訊息I
    數值變數(numerical)
    變數名稱
    Variable
    樣本數
    Count
    平均數
    Mean
    中位數
    Median
    最小值
    Minimum
    最大值
    Maximum
    標準差
    Std. dev.
    Sepal.Length1505.84335.84.37.90.8281
    Sepal.Width1503.0573324.40.4359
    Petal.Length1503.7584.3516.91.7653
    Petal.Width1501.19931.30.12.50.7622

    類別變數(categorical)
    變數名稱
    Variable
    變數值
    Value
    編碼
    Coded
    個數
    Count
    Speciessetosa050
    versicolor150
    virginica250
    I:變數訊息皆不包含遺失值
  • 分類樹表:
    Model formula:
    
    Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width
    
    Fitted party:
    
    [1] root
    
    |   [2] Petal.Length <= 2.11405: setosa (n = 46, err = 0.0%)
    
    |   [3] Petal.Length > 2.11405
    
    |   |   [4] Petal.Width <= 1.64739: versicolor (n = 46, err = 6.5%)
    
    |   |   [5] Petal.Width > 1.64739: virginica (n = 43, err = 4.7%)
    
    Number of inner nodes:    2
    
    Number of terminal nodes: 3
    

  • 分類樹圖:

  • 預測v.s.觀察分類表(訓練樣本):
    Species 預測值
    setosaversicolorvirginica
    觀察值setosa4600
    versicolor0432
    virginica0341
    正確預測比例(對角線元素總和/所有觀察值總和):96.3 %

  • 預測v.s.觀察分類表(測試樣本):
    Species 預測值
    setosaversicolorvirginica
    觀察值setosa400
    versicolor050
    virginica015
    正確預測比例(對角線元素總和/所有觀察值總和):93.33 %

[重新分析]
影音教學內容為本系統資料處理與分析方法之操作說明,
可供使用者即時參考及線上自學,
輕鬆上手「R資料分析暨導引系統」!

步驟一:資料匯入
選擇要進行分析的資料檔或上傳檔案
您所選擇的資料檔為:
  
使用已儲存模式I對資料進行分類預測
I:對樣本資料進行訓練後可儲存模式,並對新增資料進行分類預測