首頁  |   網站導覽  |   會員登入  |  
首頁 » 分析方法 » 多層感知機類神經網路

多層感知機類神經網路
Multi-Layer Perception Neural Network, MLPNN
此方法在人工類神經網路中屬於較進階的方法,也是一種前饋式的傳導,神經網路模式中包含有輸入層、隱藏層及輸出層,此模式的隱藏層可為一層或多層,且容許非線性的函數計算,故在學習能力上非常的突出,為最受歡迎的方法之一。在模式學習上提供了許多常用方法,但不包含倒傳遞演算法(back propagation algorithm),使用者可連結至倒傳遞類神經網路

人工類神經網路-方法簡介

本方法使用之R相關套件與參考文獻:
相關套件:stats、base、neuralnet
參考文獻:(依套件名稱排序)
  1. R Core Team (2013). R: A language and environment for statistical computing. R Foundation for Statistical Computing, Vienna, Austria. URL: http://www.R-project.org/.
  2. Stefan Fritsch, Frauke Guenther and following earlier work by Marc Suling (2012). neuralnet: Training of neural networks. R package version 1.32. URL:http://CRAN.R-project.org/package=neuralnet
範例F-6:

鳶尾花(iris)資料,最早由英國統計學家費雪(R. A. Fisher, 1890 – 1962)用於多變量分析(multivariate analysis)中的判別分析(discriminant analysis),故常稱為費雪鳶尾花資料。此資料是由美國植物學家安德生(E. S. Anderson, 1897 – 1969)所收集,故也稱為安德生鳶尾花資料。此資料記錄了鳶尾花三個亞種及其特徵,三亞種分別為山鳶尾(setosa)、變色鳶尾(versicolor)及維吉尼亞鳶尾(virginica),花的特徵則包含花萼(sepal)與花瓣(petal)的長度與寬度。

表:鳶尾花資料
變數名稱 花萼長度 花萼寬度 花瓣長度 花瓣寬度 品種
1 5.1 3.5 1.4 0.2 setosa
2 4.9 3.0 1.4 0.2 setosa
3 4.7 3.2 1.3 0.2 setosa
150 5.9 3.0 5.1 1.8 virginica

Q2:資料中記錄有花萼與花瓣的長度與寬度以及花的亞種,且花的亞種個數已確知為3種,植物學家想了解,若未看到花的實體,僅由記錄的資料中(花萼與花瓣的長度與寬度)是否能分辨出花的亞種?當有新的紀錄資料時,能否分辨該朵花屬於何種亞種?
統計方法:問題中想利用花萼與花瓣的長度與寬度來了解該花屬於何種亞種,且亞種個數為已知,故適合使用具有分類能力的分析方法。具有分類能力的方法有許多種,如判別分析(discriminat analysis)、決策樹(decision tree)或是類神經網路(neural network),以下列出適用於此鳶尾花資料的方法,使用者可比較在相同的目的下,不同分析方法所獲得結果的差異性。
分類模式
決策樹 判別分析 類神經網路 其它分類方法
分類與迴歸樹(CART) 判別分析
(Discriminant Analysis)
單一隱藏層
Feed Forward網路(NNET)
支援向量機器
(Support Vector Machine)
快速不偏有效統計樹(QUEST) 多層感知機網路(MLP) K最近鄰演算法
(K-Nearest Neighbors Algorithm)
卡方自動交互檢視法(CHAID) 輻射基底類神經網路( RBF ) 單純貝式分類器
(Naïve Bayesian Classifier)
C5.0法 機率類神經網路(PNN) 適應型強化分類法
(Adaptive Boosting)
隨機森林法(Random Forest)
多層感知機神經網路 - 分析結果
  • 分析方法:多層感知機神經網路
  • 資料名稱:範例F-6
  • 依變數名稱:Species
  • 自變數名稱:Sepal.Length, Sepal.Width, Petal.Length, Petal.Width
  • 計算時間:7.2秒

  • 變數訊息I
    數值變數(numerical)
    變數名稱
    Variable
    樣本數
    Count
    平均數
    Mean
    中位數
    Median
    最小值
    Minimum
    最大值
    Maximum
    標準差
    Std. dev.
    Sepal.Length1505.84335.84.37.90.8281
    Sepal.Width1503.0573324.40.4359
    Petal.Length1503.7584.3516.91.7653
    Petal.Width1501.19931.30.12.50.7622

    類別變數(categorical)
    變數名稱
    Variable
    變數值
    Value
    編碼
    Coded
    個數
    Count
    Speciessetosa050
    versicolor150
    virginica250
    I:變數訊息皆不包含遺失值
  • 模式訊息:
    訓練次數 1
    訓練過程最大週期 100000
    學習方法 彈性倒傳遞法
    誤差計算方式 平方和
    神經元轉換函數 邏輯斯函數

  • 模式診斷:
    訓練次數1
    最小誤差0.0068
    門檻值0.0099
    迭代次數(收斂)14868
    AICI94.0136
    BICII230.5615
    I:Akaike Information Criterion
    II:Bayesian Information Criterion


    訓練次數I,II: 1(best)
    I:訓練次數超過一次以上,請於右邊點選觀看不同訓練結果
    II:(best)表示最小誤差的訓練結果,系統認定為最佳模式

  • 神經網路起始權重關係表:
    輸入層對隱藏層1
    hidden 1hidden 2hidden 3hidden 4
    (偏差項)-0.0576-0.07760.1383-0.5439
    Sepal.Length-0.0748-1.8189-0.051-1.7289
    Sepal.Width1.5099-1.03741.85210.4707
    Petal.Length1.61990.30251.11170.0054
    Petal.Width1.1532-1.2779-0.51141.348
    隱藏層1對隱藏層2
    hidden 1hidden 2hidden 3
    (偏差項)0.7241-0.72020.4975
    hidden 11.55250.282-0.8144
    hidden 21.3255-0.79050.2681
    hidden 3-0.0343-0.4449-0.5922
    hidden 4-0.3611.3652.1335
    隱藏層2對輸出層
    setosaversicolorvirginica
    (偏差項)1.1727-2.1837-0.0467
    hidden 10.7468-0.4666-0.157
    hidden 2-0.23051.6861.6022
    hidden 30.0878-0.56790.7687

  • 神經網路權重關係表:
    輸入層對隱藏層1
    hidden 1hidden 2hidden 3hidden 4
    (偏差項)-4.18471.01320.8921-1.8642
    Sepal.Length-0.9367-0.787-0.6748-1.3546
    Sepal.Width-2.50150.39131.85590.8784
    Petal.Length1.51551.0861-0.18620.9422
    Petal.Width5.8772-1.606-1.42971.9766
    隱藏層1對隱藏層2
    hidden 1hidden 2hidden 3
    (偏差項)-3.40440.1477-1.4975
    hidden 152.0469783.64463.3978
    hidden 2-27.68160.004-2.0915
    hidden 3-20.29510.0739-46.6035
    hidden 41.2789-0.073124.0905
    隱藏層2對輸出層
    setosaversicolorvirginica
    (偏差項)2.2461-1.24850.0017
    hidden 102.1659-2.1671
    hidden 2-2.24622.2504-0.0033
    hidden 30.0001-3.17093.1718

  • 神經網路權重關係圖:


  • 最佳模式觀察值與配適值(訓練樣本)比較表:(下載完整CSV檔)
    樣本點編號觀察值配適值
    1setosasetosa
    2setosasetosa
    3setosasetosa
    4setosasetosa
    5setosasetosa
    146virginicavirginica
    147virginicavirginica
    148virginicavirginica
    149virginicavirginica
    150virginicavirginica

  • 最佳模式預測v.s.觀察分類表(訓練樣本):
    Species 預測值
    setosaversicolorvirginica
    觀察值setosa4600
    versicolor0450
    virginica0044
    正確預測比例(對角線元素總和/所有觀察值總和):100 %

  • 最佳模式觀察值與預測值(測試樣本)比較表:(下載完整CSV檔)
    樣本點編號觀察值預測值
    15setosasetosa
    35setosasetosa
    38setosasetosa
    40setosasetosa
    58versicolorversicolor
    114virginicavirginica
    115virginicavirginica
    120virginicavirginica
    122virginicavirginica
    140virginicavirginica

  • 最佳模式預測v.s.觀察分類表(測試樣本):
    Species 預測值
    setosaversicolorvirginica
    觀察值setosa400
    versicolor041
    virginica006
    正確預測比例(對角線元素總和/所有觀察值總和):93.33 %

[重新分析]
影音教學內容為本系統資料處理與分析方法之操作說明,
可供使用者即時參考及線上自學,
輕鬆上手「R資料分析暨導引系統」!

步驟一:資料匯入
選擇要進行分析的資料檔或上傳檔案
您所選擇的資料檔為:
  
使用已儲存模式I對資料進行分類預測
I:對樣本資料進行訓練後可儲存模式,並對新增資料進行分類預測