一、多元回歸

　　1、概述：

　　在研究變量之間的相互影響關系模型時候，用到這類方法，具體地說：其可以定量地描述某一現象和某些因素之間的函數關系，將各變量的已知值帶入回歸方程可以求出因變量的估計值，從而可以進行預測等相關研究。

　　2、分類

　　分為兩類：多元線性回歸和非線性線性回歸;

　　其中非線性回歸可以通過一定的變化轉化為線性回歸，比如：y=lnx 可以轉化為y=u u=lnx來解決;

　　3、 注意事項

　　在做回歸的時候，一定要注意兩件事：

　　(1) 回歸方程的顯著性檢驗

　　(2) 回歸系數的顯著性檢驗

　　檢驗是很多學生在建模中不注意的地方，好的檢驗結果可以體現出你模型的優劣，這點一定要注意。

　　二、聚類分析

　　1、概述：

　　聚類分析指將物理或抽象對象的集合分組為由類似的對象組成的多個類的分析過程。

　　2、分類

　　聚類主要有三種：

　　(1) K均值聚類

　　(2) 系統聚類

　　(3)二階聚類

　　類的距離計算方法：

　　(1) 最短距離法

　　(2) 最長距離法

　　(3) 中間距離法

　　(4) 重心法

　　(5) 類平均法

　　(6) 可變類平均法

　　(7) 可變法

　　(8) 利差平均和法

　　3、注意事項

　　在樣本量比較大時，要得到聚類結果就顯得不是很容易，這時需要根據背景知識和相關的其他方法輔助處理。

　　還需要注意的是：如果總體樣本的顯著性差異不是特別大的時候，使用的時候也要注意!

　　三、分類

　　1、概述

　　分類是一種典型的有監督的機器學習方法，其目的是從一組已知類別的數據中發現分類模型，以預測新數據的未知類別。

　　這里需要說明的是：預測和分類是有區別的，預測是對數據的預測，而分類是類別的預測。

　　2、常用分類模型：

　　(1)神經網絡

　　(2)決策樹

　　3、注意事項

　　A. 神經網絡適用于下列情況的分類：

　　(1) 數據量比較小，缺少足夠的樣本建立數學模型

　　(2) 數據的結構難以用傳統的統計方法來描述

　　(3) 分類模型難以表示為傳統的統計模型

　　B. 神經網絡的優點：

　　分類準確度高，并行分布處理能力強， 對噪聲數據有較強的魯棒性和容錯能力，能夠充分逼近復雜的非線性關系，具備聯想記憶的功能等。

　　C. 神經網絡缺點：

　　需要大量的參數，不能觀察中間學習過程，輸出結果較難解釋，會影響到結果的可信度，需要較長的學習時間，當數據量較大的時候，學習速度會制約其應用。