學習日誌---線性迴歸與logistic迴歸

標籤：機器學習

導說：

都屬於廣義線性迴歸範疇。

線性迴歸分析：一元線性（當個因變數，一次，是條直線）；

                       多元線性（因變數有很多個，但也是一次，在空間中就是一個平面）；

                       廣義線性（高維線性迴歸，也就是一個超平面）

（都是一次的，因此稱為線性迴歸）

非線性迴歸分析：非一次的，是曲線，有些可以用線性模型處理，稱為廣義線性模型，例如Logistic回   

                          歸；、

困難：篩選變數（降維技術），避免多重共線性（某一變數依賴於其他幾個變數），觀察擬合方程，避 

         免過擬合。。。

使用線性迴歸依據：

對於線性迴歸，可以使用相關係數判斷這些變數是否適合使用線性去擬合：如下

650) this.width=650;" src="http://s3.51cto.com/wyfs02/M01/72/74/wKioL1XkFUiBpi6pAABz2PuWzro182.jpg" title="圖片1.png" alt="wKioL1XkFUiBpi6pAABz2PuWzro182.jpg" />可以通過柯西不等式證明其值在-1至1之間。

離1或者-1越接近時，則可以說明其線性相關程度越高。正相關與負相關。

學習日誌---線性迴歸與logistic迴歸