logistic迴歸學習和C++實現

標籤：輸出   類別   begin   構造   技術   思想   ++   類方法   先來   

logistic迴歸是一種分類方法，用於兩分類的問題，其基本思想為：

1. 尋找合適的假設函數，即分類函數，用來預測輸入資料的結果；
2. 構造損失函數，用來表示預測的輸出結果與訓練資料中實體類別之間的偏差；
3. 最小化損失函數，從而獲得最優的模型參數。

 

首先來看一下sigmoid函數：

\(g(x)=\frac{1}{1-e^{x}}\)

它的函數映像為：

 

logistic迴歸中的假設函數（分類函數）：

\(h_{\theta }(x)=g(\theta ^{T}x)=\frac{1}{1+e^{-\theta ^{T}x}}\)

解釋：

\(\theta \) —— 我們在後面要求取的參數；

\(T\) —— 向量的轉置，預設的向量都是列向量；

\(\theta ^{T}x\) —— 列向量\(theta\)先轉置，然後與\(x\)進行點乘，比如：

\(\begin{bmatrix}1\\ -1\\ 3\end{bmatrix}^{T}\begin{bmatrix}1\\ 1\\ -1\end{bmatrix} = \begin{bmatrix}1 & -1 & 3\end{bmatrix}\begin{bmatrix}1\\ 1\\ -1\end{bmatrix}=1\times 1+(-1)\times1+3\times(-1) = -3\)

 

logistic迴歸學習和C++實現