python實現梯度下降代碼問題?

來源:互聯網
上載者:User

回複內容:

1. epsilon = 0.0001在此段代碼中的作用是什嗎?在Minimize(Jtheta)以及Cost Function的公式用,都沒有看到一個叫epsilon標識

其實是有的,就在倒數第5、6行:
if abs(error1-error0) < epsilon:    break
epsilon就是收斂條件

theta012就是得出的最優(且讓我這麼稱)擬合曲線多項式的各個係數,然並卵,因為你這個資料是自己臆想出來的,得出的結果價值不大

我這裡也有一份梯度下滑的實現,你可以看看
https://github.com/racaljk/pyann/blob/master/network/perceptron.py如一樓所言,這段代碼存在很多問題。

『Data Science from Scratch』一書專門列了一章書來講解Python實現梯度下降和隨機梯度下降演算法,非常值得學習。

我在個人部落格中寫了這一章的學習筆記,增加了一些理論解釋,僅供參考。
參考連結:梯度下降演算法的Python實現epsilon是你設定的用於結束迭代的誤差閾值。

theta是用於帶到擬合的原函數裡面做測試用的,梯度下降一般有兩個資料集:訓練集和測試集。

前面K神已經指出來了,這是初學者自己寫的,缺陷很大。實現上的缺陷K神已經提到了,我提兩個其他的 1 沒有用矩陣寫。使用for迴圈的效率是比較低的,而且使用矩陣更清晰明了。 2 自造的資料集,最後不一定收斂。

要學習的話建議去找一門公開課,想看代碼的話可以去github上找,看這種錯誤很多的代碼是學不到東西的,epislon跳出迴圈標誌,判斷是否收斂
  • 聯繫我們

    該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

    如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

    A Free Trial That Lets You Build Big!

    Start building with 50+ products and up to 12 months usage for Elastic Compute Service

    • Sales Support

      1 on 1 presale consultation

    • After-Sales Support

      24/7 Technical Support 6 Free Tickets per Quarter Faster Response

    • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.