機器學習的嶺回歸除了正規方程還可以用梯度下降求解嗎？
首先我可以很肯定的告訴你，可以！但是也許題主就會產生疑問，在機器學習算法中，那么多算法都使用梯度下降，似乎在機器學習算法中，梯度下降是一個萬能的優化算法為啥就不用呢？
其實正是因為梯度下降算法是一個萬能優化算法，所以他就有自己的缺點，否則別的算法就沒有存在的理由了。那么，梯度下降算法的缺點是什么呢？那就是它的效率比較低，求解速度比較慢，而且它的求解速度以及是否能夠收斂要取決于步長這個參數的合理設計。步長設計的太小，算法需要迭代太多次才能收斂；步長設計的太大，算法可能會在最優解附近發散不收斂。
所以一般選擇梯度下降作為某個機器學習算法的優化方法是因為該機器學習算法的目標函數不易求解：要么該目標函數不是凸函數，要么該目標函數沒有解析解。
而嶺回歸是一個非常簡單的算法，他能夠使用正規方程直接求解模型最優參數，不需要使用梯度下降來慢慢迭代求解。因此，嶺回歸可以使用梯度下降算法進行求解，但是沒有使用的原因是因為嶺回歸比較簡單，它的目標函數是具有解析解，這時候使用梯度下降算法就不如使用正規方程求解速度快。
