梯度法

梯度法是最早的求解無約束多元函式極值的數值方法，早在1847年就已由柯西(Cauchy))提出。它是導出其他更為實用、更為有效的最佳化方法的理論基礎。因此，梯度法是無約束最佳化方法中最基本的方法之一。