定義
對於具有l個等式約束的n維最佳化問題
![拉格朗日乘子法](/img/2/72c/wZwpmL4YzMxEzMyMTO2UzM1UTM1QDN5MjM5ADMwAjMwUzLzkzL3gzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/8/e27/wZwpmL4ATN4ETM3MDM3UzM1UTM1QDN5MjM5ADMwAjMwUzLzAzLxIzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
,
![拉格朗日乘子法](/img/3/78e/wZwpmLyMDNzQDM5EjNxADN0UTMyITNykTO0EDMwAjMwUzLxYzL2AzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
把原目標函式 改造成為如下形式的新的目標函式
![拉格朗日乘子法](/img/c/c5b/wZwpmLyAzM3QzMxEDN3UzM1UTM1QDN5MjM5ADMwAjMwUzLxQzL1AzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/d/a53/wZwpmLyQzNwEjN2YzN2UzM1UTM1QDN5MjM5ADMwAjMwUzL2czLygzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/3/78e/wZwpmLyMDNzQDM5EjNxADN0UTMyITNykTO0EDMwAjMwUzLxYzL2AzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/e/053/wZwpmLxQTO3YDO0EDN3UzM1UTM1QDN5MjM5ADMwAjMwUzLxQzL2EzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
式中的 就是原目標函式 的等式約束條件,而待定係數 稱為 拉格朗日乘子。這種方法稱為 拉格朗日乘子法。
![拉格朗日乘子法](/img/a/a84/wZwpmLyYTNyYTMzQzM3UzM1UTM1QDN5MjM5ADMwAjMwUzL0MzL1MzLt92YucmbvRWdo5Cd0FmLwE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/1/dde/wZwpmL1gzN2UjN5MzM3UzM1UTM1QDN5MjM5ADMwAjMwUzLzMzLyIzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/3/d4f/wZwpmLzIzN1gDOygDO2UzM1UTM1QDN5MjM5ADMwAjMwUzL4gzL2gzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
在極值點處,有 和 ,共有n+l個方程,足以算出這n+l個變數,此法也稱為 升維法。
基本原理
![拉格朗日乘子法](/img/d/14d/wZwpmLyczN4QTN1QzM3UzM1UTM1QDN5MjM5ADMwAjMwUzL0MzLyczLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
拉格朗日乘子法是一種經典的求解條件極值的解析方法,可將所有約束的最佳化模型問題轉化為無約束極值問題的求解。一般帶不等式約束的最最佳化問題求解如下式:
![拉格朗日乘子法](/img/f/29d/wZwpmL1YzM1ATO4QjN2UzM1UTM1QDN5MjM5ADMwAjMwUzL0YzLwQzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/9/77d/wZwpmL1EDO3UDM5MDM3UzM1UTM1QDN5MjM5ADMwAjMwUzLzAzLzEzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/8/500/wZwpmLyEjNyEjN0QzN2UzM1UTM1QDN5MjM5ADMwAjMwUzL0czL2QzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/5/f83/wZwpmLxgDM2MDN1kDO2UzM1UTM1QDN5MjM5ADMwAjMwUzL5gzLzYzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/8/5b2/wZwpmLwMDO0IjN3QjN2UzM1UTM1QDN5MjM5ADMwAjMwUzL0YzLxIzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/0/315/wZwpmL2MzNyUTO4ADO2UzM1UTM1QDN5MjM5ADMwAjMwUzLwgzLxUzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
拉格朗日乘子法是用於變數無關的是常數 分別乘各約束函式 並與目標函式相加得到如下的拉格朗日函式: ,式中: 為自變數; 為拉格朗日乘子量; 為鬆弛變數。
![拉格朗日乘子法](/img/a/a16/wZwpmLygjM2gDNxADN3UzM1UTM1QDN5MjM5ADMwAjMwUzLwQzL3EzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/c/f0b/wZwpmLxUjNyATN0kTMzEzM1UTM1QDN5MjM5ADMwAjMwUzL5EzL4QzLt92YucmbvRWdo5Cd0FmLwE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/7/1de/wZwpmL0QTO3YzM1UDO2UzM1UTM1QDN5MjM5ADMwAjMwUzL1gzLyMzLt92YucmbvRWdo5Cd0FmLwE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/c/f0b/wZwpmLxUjNyATN0kTMzEzM1UTM1QDN5MjM5ADMwAjMwUzL5EzL4QzLt92YucmbvRWdo5Cd0FmLwE2LvoDc0RHa.jpg)
則 在 處取極值的必要條件為: ,依據上式求得 即為最優解。
計算過程
1.假設需要求極值的目標函式(objective function)為f(x,y),限制條件為φ(x,y)=M
![拉格朗日乘子法](/img/5/1a9/wZwpmL2EzM2AjM2MzM3UzM1UTM1QDN5MjM5ADMwAjMwUzLzMzLxUzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
2.設
3.定義一個新函式
![拉格朗日乘子法](/img/1/7c5/wZwpmL4YDMyEDN1cDO2UzM1UTM1QDN5MjM5ADMwAjMwUzL3gzLwIzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
4.用偏導數方法列出方程:
![拉格朗日乘子法](/img/4/14f/wZwpmLzQDMycTO1QzN2UzM1UTM1QDN5MjM5ADMwAjMwUzL0czLyUzLt92YucmbvRWdo5Cd0FmLwE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/7/589/wZwpmLyMTO4ETO1QzN2UzM1UTM1QDN5MjM5ADMwAjMwUzL0czLzIzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/380/wZwpmLxcjM4ATNwEjN2UzM1UTM1QDN5MjM5ADMwAjMwUzLxYzLxgzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
5.求出x,y,λ的值,代入即可得到目標函式的極值
關鍵參數含義
![拉格朗日乘子法](/img/3/2f8/wZwpmLwIDNxAjMxMTMzEDN0UTMyITNykTO0EDMwAjMwUzLzEzLyIzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
(1) 是由參數M所引起的約束條件變化時,對目標函式最優值影響的度量;或者說表示了最優值的“靈敏度”。
(2)當約束條件M增加一個單位時,目標函式值f將近單位。
![拉格朗日乘子法](/img/3/2f8/wZwpmLwIDNxAjMxMTMzEDN0UTMyITNykTO0EDMwAjMwUzLzEzLyIzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
(3)在經濟學上參數 表示產品或資源M增加一個單位時,所帶來的最大社會效益f,常稱為“邊際效益”或“臨界值”,在商業經營決策中很有用處。
直觀意義
引理一
![拉格朗日乘子法](/img/1/84e/wZwpmLzMzNycDNxMDO4EDN0UTMyITNykTO0EDMwAjMwUzLzgzLwAzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/4/247/wZwpmL0IjMwQDM5ITO2UzM1UTM1QDN5MjM5ADMwAjMwUzLykzLyQzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/1/84e/wZwpmLzMzNycDNxMDO4EDN0UTMyITNykTO0EDMwAjMwUzLzgzLwAzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/b/ea1/wZwpmL2EjM0cDM5MDO2UzM1UTM1QDN5MjM5ADMwAjMwUzLzgzLzMzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/27c/wZwpmL0MzM5MTMxYzM3UzM1UTM1QDN5MjM5ADMwAjMwUzL2MzL2YzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/fb4/wZwpmLyUDO3AjN1gzMxMDN0UTMyITNykTO0EDMwAjMwUzL4MzL0gzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/1/84e/wZwpmLzMzNycDNxMDO4EDN0UTMyITNykTO0EDMwAjMwUzLzgzLwAzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
如果函式 是光滑的,並且 是 的一個正則點(即 ),那么, 垂直於過 的 的等值線。
引理二
![拉格朗日乘子法](/img/f/5f4/wZwpmLyAjN0kTOwUDO2UzM1UTM1QDN5MjM5ADMwAjMwUzL1gzLzEzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/4/06c/wZwpmL0AzMzgTO1UjN2UzM1UTM1QDN5MjM5ADMwAjMwUzL1YzL4czLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/27c/wZwpmL0MzM5MTMxYzM3UzM1UTM1QDN5MjM5ADMwAjMwUzL2MzL2YzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
在等值面 上的每個正則點 ,向量 垂直於等值面,並且這個向量是唯一 的(不計其某一常數倍)。
定理
![拉格朗日乘子法](/img/2/c02/wZwpmLzUzN4kDM5cTN2UzM1UTM1QDN5MjM5ADMwAjMwUzL3UzLwEzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/e/36d/wZwpmL3UTM4YTN2EDN3UzM1UTM1QDN5MjM5ADMwAjMwUzLxQzLxUzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/fb4/wZwpmLyUDO3AjN1gzMxMDN0UTMyITNykTO0EDMwAjMwUzL4MzL0gzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/fb4/wZwpmLyUDO3AjN1gzMxMDN0UTMyITNykTO0EDMwAjMwUzL4MzL0gzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/b/ebf/wZwpmL3IzMzEDN1YDO2UzM1UTM1QDN5MjM5ADMwAjMwUzL2gzL2EzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/27c/wZwpmL0MzM5MTMxYzM3UzM1UTM1QDN5MjM5ADMwAjMwUzL2MzL2YzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/a4c/wZwpmL1EDMzQTNwgTN2UzM1UTM1QDN5MjM5ADMwAjMwUzL4UzLwEzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/3/2f8/wZwpmLwIDNxAjMxMTMzEDN0UTMyITNykTO0EDMwAjMwUzLzEzLyIzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/27c/wZwpmL0MzM5MTMxYzM3UzM1UTM1QDN5MjM5ADMwAjMwUzL2MzL2YzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/3/2f8/wZwpmLwIDNxAjMxMTMzEDN0UTMyITNykTO0EDMwAjMwUzLzEzLyIzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/a4c/wZwpmL1EDMzQTNwgTN2UzM1UTM1QDN5MjM5ADMwAjMwUzL4UzLwEzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
假設 在曲面S: 上的點 有最大(小)值,並且 不是 的臨界點(g的三個偏導數都等於零的點叫g的臨界點),則 平行於 ,即存在某個常數 ,使 = 。
部分套用
在條件最值中的套用
![拉格朗日乘子法](/img/7/e59/wZwpmL1ATO4gTOzIDN3UzM1UTM1QDN5MjM5ADMwAjMwUzLyQzL3IzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/6/837/wZwpmLzMDMxQTN1YDO2UzM1UTM1QDN5MjM5ADMwAjMwUzL2gzLwgzLt92YucmbvRWdo5Cd0FmLxE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/e/159/wZwpmLzIjM1kDNxEDN3UzM1UTM1QDN5MjM5ADMwAjMwUzLxQzL2QzLt92YucmbvRWdo5Cd0FmLwE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/1/80f/wZwpmL3YTN0MDO2AjN2UzM1UTM1QDN5MjM5ADMwAjMwUzLwYzL3czLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/8/f29/wZwpmL3gTNyADM4MzM3UzM1UTM1QDN5MjM5ADMwAjMwUzLzMzLyIzLt92YucmbvRWdo5Cd0FmLyE2LvoDc0RHa.jpg)
設 的最值存在,且 , , 在 上時不同時為零,則最值點必是極值點,從而必是Lagrange函式的駐點。
在不等式證明中的套用
![拉格朗日乘子法](/img/8/037/wZwpmL4EDMzQTNzgTN2UzM1UTM1QDN5MjM5ADMwAjMwUzL4UzL3YzLt92YucmbvRWdo5Cd0FmLwE2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/1/b58/wZwpmLzcTOyAzM4MjN2UzM1UTM1QDN5MjM5ADMwAjMwUzLzYzL1YzLt92YucmbvRWdo5Cd0FmL0E2LvoDc0RHa.jpg)
![拉格朗日乘子法](/img/c/5af/wZwpmLxUjN2UDO1IDN3UzM1UTM1QDN5MjM5ADMwAjMwUzLyQzL1QzLt92YucmbvRWdo5Cd0FmLzE2LvoDc0RHa.jpg)
設 在條件 之下的最大值為B(a),則 。
在求隱函式極值中的套用
實際用途
假設目標函式代表一個工廠生產產品的數量,約束條件限制了生產中投入的原料和人力的總成本,我們求目標函式的極值,就是要求在成本一定的條件下,如何分配利用人力和原料,從而使得生產量達到最大。此時λ便代表,當成本條件改變時,工廠可達到的生產量最大值的變化率。