題目

解答

(1) 求解無約束最小化最優解 $(a_1, b_1)$

我們要對偏偏導數設為零：

將已知條件 $\sum_{i=1}^n x_i = \frac{n}{2}$ 與 $\sum_{i=1}^n x_i^2 = n$ 代回方程組：

我們將兩式同除以 $n$ 簡化：

我們使用消元法解此線性方程組：

• 第一式乘以 2 減去第二式： $$2a + b - \left(\frac{1}{2}a + b\right) = 2\bar{y} - \frac{1}{n}\sum x_i y_i \implies \frac{3}{2}a = 2\bar{y} - \frac{1}{n}\sum x_i y_i$$ $$a_1 = \frac{4\bar{y}}{3} - \frac{2}{3n}\sum x_i y_i = \frac{4\sum y_i - 2\sum x_i y_i}{3n}$$
• 第二式乘以 2 減去第一式： $$a + 2b - \left(a + \frac{1}{2}b\right) = \frac{2}{n}\sum x_i y_i - \bar{y} \implies \frac{3}{2}b = \frac{2}{n}\sum x_i y_i - \bar{y}$$ $$b_1 = \frac{4\sum x_i y_i - 2\sum y_i}{3n}$$

(2) 求解在約束 $a + b = c$ 下的最優解

我們可以使用拉格朗日乘子法 (Lagrange Multipliers) 來求解此有約束的最優化問題。 定義拉格朗日函數：

對 $a$ 與 $b$ 求偏導數並令其為零：

將式 (3) 與 (4) 聯立消去乘子 $\mu$：

我們代入已知條件 $\sum x_i = \frac{n}{2}$ 與 $\sum x_i^2 = n$：

我們兩側同除以 $n$：

注意到無約束最優解 $(a_1, b_1)$ 滿足：

• $\displaystyle \frac{\sum y_i}{n} = a_1 + \frac{1}{2}b_1$
• $\displaystyle \frac{\sum x_i y_i}{n} = \frac{1}{2}a_1 + b_1$

我們將這兩個關係代入式 (5) 的左側：

現在，我們聯立式 (6) 與約束條件 $a + b = c$：

相加可解得 $a$：

相減可解得 $b$：

結論：

1. 無約束最優解為 $\displaystyle a_1 = \frac{4\sum y_i - 2\sum x_i y_i}{3n}$， $\displaystyle b_1 = \frac{4\sum x_i y_i - 2\sum y_i}{3n}$。
2. 有約束最優解為 $\displaystyle a = \frac{a_1 - b_1 + c}{2}$， $\displaystyle b = \frac{-a_1 + b_1 + c}{2}$。