線性方程組(Linear Equations)

Basis
最後更新: 標籤: 線性代數

幾乎每一個科學和工程中的計算問題都可以歸結為「找到滿足這些線性約束的值」。加熱棒中的溫度分布、電路中的電流、使市場出清的價格——所有這些都變成了線性方程組。線性方程組的矩陣形式是使這些問題變得可處理的視角。

線性方程組

FF 上含 nn 個未知數 x1,,xnx_1, \ldots, x_nmm 個線性方程的方程組具有以下形式:

{a11x1+a12x2++a1nxn=b1a21x1+a22x2++a2nxn=b2am1x1+am2x2++amnxn=bm\begin{cases} a_{11} x_1 + a_{12} x_2 + \cdots + a_{1n} x_n = b_1 \\ a_{21} x_1 + a_{22} x_2 + \cdots + a_{2n} x_n = b_2 \\ \quad \vdots \\ a_{m1} x_1 + a_{m2} x_2 + \cdots + a_{mn} x_n = b_m \end{cases}

其中係數(coefficients) aijFa_{ij} \in F右端項(right-hand sides) biFb_i \in F 是已知的,你想找到所有同時滿足全部 mm 個方程的 (x1,,xn)Fn(x_1, \ldots, x_n) \in F^n。這樣的元組稱為解(solution),所有解的集合稱為解集(solution set)

矩陣形式:Ax=bAx = b

將係數、未知數和右端項打包進矩陣,把方程組變成緊湊的方程

Ax = b, \tag{1}

其中:

  • AMm,n(F)A \in M_{m,n}(F)係數矩陣(coefficient matrix)(A)ij=aij(A)_{ij} = a_{ij}
  • x=(x1,,xn)Fnx = (x_1, \ldots, x_n)^\top \in F^n未知向量(一個行向量),
  • b=(b1,,bm)Fmb = (b_1, \ldots, b_m)^\top \in F^m右端向量

乘積 AxAx 恰好給出每個方程的左端。所以求解方程組等同於找到所有使 AxAx 等於 bbxFnx \in F^n

增廣矩陣

與其分別操作 (1) 的兩側,不如將它們合併為一個矩陣。**增廣矩陣(augmented matrix)**是

[Ab]Mm,n+1(F),[A \mid b] \in M_{m,n+1}(F),

通過將 bb 作為額外的一行(column)附在 AA 右側而形成。在第 nn 行和第 (n+1)(n+1) 行之間畫一條垂直線,視覺上提示最後一行是右端項。

[Ab][A \mid b] 應用高斯-喬登消去法恰好執行簡化方程組所需的基本列運算,同時追蹤兩側。這些運算不改變解集,所以 [Ab][A \mid b] 的 RREF 給出一個等價的方程組,解可以直接從中讀出。

從 RREF 讀出解

[Ab][A \mid b] 化簡為 RREF 後,設 [Rc][R \mid c] 為結果。對應 RR 的樞軸行的變數是基本變數(basic variables)(一旦你選定自由變數,它們的值就被確定),而對應自由行的變數是自由變數(free variables)(它們可以取 FF 中的任意值)。

恰好有三種可能的結果:

結果 1:無解

RREF [Rc][R \mid c] 包含形如

(0001)\begin{pmatrix} 0 & 0 & \cdots & 0 & \mid & 1 \end{pmatrix}

的一列,它代表方程 0=10 = 1。這是不可能的,所以方程組無解(inconsistent)。幾何上,各方程定義的超平面沒有公共點。

結果 2:唯一解

RREF 在 AA 中沒有全零列(RR 的每一行都是樞軸行),且 bb 列中沒有主元。每個變數都是基本變數——沒有自由變數。你可以從 RREF 的最後一行直接讀出唯一值 x1,,xnx_1, \ldots, x_n

結果 3:無限多解

RR 中至少有一行是自由行(至少有一個自由變數),且 bb 列中沒有主元。每個自由變數可以設為 FF 中的任意值,產生一個不同的解。完整的解集是一個**特解(particular solution)加上 AA核(kernel)**的任意元素(見):

x=x特解+x齊次x齊次ker(A).x = x_{\text{特解}} + x_{\text{齊次}},\qquad x_{\text{齊次}} \in \ker(A).

特解是任意一個滿足 Ax=bAx = bxx;核的部分反映了所有的「自由度」。

齊次方程組

b=0b = \mathbf{0} 的特殊情形給出齊次方程組(homogeneous system) Ax=0Ax = \mathbf{0}。它永遠有解:x=0x = \mathbf{0} 永遠是一個解(稱為平凡解(trivial solution))。解集恰好是 ker(A)\ker(A),即 AA 的核。

若齊次方程組只有平凡解,則係數矩陣沒有自由行(所有行都是樞軸行)。若有非平凡解,則至少有一個自由行,核不僅僅是 {0}\{\mathbf{0}\}

齊次方程組在理解非齊次方程組 Ax=bAx = b 的解結構中扮演核心角色:Ax=bAx = b 的任意兩個解相差 ker(A)\ker(A) 中的一個元素。

摘要

  • nn 個未知數的 mm 個線性方程的方程組緊湊地寫作 Ax=bAx = bAMm,n(F)A \in M_{m,n}(F)
  • 增廣矩陣 [Ab][A \mid b] 打包兩側;對其應用高斯-喬登消去法在不改變解集的情況下化簡方程組。
  • 恰好有三種結果:無解(主元出現在 bb 列)、唯一解(無自由變數)或無限多解(至少有一個自由變數)。
  • 齊次方程組 Ax=0Ax = \mathbf{0} 永遠有解;其解集是 ker(A)\ker(A),在中探討。