我们从第一节的 `n` 元向量的线性相关性入手, 在第二节引入矩阵的秩,
最终在第三节得出结论.
`bm n` 元向量的线性相关性与方程组的求解问题
`bm n` 元向量, 线性相关与线性无关
仅考虑加法和数乘时, 我们不区分 `n` 元列向量与它的转置,
将 `n` 元列向量与 `n` 元行向量统称为 `bm n` 元向量.
数域 `bbb F` 上 `n` 元向量的全体记为 `bbb F^n`,
把 `bbb F^n` 连同其上的加法和数乘 `(bbb F^n, +, *)` 称为
`bbb F` 上的 `bm n` 元向量空间. 特别 `bbb F = RR (CC)` 时,
称为 `bm n` 元实 (复) 向量空间.
设 `bm beta, bm alpha_1, cdots, bm alpha_s in bbb F^n`,
`s ge 1`. 若存在 `k_1, cdots, k_s in bbb F`, 使得
`sum_(i=1)^s k_i bm alpha_i = bm beta`,
则称 `bm beta` 可被 `bm alpha_1, cdots, bm alpha_s`
线性表出, 或 `bm beta` 为 `bm alpha_1, cdots, bm
alpha_s` 的线性组合.
将 `bbb F^n` 中全体可被 `bm alpha_1, cdots, bm alpha_s`
线性表出的向量记为 `"span"[bm alpha_1, cdots, bm alpha_s]`,
则 `bm beta in "span"[bm alpha_1, cdots, bm alpha_s]`.
设 `s ge 1`, 称向量组 `bm alpha_1, cdots, bm alpha_s in
bbb F^n` 线性相关, 如果存在不全为零的 `s` 个数 `k_1,
cdots, k_s in bbb F`, 使得零向量为该向量组的线性组合, 即
`sum_(i=1)^s k_i bm alpha_i = bm theta`.
否则, 称该向量组线性无关, 即, 如果有 `s` 个数 `k_1, cdots,
k_s in bbb F` 使得上式成立, 则 `k_1 = cdots = k_s = 0`.
设 `bm A in bbb F^(m xx n)`, `bm X in bbb F^n`, `bm B in bbb F^m`.
记 `bm A` 的各列向量为 `bm(A epsi)_j`, `j = 1, 2, cdots, n`,
`bm epsi_j` 是单位列向量. 则
- 线性方程组 `bm (AX) = bm B` 有解当且仅当 `bm B in "span"[bm(A
epsi)_1, cdots, bm(A epsi)_n]`.
- 齐次方程组 `bm (AX) = bb 0` 有非零解当且仅当
`bm (A epsi_j)` (`j = 1, 2, cdots, n`) 线性相关.
- 进一步设 `m = n`, 联系 Cramer 法则一节的这个定理,
`|bm A| = 0` 当且仅当 `bm (A epsi_j)` (`j = 1, 2, cdots, n`)
线性相关. 特别取 `bm A = bm I` 知,
`bm epsi_1, cdots, bm epsi_n` 线性无关.
- 加列仍线性相关
若 `bm alpha_1, cdots, bm alpha_s in bbb F^n`
线性相关, `bm alpha_(s+1) in bbb F^n`, 则 `bm alpha_1,
cdots, bm alpha_(s+1)` 线性相关. 用方程组的语言, 就是
`(AA bm X != bb 0)`
`bm (AX) = bb 0`
`rArr`
`(bm A, bm B) [bm X;bb 0] = bb 0`.
这指出, 若向量组的一个部分组线性相关,
则整个向量组线性相关. 换言之, 若向量组线性无关,
则它的任意部分组线性无关.
- 降维仍线性相关
设 `bm alpha_i = (a_(i1), a_(i2), cdots, a_(i n)) in bbb F^n`,
`i = 1, 2, cdots, s` 线性相关, 则
`bm bar alpha_i = (a_(i1), a_(i2), cdots, a_(i,n-1)) in bbb
F^(n-1)`, `i = 1, 2, cdots, s` 线性相关. 用方程组的语言, 就是
`(AA bm X != bb 0)`
`[bm A;bm B] bm X = [bb 0;bb 0]`
`rArr`
`bm (AX) = bb 0`.
这指出, 若向量组线性相关, 则由它的部分分量组成的向量组皆线性相关.
换言之, 若向量组的某些部分分量组成的向量组线性无关,
则整个向量组线性无关.
`bm alpha_1, cdots, bm alpha_s in bbb F^n`
线性相关当且仅当
- `s = 1` 时, `bm alpha_1 = bm theta`;
- `s ge 2` 时, 存在 `1 le i le s` 使得 `bm alpha_i` 为
其余 `s-1` 个向量的线性组合.
- `s = 1` 时, 若 `bm alpha_1 = bm theta`, 任取 `k_1 in bbb F\\{0}`,
就有 `k_1 bm alpha_1 = bm theta` 成立, 即 `bm alpha_1` 线性相关.
反之若 `bm alpha_1` 线性相关, 由定义知存在 `k_1 in bbb F\\{0}`
使得 `k_1 bm alpha_1 = bm theta`, 两边同乘 `k_1^-1` 得 `bm
alpha_1 = bm theta`.
- `s ge 2` 时, 若存在 `k_j in bbb F`, `j = 1, 2, cdots, s`, `j != i`
使得
`sum_(j=1, j!=i)^s k_j bm alpha_j = bm alpha_i`,
令 `k_i = -1 != 0`, 则
`sum_(j=1)^s k_j bm alpha_j = bm theta`,
故 `bm alpha_1, cdots, bm alpha_s` 线性相关.
反之, 若 `bm alpha_1, cdots, bm alpha_s` 线性相关,
则存在不全为零的 `k_j in bbb F`, `j = 1, 2, cdots, s` 使得
`sum_(j=1)^s k_j bm alpha_j = bm theta`,
不妨设 `k_i != 0`, `1 le i le s`, 于是
`bm alpha_i = -k_i^-1 sum_(j=1,j!=i)^s k_j bm alpha_j`,
即 `bm alpha_i` 是其它 `s-1` 个向量的线性组合.
设 `bm beta in bbb F^n` 可被 `bm alpha_1, cdots, bm
alpha_s in bbb F^n` 线性表出,
则向量组 `bm alpha_1, cdots, bm alpha_s`
线性无关当且仅当该表出方式唯一.
- 先设 `bm alpha_1, cdots, bm alpha_s` 线性无关,
`bm beta = sum_(i=1)^s k_i bm alpha_i = sum_(i=1)^s l_i bm
alpha_i`, 则 `sum_(i=1)^s (k_i - l_i) bm alpha_i = bm theta`.
由线性无关性知 `k_i = l_i`, `i = 1, 2, cdots, s`.
- 反之设 `bm beta = sum_(i=1)^s k_i
bm alpha_i` 是唯一的表出方式. 又设 `sum_(i=1)^s l_i bm alpha_i =
bm theta`, 则 `bm beta = sum_(i=1)^s (k_i + l_i) bm alpha_i`,
由表出方式唯一知 `l_i = 0`, `i = 1, 2, cdots, s`, 即 `bm alpha_1,
cdots, bm alpha_s` 线性无关.
极大线性无关组, 向量组的秩
设 `S, T sube bbb F^n` 是两个向量族
(这里的 `S, T` 未必只有有限个向量, 且与集合定义不同,
我们允许向量族中的元素重复).
如果 `S` 中每一向量可被 `T` 中的向量线性表出, 即 `S sube "span"[T]`,
则称向量族 `S` 可被 `T` 线性表出.
显然若 `S sube T`, 则 `S sube "span"[T]`.
如果恰有 `S = "span"[T]`, 则称 `T` 为 `S` 的生成集;
特别当 `T` 只有有限个向量时, 称为 `S` 的生成向量组.
称两向量族等价, 如果它们可以互相表出.
向量族的等价是一等价关系, 向量族之间的线性表出是一偏序关系.
替换定理
设 `"I": bm alpha_1, cdots, bm alpha_s in bbb F^n`
线性无关, 且可被 `"II": bm beta_1, cdots, bm beta_t in bbb
F^n` 线性表出, 则
- `s le t`; 这表明 `t` 个向量能线性表出的线性无关向量的个数不超过
`t`.
- `"II"` 在适当重排后, 与向量组
`"III": bm alpha_1, cdots, bm alpha_s, bm
beta_(s+1), cdots, bm beta_t`
等价. 换言之, 用向量组 `"I"` 中的向量替换 `"II"` 中的 `s`
个向量后所得的向量组仍与 `"II"` 等价. 特别若 `s = t`, 则 `"I"`
与 `"II"` 等价.
- 对 `t` 使用数学归纳法. 当 `t = 1` 时, 若有 `s gt t`, 则 `s ge 2`.
这时存在 `k_1, k_2 in bbb F`, 使得
`bm alpha_i = k_i bm beta_1`, `i = 1, 2`.
由于 `bm alpha_1, bm alpha_2` 线性无关, 有 `bm alpha_1, bm alpha_2
!= bm theta`, 所以 `k_1, k_2 != 0`. 但
`k_2 bm alpha_1 - k_1 bm alpha_2 = bm theta`,
所以 `bm alpha_1, bm alpha_2` 线性相关, 矛盾. 故 `s le t`.
今假设定理对于 `t-1 ge 1` 成立, 考查 `t` 时的情形, 设
`bm alpha_i = sum_(j=1)^t k_(ij) bm beta_j`,
`i = 1, 2, cdots, s`.
若 `k_(it) = 0`, `i = 1, 2, cdots, s`, 则
`bm alpha_i = sum_(j=1)^(t-1) k_(ij) bm beta_j`,
`i = 1, 2, cdots, s`.
各个 `bm alpha_i` 已经被 `t-1` 个向量线性表出, 由归纳假设,
`s le t-1 lt t`, 定理成立.
若存在一个 `1 le m le s`, 使得 `k_(mt) != 0`, 不妨设 `m = s`,
令
`"IV": bm gamma_i = bm alpha_i - k_(it)/k_(st) bm alpha_s`,
`i = 1, 2, cdots, s-1`,
则 `"IV"` 可由 `"I"` 线性表出; 由向量组线性表出的传递性, `"IV"`
也可由 `"II"` 线性表出, 且 `bm beta_t` 的系数 `k_(it) -
k_(it)/k_(st) * k_(st) = 0`, 这表明 `"IV"` 可以仅由 `"II"` 的前
`t-1` 个向量线性表出.
我们证明 `"IV"` 线性无关. 事实上, 若存在
`l_i in bbb F`, `i = 1, 2, cdots, s-1`, 使得
`sum_(i=1)^(s-1) l_i bm gamma_i = bm theta`,
那么
`sum_(i=1)^(s-1) l_i bm alpha_i - (sum_(i=1)^(s-1) l_i
k_(it)/k_(st) ) bm alpha_s = bm theta`.
由 `"I"` 线性无关得 `l_i = 0`, `i = 1, 2, cdots, s-1`,
于是 `"III"` 线性无关.
由归纳假设, `s-1 le t-1`, 即 `s le t`.
- 只需证明 `"III"` 能线性表出 `"II"`, 而这只需证明 `"III"`
能线性表出 `bm beta_i`, `i = 1, 2, cdots, s`.
对 `s` 使用数学归纳法, 当 `s = 1` 时, 设
`bm alpha_1 = sum_(j=1)^t k_j bm beta_j`,
适当排列 `"II"` 使 `k_1 != 0`, 则
`bm beta_1 = k_1^-1 bm alpha_1 - k_1^-1 sum_(j=2)^t k_j bm
beta_j`.
设定理对 `s-1 ge 1` 成立, 考察 `s` 的情形, 设
`bm alpha_s = sum_(j=1)^t l_j bm beta_j = sum_(j=1)^(s-1) m_j
bm alpha_j + sum_(j=s)^t m_j bm beta_j`,
其中 `m_s, m_(s+1), cdots, m_t` 不全为零, 适当排列使 `m_s != 0`,
于是 `"III"` 能线性表出 `bm beta_s`, 进而线性表出 `bm alpha_1,
cdots, bm alpha_(s-1), bm beta_s, cdots, bm beta_t`,
进而由归纳假设, 线性表出 `"II"`.
在替换定理中取 `"II"` 为 `n` 元单位向量组, 得到:
`bbb F^n` 中任意线性无关向量组含向量的个数不超过 `n`.
设 `bm alpha_1, cdots, bm alpha_s in bbb F^n` 和 `bm
beta_1, cdots, bm beta_t in bbb F^n` 等价且各自线性无关,
则 `s = t`.
设 `bm alpha_1, cdots, bm alpha_r in S sube bbb F^n`.
称 `bm alpha_1, cdots, bm alpha_r` 为向量族 `S`
的一个极大线性无关组, 或简称极大无关组, 如果它线性无关,
且与 `S` 等价. 即极大线性无关组是能够表出 `S` 中任意向量的无关向量组.
由,
`S` 中任意向量被它的极大无关组线性表示的方式是唯一的.
极大无关组具有传递性. 若 `"I"` 为 `"II"` 的极大无关组, 而 `"II"`
为向量族 `S` 的极大无关组, 则 `"I"` 也是 `S` 的极大无关组.
联系有:
- 再多一个, 线性相关.
向 `S` 的极大线性无关组 `"I"` 中再加入一个 `S` 中的向量,
则该向量可由 `"I"` 线性表出, 故 `"I"` 并上此向量后线性相关.
- 再少一个, 不足表出 `S`.
从 `S` 的极大线性无关组 `"I"` 中剔除一个向量, 则由 `"I"`
线性无关知, 该向量不能由 `"I"` 中剩余的向量线性表出.
从而剩余的向量不足以线性表出 `S`.
设 `"I": bm alpha_1, cdots, bm alpha_s` 线性无关, 则
`bm alpha_1, cdots, bm alpha_(s+1)` 线性无关当且仅当
`bm alpha_(s+1)` 不是 `"I"` 的线性组合.
从而由数学归纳法知道,
`bm alpha_1, cdots, bm alpha_s in bbb F^n`
线性无关当且仅当
`bm alpha_1 != bm theta`, 且对任意 `i = 2, 3, cdots, s`, `bm alpha_i`
不是 `bm alpha_1, cdots, bm alpha_(i-1)` 的线性组合.
`rArr`:
由显然.
`lArr`: 设存在 `k_i in bbb F^n`, `i = 1, 2, cdots, s+1` 使得
`sum_(i=1)^(s+1) k_i bm alpha_i = bm theta`.
由 `bm alpha_(s+1)` 不是 `"I"` 的线性组合知 `k_(s+1) = 0`.
再由 `"I"` 线性无关, `k_1 = cdots = k_s = 0`. 于是
`bm alpha_1, cdots, bm alpha_(s+1)` 线性无关.
扩充定理
令 `"I": bm alpha_1, cdots, bm alpha_s in bbb F^n`,
若 `{bm alpha_i}_(i=1)^h` 线性无关, 但不构成 `"I"` 的极大无关组,
则可以从余下的 `s-h` 个向量 `bm alpha_(h+1), cdots, bm
alpha_s` 中选取若干向量, 使 `{bm alpha_i}_(i=1)^h`
与这些向量一起构成 `"I"` 的一个极大线性无关组.
换言之, 任意无关向量组可以扩充为极大线性无关组.
因为 `{bm alpha_i}_(i=1)^h` 线性无关, 但不构成 `"I"` 的极大无关组,
由定义知存在 `bm beta in {bm alpha_(h+1), cdots, bm alpha_s}`,
且 `bm beta` 不能被 `{bm alpha_i}_(i=1)^h` 线性表出.
从而由知
`bm alpha_1, cdots, bm alpha_h, bm beta` 线性无关.
由于 `s` 为有限数, 这一操作不可能无限进行下去, 所以最终我们将获得
`"I"` 的一个极大无关组.
令 `"I": bm alpha_1, cdots, bm alpha_s` 是 `bbb F^n`
中不全为零的向量组. 由扩充定理知, `"I"` 中存在极大无关组.
再由知,
`"I"` 中所有极大无关组所含向量个数是相等的.
这个非负整数只与 `"I"` 有关, 而与极大无关组的选取无关, 称为
`"I"` 的秩, 记为 `r("I")` 或 `r({bm alpha_i}_(i=1)^s)`.
约定全由零向量组成的向量组的秩为 `0`.
- 由替换定理, 若向量组 `"I"` 能由 `"II"` 线性表出, 则 `r("I") le
r("II")`;
- 若 `"I"` 与 `"II"` 等价, 则 `r("I") = r("II")`;
- 若 `"I"` 与 `"II"` 有包含关系, 则 2. 是充要的.
设向量组 `"I": bm alpha_1, cdots, bm alpha_r in S`
线性无关, 则以下三款等价:
- `"I"` 为 `S` 的极大无关组;
- `S` 中有一极大无关组含 `r` 个向量.
- `"I"` 为 `S` 的最大无关组, 即 `S`
中任意无关向量组所含向量的个数最多为 `r`.
于是由,
秩是无关向量组所含向量个数的最大值,
是生成向量组所含向量个数的最小值.
- `rArr` 2. 显然.
- `rArr` 3. 设 `"III"` 为 `S` 的含 `r` 个向量的极大无关组.
这说明 `S` 中无关向量组所含向量的个数可以达到 `r`.
设 `S` 中有 `r+1` 个线性无关的向量, 则这些向量可被
`"III"` 线性表出, 由替换定理, `r+1 le r`, 矛盾. 所以 `S`
中无关向量组所含向量的个数不超过 `r`.
- `rArr` 1.
设 `S` 中无关向量组所含向量的个数最多为 `r`, 则 `S`
中的任意向量与 `"I"` 组成的向量组都线性相关.
由, `S`
中任意向量都能被 `"I"` 线性表出, 即 `"I"` 为 `S` 的极大无关组.
2. `rArr` 1. 的另一种证法是, 设 `"III"` 为 `S` 的含 `r`
个向量的极大无关组, 利用替换定理的结论 2,
向量组 `"I"` 与 `"III"` 等价. 从而 `"I"` 能表出 `"III"`, 进而能表出
`S` 中的任意向量.
线性方程组的可解性 (向量组语言)
从
早已知道, `n` 元向量的线性相关性与方程组解的存在性问题密不可分.
现在利用已经得到的向量线性相关性的结论,
回过头来解决方程组解的存在性问题, 即下面的定理:
设 `bm alpha_1, cdots, bm alpha_n, bm beta in bbb F^m`,
则线性方程组
`sum_(i=1)^n x_i bm alpha_i = bm beta`
有解当且仅当
` r({bm alpha_1, cdots, bm alpha_n})
= r({bm alpha_1, cdots, bm alpha_n, bm beta})`.
(3-1)
进一步, 当此方程组有解时, 其解唯一当且仅当 `bm alpha_1,
cdots, bm alpha_n` 线性无关, 即
` r({bm alpha_1, cdots, bm alpha_n})
= r({bm alpha_1, cdots, bm alpha_n, bm beta}) = n`.
- 由
的 3,
成立当且仅当 `bm alpha_1, cdots, bm alpha_n` 等价于 `bm alpha_1, cdots, bm alpha_n, bm beta`,
也当且仅当 `bm beta` 为 `bm alpha_1, cdots, bm alpha_n` 的线性组合;
由
的 1, 这当且仅当方程组有解.
- 进一步设方程组有解,
由
知解唯一当且仅当 `bm alpha_1, cdots, bm alpha_n`
线性无关.
矩阵的秩与方程组的求解问题
矩阵的秩
设 `bm A in bbb F^(m xx n)`, 把 `bm A` 的某 `r` 行某 `s` 列交叉处的
`r xx s` 个元素按原来 "上下左右" 的顺序形成的 `r xx s` 矩阵称为
`bm A` 的子阵, `r = 1, 2, cdots, m`, `s = 1, 2, cdots, n`.
特别 `r = s` 时, 称为 `r` 阶子阵,
其行列式称为 `bm A` 的 `r` 阶子式,
`r = 1, 2, cdots, min{m, n}`.
称 `bm A in bbb F^(m xx n)` 的列向量组 `{bm (A epsi)_j}_(j=1)^n`
的秩为 `bm A` 的列秩, 行向量组 `{bm epsi_i^T bm A)}_(i=1)^m`
的秩为 `bm A` 的行秩, 称 `bm A` 的全体非零子式的最大阶数为
`bm A` 的行列式秩. 规定零矩阵的行列式秩为 `0`.
因此, `bm A` 的行秩, 列秩和行列式秩都是非负整数.
令 `bm alpha_1, cdots, bm alpha_n in bbb F^m`.
定义向量组
涉及向量的初等变换与
涉及分量的初等变换如下:
涉及向量的初等变换
- `c` 乘以向量组的第 `i` 个向量作为新向量组的第 `i` 个向量,
其他向量不变, `c in bbb F\\{0}`, `1 le i le n`.
- 向量组的第 `j` 个向量加上第 `i` 个向量的 `k` 倍, 作为新向量组的第
`j` 个向量, 其他向量不变, `k in bbb F`, `1 le i != j le n`.
- 交换向量组的第 `i, j` 个向量的位置, 其他向量不变,
`1 le i != j le n`.
|
涉及分量的初等变换
- `c` 乘以向量组的每个向量的第 `i` 个分量作为新向量组每个向量的第
`i` 个分量, 其他分量不变, `c in bbb F\\{0}`, `1 le i le m`.
- 向量组的每个向量的第 `j` 个分量加上各自的第 `i` 个分量的 `k` 倍,
作为新向量组每个向量的的第 `j` 个分量, 其他分量不变, `k in bbb F`,
`1 le i != j le m`.
- 交换向量组的每个向量的第 `i, j` 个分量的位置, 其他分量不变,
`1 le i != j le m`.
|
有限次初等变换不改变向量组的秩.
- 涉及向量的初等变换:
因为涉及向量的初等变换是可逆的,
从而变换前后的向量组等价, 从而由 的 2, 它们的秩也相等.
- 涉及分量的初等变换:
不妨设原向量组 `{bm alpha_i}_(i=1)^n` 不全为零向量, 且
`{bm alpha_i}_(i=1)^r` 构成它的一个极大线性无关组. 设
`bm alpha_i = (a_(1i), a_(2i), cdots, a_(mi))^T`,
`bm beta_i = (b_(1i), b_(2i), cdots, b_(mi))^T`,
`i = 1, 2, cdots, r`.
构造线性方程组
`sum_(i=1)^r x_i bm alpha_i = bm theta_(m xx 1)`, `quad`
`sum_(i=1)^r x_i bm beta_i = bm theta_(m xx 1)`.
由 `{bm alpha_i}_(i=1)^r` 线性无关知, 第一个方程组只有零解.
而第二个方程可以看成第一个方程经过有限次行初等变换得到的同解方程组,
从而也只有零解, 即 `{bm beta_i}_(i=1)^r` 线性无关.
这就证明了原向量组的任一极大无关组在 (涉及分量的)
初等变换下仍保持线性无关. 由
`r({bm alpha_i}_(i=1)^n) = r le r({bm beta_i}_(i=1)^n)`.
但涉及分量的初等变换也是可逆的, 类似可得
`r({bm alpha_i}_(i=1)^n) ge r({bm beta_i}_(i=1)^n)`.
任意 `bm A in bbb F^(m xx n)` 的行秩 = 列秩 = 行列式秩,
简单地称这个数字为 `bm A` 的秩, 记作 `r(bm A)`.
-
先证任意矩阵的行秩等于列秩. 设
` bm A
= [bm alpha_1, cdots, bm alpha_n]`
`= [bm alpha^((1)); vdots; bm alpha^((m))]`.
它有如下等价标准形:
` bm overset ~ A
= [bm eta_1, cdots, bm eta_n]`
`= [bm eta^((1)); vdots; bm eta^((m))]`
`= [bm I_r, bm O; bm O, bm O]`,
即对列向量组 `{bm alpha_i}_(i=1)^n`
作有限次向量组的涉及向量的初等变换和涉及分量的初等变换后可得向量组
`{bm eta_i}_(i=1)^n`; 类似地, 对行向量组 `{bm alpha^((j))}_(j=1)^m`
作有限次向量组的涉及向量的初等变换和涉及分量的初等变换后可得向量组
`{bm eta^((j))}_(j=1)^m`. 显然 `bm overset ~ A` 的行秩和列秩都是 `r`.
但有限次初等变换不改变向量组的秩, 所以 `bm A` 的行秩和列秩也都是 `r`.
-
下证 `bm A` 的行列式秩也是 `r`. 不妨设 `bm A != bm O`, 取它的 `r`
个线性无关的行, 按原顺序作成一个子阵, 记为 `bm A_(r xx n)`. 由 1,
`bm A_(r xx n)` 的列秩等于行秩等于 `r`. 任取 `bm A_(r xx n)` 的
`r` 个线性无关的列, 按原顺序作成一个子阵 `bm A_(r xx r)`, 它也是
`bm A` 的子阵.
由 `bm A_(r xx r)` 的列向量线性无关知,
`|bm A_(r xx r)| != 0`, 为 `bm A` 的一个非零 `r` 阶子式.
由于 `bm A` 的任 `r+1` 列都线性相关, 从而其缩短向量 (降维) 仍线性相关,
因此若 `bm A` 有 `r+1` 阶子式, 其必为零. 于是 `bm A` 的行列式秩为 `r`.
有限次初等变换不改变矩阵的秩.
两个矩阵等价当且仅当它们是具有同样行, 列数的同秩矩阵.
由于可逆矩阵可以写为有限个初等矩阵的乘积, 所以任一矩阵乘以可逆矩阵后,
秩不变.
称方阵 `bm A in bbb F^(n xx n)` 满秩, 如果 `r(bm A) = n`.
阶梯形矩阵
` bm A
= [**,a_12,a_13, cdots, a_(1r), cdots, a_(1n);
0,**, a_12, cdots, a_(2r), cdots, a_(2n);
0,0, **, cdots, a_(3r), cdots, a_(3n);
vdots, vdots, vdots, , vdots, , vdots;
0,0, 0, cdots, **, cdots, a_(rn);
0,0, 0, cdots, 0, cdots, 0;
vdots, vdots, vdots, , vdots, , vdots;
0,0, 0, cdots, 0, cdots, 0]`
的秩为 `r`, 其中 `**` 为非零数.
利用初等变换计算
`[4,-2,1;
1,2,-2;
-1,8,-7;
2,14,-13]`
的秩.
作行初等变换:
`[4,-2,1;
1,2,-2;
-1,8,-7;
2,14,-13]`
`overset([1, 2]) rarr`
`[1,2,-2;
4,-2,1;
-1,8,-7;
2,14,-13]`
`underset([3+1(1)][4-1(2)]) overset([2-1(4)]) rarr`
`[1,2,-2;
0,-10,9;
0,10,-9;
0,10,-9]`
`underset([4+2(1)]) overset([3+2(1)]) rarr`
`[1,2,-2;
0,-10,9;
0,0,0;
0,0,0]`.
由上例知原矩阵的秩为 2.
低秩矩阵
方阵 `bm A in bbb F^(n xx n)` 的秩 `le 1` 当且仅当存在 `bm alpha, bm
beta in bbb F^(n xx 1)`, 使得
`bm A = bm (alpha beta)^T`.
此时记 `k = bm beta^T bm alpha`, 则 `bm A^2 = k bm A`.
可见低秩矩阵的幂运算是容易进行的.
若干秩不等式
假设下面各式中的加法与乘法都可以进行, 即矩阵具有合适的行, 列数:
- `max{r(bm A),r(bm B)} le r((bm A,bm B))
le r(bm A) + r(bm B)`;
- `r(bm A+-bm B) le r(bm A) + r(bm B)`;
- `r(bm(A B)) le min{r(bm A), r(bm B)}`;
- (Sylvester) 任意 `{:bm A:}_(m xx n)`, `{:bm B:}_(n xx s)` 满足
`r(bm A) + r(bm B) le n + r(bm(A B))`,
- 分别记 `bm A, bm B, (bm A,bm B)` 这三个矩阵的列向量组为
`"I", "II", "III"`. 因为 `"I", "II"` 都能由 `"III"` 线性表出, 所以
`max{r("I"),r("II")} le r("III")`. 另一方面, 记 `"IV"` 为 `"I", "II"`
中的极大线性无关组之并, 则 `r("IV") le r("I") + r("II")`.
但 `"III"` 和 `"IV"` 能相互表出, 从而 `r("III") = r("IV")`.
综上即得到结论.
- 分别记 `bm A, bm B, bm(A+B)` 这三个矩阵的列向量组为
`"I", "II", "III"`. 又记 `"IV"` 为 `"I", "II"`
中的极大线性无关组之并, 则 `r("IV") le r("I") + r("II")`.
但 `"IV"` 能线性表出 `"III"`, 有 `r("III") le r("IV")`,
综上即得到结论.
- `bm (A B)` 的各列向量可由 `bm A` 的各列向量线性表出,
所以 `r(bm(A B)) le r(bm A)`;
`bm (A B)` 的各行向量可由 `bm B` 的各行向量线性表出,
所以 `r(bm(A B)) le r(bm B)`.
- 考察矩阵
`bm C = [bm I_n,bm B; bm A,bm O]`,
`quad bm P = [bm I_n,bm O; -bm A,bm I_m]`,
`quad bm Q = [bm I_n,-bm B; bm O,bm I_s]`,
计算知
`bm(P C Q) = [bm I_n,bm O; bm O,-bm(A B)]`.
由于 `|bm P| = |bm Q| = 1`, 故 `bm P, bm Q` 均可逆, 所以
`r(bm C) = r(bm(P C Q)) = r(bm I_n) + r(-bm(A B))`
`= n + r(bm(A B)`.
通过初等变换可以发现, 在矩阵 `bm C` 中,
`bm A`, `bm B` 各自的列极大线性无关组所在的列线性无关,
故 `r(bm A) + r(bm B) le r(bm C)`, 证毕.
- 现在运用线性方程组理论 (本章最后一节),
对 Sylvester 秩不等式的特例: `bm(A B) = bm O` 时,
`r(bm A) + r(bm B) le n` 给出另一证明. 因为 `bm(A B) = bm O`,
`bm B` 的每一列均为方程组 `bm(A X) = bb 0` 的解. 当 `r(bm A) = n`
时, 该方程组只有零解, 所以 `bm B = bm O`, `r(bm B) = 0`,
不等式成立.
当 `r(bm A) lt n` 时, 该方程组具有 `n-r(bm A)`
个向量组成的基础解系, 即 `bm B`
的每一列均能由这一基础解系线性表出. 于是 `r(bm B) le n-r(bm A)`,
不等式成立.
`bm A in bbb F^(r xx r)`, `bm B in bbb F^(r xx n)`,
`r(bm B) = r`, 则
`bm(A B) = bm O rArr bm A = bm O`,
`bm(A B) = bm B rArr bm A = bm I`.
若 `bm(A B) = bm O`, 由 Sylvester 秩不等式立即有 `r(bm A) + r(bm B)
le r`, 但 `r(bm B) = r`, 故 `r(bm A) le 0`, 即 `bm A = bm O`.
若 `bm(A B) = bm B`, 令 `bm B_1` 为 `bm B` 中线性无关的 `r`
列组成的方阵, 于是 `bm B_1` 可逆, 且 `bm(A B_1) = bm B_1`.
两边同时右乘 `bm B_1^-1` 得 `bm A = bm I`.
矩阵的秩因子分解 (rank factorization)
令 `bm A in bbb F^(m xx n)`,
`r(bm A) = r`, 则存在 `bm B in bbb F^(m xx r)`, `bm C in bbb
F^(r xx n)` 使得 `r(bm B) = r(bm C) = r`,
`bm A = bm(B C)`.
`r = 0` 时, `bm A = bm O`, 取 `bm B, bm C` 为零矩阵即可. 下设 `r gt
0`. 记 `bm A = (bm alpha_1, cdots, bm alpha_n)`.
不妨设 `bm A` 的前 `r` 列线性无关, 则后 `n-r` 列可以被前 `r`
列线性表出:
`bm alpha_(r+j) = sum_(i=1)^r c_(i j) bm alpha_i`,
`quad j = 1,2,cdots,n-r`.
将 `bm A` 的前 `r` 列组成的矩阵记为 `bm B`, 又记
`bm C_1 = (c_(i j))_(r xx (n-r))`,
`quad bm C = (bm I_r, bm C_1)`,
可以验证 `r(bm B) = r(bm C) = r`, 且 `bm A = bm(B C)`.
伴随矩阵的秩
设 `bm A` 是阶数 `ge 2` 的方阵, `bm A^**` 是它的伴随矩阵, 则
`r(bm A^**) = {
n, if r(bm A) = n;
1, if r(bm A) = n-1;
0, if r(bm A) lt n-1;
:}`
从而 `bm A` 不可逆时, `bm A^**` 也不可逆.
- 由方阵逆的结构公式 `bm A^-1 = (bm A^**)/|bm A|`,
`bm A` 可逆时, `bm A^**` 也可逆.
因此 `r(bm A) = n` 时, `r(bm A^**) = n`.
- 由 `r(bm A) = n-1` 知存在 `bm A` 的一个非零 `n-1` 阶子式,
故 `bm A^** != bm O`, `r(bm A^**) ge 1`.
另一方面, 由 `bm(A A^**) = |bm A|bm I = bm O`,
由 Sylvester 秩不等式,
`r(bm A) + r(bm A^**) le n`, 即 `r(bm A^**) le 1`,
所以 `r(bm A^**) = 1`.
- `r(bm A) lt n-1` 蕴含 `bm A` 的任一 `n-1` 阶子式为零, 从而
`bm A^** = bm O`, `r(bm A^**) = 0`.
线性方程组的可解性 (矩阵语言)
回到线性方程组理论的主线上, 将上节 的结论用矩阵秩的语言叙述如下:
设 `bm A in bbb F^(m xx n)`, `bm B in bbb F^m`.
则方程组
`bm (AX) = bm B`
有解当且仅当
`r(bm A) = r((bm A","bm B))`,
其中分块矩阵 `(bm A, bm B)` 表示方程组的增广矩阵. 进一步,
当此方程组有解时, 其解唯一当且仅当
`r(bm A) = r((bm A","bm B)) = n`.
判断下列线性方程组的可解性.
`{
x_1 + 2x_2 + 3x_3 + x_4 = 1;
x_1 + 4x_2 + 5x_3 + 2x_4 = 2;
2x_1 + 9x_2 + 8x_3 + 3x_4 = 7;
3x_1 + 7x_2 + 7x_3 + 2x_4 = 12;
5x_1 + 7x_2 + 9x_3 + 2x_4 = 20;
:}`
只作行初等变换, 同时求出上面方程组系数矩阵与增广矩阵的秩.
`[1,2,3,1,1;
1,4,5,2,2;
2,9,8,3,7;
3,7,7,2,12;
5,7,9,2,20]`
`underset([4-1(3)][5-1(5)]) overset([3-2(2)][2-1(1)]) rarr`
`[1,2,3,1,1;
0,2,2,1,1;
0,1,-2,-1,3;
0,1,-2,-1,9;
0,-3,-6,-3,15]`
`underset([4-2(1)][5+2(3)]) overset([2","3][3-2(2)]) rarr`
`[1,2,3,1,1;
0,1,-2,-1,3;
0,0,6,3,-5;
0,0,0,0,6;
0,0,-12,-6,24]`
`underset([5-4(14/6)]) overset([5+3(2)]) rarr`
`[1,2,3,1,1;
0,1,-2,-1,3;
0,0,6,3,-5;
0,0,0,0,6;
0,0,0,0,0]`.
最后的矩阵是增广矩阵在初等变换后的形状,
其中前四列构成系数矩阵在初等变换后的形状.
可见系数矩阵的秩为 3, 而增广矩阵的秩为 4, 方程组无解.
当然, 只要不涉及最后一列, 对矩阵作列的初等变换也是允许的.
线性方程组的解的结构
本节中假定 `bm A in bbb F^(m xx n)`, `bm X in bbb F^n`, `bm
B in bbb F^m`, `bb 0` 是 `m` 元零向量.
我们的讨论对象是非齐次线性方程组
`bm (AX) = bm B`
(3-2)
与齐次线性方程组
`bm (AX) = bb 0`.
(3-3)
后者称为前者的导出线性方程组.
齐次线性方程组
齐次线性方程组
总是有解的, `n` 元零向量就是一个解;
此推论也可由增广矩阵 `(bm A, bb 0)`
总与其系数矩阵 `bm A` 同秩这一事实得到.
线性叠加原理
设 `bm X_1, cdots, bm X_s` 是齐次线性方程组 的解, 则它们的任意线性组合也是 的解, 这是因为
` bm A(sum_(i=1)^s k_i bm X_i)
= sum_(i=1)^s k_i (bm (AX_i))
= bb 0`.
因此, 若齐次线性方程组有非零解, 它就有无穷多个解.
下面的引理给出构造同解线性方程组的一种方法.
若非齐次线性方程组
有解, 且 `bm A` 的前 `r` 行构成 `bm A` 的行向量组的一个极大无关组,
则 与自己的前 `r` 行
`bm A_(r xx n) bm X = bm B_(r xx 1)`
同解. 一般地, 从 `bm A` 的行向量组中选出一个极大无关组,
它们所在的行组成的新方程组与原方程组同解.
因为 `bm A` 的前 `r` 行线性无关,
由 的 2,
增广矩阵 `(bm A, bm B)` 的前 `r` 行也线性无关.
又方程组 `bm (AX) = bm B` 有解, `r = r(bm A) = r((bm A","bm B))`.
因此由
, `(bm A, bm B)` 的前 `r` 行构成其行向量组的极大无关组,
从而 `(bm A, bm B)` 的后 `m-r` 行是前 `r` 行的线性组合.
对增广矩阵施行有限次第二类行初等变换, 就可将它的后 `m-r` 行化为零,
从而这一变换后的方程组 (本质上, 即 `bm A_(r xx n) bm X = bm B_(r xx
1)`) 与原方程组同解.
齐次线性方程组 中,
记 `r(bm A) = r`. 令 `bm A` 左上角的 `r` 阶子式非零,
`bm A_(r xx n)` 是 `bm A` 的前 `r` 行组成的矩阵, 若 `r lt n`,
将 `bm A_(r xx n)` 与 `bm X` 分块为
`bm A_(r xx n) = (bm A_1^(r xx r), bm A_2^(r xx (n-r)))`, `quad`
`bm X = [bm X_1^(r xx 1); bm X_2^((n-r) xx 1)]`,
则 同解于
` bm X = [-bm A_1^-1 bm A_2; bm I_(n-r)] bm X_2`.
(3-4)
任给定 `bm X_2 in bbb F^(n-r)`, 上式就确定 `bm X in bbb F^n`
的一个对应值, 因此上式实际上确定了一个 `bbb F^(n-r) to bbb F^n`
的显函数, 它由原方程组 `bm (AX) = bb 0` 蕴含的隐函数关系显化得到.
由引理, 与
`bm A_(r xx n) bm X = bb 0_(r xx 1)`
同解.
把 `bb 0_(r xx 1)` 仍记为 `bb 0`, 上式改写为
`bm A_1 bm X_1 + bm A_2 bm X_2 = bb 0`,
即 (在线性规划理论中, 这一步骤称为用非基变量表出基变量)
`bm A_1 bm X_1 = -bm A_2 bm X_2`.
由假设 `|bm A_1| != 0`, 从而同解于
`bm X_1 = -bm A_1^-1 bm A_2 bm X_2`
由于 `bm X_2 = bm I_(n-r) bm X_2` 恒成立, 上式又同解于
` bm X
= [bm X_1; bm X_2]
= [-bm A_1^-1 bm A_2; bm I_(n-r)] bm X_2`.
即 .
若齐次线性方程组 有非零解,
其非零解 `bm X_1, cdots, bm X_s`
构成其解集的极大线性无关组, 则称 `bm X_1, cdots, bm X_s`
为 的一个基础解系,
它们中的每一个称为基础解或基解.
设齐次线性方程组
的基础解系存在, 则它不唯一. 事实上设
`bm X_1, cdots, bm X_s`
是 的一个基础解系,
则由线性叠加原理,
`bm X_1, bm X_1 + bm X_2, cdots, sum_(i=1)^s bm X_i`
是
的非零解, 且容易证明是线性无关的.
令齐次线性方程组
系数矩阵的秩 `r(bm A) = r`.
若 `r lt n`, 则
具有由 `n-r` 个基解 `bm X_1, cdots, bm X_(n-r)`
组成的基础解系. 于是
的解集 `S_0` 可以表为
`S_0 = {sum_(i=1)^(n-r) k_i bm X_i: k_i in bbb F, i = 1, 2, cdots,
n-r}`.
`sum_(i=1)^(n-r) k_i bm X_i`
称为 的通解.
我们给出构造性证明. 仍不妨令 `bm A` 左上角的 `r` 阶子式不等于零.
因为只要调动方程和未知项的顺序就可在等价意义上做到这一点. 由定理3-9,
的解由
给出.
在
中依次取 `bm X_2 = bm epsi_i`, `i = 1, 2, cdots, n-r`, 把得到的解记为
`bm gamma_i = [-bm A_1^-1 bm A_2; bm I_(n-r)] bm epsi_i
= bm (C epsi_i)`,
`i = 1, 2, cdots, n-r`
则 `bm gamma_i` 为
中系数矩阵 `bm C` 的第 `i` 列,
可改写为
`bm X = sum_(i=1)^(n-r) x_(r+i) bm gamma_i`.
即 的每个解都是
`{bm gamma_i}_(i=1)^(n-r)` 的线性组合.
又 `bm C` 的子式 `|bm I_(n-r)| != 0`, 于是 `r(bm C) = n-r`,
`{bm gamma_i}_(i=1)^(n-r)` 线性无关, 它们构成
的一个基础解系.
非齐次线性方程组
设非齐次线性方程组
有解, 解集为 `S != O/`, 记齐次线性方程组
的解集为 `S_0`, 取 `bm X_0 in S` , 称为
的一个特解. 则
`S = bm X_0 + S_0 := {bm X_0 + bm Y: bm Y in S_0}`.
由定理知道, 要找出非齐次线性方程组的所有解,
只需知道它的一个特解以及齐次线性方程组的所有解即可.
由 `bm X_0 in S`, `bm Y in S_0` 知,
` bm A(bm X_0 + bm Y)
= bm (AX_0) + bm (AY)
= bm B + bb 0
= bm B`,
故 `bm X_0 + bm Y in S`.
反之令 `bm X in S`, 由
` bm A(bm X - bm X_0)
= bm (AX) - bm (AX_0)
= bm B - bm B
= bb 0`
知, 存在 `bm Y = bm X - bm X_0 in S_0` 使得
`bm X = bm X_0 + bm Y`.
设非齐次线性方程组
有解,
则它有唯一解当且仅当其导出的齐次方程组只有零解.
设非齐次线性方程组 有特解
`bm X_0`, `bm X_1, cdots, bm X_(n-r)` 为其导出方程组
的一个基础解系,
则 的解集为
`{bm X_0 + sum_(i=1)^(n-r) k_i bm X_i: k_i in bbb F, i = 1, 2,
cdots, n-r}`.
线性方程组的解法
有了上面一段的铺垫, 我们可以对非齐次线性方程组的问题给出圆满解答了.
解非齐次线性方程组 `bm (AX) = bm B`
- 通过行初等变换, 将方程的增广矩阵 `(bm A, bm B)`
化为阶梯形.
- 第一步后, 若得出 `r(bm A) lt r((bm A","bm B))`, 则方程组无解;
否则继续将增广矩阵化为行简化阶梯形矩阵,
即每个非零行的第一个非零元素等于 1,
且这些 1 所在列的其他元素皆为 0 的阶梯形矩阵.
- 由,
可以删去增广矩阵的零行, 得到一个 `r` 行的矩阵
`(bm A_1, bm B_1)_(n xx r)`,
其中 `r = r(bm A)`.
将每行第一个非零元素所在的列的标号依次记为
`i_1, cdots, i_r`, 其它各列的标号依次记为
`i_(r+1), cdots, i_n`.
将其它各列移到方程右端, 得
` [x_(i_1); vdots; x_(i_r)]
= bm B_1 - sum_(j=r+1)^n x_(i_j) bm A_1
bm epsi_(i_j)`,
方程组的解已经显化出来. 取定一组
`x_(i_(r+1)), cdots, x_n`, 就决定了
`x_(i_1), cdots, x_(i_r)` 的值.
- 记变换矩阵
`sigma = (bm epsi_(i_1), cdots, bm epsi_(i_r))`,
`tau = (bm epsi_(i_(r+1)), cdots, bm epsi_(i_n))`,
则原方程组的一个特解是
`bm X_0 = sigma bm B_1`,
基础解系为矩阵
`(bm I_n - sigma bm A_1) tau`
的各列.
实际计算时不必生搬硬套公式, 只需代回原变元,
然后在必要的地方用 0 或 1 填充即可.
在数域 `bbb F` 上解下列方程组:
-
`{
5x_1 + 6x_2 - 2x_3 + 7x_4 + 4x_5 = 23;
2x_1 + 3x_2 - x_3 + 4x_4 + 2x_5 = 12;
7x_1 + 9x_2 - 3x_3 + 5x_4 + 6x_5 = 23;
5x_1 + 9x_2 - 3x_3 + x_4 + 6x_5 = 13;
:}`
-
`{
x_1 - x_2 + x_3 - x_4 = 1;
x_1 - x_2 - x_3 + x_4 = 0;
x_1 - x_2 - 2x_3 + 2x_4 = -1/2;
:}`
- 对增广矩阵作行初等变换:
`[
5,6,-2,7,4,23;
2,3,-1,4,2,12;
7,9,-3,5,6,23;
5,9,-3,1,6,13;
]`
`overset([1-2(2)][3-4(1)]) underset([4-2(3)]) to`
`[
1,0,0,-1,0,-1;
2,3,-1,4,2,12;
2,0,0, 4,0,10;
-1,0,0,-11,0,-23;
]`
`overset([2-1(2)][3-1(2)]) underset([4+1(1)]) to`
`[
1,0,0,-1,0,-1;
0,3,-1,6,2,14;
0,0,0, 6,0,12;
0,0,0,-12,0,-24;
]`
`overset([2-3(1)][4+3(2)]) underset([2(1/3)][3(1/6)]) to`
`[
1,0,0,-1,0,-1;
0,1,-1/3,0,2/3,2/3;
0,0,0, 1,0,2;
]`
`overset([1+3(1)]) to`
`[
1,0,0,0,0,1;
0,1,-1/3,0,2/3,2/3;
0,0,0, 1,0,2;
]`
得
` [x_1; x_2; x_4]
= [1; 2/3; 2]
+ [0; 1/3; 0] x_3
- [0; 2/3; 0] x_5`.
于是通解为
`bm X = [1; 2/3 + 1/3 k_1 - 2/3 k_2; k_1; 2; k_2]`,
`k_1, k_2 in bbb F`.
- 过程略, 通解为
`bm X = [1/2 + k_1; k_1; 1/2 + k_2; k_2]`.
设有 `bbb F^(n xx 1)` 中的线性无关向量组 `"I" = {bm alpha_i}_(i=1)^r`,
`"II" = {bm beta_i}_(i=1)^s`, `r + s = n`, 则 `"II"` 构成方程组
`(bm alpha_1, cdots, bm alpha_r)^T bm X = bb 0`
的基础解系当且仅当
`bm alpha_i^T bm beta_j = 0`,
`quad i in [r], j in [s]`,
这当且仅当`"I"` 构成方程组
`(bm beta_1, cdots, bm beta_s)^T bm X = bb 0`
的基础解系.
设 `bm A in RR^(m xx n)`, `bm X in RR^n`, `bm B, bb 0 in RR^m`, 则
- 实线性方程组 `bm (A X) = bb 0` 与 `bm (A^T A X) = bb 0` 同解;
- `r(bm A) = r(bm(A^T A))`;
- 实线性方程组 `bm (A^T A X) = bm(A^T B)` 有解.
注意在复数域中, 结论 1. 未必成立. 如 `bm A = [1,"i"; "i",-1]`.
- 显然 `bm (A X) = bb 0` 的解也是 `bm (A^T A X) = bb 0` 的解. 反之设
`bm(A^T A X) = bb 0`, 则 `bm(X^T A^T A X) = 0`, 即 (向量内积)
`(bm(A X), bm(A X)) = 0`,
这推出 `bm(A X) = bb 0`.
注意, 从线性变换的角度看, 两个齐次方程组同解, 即
`"Ker"bm A = "Ker"bm(A^T A)`.
- 由
知道, 两个同解齐次方程组的系数矩阵秩相等.
- 运用几类秩不等式 (并上一列, 秩变大; 乘以一个矩阵, 秩变小):
`r(bm(A^T A)) le r((bm(A^T A)","bm(A^T B)))`
`= r(bm A^T (bm A,bm B))`
`le r(bm A^T )`
`= r(bm A)`
`= r(bm(A^T A))`.
从而上式取得等号, 特别
`r(bm(A^T A)) = r((bm(A^T A)","bm(A^T B)))`,
即方程组
`bm(A^T A X) = bm(A^T B)`
有解.
配平化学方程式
`x_1 P_4 + x_2 P_2 I_4 + x_3 H_2 O == x_4 P H_4 I + x_5 H_3 P O_4`.
按各个元素列出线性方程组:
`{
P: 4x_1 + 2x_2 - x_4 - x_5 = 0;
I: 4x_2 - x_4 = 0;
H: 2x_3 - 4x_4 - 3x_5 = 0;
O: x_3 - 4x_5 = 0;
:}`
设 `x_5 = 1`, 解得
`(13/32, 5/16, 4, 5/4, 1)`
`overset(xx32) rarr (13, 10, 128, 40, 32)`.