27 线性方程组求解与LU分解

统计计算和其它科学工程计算中很多的问题会转化为线性方程组求解问题。 本节讨论稳定、高效的线性方程组求解方法。

27.1 三角形线性方程组求解

我们熟知的解线性方程组的一种方法是消元法, 用线性变化把增广矩阵化为阶梯形然后用回代法求解。 我们先给出系数矩阵为三角形矩阵的线性方程组解法。

设有如下的三角形\(n\)阶线性方程组 \[\begin{aligned} a_{11} x_1 + a_{12} x_2 + \dots + a_{1,n-1} x_{n-1} + a_{1n} x_n =& \ b_1 \\ \phantom{a_{21} x_1 + } a_{22} x_2 + \dots + a_{2,n-1} x_{n-1} + a_{2n} x_n =& \ b_2 \\ \ddots \phantom{a_{n,n-1} x_{n-1} + a_{nn} x_n} \phantom{=}& \ \vdots \\ \phantom{a_{n-1,1} x_1 + a_{n-1,2} x_2 + \dots +} a_{n-1,n-1} x_{n-1} + a_{n-1,n} x_n =& \ b_{n-1} \\ \phantom{a_{n1} x_1 + a_{n2} x_2 + \dots + a_{n,n} x_n + } a_{nn} x_n =& \ b_n \end{aligned}\] 设其系数矩阵满秩(当且仅当\(a_{11} a_{22} \dots a_{nn} \neq 0\)), 则求解过程可以写成: \[\begin{aligned} x_{n} =& b_n / a_{nn} \\ x_{n-1} =& \left( b_{n-1} - a_{n-1,n} x_n \right) / a_{n-1,n-1} \\ \vdots & \\ x_2 =& \left( b_2 - a_{23} x_3 - \dots - a_{2n} x_n \right) / a_{22} \\ x_1 =& \left( b_1 - a_{12} x_2 - \dots - a_{1,n} x_n \right) / a_{11} \end{aligned}\] 这种求解过程叫做回代法。 需要的话可以把解出的\(\boldsymbol x\)元素保存在\(\boldsymbol b\)原来的存储空间中。

如果系数矩阵是下三角的, 也可以类似求解。

27.2 高斯消元法

高斯消元法是众所周知的线性方程组解法, 配合主元元素选取可以得到稳定的解。

例27.1 考虑线性方程组 \[\begin{align} \left\{ \begin{array}{*9r} 3 x_1 & + & x_2 & + & 2 x_3 & + & x_4 &=& 5 \\ 6 x_1 & + & 4 x_2 & + & 7 x_3 & + & 11 x_4 &=& 5 \\ 15 x_1 & + & 11 x_2 & + & 18 x_3 & + & 34 x_4 &=& 6 \\ 18 x_1 & + & 16 x_2 & + & 25 x_3 & + & 56 x_4 &=& -4 \end{array} \right. \tag{27.1} \end{align}\]

只要把方程组变成上三角形就可以用§27.1描述的方法求解。 记 \[\begin{aligned} A = \left(\begin{array}{rrrr} 3 & 1 & 2 & 1 \\ 6 & 4 & 7 & 11 \\ 15 & 11 & 18 & 34 \\ 18 & 16 & 25 & 56 \end{array}\right) \quad \boldsymbol b = \left(\begin{array}{c} 5 \\ 5 \\ 6 \\ -4 \end{array}\right) \quad \overline{A} = (A \, | \, \boldsymbol b) \quad \boldsymbol x = \left(\begin{array}{c} x_1 \\ x_2 \\ x_3 \\ x_4 \end{array}\right) \end{aligned}\]\(\boldsymbol m^{(1)}=(0, 2, 5, 6)^T\), 把第一个方程乘以\(-m^{(1)}_2=-2\)加到第二个方程上, 可以消去第二个方程中\(x_1\)的系数。 类似地, 把第一个方程乘以\(-m^{(1)}_3=-5\)加到第三个方程上, 把第一个方程乘以\(-m^{(1)}_4=-6\)加到第四个方程上, 可以消去第三、第四方程中\(x_1\)的系数。 方程组变成 \[\begin{align} \left\{ \begin{array}{*9r} 3 x_1 & + & x_2 & + & 2 x_3 & + & x_4 &=& 5 \\ & & 2 x_2 & + & 3 x_3 & + & 9 x_4 &=& -5 \\ & & 6 x_2 & + & 8 x_3 & + & 29 x_4 &=& -19 \\ & & 10 x_2 & + & 13 x_3 & + & 50 x_4 &=& -34 \end{array} \right. \tag{27.2} \end{align}\]\(\boldsymbol m^{(2)} = (0, 0, 3, 5)^T\), 把第二个方程乘以\(-m^{(2)}_3 = -3\)加到第三个方程上, 可以消去第三个方程中\(x_2\)的系数; 把第二个方程乘以\(-m^{(2)}_4 = -5\)加到第四个方程上, 可以消去第四个方程中\(x_2\)的系数。 方程组变成 \[\begin{align} \left\{ \begin{array}{*9r} 3 x_1 & + & x_2 & + & 2 x_3 & + & x_4 &=& 5 \\ & & 2 x_2 & + & 3 x_3 & + & 9 x_4 &=& -5 \\ & & & & -x_3 & + & 2 x_4 &=& -4 \\ & & & & -2 x_3 & + & 5 x_4 &=& -9 \end{array} \right. \tag{27.3} \end{align}\]\(\boldsymbol m^{(3)} = (0, 0, 0, 2)^T\), 把第三个方程乘以\(-m^{(3)}_4 = -2\)加到第四个方程上, 可以消去第四个方程中\(x_3\)的系数。 方程组变成 \[\begin{align} \left\{ \begin{array}{*9r} 3 x_1 & + & x_2 & + & 2 x_3 & + & x_4 &=& 5 \\ & & 2 x_2 & + & 3 x_3 & + & 9 x_4 &=& -5 \\ & & & - & x_3 & + & 2 x_4 &=& -4 \\ & & & & & & x_4 &=& -1 \end{array} \right. \tag{27.4} \end{align}\] 用回代法可以解出\(\boldsymbol x = (1, -1, 2, -1)^T\)

27.3 LU分解

考虑例27.1把系数矩阵变成上三角形的过程。 第\(j\)步用初等变换把系数矩阵第\(j\)列的主对角线下方的元素都变成零。 设\(A^{(0)}=A\)\(A\)\(n\times n\)系数矩阵, 第\(j\)步把矩阵\(A^{(j-1)}\)变成矩阵\(A^{(j)}\), 实际是左乘了一个初等变换矩阵\(M^{(j)}\): \[\begin{aligned} A^{(j)} = M^{(j)} A^{(j-1)}, \ j=1,2,\dots,n-1 \end{aligned}\] 其中\(M^{(j)}\)是一个与\(I_n\)仅在第\(j\)列不同的方阵, 其第\(j\)列为 \[\begin{aligned} m^{(j)}_{ij} = \begin{cases} 0, & \text{当} i < j \\ 1, & \text{当} i = j \\ - a^{(j-1)}_{ij} / a^{(j-1)}_{jj}, & \text{当} i > j \end{cases} \end{aligned}\] 定义\(n\)维向量\(\boldsymbol m^{(j)}\)\[\begin{align} m^{(j)}_i = \begin{cases} 0, & \text{当} i \leq j \\ a^{(j-1)}_{ij} / a^{(j-1)}_{jj}, & \text{当} i > j \end{cases} \tag{27.5} \end{align}\] 则初等变换矩阵\(M^{(j)}\)可以表示为 \[\begin{align} M^{(j)} = I_n - \boldsymbol m^{(j)} \boldsymbol e_j^T \tag{27.6} \end{align}\] 经过\(n-1\)步消去变换后, 得到的上三角形系数矩阵为 \[\begin{aligned} A^{(n-1)} = M^{(n-1)} \dots M^{(2)} M^{(1)} A \end{aligned}\]

如果每一步中的分母\(a^{(j-1)}_{jj}\)都不等于零(注意:浮点运算中不等于零的判断是不可靠的), 则上述步骤可以把方程组的系数矩阵变成上三角形, 对线性方程组右边的\(\boldsymbol b\)也作相同的变换就得到三角形线性方程组, 可以用回代法求解。

但是,\(a^{(j-1)}_{jj}=0\)的情况是存在的, 例如 \[\begin{aligned} \left(\begin{array}{cc} 0 & 1 \\ 1 & 0 \end{array}\right) \left(\begin{array}{c} x_1 \\ x_2 \end{array}\right) = \left(\begin{array}{c} b_1 \\ b_2 \end{array}\right) \end{aligned}\] 就无法用例27.1的方法化为上三角形。

这种情况怎么办? 当第\(j\)步的\(a^{(j-1)}_{jj}=0\)时, 我们可以看第\(j+1, j+2, \dots, n\)个方程中\(x_j\)的系数是否非零, 如果第\(s_j\)个方程的\(x_j\)系数不等于零, 可以把第\(j\)个方程与第\(s_j\)个方程互换, 然后继续消元。 把第\(j\)个方程与第\(s_j\)个方程互换的操作相当于对系数矩阵左乘简单置换阵\(P(j, s_j)\)

那么, 是不是第\(j+1, j+2, \dots, n\)个方程中只要\(x_j\)的系数非零就可以与第\(j\)个方程互换? 要注意的是, 第\(j\)个方程与第\(s_j\)个方程互换后原来的\(a^{(j-1)}_{s_j j}\)就变成了第\(j\)列的第\(j\)行元素, 要作为消去的分母(称为主元); 而数值计算中“非零”的判断是很不可靠的, 应该等于零的值在数值计算中很可能因为舍入误差变成非零。 所以, 在轮到对第\(j\)列消元时,不论\(a_{jj}^{(j-1)}\)是否等于零, 都要从系数矩阵第\(j\)列的第\(j, j+1, \dots, n\)行元素中找到绝对值最大的一个, 假设此元素在第\(j\)列的第\(s_j\)行, 就把第\(s_j\)行与第\(j\)行互换, 然后进行消去。 这种解方程的方法叫做列主元的高斯消元法

得到三角形矩阵及相应方程组的过程为: \[\begin{aligned} A^{(n-1)} =& M^{(n-1)} P(n-1,s_{n-1}) \dots M^{(2)} P(2, s_2) M^{(1)} P(1, s_1) A \\ A^{(n-1)} \boldsymbol x =& M^{(n-1)} P(n-1,s_{n-1}) \dots M^{(2)} P(2, s_2) M^{(1)} P(1, s_1) \boldsymbol b \end{aligned}\] 注意,其中的\(M^{(j)}\)是基于行置换后的\(P(j, s_j) A^{(j-1)}\)计算的。 实际求解时, 通行的算法是把每一步的\(A^{(j)}\)保存在\(A\)的存储空间, 但已经消去变成零的元素不保存, 代之以将\(\boldsymbol m^{(j)}\)的第\(j+1, j+2, \dots, n\)号元素存放在\(A^{(j)}\)\(j\)列的最后\(n-j\)个元素中 (这\(n-j\)本来被消去变成了零), 解\(\boldsymbol x\)的元素可以存放在\(\boldsymbol b\)的存储空间中。 要注意的是,在第\(j+1, j+2, \dots\)步时的行置换会打乱这样保存的\(\boldsymbol m^{(j)}\)的元素次序。

可以证明, 按照以上所述的步骤, 把原始矩阵\(A\)做了如下LU分解: \[\begin{align} P A = L U \tag{27.7} \end{align}\] 其中\(P\)是一个置换矩阵: \[\begin{aligned} P = P(n-1, s_{n-1}) \dots P(2, s_2) P(1, s_1) , \end{aligned}\] 只要保存向量\((s_1, s_2, \dots, s_{n-1})\)就可以恢复矩阵\(P\)\(U\)是一个上三角矩阵, 其上三角元素保存在原来输入的\(A\)存储空间的上三角部分, 为列主元法消元最后得到的\(A^{(n-1)}\)矩阵。 \(L\)是一个单位下三角矩阵(主对角线元素都等于1的下三角矩阵), 它严格下三角部分(不包括主对角线在内的下三角部分)的元素保存在原来输入的\(A\)的存储空间的严格下三角部分, 第\(j\)列的最后的\(n-j\)个元素保存了被第\(j+1, j+2, \dots, n-1\)次行置换打乱次序的\(\boldsymbol m^{(j)}\), 记为\(\boldsymbol m_*^{(j)}\): \[\begin{align} \boldsymbol m_*^{(j)} = P(n-1, s_{n-1}) \dots P(j+1, s_{j+1}) \boldsymbol m^{(j)}, \tag{27.8} \end{align}\] 所以\(L\)可以表示为 \[\begin{aligned} L = I_n + \boldsymbol m^{(1)}_* \boldsymbol e_1^T + \dots + \boldsymbol m^{(n-1)}_* \boldsymbol e_{n-1}^T. \end{aligned}\] 公式(27.7)称为矩阵\(A\)的三角分解或LU分解。

在得到LU分解(27.7)后, 对任何一个常数向量\(\boldsymbol b\), 要求解\(A \boldsymbol x = \boldsymbol b\), 可以化为\(P A \boldsymbol x = P \boldsymbol b\), 注意左乘矩阵\(P\)只是进行了\(n-1\)次行置换。 由\(PA = LU\)\(L \, U \, \boldsymbol x = (P \boldsymbol b)\), 令\(\boldsymbol y = U \boldsymbol x\), 先用回代法解下三角形方程组\(L \boldsymbol y = P \boldsymbol b\), 再用回代法解上三角形方程组\(U \boldsymbol x = \boldsymbol y\)就可以得到方程组的解。

求解线性方程组\(A \boldsymbol x = \boldsymbol b\)时, 为什么不先求逆矩阵\(A^{-1}\)再求\(\boldsymbol x = A^{-1} \boldsymbol b\)? 仔细分析上述算法的运算次数可以发现, 得到LU分解(27.7)只需\(\frac23 n^3 + O(n^2)\)次浮点运算, 额外地再用两遍回代法对一个\(\boldsymbol b\)求解\(\boldsymbol x\)仅需\(2 n^2\)次浮点运算, 但是在得到(27.7)后如果要求\(A^{-1}\)则需要额外的 \(\frac23 n^3\)次浮点运算, 即求\(A^{-1}\)需要\(\frac43 n^3 + O(n^2)\)次浮点运算。 直接用消元法求\(A^{-1}\)也需要\(\frac43 n^3 + O(n^2)\)次浮点运算。 得到\(A^{-1}\)后计算\(\boldsymbol x = A^{-1} \boldsymbol b\)需要\(2 n^2\)次浮点运算, 与两遍回代法求\(\boldsymbol x\)计算量相同, 但多出了求逆的\(\frac23 n^3\)次浮点运算。 所以如果仅需要解线性方程组的话不需要计算逆矩阵。

得到LU分解(27.7)后可以给出\(A\)的行列式: \[\begin{aligned} \det(P) \det(A) = \det(PA) = \det(LU) = \det(U) \end{aligned}\] \(\det(U)\)等于\(U\)的主对角线元素乘积, \(\det(P)\)等于\(1\)\(-1\), 当\(P\)代表偶数次行置换时~\(\det(P)=1\), 否则\(\det(P)=-1\)。 注意\(P\)\(n-1\)个行置换的乘积, 当\(s_j = j\)\(P(j, s_j)=I_n\)\(\det(P(j, s_j))=1\); 当\(s_j \neq j\)\(\det(P(j, s_j))=-1\)。 所以,如果向量\((s_1, s_2, \dots, s_{n-1})\)与向量 \((1,2,\dots,n-1)\)不相等的元素个数是偶数, 则\(\det(P)=1\),否则\(\det(P)=-1\)

在R语言中,用solve(A, b)求解\(A \boldsymbol x = \boldsymbol b\), 用solve(A)\(A\)的逆矩阵, 用Matrix包的lu函数求LU分解。

在Julia语言中用A \ b求解\(A x = b\)

27.4 Cholesky分解

统计计算中比一般矩阵更常用到的是非负定矩阵和正定矩阵。 比如,随机向量\(\boldsymbol X\)的协方差阵\(\Sigma = \text{Var}(\boldsymbol X)\)是非负定的, 如果满秩,就是正定的。 回归分析中正规方程(26.2)中的叉积阵\(X^T X\)是非负定的, 如果\(X\)列满秩则\(X^T X\)是正定的。 如果方程\(A \boldsymbol x = \boldsymbol b\)的系数矩阵\(A\)是正定矩阵, 虽然还可以用高斯消元法或LU分解来求解, 但这样不能利用\(A\)的特殊结构。 正定矩阵\(A\)可以进行所谓Cholesky分解: \[\begin{align} A = L L^T \tag{27.9} \end{align}\] 其中\(L\)是一个主对角线元素都取正值的下三角阵。

先承认(27.9)的存在性, 设法求\(L\)。 设\(L\)的元素为\(l_{ij}\), \(i \geq j\), 则 \[\begin{aligned} A = \left(\begin{array}{cccc} l_{11} \\ l_{21} & l_{22} \\ \vdots & \vdots & \ddots \\ l_{n1} & l_{n2} & \cdots & l_{nn} \end{array}\right) \left(\begin{array}{cccc} l_{11} & l_{21} & \cdots & l_{n1} \\ & l_{22} & \cdots & l_{n2} \\ & & \ddots & \vdots \\ & & & l_{nn} \end{array}\right) \end{aligned}\] 显然\(a_{11} = l_{11}^2\)。 用\(A^{[k]}\)表示\(A\)的前\(k\)行和前\(k\)列组成的子矩阵, \(L^{[k]}\)表示\(L\)的前\(k\)行和前\(k\)列组成的子矩阵, 易见\(A^{[k]} = L^{[k]} (L^{[k]})^T\)。 归纳地, 设\(L^{[k-1]}\)已经求得, 要求\(L\)的第\(k\)行, 记\((\boldsymbol l^{[k]})^T = (l_{k1}, l_{k2}, \dots, l_{k,k-1})\), \(\boldsymbol a^{[k]} = (a_{1,k}, a_{2,k}, \dots, a_{k-1,k})^T\), 由\(A^{[k]} = L^{[k]} (L^{[k]})^T\)\[\begin{aligned} A^{[k]} =& \left(\begin{array}{cc} A^{[k-1]} & \boldsymbol a^{[k]} \\ (\boldsymbol a^{[k]})^T & a_{kk} \end{array}\right) \nonumber\\ =& L^{[k]} (L^{[k]})^T = \left(\begin{array}{cc} L^{[k-1]} & \boldsymbol 0 \\ (\boldsymbol l^{[k]})^T & l_{kk} \end{array}\right) \left(\begin{array}{cc} (L^{[k-1]})^T & \boldsymbol l^{[k]} \\ \boldsymbol 0 & l_{kk} \end{array}\right) \end{aligned}\] 得方程 \[\begin{align} L^{[k-1]} \boldsymbol l^{[k]} = \boldsymbol a^{[k]} \tag{27.10}\\ l_{kk}^2 = a_{kk} - (\boldsymbol l^{[k]})^T \boldsymbol l^{[k]} \tag{27.11} \end{align}\] 只要用回代法解下三角方程组得到\(\boldsymbol l^{[k]}\), 然后开平方根得到 \(l_{kk} = \left( a_{kk} - (\boldsymbol l^{[k]})^T \boldsymbol l^{[k]} \right)^{1/2}\)

例27.2

矩阵 \[\begin{aligned} A = \left(\begin{array}{*4c} 4 & 2 & 0 & 2 \\ 2 & 10 & 12 & 1 \\ 0 & 12 & 17 & 2 \\ 2 & 1 & 2 & 9 \end{array}\right) \end{aligned}\] 是正定阵,来求它的Cholesky分解。

  • \(k=1\): \(l_{11} = \sqrt{a_{11}} = \sqrt{4} = 2\).

  • \(k=2\): 方程\(L^{[1]} \boldsymbol l^{[2]} = \boldsymbol a^{[2]}\)\(l_{11} l_{21} = a_{21}\)(注意\(a_{12}=a_{21}\)), 所以\(2 l_{21} = 2\), \(l_{21} = 1\); 于是用(27.11)\(l_{22} = \sqrt{a_{22} - l_{21}^2} = \sqrt{10 - 1^2} = 3\);

  • \(k=3\): 方程\(L^{[2]} \boldsymbol l^{[3]} = \boldsymbol a^{[3]}\)

\[\begin{aligned} \left(\begin{array}{cc} 2 & 0 \\ 1 & 3 \end{array}\right) \left(\begin{array}{c} l_{31} \\ l_{32} \end{array}\right) = \left(\begin{array}{c} 0 \\ 12 \end{array}\right) \end{aligned}\]

解得\(l_{31}=0\), \(l_{32}=4\), 再求出 \(l_{33} = \sqrt{a_{33} - (l_{31}^2 + l_{32}^2)} = \sqrt{17 - (0^2 + 4^2)} = 1\)

  • \(k=4\): 方程\(L^{[3]} \boldsymbol l^{[4]} = \boldsymbol a^{[4]}\)

\[\begin{aligned} \left(\begin{array}{ccc} 2 & 0 & 0 \\ 1 & 3 & 0 \\ 0 & 4 & 1 \end{array}\right) \left(\begin{array}{c} l_{41} \\ l_{42} \\ l_{43} \end{array}\right) = \left(\begin{array}{c} 2 \\ 1 \\ 2 \end{array}\right) \end{aligned}\] 解得\(l_{41}=1\), \(l_{42} = 0\), \(l_{43}=2\), 再开平方根得到 \(l_{44} = \sqrt{a_{44} - (l_{41}^2 + l_{42}^2 + l_{43}^2)} = 2\)

于是, \[ \begin{aligned} &L = \left(\begin{array}{*4c} 2 \\ 1 & 3 \\ 0 & 4 & 1 \\ 1 & 0 & 2 & 2 \end{array}\right), \quad A = L L^T \end{aligned} \]

\(A\)为正定阵时,各\(A^{[k]}\)也是正定阵, 取向量 \[\begin{align} \boldsymbol\alpha = \left(\begin{array}{c} - (A^{[k-1]})^{-1} \boldsymbol a^{[k]} \\ 1 \\ \boldsymbol 0 \end{array}\right) \tag{27.12} \end{align}\](27.11)的右边是二次型\(\boldsymbol\alpha^T A \boldsymbol\alpha\), 应该为正值, 所以解方程(27.10)(27.11)逐次得到的\(a_{kk}>0\), 这样\(L^{[k]}\)是满秩的, 于是下一步的方程(27.10)有唯一解, 先计算\(l_{11}=\sqrt{a_{11}}\)然后对\(k=2,3,\dots,n\) 重复解(27.10)(27.11) 一定每步都可以进行且解是唯一的。 于是, 正定阵\(A\)的Cholesky分解是存在唯一的。

Cholesky分解需要\(\frac13 n^3 + O(n^2)\)次浮点运算和\(n\)次开平方根, 比LU分解的\(\frac23 n^3\)次浮点运算次数少, 开平方根所需的时间只是\(n\)的倍数。

编写Cholesky算法的程序时, 如果输入了一个正定阵\(A\), 因为正定阵是对称的, 可以只输入\(A\)的下三角部分, 返回的Cholesky分解\(L^T L\)的下三角矩阵\(L\)可以保存在输入的矩阵\(A\)的下三角部分的存储空间中。 对于对称矩阵和下三角矩阵也可以只保存其下三角部分的元素, 这样按行排列的话, 第\((i,j)\)元素存放在第\(\frac12 i (i-1) + j\)号位置。

统计中经常需要计算正定矩阵逆矩阵的二次型\(\boldsymbol \alpha^{T} A^{-1} \boldsymbol \alpha\), 就可以用Cholesky分解转化为 \[\begin{aligned} \boldsymbol \alpha^{T} A^{-1} \boldsymbol \alpha = \boldsymbol \alpha^{T} (L L^T)^{-1} \boldsymbol \alpha = (L^{-1} \boldsymbol \alpha)^T L^{-1} \boldsymbol \alpha, \end{aligned}\] 只要用回代法解\(L \boldsymbol x = \boldsymbol\alpha\), 则有\(\boldsymbol \alpha^{T} A^{-1} \boldsymbol \alpha = \boldsymbol x^T \boldsymbol x\)。 这样计算只需要Cholesky分解的\(\frac13 n^3 + O(n^2)\)次运算, 如果直接计算逆矩阵, 则需要\(\frac43 n^3 + O(n^2)\)次运算。

在R软件中,用chol()函数求正定阵的Cholesky分解。

\(A\)的Cholesky分解\(A = L L^T\)\(L\)的主对角线元素组成的对角阵为 \(D = \text{diag}(l_{11}, l_{22}, \dots, l_{nn})\), 令\(\tilde L = L D^{-1}\), \(\tilde D = D^2\), 则\(\tilde L\)为单位下三角阵, \(\tilde D\)是主对角线元素为正值的对角阵,\(A\)有如下分解: \[\begin{align} A = L L^T = \tilde L D D \tilde L^T = \tilde L \tilde D \tilde L^T, \tag{27.13} \end{align}\]\(A\)为对称正定阵时此分解存在唯一, 称为矩阵\(A\)的LDL分解。

27.5 线性方程组求解的稳定性

\(A\)\(n\)阶方阵,则线性方程组\(A \boldsymbol x = \boldsymbol b\)存在唯一解的充分必要条件是\(A\)满秩, 即\(A\)的列向量的任何一个非零线性组合都不等于零向量。 但是,如果存在\(A\)的列向量的一个非零线性组合与零向量十分接近会怎样? 这时,方程求解的误差很大而且不稳定(计算误差和舍入误差的影响很大)。

例27.3 方程组 \[\begin{aligned} \left(\begin{array}{cc} 3 & 1 \\ 3.0001 & 1 \end{array}\right) \left(\begin{array}{c} x_1 \\ x_2 \end{array}\right) = \left(\begin{array}{c} 4 \\ 4.0001 \end{array}\right) \end{aligned}\] 有精确解\((1, 1)^T\)。 考虑扰动对其的影响。

\(A, \boldsymbol b\)作微小变化: \[\begin{aligned} \left(\begin{array}{cc} 3 & 1 \\ 2.9999 & 1 \end{array}\right) \left(\begin{array}{c} x_1 \\ x_2 \end{array}\right) = \left(\begin{array}{c} 4 \\ 4.0002 \end{array}\right) \end{aligned}\] 则精确解变为\((-2, 10)\)。 这里, \(\det(A) = -0.0001\), \(A\)已经很接近于不满秩。

为了考虑线性方程组求解的适定性, 首先回顾一些关于向量和矩阵运算的内容。 设\(\boldsymbol x \in \mathbb R^n\), 定义 \[\begin{aligned} \| \boldsymbol x \|_p = \left( \sum_{i=1}^n |x_i|^p \right)^{1/p}, \end{aligned}\] 这叫做向量\(\boldsymbol x\)\(p\)范数。 特别地,\(p=1, 2, +\infty\)时有 \[\begin{aligned} \| \boldsymbol x \|_1 =& \sum_{i=1}^n |x_i|, \\ \| \boldsymbol x \|_2 =& \sqrt{ \sum_{i=1}^n x_i^2 } = \sqrt{\boldsymbol x^T \boldsymbol x}, \\ \| \boldsymbol x \|_\infty =& \max_{1 \leq i \leq n} |x_i|. \end{aligned}\] 向量范数作为向量空间中广义的长度, 满足: \(\| \boldsymbol x \| \geq 0\), 等号成立当且仅当\(\boldsymbol x = \boldsymbol 0\); 对任意\(\lambda \in \mathbb R\)\(\| \lambda \boldsymbol x \| = |\lambda| \cdot \| \boldsymbol x \|\); 有三角不等式\(\| \boldsymbol x + \boldsymbol y \| \leq \| \boldsymbol x \| + \| \boldsymbol y \|\)

给定矩阵\(A\), \(f(\boldsymbol x) = A \boldsymbol x\)是一个多元线性函数, 或称为一个线性算子。 为了考察\(\boldsymbol x\)的变化引起的\(A \boldsymbol x\)的变化大小, 引入矩阵范数\(\| A \|\)。定义 \[\begin{aligned} \| A \|_p = \sup_{\| \boldsymbol x \|_p = 1} \| A \boldsymbol x \|, \end{aligned}\] 称为\(A\)\(p\)范数。 可以证明, \[\begin{align} \| A \|_1 =& \max_{1 \leq j \leq n} \sum_{i=1}^n |a_{ij}|, \tag{27.14}\\ \| A \|_2 =& \sqrt{ A^T A\text{的最大特征值}}, \tag{27.15}\\ \| A \|_\infty =& \max_{1 \leq i \leq n} \sum_{j=1}^n |a_{ij}|. \tag{27.16} \end{align}\] 定义矩阵范数后有 \[\begin{aligned} \| A \boldsymbol x \| \leq \| A \| \cdot \| \boldsymbol x \|, \ \forall \boldsymbol x \in \mathbb R^n, \end{aligned}\] 进一步 \[\begin{aligned} \| A B \boldsymbol x \| \leq \| A \| \cdot \| B \boldsymbol x \| \leq \|A \| \cdot \| B \| \cdot \| \boldsymbol x \| \end{aligned}\] 所以\(\| A B \| \leq \| A \| \cdot \| B \|\)

一般的矩阵范数定义如下。

定义5.1 (矩阵范数) 若对任意\(n\)阶实方阵\(A\), 都有一个实数\(\| A \|\)与之对应,且满足

  1. 非负性: \(\| A \| \geq 0\), 且等号成立当且仅当\(A\)为零矩阵;
  2. 齐次性: 对任意\(\lambda \in \mathbb R\), 有\(\| \lambda A \| = |\lambda| \, \| A \|\);
  3. 三角不等式: 对任意\(n\)阶实方阵\(A\)\(B\),都有\(\| A + B \| \leq \| A \| + \| B \|\);
  4. 相容性: 对任意\(n\)阶实方阵\(A, B\), 都有\(\| AB \| \leq \| A \| \, \| B \|\),
则称\(\| A \|\)\(A\)的矩阵范数。

定义 \[\begin{aligned} \| A \|_F = \left( \sum_{i=1}^n \sum_{j=1}^n a_{ij}^2 \right)^{1/2}, \end{aligned}\]\(\| A \|_F\)\(A\)的一个矩阵范数,叫做Frobenius范数。 \(\| A \|_F\)实际是将矩阵\(A\)按列拉直成一个列向量计算其欧式模, 所以算法中为了判断两个矩阵\(A, B\)是否近似相当, 只要看\(\| A - B \|_F\)是否小于给定的误差界限\(\epsilon\)

定义了矩阵范数就可以用来评估解线性方程组\(A \boldsymbol x = \boldsymbol b\)的适定性, 即输入的\(\boldsymbol b\)的误差导致的解\(\boldsymbol x\)的误差大小。 理论上,当\(A\)满秩时\(\boldsymbol x = A^{-1} \boldsymbol b\), 设\(\boldsymbol b\)有一个输入误差\(\Delta \boldsymbol b\), 令 \[\begin{aligned} A \boldsymbol x = \boldsymbol b, \quad A(\boldsymbol x + \Delta \boldsymbol x) = \boldsymbol b + \Delta \boldsymbol b, \end{aligned}\]\(\boldsymbol b\)输入的误差\(\Delta \boldsymbol b\)造成的解的误差\(\Delta \boldsymbol x\)满足(见 关治 and 陆金甫 (1998) §5.4.2) \[\begin{align} \frac{\| \Delta \boldsymbol x \|_p}{\| \boldsymbol x \|_p} \leq \kappa_p(A) \cdot \frac{\| \Delta \boldsymbol b \|_p}{\| \boldsymbol b \|_p}, \tag{27.17} \end{align}\] 其中\(\kappa_p(A) = \| A \|_p \cdot \| A^{-1} \|_p\)叫做\(A\)条件数。 条件数用来衡量以\(A\)为系数矩阵的线性方程组求解的稳定性, \(A\)的条件数越大,求逆和解线性方程组越不稳定, 称系数矩阵条件数很大的线性方程组是病态的。 对\(p=2\)\(\kappa_2(A)\)\(A^T A\)的最大特征值与最小特征值的比值的算数平方根, 当\(A\)是正定阵时\(\kappa_2(A)\)\(A\) 的最大特征值与最小特征值的比值的平方根。

对于病态的线性方程组, 某些变换可以解决一些明显的问题, 比如,每一个方程都乘以一个调整因子使得各行元素大小相近, \(A\)的每列都乘以一个调整因子使得各列元素大小相近(最后对应的未知数要作反向的调整), 但是没有完全通用的方法解决病态问题。

求解线性方程组的误差还涉及到系数矩阵\(A\)的误差, 更详细的讨论见(关治 and 陆金甫 1998) §5.4.2。

习题

习题1

对满秩\(n\)阶上三角矩阵\(A\),编写算法求解线性方程组 \(A \boldsymbol x = \boldsymbol b\), 要求把\(\boldsymbol x\)的解保存在\(\boldsymbol b\)原来的存储空间中。 计算算法需要的乘除法和加减法次数。

习题2

\(n\)阶单位下三角矩阵\(A\), 编写算法求解线性方程组 \(A \boldsymbol x = \boldsymbol b\), 要求把\(\boldsymbol x\)的解保存在\(\boldsymbol b\)原来的存储空间中。 计算算法需要的乘除法和加减法次数。

习题3

\(A\)为上三角矩阵,\(\boldsymbol e_k=(0,\dots, 0, 1, 0, \dots, 0)^T\)为单位向量, 写算法求解\(A \boldsymbol x = \boldsymbol e_k\)。 解\(\boldsymbol x\)中那些元素是一定等于零的? 如何简化求解过程? 编写算法求\(A^{-1}\)并把\(A^{-1}\)保存在\(A\)原来的存储空间中。

习题4

证明用列主元法进行矩阵LU分解(27.7)的算法正确。

  1. \(M^{(i)} = I_n - \boldsymbol m^{(i)} \boldsymbol e_i^T\)矩阵, 证明当\(k, j>i\)时有 \[\begin{align*} P(k,j) M^{(i)} = [I_n - P(k,j) \boldsymbol m^{(i)} \boldsymbol e_i^T] P(k,j). \end{align*}\]

  2. \(M_*^{(k)} = I_n - \boldsymbol m_*^{(k)} \boldsymbol e_k^T\) (\(\boldsymbol m_*^{(k)}\)定义见(27.8)),证明 \[\begin{align*} & M^{(n-1)} P(n-1, s_{n-1}) \dots M^{(2)} P(2, s_2) M^{(1)} P(1, s_1) \\ =& M_*^{(n-1)} \dots M_*^{(1)} P(n-1, s_{n-1}) \dots P(1, s_1). \end{align*}\]

  3. 证明 \[\begin{align*} (M_*^{(k+1)} M_*^{(k)})^{-1} = I_n + \boldsymbol m_*^{(k)} \boldsymbol e_k^T + \boldsymbol m_*^{(k+1)} \boldsymbol e_{k+1}^T. \end{align*}\]

  4. 证明\(PA = LU\)成立。

习题4

编写用列主元法作高斯消元同时得到矩阵LU分解的算法程序。

习题5

编写Cholesky分解算法的程序。 对输入的正定阵\(A\)(只有下三角部分需要输入值), 求Cholesky分解\(A = L L^T\)并把矩阵\(L\)存放在\(A\)的下三角部分中作为函数返回值。 (如果使用R语言的编写一个输入\(A\)输出\(L\)的函数, 由于R语言的设计特点,这样修改的是矩阵\(A\)的一个副本)。

习题6

编写Cholesky分解算法的程序。 设正定阵\(A\)只保存了下三角部分, 元素按行次序保存在一个一维数组中输入, Cholesky分解\(A = L L^T\)得到的下三角矩阵\(L\)保存到\(A\)所用的存储空间中返回。

习题7

对正定阵\(A\),证明(27.12)定义的向量与\(A\)组成的二次型 \(\boldsymbol\alpha^T A \boldsymbol\alpha\)等于(27.11)的右边。

习题8

\(A\)为正定阵,给出计算\(\boldsymbol x^T A^{-1} \boldsymbol y\) 的有效算法。

习题9

考虑线性回归模型\(\boldsymbol y = X \boldsymbol\beta + \boldsymbol\varepsilon\), 其中\(X\)\(n \times p\)矩阵(\(n>p\)), 设\(X\)列满秩, 则回归系数\(\boldsymbol\beta\)的最小二乘估计为\(\hat{\boldsymbol\beta} = (X^T X)^{-1} X^T \boldsymbol y\), 残差平方和SSE为\(\boldsymbol y^T \boldsymbol y - \boldsymbol y^T X (X^T X)^{-1} X^T \boldsymbol y\)。 写出利用Cholesky分解方法计算\(\hat{\boldsymbol\beta}\), SSE和\((X^T X)^{-1}\)的算法。

习题10

证明矩阵范数的三个公式(27.14)(27.16)

References

关治, and 陆金甫. 1998. 数值分析基础. 高等教育出版社.