线性方程组

title: 例子.
content: 以下是一个由两个方程构成的线性方程组: 方程组中有两个未知数。以矩阵表示,这个方程组可以记录为: 这个线性方程组有一组解:formula_12。可以直接验证: 可以证明,这组解也是方程组唯一的解。  不是所有的线性方程组都有解。以下是一个没有解的例子: 显然,如果有formula_15和formula_16满足了第一行的式子的话,它们的和等于2。而第二行则要求它们的和等于0.5,这不可能。  也有的线性方程组有不止一组解。例如: formula_18是一组解,而formula_12也是一组解。事实上,解的个数有无限个。
title: 线性方程组的解.
content: 如果有一组数x、x、......x使得方程组的等号都成立,那么这组数就叫做方程组的解。一个线性方程组的所有的解的集合会被简称为解集。根据解的存在情况,线性方程组可以分为三类:
title: 几何解释.
content: 当未知数只有两个("x"和"y")的时候,方程组里面的每一个方程可以看成Oxy平面(正交直角坐标系)上的一条直线的方程。直线上的点的坐标就是满足这个方程的一组数。从这个角度看来,方程组的解就是所有这种直线的公共点。而若干条直线的公共部分要么是一条直线,要么是一个点,要么是空集,因此对应的,线性方程组的解要么有无穷个,要么恰好有一个,要么不存在。  如果未知数有三个,那么每一个方程则代表了三维空间里面的一个平面,而方程组的解集也就是一些平面的共同部分。所有解的集合可以对应一个平面,一条直线,一个点或空集。
title: 一般情况.
content: 这个问题的一般情况可以从线性空间的角度去分析,即我们可以将线性方程组的求解问题看成向量formula_8在矩阵formula_7所张成的线性空间里面的投影的问题。未知数的个数如果是一般的"n"个的话,可以想象每个方程代表了n维空间里面的一个超平面。而方程组的解就是所有超平面的公共点。
title: 齐次线性方程组.
content: 齐次的线性方程组是指向量formula_22的情况。这时候方程变成: formula_23 这个方程肯定会有一组解:formula_24。实际上,方程的解就是矩阵formula_7对应的线性变换的零空间。一般来说,当方程的个数小于未知数的个数时,方程组会有除formula_24以外的解。当方程组个数变多时,则要看其中“有效”的方程的个数。有时候某一个方程可以表示成另外几个方程的线性组合。比如方程组: formula_27 之中,第三个方程就可以表示为前两个方程的线性组合: formula_28 这时第三个方程组就可以不必考虑了。用线性代数的词汇表达,“有效”的方程的个数就是矩阵formula_7中线性无关的行向量的个数,或者说行向量线性张成的空间的维数。这个数也被称为矩阵的秩。当矩阵formula_7的秩formula_31小于未知数的个数formula_32时,方程组的解会有无穷多个,构成一个formula_33维的线性空间。而当formula_31等于未知数的个数formula_32时,方程组有唯一零解,formula_31不可能大于formula_32。
title: 松弛求解.
content: 在实验数据处理和曲线拟合问题中,求解超定方程组非常普遍。这时常常需要退一步,将线性方程组的求解问题改变为求最小误差的问题。形象的说,就是在无法完全满足给定的这些条件的情况下,求一个最接近的解。比较常用的方法是最小二乘法。最小二乘法求解超定问题等价于一个优化问题,或者说最小值问题,即,在不存在formula_9使得formula_39的情况下,我们试图找到这样的formula_9使得formula_41最小,其中formula_42表示范数。
title: 求解.
title: 克拉玛定理.
content: 基于线性方程组的解空间理论,线性方程组有唯一解当且仅当有效方程数等于未知数的个数。这时,可以运用各种方法具体求出唯一存在的解。克莱姆法则是一种求解线性方程组的方法,大多数线性代数教材都会提到。例如对于如下的线性方程组:  formula_43  运用克莱姆法则,这个方程组的解可以如下: formula_44  其中,formula_45分别是如下三个行列式: formula_46, formula_47,formula_48  对于更一般的情况: 解可以由同样的公式给出: formula_50 其中的 formula_53是将矩阵formula_7的第"i"纵列换成向量b之后得到的矩阵。  可以看出,这些表达式只有在formula_51存在并且不等于0的时候才是有意义的,这点只有在有效方程数等于未知数的个数的时候才能得到保证。
title: 数值方法.
content: 在实际运算中,当矩阵的维数较高时,计算行列式是非常困难的。也就是说,计算行列式的计算复杂度随维数的增长非常快,对于一个formula_56的矩阵,用初等的方法计算其行列式,需要的计算时间是formula_57(n的阶乘)。因此,克莱姆法则在实际计算中并未被采用。其意义仅仅在于出现在教材上,用以说明好的数值方法的重要性。  经典的求解线性方程组的方法一般分为两类:直接法和迭代法。前者例如高斯消去法, LU分解等,后者的例子包括共轭梯度法等。这些方法的计算复杂度在可以接受的范围内,因此被广泛采用。例如,高斯消去法的复杂度为formula_58.一般来说,直接法对于阶数比较低的方程组(少于20000至30000个未知数)比较有效;而后者对于比较大的方程组更有效。在实际计算中,几十万甚至几百万个未知数的方程组并不少见。在这些情况下,迭代法有无可比拟的优势。另外,使用迭代法可以根据不同的精度要求选择终止时间,因此比较灵活。在问题特别大的时候,计算机内存可能无法容纳被操作的矩阵,这给直接法带来很大的挑战。而对于迭代法,则可以将矩阵的某一部分读入内存进行操作,然后再操作另外部分。
title: 应用.
content: 现实中的问题大多数是连续的,例如工程中求解结构受力后的变形,空气动力学中计算机翼周围的流场,气象预报中计算大气的流动。这些现象大多是用若干个微分方程描述。用数值方法求解微分方程(组),不论是差分方法还是有限元方法,通常都是通过对微分方程(连续的问题,未知数的维数是无限的)进行离散,得到线性方程组(离散问题,因为未知数的维数是有限的)。因此线性方程组的求解在科学与工程中的应用非常广泛。  许多具体的应用会得到结构比较特别的线性方程组,比如用差分方法和有限元方法离散微分方程后通常会得到三对角或五对角的方程组,网络问题有时会得到对称的线性方程组(formula_59),因此除了通用的线性方程组求解器,在一些专业领域,研究人员们也开发了适用于特定问题的求解器,比如适用于稀疏矩阵的求解器,适用于三对角矩阵的求解器,适用于对称矩阵的求解器等。
title: 相关软件.
content: 由于线性方程组的求解是一个非常普遍的问题,在多年的科学与工程实践中,科学家和工程师们积累很多高效率的线性方程组求解器,例如:LAPACK、BLAS等。这些软件中,许多可以可以在NetLib免费获得。LAPACK和BLAS在大多数Linux的发行版本中都已经预装。目前LAPACK有Fortran(包括90和77版本)、C、C++等几个语言的版本。利用LAPACK和BLAS中的子程序,Matlab对这些线性方程组求解器进行封装。用户不需要选择求解器的类型和问题的类型,Matlab可以根据对矩阵的分析自动选择合适的求解器。
title: 其他方法与软件.
content: 上面讲的是线性方程组的数值解法。对于比较小的线性方程组,求得符号解是可能的。常用的软件有Mathematica, Maple等。在某些领域的研究中,这种需要并且可能求符号解(精确解)的情况偶尔会遇到。未知数的个数一般限制在几十个左右。显然,符号解在对于实际中遇到的有几百万个未知数的问题是无能为力的,比如,大型结构,天气预报,湍流模拟等问题中得到的线性方程组。

Summary: 线性方程组是数学方程组的一种,它符合以下的形式: 其中的formula_2以及formula_3等等是已知的常数,而formula_4等等则是要求的未知数。