线性代数研究的最重要的是线性空间，伴随着最实用的核心产物就是解线性方程组。
向量空间
那么为什么要研究向量呢？因为向量的全体就构成了一个线性空间。正如研究实数数，实数的全体构成了实数域一样，而且，也仅有线性运算，才能保证运算结果还在这个“域”内，也即“封闭性”。于是，类似地，八条公理定义了向量空间（来自百度百科）：
(∀a, b∈F及u, v, w∈V)：
1. 向量加法结合律：u + (v + w) = (u + v) + w；
2. 向量加法交换律：v + w = w + v；
3. 向量加法的单位元：V里有一个叫做零向量的0，∀v∈V , v + 0= v；
4. 向量加法的逆元素：∀v∈V,∃w∈V，使得v + w = 0；
5. 标量乘法分配于向量加法上：a(v + w) = a v + a w；
6. 标量乘法分配于域加法上: (a + b)v = av + bv；
7. 标量乘法一致于标量的域乘法: a(bv) = (ab)v；
8. 标量乘法有单位元: 1 v = v,这里1是指域F的乘法单位元。
先看第八条，在实数域中，我们有“1”使得1*a=a（a为实数），从而能表示该域当中所有的元素；在向量空间中，我们需要找到一个能包含一个空间中所有维的单位元，使得“1”*v=v，其中v是一个n维向量。若已知
类似实数域，那么通过单位元的表示为：
这里的“1”，记录的是xi在这个n维向量中的位置与伸缩倍数，这就和数域中的“1”类似了。
在二维空间和三维空间中，我们有定义“正交”，虽然难以直观想象，但可以定义在n维空间的正交，无疑，在用一堆向量表示任意一个向量的时候，正交向量是最方便的。
那么，可以用另一个方式来解释（1.1）式：每一根轴上的单位向量构成了一个标准正交向量组，x1, x2…xn为每一个单位向量伸缩的倍数。
矩阵和线性方程组
但是，在表示任意一个n维向量时，得到的往往不是那么美丽的标准正交基，而是任意的一组由n个向量组成、能充满n维空间的基。
求Xi即要是解线性方程组：
这里再换一种角度，看成向量：
若有f(X)=v，那么f就是一个从X到v的线性映射。把这个线性映射如此排列，就成了矩阵：
以上还是n*n的矩阵，任意的m*n矩阵，m是向量维数，n是未知量Xi的个数。
到这里，就可以方便地是用高斯消元法了，其本质就是把线性方程组分成主元列和自由列,。消元、化成行标准形之后剩下的主元个数就是矩阵的秩。
从而，有以下两种情况：
1.不存在自由列：
也就是矩阵、或者说线性方程组的系数A满秩。
对于方程组AX=b，主元和增广矩阵（不再赘述）的最后一列是一一对应的，那么方程有唯一解。
1.存在自由列：
如果，r(A)<r(A|b)，即没有主元的一行对应了增广的一列元素不为0，此时显然AX=b无解。
如果r(A)=r(A|b)，由于
可以简单地得到其特解：
特征值和特征向量
矩阵A的作用就像一个函数，在微积分中函数表示作用在变量x上得到f(x)。在线性代数中，扩展到多维上，A作用在x上得到Ax。其中，变换后方向保持一致的向量尤为特殊。多数情况下，对于给定的A，得到的Ax方向与原先不同；如果Ax与原来方向平行，就称x为特征向量。于是，有更加简单的表示方法：λX，λ就是在这个方向上的伸缩倍数。
为了方便地求矩阵的幂了，假设存在A的n个线性无关的特征向量{x1,x2, …xn}，放在一个方阵里，构成方阵P，算一下乘积：
举例，对于A^k，k -> ∞时什么情况下A^k -> 0？由矩阵的对角化可以得到|λ|<1。所以，特征值的几何意义在于表达了在某个空间上特征方向的伸缩比例：λ>1，扩张；λ<1，收缩；λ=1，不变。
至于矩阵的相似，就是同一个线性变换在不同基下对应的矩阵，在之前的一组基下我们用变换A，在另一组基下，就是B了。从这个角度来看，对角化就是在寻找一组基，使得在此之下的线性变换达到最简形式，看起来就像微积分中的成正比一样。
最后的二次型，本质也是一样：在保持图形不变的基础上找到一组基使得方程形式最简。
