一、线性代数
（一）矩阵的定义
图1
（二）特殊矩阵
1、行数与列数都等于 n 的矩阵称为 n 阶矩阵，又称做 n 阶方阵，可以记作 A n。
2、只有一行的矩阵 A 1×n 称为行矩阵，又叫行向量。
3、同样，只有一列的矩阵 A n×1 称为列矩阵，又叫列向量。
4、矩阵的元素全部为0，称为零矩阵，用 O 表示。
5、对于方阵，如果只有对角线元素为1，其余元素都为0，那么称为单位矩阵，一般用 I 或者 E 表示。
6、对于方阵，不在对角线上的元素都为0，称为对角矩阵。
（三）矩阵的加法
1、把矩阵的对应位元素相加。
2、矩阵的形状必须一致，即必须是同型矩阵。
（四）矩阵的乘法
1、数与矩阵相乘：数值与矩阵每一个元素相乘。
2、矩阵与矩阵相乘：左矩阵的每一行与右矩阵的每一列，对应每一个元素相乘。
图2
图3
（五）矩阵的转置
1、把矩阵 A 的行换成相同序数的列，得到一个新矩阵，叫做 A 的转置矩阵，记作 A^T。
2、行变列，列变行。
3、A 为 m × n 矩阵，转置之后为 n × m 矩阵。
（六）矩阵的运算法则
图4
（七）矩阵的逆
图5
二、微积分
（一）导数
图6
（二）偏导数
图7
（三）方向导数和梯度
1、方向导数
图8
2、梯度（Gradient）
图9
（四）凸函数和凹函数
图10
三、概率与统计
（一）常用统计变量
图11
（二）常见概率分布
图12
（三）重要概率分布
图13
