线性代数(1)

linearalgebra.png

机器学习离不开概率、高等数学还有概率论基础，大部分算法都是建立这些学科基础之上的。当然即使不了解这些或者只是了解一点，可能应用机器学习，因为现在神经网络是相对于其他机器学习算法比较简单，只要你会求导和简单了解线性代数就可以基于一些框架实现一些功能。但是如果是这样就有很大局限性，当我们遇到问题 debug 也就是一个避不开问题，除了语言语法问题以外，我们还需要面临模型算法上问题。而且在生产环境用户需求是五花八门，现成模型无法满足用户要求，这就需要我们自己设计模型和算法，或者对其他模型进行改造，这一切都离不开对模型理解，要深入理解模型就需要对算法有一定认识，如果不了解这些基础知识就无法对算法有深入的认识。

什么是系统

系统就是你给他一个输入，他会给你一个输出，可以将系统叫做函数。随着系统不同会分为操作和转换输入（也就是 transformation 和 operator)

语音设别系统输入为语音信号输出为文字
对话系统输入一句话，输出一个回应的句子
通讯系统

今天学习线性代数主要服务我们系统，确切地说是线性系统，那么具有什么特性我们规定为线性系统呢？需要满足以下条件的系统称为线性系统。

线性系统在电路学中被广泛应用，我们的电路通常是输入电压或电流然后在负载上得到电压作为输出。

行列式

二阶三阶行列式

行列式是我们上大学后在线性代数第一次接触到，看下面的方程组，看样子应该是二元一次方程组吧，对这样方程组进行求解，通常是采用消元。
$\begin{cases} 5x + 6y = 7 \\ 9x + 4y = 3 \\ \end{cases}$

$\begin{cases} 5x + 6y = 7 \Rightarrow \times 9 \\ 9x + 4y = 3 \Rightarrow \times 5\\ \end{cases} \begin{cases} 5 \times 9x + 6 \times 9y = 7 \times 9 \\ 5 \times 9x + 4 \times 5y = 3 \times 5 \end{cases}$

$\begin{cases} 5x + 6y = 7 \Rightarrow \times 4 \\ 9x + 4y = 3 \Rightarrow \times 6\\ \end{cases} \begin{cases} 4 \times 5x + 4 \times 6y = 7 \times 4 \\ 6 \times 9x + 6 \times 4y = 3 \times 6 \end{cases}$

$x = \frac{7 \times 4 - 3 \times 6}{4 \times 5 - 6 \times 9}$

$y = \frac{7 \times 9 - 3 \times 5}{6 \times 9 - 4 \times 5}$

$x = \frac{ \left| \begin{array}{cccc} 7 & 3 \\ 6 & 4 \\ \end{array} \right| }{ \left| \begin{array}{cccc} 4 & 3 \\ 5 & 5 \\ \end{array} \right|}$

有关行列式的计算方式如下，我们先

$\left| \begin{array}{cccc} 1 & 2 \\ 2 & 3 \\ \end{array} \right| = 1 \times 3 - 2 \times 2$

对于 3 阶行列式相对比较复杂一些，我通过图给大家表示一下，黄色部分表示相乘后求和再减去粉部分相乘就得到行列式值。

二阶行列式

三阶行列式