向量笔记

【内容主要来自《深度学习》】

给定向量组A: $a_{1},a_{2},\dots,a_{n}(a_{i} \in R^{m})$ ,对于任意一组实数 $k_{1},k_{2},\dots,k_{n}$

向量空间： $\{k_{1}a_{1}+k_{2}a_{2}+\dots+k_{n}a_{n},k_{i}\in R\}$

线性相关：存在一组不全为0的实数 $k_{1},k_{2},\dots,k_{n}$ 使得：

$k_{1}a_{1}+k_{2}a_{2}+\dots+k_{n}a_{n}=0$ 成立，向量组A线性相关的，反之，称向量组A线性无关。

向量组的秩：设有向量组A: $a_{1},a_{2},\dots,a_{n}$ ，如果能选出r个子向量构成的子向量组 $A_{0}:a_{1},a_{2},\dots,a_{r},r<n$ ,满足：

那么，称子向量组 $A_{0}:a_{1},a_{2},\dots,a_{r}$ 是向量组A的一个最大线性无关向量组，最大线性无关处理组包含的向量个数r称为向量组A的秩。

向量组矩阵--等价关系

矩阵的行秩=矩阵行向量组的秩

列秩=列向量组的秩

行秩=列秩=秩 rank(最后化简看的同一主元数目)

在泛函分析中，向量范数是衡量向量大小的一种度量方式。在形式上，向量范数是一个定义域为任意线性空间向量的函数，它把一个向量v映射为一个非负实数值R，即满足 $f:v\to R$

从几何角度来说，向量x的范数是度量从原点O到点x的距离。从广义角度来说，对于任意一个 $f:v\to R$ ，只要满足以下三个条件计科称为范数：

在机器学习中，特别在模型优化时，范数是正则化的主要手段，用来衡量模型的复杂度。其中，最常用的是p范数， $p\in R,p\ge 1$

p-范数的定义如下

$\lvert x \lvert_{p}=(\sum_{i}|x_{i}|^{p})^{\frac{1}{p}}$

单位范数圆.jpg

$\lvert x \lvert_{p}=max_{i}(|x_{i}|)$

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成，浏览时请结合常识与多方信息审慎甄别。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。