范数介绍，数字两边双竖线

Blog Content

机器学习 2013-04-13 21:20:15

范数：距离度量的一种表述，一种强化了的距离概念，它在定义上比距离多了一条数乘的运算法则。

在数学上，范数包括向量范数和矩阵范数，向量范数表征向量空间中向量的大小，矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是，对应向量范数，向量空间中的向量都是有大小的，这个大小如何度量，就是用范数来度量的，不同的范数都可以来度量这个大小；对于矩阵范数，学过线性代数，我们知道，通过运算AX=B，可以将向量X变化为B，矩阵范数就是来度量这个变化大小的。

x 的 0 范数：x 到零点的汉明距离

x 的 1 范数：x 到零点的曼哈顿距离

x 的 2 范数：x 到零点的欧氏距离

x 的 n 范数：x 到零点的 n 阶闵氏距离

x 的无穷范数：x 到零点的切比雪夫距离

||X-Y||就是向量作差之后各分量的平方和的开根号。

2范数：

矩阵2范数：矩阵A的2范数就是 A的转置乘以A矩阵特征根最大值的开根号；

向量2范数：向量x的2范数是x中各个元素平方之和再开根号；

函数2范数：函数f(x)的2范数是x在区间(a,b)上f(x)的平方的积分再开根号。

向量的范数

首先定义一个向量为：a=[-5，6，8, -10]

向量的1范数：L1范数。

$| | x | |_{1} = \sum_{i} | x_{i} |$ ，表示向量x中非零元素的绝对值之和。

向量的1范数即：向量的各个元素的绝对值之和，上述向量a的1范数结果就是：29；

向量的2范数：L2范数。

$| | x | |_{2} = \sqrt{\sum_{i} x_{i}^{2}}$ ，表示向量元素的平方和再开平方。

向量的2范数即：向量的每个元素的平方和再开平方根，上述a的2范数结果就是：15；

L2范数通常会被用来做优化目标函数的正则化项，防止模型为了迎合训练集而过于复杂造成过拟合的情况，从而提高模型的泛化能力。

向量的无穷范数：LL∞

-- 向量的负无穷范数即：向量的所有元素的绝对值中最小的：上述向量a的负无穷范数结果就是：5；

-- 向量的正无穷范数即：向量的所有元素的绝对值中最大的：上述向量a的负无穷范数结果就是：10；

$| | x | | \infty = \sum 1 n x i \infty \infty ， x = (x 1, x 2, \dots, x n) " role="presentation" style="margin: 0px; padding: 0px; box-sizing: border-box; display: inline; line-height: normal; word-wrap: normal; float: none; direction: ltr; max-width: none; max-height: none; min-width: 0px; min-height: 0px; border: 0px; outline: 0px; color: rgb(69, 69, 69); font-family: -apple-system, "SF UI Text", Arial, "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "WenQuanYi Micro Hei", sans-serif, SimHei, SimSun; background-color: rgb(255, 255, 255); position: relative;"> | | x | | \infty = \sum 1 n x \infty i ‾ ‾ ‾ 上一篇：ATR利用波动来盈利下一篇：MA、EMA、SMA三个函数的区别$

One - One Code All

Blog Content

范数介绍，数字两边双竖线

The minute you think of giving up, think of the reason why you held on so long.