L^p範數

$L_{p}$ -范数（英语： $L_{p}$ -norm，亦称 $\ell _{p}$ -范数、 $p$ -范数)是向量空间中的一组范数。 $L_{p}$ -范数与幂平均有一定的联系。它的定义如下：

$L_{p}({\vec {x}})=\lVert {\vec {x}}\rVert _{p}={\Bigl (}\sum _{i=1}^{n}|x_{i}|^{p}{\Bigr )}^{1/p},\qquad {\vec {x}}=\{x_{1},x_{2},\ldots ,x_{n}\},\,p\geqslant 1.$

$p$ 的不同取值

图中的

q

即是

L_{p}

范数中的

p

。这是当

p

取不同值时，在

\mathbb {R} ^{2}

空间上的

L_{p}

-范数等高线的其中一条。该图展现了各

L_{p}

-范数的形状。

p=-\infty

:

\lVert {\vec {x}}\rVert _{\infty }=\lim _{p\to -\infty }{\Bigl (}\sum \limits _{i=1}^{n}|x_{i}|^{p}{\Bigr )}^{1/p}=\min _{i}|x_{i}|

。^{[来源请求]}

$p=0$ ： $\lVert {\vec {x}}\rVert _{0}=\sum _{i=1}^{n}\left[x_{i}\neq 0\right]$ ，也就是所有 $x_{i}$ 中，不等于零的个数。注意，这里的 $L_{0}$ -范数并非通常意义上的范数（不满足三角不等式或次可加性）。^[1]
$p=1$ ： $\lVert {\vec {x}}\rVert _{1}=\sum \limits _{i=1}^{n}|x_{i}|$ ，即 $L_{1}$ -范数是向量各分量绝对值之和，又称曼哈顿距离。
$p=2$ : $\lVert {\vec {x}}\rVert _{2}={\sqrt {\sum \limits _{i=1}^{n}|x_{i}|^{2}}}$ ，此即欧氏距离。
$p=+\infty$ : $\lVert {\vec {x}}\rVert _{\infty }=\lim _{p\to +\infty }{\Bigl (}\sum \limits _{i=1}^{n}|x_{i}|^{p}{\Bigr )}^{1/p}=\max _{i}|x_{i}|$ ，此即无穷范数或最大范数。

在机器学习中的应用

在机器学习中，为了对抗过拟合、提高模型的泛化能力，可以通过向目标函数当中引入参数向量的 $L_{p}$ -范数来进行正则化。其中最常用的是引入 $L_{1}$ -范数的 $L_{1}$ -正则项和引入 $L_{2}$ -范数的 $L_{2}$ -正则项；前者有利于得到稀疏解，后者有利于得到平滑解。

参考文献

^ 但在 $\mathbb {R} ^{1}$ 当中，它就是欧氏距离；在 $\mathbb {R} ^{0}$ 当中，它是平凡的。

[1] 但在 $\mathbb {R} ^{1}$ 当中，它就是欧氏距离；在 $\mathbb {R} ^{0}$ 当中，它是平凡的。

p {\displaystyle p} 的不同取值

在机器学习中的应用

参考文献

$p$ 的不同取值