企业网站案例,全球代理,烟台微信公众号开发,百合网网站建设与策划全世界有3.14 % 的人已经关注了数据与算法之美矩阵奇异值的物理意义是什么#xff1f;或者说#xff0c;奇异值形象一点的意义是什么#xff1f;把m*n矩阵看作从m维空间到n维空间的一个线性映射#xff0c;是否#xff1a;各奇异向量就是坐标轴#xff0c;奇异值就是对应… 全世界有3.14 % 的人已经关注了数据与算法之美矩阵奇异值的物理意义是什么或者说奇异值形象一点的意义是什么把m*n矩阵看作从m维空间到n维空间的一个线性映射是否各奇异向量就是坐标轴奇异值就是对应坐标的系数矩阵的奇异值是一个数学意义上的概念一般是由奇异值分解Singular Value Decomposition简称SVD分解得到。如果要问奇异值表示什么物理意义那么就必须考虑在不同的实际工程应用中奇异值所对应的含义。下面先尽量避开严格的数学符号推导直观的从一张图片出发让我们来看看奇异值代表什么意义。这是女神上野树里Ueno Juri的一张照片像素为高度450*宽度333。暂停舔屏先痴汉脸我们都知道图片实际上对应着一个矩阵矩阵的大小就是像素大小比如这张图对应的矩阵阶数就是450*333矩阵上每个元素的数值对应着像素值。我们记这个像素矩阵为现在我们对矩阵进行奇异值分解。直观上奇异值分解将矩阵分解成若干个秩一矩阵之和用公式表示就是其中等式右边每一项前的系数就是奇异值和分别表示列向量秩一矩阵的意思是矩阵秩为1。注意到每一项都是秩为1的矩阵。我们假定奇异值满足 奇异值大于0是个重要的性质但这里先别在意如果不满足的话重新排列顺序即可这无非是编号顺序的问题。既然奇异值有从大到小排列的顺序我们自然要问如果只保留大的奇异值舍去较小的奇异值这样(1)式里的等式自然不再成立那会得到怎样的矩阵——也就是图像令这只保留(1)中等式右边第一项然后作图结果就是完全看不清是啥……我们试着多增加几项进来再作图隐约可以辨别这是短发伽椰子的脸……但还是很模糊毕竟我们只取了5个奇异值而已。下面我们取20个奇异值试试也就是(1)式等式右边取前20项构成虽然还有些马赛克般的模糊但我们总算能辨别出这是Juri酱的脸。当我们取到(1)式等式右边前50项时我们得到和原图差别不大的图像。也就是说当从1不断增大时不断的逼近。让我们回到公式矩阵表示一个450*333的矩阵需要保存个元素的值。等式右边和分别是450*1和333*1的向量每一项有元素。如果我们要存储很多高清的图片而又受限于存储空间的限制在尽可能保证图像可被识别的精度的前提下我们可以保留奇异值较大的若干项舍去奇异值较小的项即可。例如在上面的例子中如果我们只保留奇异值分解的前50项则需要存储的元素为和存储原始矩阵相比存储量仅为后者的26%。下面可以回答题主的问题奇异值往往对应着矩阵中隐含的重要信息且重要性和奇异值大小正相关。每个矩阵都可以表示为一系列秩为1的“小矩阵”之和而奇异值则衡量了这些“小矩阵”对于的权重。在图像处理领域奇异值不仅可以应用在数据压缩上还可以对图像去噪。如果一副图像包含噪声我们有理由相信那些较小的奇异值就是由于噪声引起的。当我们强行令这些较小的奇异值为0时就可以去除图片中的噪声。如下是一张25*15的图像本例来源于[1]但往往我们只能得到如下带有噪声的图像和无噪声图像相比下图的部分白格子中带有灰色通过奇异值分解我们发现矩阵的奇异值从大到小分别为14.154.673.000.21……0.05。除了前3个奇异值较大以外其余奇异值相比之下都很小。强行令这些小奇异值为0然后只用前3个奇异值构造新的矩阵得到可以明显看出噪声减少了白格子上灰白相间的图案减少了。奇异值分解还广泛的用于主成分分析Principle Component Analysis简称PCA和推荐系统如Netflex的电影推荐系统等。在这些应用领域奇异值也有相应的意义。考虑题主在问题描述中的叙述“把m*n矩阵看作从m维空间到n维空间的一个线性映射是否各奇异向量就是坐标轴奇异值就是对应坐标的系数”我猜测题主更想知道的是奇异值在数学上的几何含义而非应用中的物理意义。下面简单介绍一下奇异值的几何含义主要参考文献是美国数学协会网站上的文章[1]。下面的讨论需要一点点线性代数的知识。线性代数中最让人印象深刻的一点是要将矩阵和空间中的线性变换视为同样的事物。比如对角矩阵作用在任何一个向量上其几何意义为在水平方向上拉伸3倍方向保持不变的线性变换。换言之对角矩阵起到作用是将水平垂直网格作水平拉伸或者反射后水平拉伸的线性变换。如果不是对角矩阵而是一个对称矩阵那么我们也总可以找到一组网格线使得矩阵作用在该网格上仅仅表现为反射拉伸变换而没有旋转变换考虑更一般的非对称矩阵很遗憾此时我们再也找不到一组网格使得矩阵作用在该网格上之后只有拉伸变换找不到背后的数学原因是对一般非对称矩阵无法保证在实数域上可对角化不明白也不要在意。我们退求其次找一组网格使得矩阵作用在该网格上之后允许有拉伸变换和旋转变换但要保证变换后的网格依旧互相垂直。这是可以做到的下面我们就可以自然过渡到奇异值分解的引入。奇异值分解的几何含义为对于任何的一个矩阵我们要找到一组两两正交单位向量序列使得矩阵作用在此向量序列上后得到新的向量序列保持两两正交。下面我们要说明的是奇异值的几何含义为这组变换后的新的向量序列的长度。当矩阵作用在正交单位向量和上之后得到和也是正交的。令和分别是和方向上的单位向量即写在一起就是整理得这样就得到矩阵的奇异值分解。奇异值和分别是和的长度。很容易可以把结论推广到一般维情形。下面给出一个更简洁更直观的奇异值的几何意义参见[2]。先来一段线性代数的推导不想看也可以略过直接看黑体字几何意义部分假设矩阵的奇异值分解为其中是二维平面的向量。根据奇异值分解的性质线性无关线性无关。那么对二维平面上任意的向量都可以表示为。当作用在上时令我们可以得出结论如果是在单位圆上那么正好在椭圆上。这表明矩阵将二维平面中单位圆变换成椭圆而两个奇异值正好是椭圆的两个半轴长长轴所在的直线是短轴所在的直线是。推广到一般情形一般矩阵将单位球变换为超椭球面那么矩阵的每个奇异值恰好就是超椭球的每条半轴长度。参考文献[1] We Recommend a Singular Value DecompositionFeature Column from the AMS[2] 徐树方《矩阵计算的理论与方法》北京大学出版社。via:郑宁(知乎)版权归原作者所有转载仅供学习使用不用于任何商业用途如有侵权请留言联系删除感谢合作。数据与算法之美用数据解决不可能长按扫码关注
