线性代数|机器学习-P19SVDLUQR分解自由参数计算和鞍点

文章目录

  • 1. 矩阵A分解
    • 1.1 A = L U A=LU A=LU
    • 1.2 A = Q R A=QR A=QR
    • 1.3 A = X Λ X − 1 A=X\Lambda X^{-1} A=XΛX1
    • 1.4 A = Q Λ Q T A=Q\Lambda Q^T A=QΛQT
    • 1.5 A = Q S A=QS A=QS
    • 1.6 A = U Σ V T , r a n k ( A ) = m A=U\Sigma V^T,rank(A)=m A=UΣVT,rank(A)=m
    • 1.7 A = U Σ V T , r a n k ( A ) = r A=U\Sigma V^T,rank(A)=r A=UΣVT,rank(A)=r
  • 2. 拉格朗日乘子法求最小值
    • 2.1 引入
    • 2.2 拉格朗日乘子
  • 3. 瑞利商的思考
    • 3.1 瑞利商的定义
    • 3.2 性质

1. 矩阵A分解

对于矩阵A来说,我们有常见矩阵分解:
A = L U , A = Q R , A = X Λ X − 1 , A = Q Λ Q T ; A = Q S , A = S V D \begin{equation} A=LU,A=QR,A=X\Lambda X^{-1},A=Q\Lambda Q^T;A=QS,A=SVD \end{equation} A=LU,A=QR,A=XΛX1,A=QΛQT;A=QS,A=SVD

1.1 A = L U A=LU A=LU

我们矩阵A可以进行LU分解,那么L表示下三角矩阵,U表示上三角矩阵,对于L上三角矩阵来说;举例如下:
A = [ a 11 a 12 a 13 a 21 a 22 a 23 a 31 a 32 a 33 ] = [ l 11 0 0 l 21 l 22 0 l 31 l 32 l 33 ] [ u 11 u 12 u 13 0 u 22 u 23 0 0 u 33 ] \begin{equation} A=\begin{bmatrix} a_{11}&a_{12}&a_{13}\\\\ a_{21}&a_{22}&a_{23}\\\\ a_{31}&a_{32}&a_{33} \end{bmatrix}=\begin{bmatrix} l_{11}&0&0\\\\ l_{21}&l_{22}&0\\\\ l_{31}&l_{32}&l_{33} \end{bmatrix}\begin{bmatrix} u_{11}&u_{12}&u_{13}\\\\ 0&u_{22}&u_{23}\\\\ 0&0&u_{33} \end{bmatrix} \end{equation} A= a11a21a31a12a22a32a13a23a33 = l11l21l310l22l3200l33 u1100u12u220u13u23u33

  • L的第一行只有一个数, l 11 l_{11} l11非零,自由变量数为0;
  • L的第二行有两个数 l 21 , l 22 l_{21},l_{22} l21,l22,其中 l 21 l_{21} l21因为 l 11 l_{11} l11确定后,自由变量数只剩 l 22 l_{22} l22,1个
  • 同理,第 i 行 自由变量数为 i − 1 i-1 i1;
  • 所以L一共有
    L n = 0 + 1 + 2 + ⋯ + n − 1 = 1 2 n ( n − 1 ) \begin{equation} L_n=0+1+2+\cdots+n-1=\frac{1}{2}n(n-1) \end{equation} Ln=0+1+2++n1=21n(n1)
  • 对于U 来说,第1行有自由变量三个,第二行有两个,则可得:
    U n = n + ( n − 1 ) ⋯ + 1 = 1 2 n ( n + 1 ) \begin{equation} U_n=n+(n-1)\cdots+1=\frac{1}{2}n(n+1) \end{equation} Un=n+(n1)+1=21n(n+1)
  • 综上所述,对于A=LU分解来说,自由变量总数为
    A n = L n + U n = 1 2 n ( n − 1 ) + 1 2 n ( n + 1 ) = n 2 \begin{equation} A_n=L_n+U_n=\frac{1}{2}n(n-1)+\frac{1}{2}n(n+1)=n^2 \end{equation} An=Ln+Un=21n(n1)+21n(n+1)=n2

1.2 A = Q R A=QR A=QR

当我们对矩阵A进行QR分解后,Q是一个单位正交矩阵,R是一个上三角矩阵;
我们知道Q是有n个单位正交向量 q 1 , q 2 , ⋯   , q n q_1,q_2,\cdots,q_n q1,q2,,qn组成,每个 q i q_i qi有n个变量;

  • 第一个向量 q 1 q_1 q1约束条件只有单位长度1,所以变量数为 n − 1 n-1 n1
  • 第一个向量 q 2 q_2 q2约束条件单位长度1和与 q 1 q_1 q1正交,共两个约束条件,所以变量数为 n − 2 n-2 n2
  • 同理,第 i 个向量 q i q_i qi 的约束条件数为 i i i,自由变量数为 n − i n-i ni
  • 那么Q变量总共的自由变量是
    Q n = ( n − 1 ) + ( n − 2 ) ⋯ + 1 = 1 2 n ( n − 1 ) \begin{equation} Q_n=(n-1)+(n-2)\cdots+1=\frac{1}{2}n(n-1) \end{equation} Qn=(n1)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/761164.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

转换Python2 转 Python3 小程序

转换Python2 -> Python3 藉由python35\Tools\scripts\2to3.py 档转换 python D:\python\Tools\scripts\2to3.py D:\Users\a0979\Desktop\scrip.pypython [转档程式] [欲转档.py] * python 为 python3 ->因为转档程式为python3 ![](https://i.imgur.com/PeQkvhk.png)py…

STM32的EXTI简介

一,EXTI(External Interrupt)外部中断事件控制器 什么是EXTI? 1.监测指定的GPIO口的电平信号变化,并检测到指定条件时,向内核的中断控制器NVIC发出中断申请。NVIC在裁决后,如果满足条件&#xf…

工业4.0能给电能表带来什么机会

一、技术革新与升级 工业4.0的核心在于智能化和网络化,这促使电能表行业进行技术革新和升级。传统的电能表功能单一,主要用于测量电能消耗。而在工业4.0的推动下,电能表逐渐发展成为集信息储存和处理、网络通信、实时监测等多种功能于一体的…

云计算【第一阶段(22)】Linux的进程和计划任务管理

目录 一、查看进程 1.1、程序和进程的关系 1.2、查看进程 1.2.1、静态查看进程信息ps ​编辑 1.2.1.1、实验 1.2.2、动态查看进程信息top 1.2.2.1、实验 1.2.2.2、top 命令全屏操作界面快捷键 1.2.3、pgrep根据特定条件查询进程pid信息 1.2.4、pstree命令以树形结构列出…

5、Python之rich:GUI之外,终端呈现也能玩出花

引言 在Python系列文章的上一篇中,我们从print的定义出发,进一步探索了print()函数更多的用法,尤其是一些哪怕是Python老手也可能忽略的用法。没有阅读的或者需要回顾print()及输出格式化的扩展用法,可以查看上一篇文章。 虽然pr…

Git安装与使用及整合IDEA使用的详细教程

1. 版本控制软件介绍 版本控制软件提供完备的版本管理功能,用于存储、追踪目录(文件夹)和文件的修改历史,是软件开发者的必备工具,是软件公司的基础设施。版本控制软件的最高目标,是支持软件公司的配置管理…

Swift 新结构化并发中鲜为人知的 isolated 参数

概述 伴随着 Swift 5.5(WWDC21)推出的新结构化并发到今年的 WWDC 24 已经有 3 个多年头了。想必大家都对其中 async/awiat、async let、TaskGroup、Actor 等各种概念都了然于胸了吧? 不过小伙伴们可能不知道的是:新结构化并发&a…

【Eplan】P8-图纸设计的四种方法

【更多软件使用问题请点击亿道电子官方网站】 1、 文档目标 了解 EPLAN 的图纸设计的四种方法:面向图形、面向设备、面向物料清单、面向安装情况; 2、 问题场景 为什么 EPLAN 要使用四种不同的设计方法。 3、软硬件环境 1、软件版本:EPLAN…

Ubuntu无法安全地用该源进行更新,所以默认禁用该源。

解决方案 1. 获取并添加缺失的 GPG 公钥 可以使用 apt-key 命令来添加缺失的公钥。根据错误信息,缺失的公钥是 3B4FE6ACC0B21F32。 sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys 3B4FE6ACC0B21F322. 更新软件包列表 添加公钥后,更…

ADS131A04硬件设计与软件调试

一、IC基本信息 ADS131A0x 双通道或四通道 24 位 128kSPS 同步采样 Δ-Σ ADC •双通道或四通道同步采样差分输入 • 数据速率:高达 128kSPS • 高性能: – 单通道精度:在 10,000:1 动态范围内优于 0.1% – 有效分辨率:20.6位…

【MotionCap】搭建wsl2的pytorch环境

参考大神:wsl2-ubuntu版本 cuda下周cuda11.3 wget https://developer.download.nvidia.com/compute/cuda/11.3.0/local_installers/cuda_11.3.0_465.19.01_linux.run sudo sh cuda_11.3.0_465.19.01_linux.run cuda是开源的么?下15分钟

重磅!云起无垠荣获“智能模糊测试赛道领航者”等多项殊荣

近日,以 “新质•真能力”(新质生产力,安全真能力)为主题的第四届数字安全大会正式召开。在此次大会上,数世咨询发布了《中国数字安全产业年度报告(2024)》、新质百强榜单以及国内首本《数字安全蓝皮书》。这些报告和榜…

操作系统精选题(四)(论述题)

🌈 个人主页:十二月的猫-CSDN博客 🔥 系列专栏: 🏀操作系统 💪🏻 十二月的寒冬阻挡不了春天的脚步,十二点的黑夜遮蔽不住黎明的曙光 目录 前言 一、银行家算法的一道例题 二、页…

【NOI】C++程序设计入门四

文章目录 前言一、浮点型(float和double)1.float类型2.double类型 二、保留小数的方法方法一:方法二: 三、样题讲解问题1:1603. 冷饮的价格?问题2:1957. 求三个数的平均数问题3:1602…

爬数据是什么意思?

爬数据的意思是:通过网络爬虫程序来获取需要的网站上的内容信息,比如文字、视频、图片等数据。网络爬虫(网页蜘蛛)是一种按照一定的规则,自动的抓取万维网信息的程序或者脚本。 学习一些爬数据的知识有什么用呢&#x…

(PC+WAP)高端大气的装修装潢公司网站模板

(PCWAP)高端大气的装修装潢公司网站模板PbootCMS内核开发的网站模板,该模板适用于装修公司网站、装潢公司网站等企业,当然其他行业也可以做,只需要把文字图片换成其他行业的即可;(PCWAP),同一个后台,数据即…

Vue2动态代理,换服务无须重启项目

1、痛点 当我们需要使用不同的服务器时,就需要手动修改vue.config.js中配置并重新启动项目。当项目越来越大时,会需要较长的时间来等待项目启动,如此反复,极大影响我们开发进度。 2、寻求解决方案 vue-cli 的代理是使用的http-p…

新勒索软件 Shinra 与 Limpopo 浮出水面

Shinra 勒索软件概览 Shinra 勒索软件的样本文件最早在 2024 年 4 月提交给公开的文件扫描服务。攻击者在部署和运行勒索软件前会先窃取受害者的数据,还会删除卷影副本以阻止数据恢复。 攻击者有时会使用亚文化的人物来进行命名,研究人员也怀疑 Shinra…

clion远程开发

clion远程开发 简要概括: 建立 SFTP 通讯,创建远程目录与本地目录的映射文件夹,就可以把本机文件夹中的文件用鼠标右键选中上全传,打开自动同步功能,后面更改文件就可以自动同步文件了。 一.新建SFTP远程链接服务 …

C++感受12-Hello Object 派生版

不变的功能,希望直接复用原有代码;变化的功能,希望在分开的代码里实现。 派生的基本概念和目的如何定义派生类以及创建派生对象派生对象的生死过程 0. 课堂视频 ff14-HelloObject-派生版 1. 派生的基本概念与目的 编程,或者说软…