MIT线性代数笔记-第28讲-正定矩阵,最小值

目录

  • 28.正定矩阵,最小值
    • 打赏

28.正定矩阵,最小值

首先正定矩阵是一个实对称矩阵

由第 26 26 26讲的末尾可知正定矩阵有以下四种判定条件:

  • 所有特征值都为正
  • 左上角所有 k k k阶子矩阵行列式都为正( 1 ≤ k ≤ n 1 \le k \le n 1kn
  • 所有主元都为正
  • 对于任意实非零向量 x ⃗ \vec{x} x 均满足 x ⃗ T M x ⃗ > 0 \vec{x}^T M \vec{x} > 0 x TMx >0

其中最后一种常常作为正定矩阵的定义

当上述判定条件中的正都换为非负时,得到的就是半正定矩阵

对于一个实对称矩阵 A A A x ⃗ T A x ⃗ \vec{x}^T A \vec{x} x TAx 等于一个由二次项构成的多项式,这种形式就是矩阵的二次型

例: 对于矩阵 A = [ 2 6 6 7 ] A = \begin{bmatrix} 2 & 6 \\ 6 & 7 \end{bmatrix} A=[2667],它的二次型为 x ⃗ T A x ⃗ = [ x 1 x 2 ] [ 2 6 6 7 ] [ x 1 x 2 ] = 2 x 1 2 + 12 x 1 x 2 + 7 x 2 2 \vec{x}^T A \vec{x} = \begin{bmatrix} x_1 & x_2 \end{bmatrix} \begin{bmatrix} 2 & 6 \\ 6 & 7 \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \end{bmatrix} = 2 x_1^2 + 12 x_1 x_2 + 7 x_2^2 x TAx =[x1x2][2667][x1x2]=2x12+12x1x2+7x22

  1. 容易证明无论对于多少阶的实对称矩阵,得到的都是二次项构成的多项式,即不存在三次型,四次型等

    也就是说如果一个实对称矩阵的二次型恒大于零,那么它是一个正定矩阵,当考虑一个多元二次函数是否恒为正时,可以找到对应的对称矩阵并判断是否为正定矩阵

    如果这个多元二次函数有二次项或常数项,可以给 x ⃗ \vec{x} x 末尾添加一个元素 1 1 1,那么对应的对称矩阵最后一个元素即为常数项的值,最后一列和最后一行的元素(除最后一个)依次为对应的自变量的系数的二分之一

    即函数 f ( x 1 , ⋯ , x n ) = a 1 , 1 x 1 2 + ⋯ + a n , n x n 2 + b 1 x 1 + ⋯ + b n x n + c f(x_1 , \cdots , x_n) = a_{1 , 1} x_1^2 + \cdots + a_{n , n} x_n^2 + b_1 x_1 + \cdots + b_n x_n + c f(x1,,xn)=a1,1x12++an,nxn2+b1x1++bnxn+c(其中 a i , j a_{i , j} ai,j表示 x i x j x_i x_j xixj的系数)对应的对称矩阵为

    [ a 1 , 1 a 1 , 2 2 ⋯ b 1 2 a 1 , 2 2 a 2 , 2 ⋯ b 2 2 ⋮ ⋮ ⋱ ⋮ b 1 2 b 2 2 ⋯ c ] \begin{bmatrix} a_{1 , 1} & \dfrac{a_{1 , 2}}{2} & \cdots & \dfrac{b_1}{2} \\ \dfrac{a_{1 , 2}}{2} & a_{2 , 2} & \cdots & \dfrac{b_2}{2} \\ \vdots & \vdots & \ddots & \vdots \\ \dfrac{b_1}{2} & \dfrac{b_2}{2} & \cdots & c \end{bmatrix} a1,12a1,22b12a1,2a2,22b22b12b2c ,不过此时“对应的对称矩阵是正定矩阵”就成了充分条件而非充要条件

  2. 考虑将一个二阶实对称矩阵的二次型表示为图像,继续使用刚才的例子 [ 2 6 6 7 ] \begin{bmatrix} 2 & 6 \\ 6 & 7 \end{bmatrix} [2667]得到 z = 2 x 2 + 12 x y + 7 y 2 z = 2x^2 + 12xy + 7y^2 z=2x2+12xy+7y2

    • y = 0 , x = 0 y = 0 , x = 0 y=0,x=0时,分别得到 z O x zOx zOx面和 y O z yOz yOz面上的二次函数
    • x = y x = y x=y时,得到一个 z O x zOx zOx面和 y O z yOz yOz面中间的二次函数

    依此类推可以发现在部分情况下 z < 0 z < 0 z<0,并且可以想象到这个函数图像类似一个马鞍,原点是一个鞍点,在某个方向是极大值,在另一个方向是极小值

    反之,当矩阵为正定矩阵时,图像类似一个碗(抛物面)

    此时将图像水平切开,即令 z z z为一个常数,那么马鞍图像的截面为一个双曲线,碗图像的截面为一个椭圆

  3. 把刚才的例子的最后一个元素换为 20 20 20,得到 [ 2 6 6 20 ] \begin{bmatrix} 2 & 6 \\ 6 & 20 \end{bmatrix} [26620]

    二者的二次型分别配方得到 { 2 x 1 2 + 12 x 1 x 2 + 7 x 2 2 = 2 ( x + 3 y ) 2 − 11 y 2 2 x 1 2 + 12 x 1 x 2 + 20 x 2 2 = 2 ( x + 3 y ) 2 + 2 y 2 \left \{ \begin{matrix} 2 x_1^2 + 12 x_1 x_2 + 7 x_2^2 = 2(x + 3y)^2 - 11y^2 \\ 2 x_1^2 + 12 x_1 x_2 + 20 x_2^2 = 2(x + 3y)^2 + 2y^2 \end{matrix} \right. {2x12+12x1x2+7x22=2(x+3y)211y22x12+12x1x2+20x22=2(x+3y)2+2y2

    实际上配方后这些平方的系数和实对称矩阵的主元有关

    例如 [ 2 6 6 20 ] L U \begin{bmatrix} 2 & 6 \\ 6 & 20 \end{bmatrix} LU [26620]LU分解后得到 [ 1 0 3 1 ] [ 2 6 0 2 ] L U \begin{matrix} \begin{bmatrix} 1 & 0 \\ 3 & 1 \end{bmatrix} & \begin{bmatrix} 2 & 6 \\ 0 & 2 \end{bmatrix} \\ L & U \end{matrix} [1301]L[2062]U,两个主元分别用作平方的系数,而 3 3 3用作第一个平方里 y y y的系数

    n n n阶实对称矩阵的二次型可以写成 d 1 ( x 1 + ⋯ + e 1 , n x n ) 2 + d 2 ( x 2 + ⋯ + e 2 , n x n ) 2 + ⋯ + d n x n 2 d_1(x_1 + \cdots + e_{1 , n} x_n)^2 + d_2(x_2 + \cdots + e_{2 , n} x_n)^2 + \cdots + d_n x_n^2 d1(x1++e1,nxn)2+d2(x2++e2,nxn)2++dnxn2

    模拟一下消元过程可以发现 d i = u i , i , e i , j = l j , i d_i = u_{i , i} , e_{i , j} = l_{j , i} di=ui,i,ei,j=lj,i u , l u , l u,l表示 L U LU LU分解后 U , L U , L U,L中的元素),这是可以证明的,但是我还没找到描述起来比较简洁的证明方法

    由此可以发现平方项的系数即为对应主元,所以正定矩阵的主元均为正数

  4. 已知某个二元函数 f ( x , y ) f(x , y) f(x,y) ( x 0 y 0 ) (x_0 y_0) (x0y0)处有极小值的一个充分条件是函数在 ( x 0 , y 0 ) (x_0 , y_0) (x0,y0)的某邻域内连续且有一阶及二阶偏导数,又 f x ( x 0 , y 0 ) = f x ( x 0 , y 0 ) = 0 , f x x ( x 0 , y 0 ) f y y ( x 0 , y 0 ) − f x y 2 ( x 0 , y 0 ) > 0 f_x(x_0 , y_0) = f_x(x_0 , y_0) = 0 , f_{xx}(x_0 , y_0) f_{yy}(x_0 , y_0) - f_{xy}^2(x_0 , y_0) > 0 fx(x0,y0)=fx(x0,y0)=0,fxx(x0,y0)fyy(x0,y0)fxy2(x0,y0)>0 f x x ( x 0 , y 0 ) > 0 f_{xx}(x_0 , y_0) > 0 fxx(x0,y0)>0

    易证最后两个条件刚好与矩阵 [ f x x ( x 0 , y 0 ) f x y ( x 0 , y 0 ) f y x ( x 0 , y 0 ) f y y ( x 0 , y 0 ) ] \begin{bmatrix} f_{xx}(x_0 , y_0) & f_{xy}(x_0 , y_0) \\ f_{yx}(x_0 , y_0) & f_{yy}(x_0 , y_0) \end{bmatrix} [fxx(x0,y0)fyx(x0,y0)fxy(x0,y0)fyy(x0,y0)]是正定矩阵等价

    这还可以推广至更加多元的函数

    证明: 暂时不会证明 \color{OrangeRed}暂时不会证明 暂时不会证明

  5. 对于一个二阶正定矩阵 A A A,把它拆为 Q Λ Q T Q \Lambda Q^T QΛQT,其中的 Q , Q T Q , Q^T Q,QT可以分别被视为行向量和列向量的旋转矩阵,并且二者导致的旋转一样

    x ⃗ T A x ⃗ = x ⃗ T Q Λ Q T x ⃗ = 1 \vec{x}^T A \vec{x} = \vec{x}^T Q \Lambda Q^T \vec{x} = 1 x TAx =x TQΛQTx =1,依本讲第 2 2 2点可知这是一个中心在原点正上方的平行于 x O y xOy xOy面的斜椭圆的方程,容易发现两个特征值分别决定斜椭圆长轴和短轴长度,即 2 1 λ 1 , 2 1 λ 2 2 \sqrt{\dfrac{1}{\lambda_1}} , 2 \sqrt{\dfrac{1}{\lambda_2}} 2λ11 ,2λ21 分别为长轴和短轴长度(其中 λ 1 < λ 2 \lambda_1 < \lambda_2 λ1<λ2),两个特征向量分别与长轴和短轴方向一致

    推广到更加高阶,这种关系也是成立的,比如三阶正定矩阵的三个特征值倒数的平方根的两倍分别等于对应椭球的三个主轴长度,三个特征向量分别与三个主轴方向一致

    这就是为什么这种拆分被称为主轴定理

    证明: 暂时不会证明 \color{OrangeRed}暂时不会证明 暂时不会证明


打赏

制作不易,若有帮助,欢迎打赏!
赞赏码

支付宝付款码

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/211779.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

DDD系列 - 第6讲 仓库Repository及Mybatis、JPA的取舍(一)

目录 一、领域层定义仓库接口1.1 设计聚合1.2 定义仓库Repository接口二 、基础设施层实现仓库接口2.1 设计数据库2.2 集成Mybatis2.3 引入Convetor2.4 实现仓库三、回顾一、领域层定义仓库接口 书接上回,之前通过一个关于拆解、微服务、面向对象的故事,向大家介绍了如何从微…

简单的WEB服务器

优质博文&#xff1a;IT-BLOG-CN 目的&#xff1a; 了解Java Web服务器是如何运行的。Web服务器使用HTTP与其客户端&#xff0c;也就是Web浏览器进行通信。基于Java的Web服务器会使用两个重要类&#xff1a;java.net.Socket类和java.net.ServerSocket类&#xff0c;并通过发送…

详解Keras3.0 Models API: Model class

1、语法 keras.Model() 将不同层组为具有训练/推理特征的对象的模型 2、示例一 inputs keras.Input(shape(37,)) x keras.layers.Dense(32, activation"relu")(inputs) outputs keras.layers.Dense(5, activation"softmax")(x) model keras.Model…

58.Nacos源码分析2

三、服务心跳。 3.服务心跳 Nacos的实例分为临时实例和永久实例两种&#xff0c;可以通过在yaml 文件配置&#xff1a; spring:application:name: order-servicecloud:nacos:discovery:ephemeral: false # 设置实例为永久实例。true&#xff1a;临时; false&#xff1a;永久ser…

MySQL-备份+日志:介质故障与数据库恢复

目录 第1关&#xff1a;备份与恢复 第2关&#xff1a;备份日志&#xff1a;介质故障的发生与数据库的恢复 第1关&#xff1a;备份与恢复 任务描述 本关任务: 备份数据库&#xff0c;然后再恢复它。 test1_1.sh # 你写的命令将在linux的命令行运行 # 对数据库residents作海…

【C/C++笔试练习】多态的概念、虚函数的概念、虚表地址、派生类的虚函数、虚函数的访问、指针引用、动态多态、完全数计算、扑克牌大小

文章目录 C/C笔试练习选择部分&#xff08;1&#xff09;多态的概念&#xff08;2&#xff09;虚函数的概念&#xff08;3&#xff09;虚表地址&#xff08;4&#xff09;派生类的虚函数&#xff08;5&#xff09;虚函数的访问&#xff08;6&#xff09;分析程序&#xff08;7&…

C# WPF上位机开发(会员管理软件)

【 声明&#xff1a;版权所有&#xff0c;欢迎转载&#xff0c;请勿用于商业用途。 联系信箱&#xff1a;feixiaoxing 163.com】 好多同学都认为上位机只是纯软件开发&#xff0c;不涉及到硬件设备&#xff0c;比如听听音乐、看看电影、写写小的应用等等。如果是消费电子&#…

HibernateJPA快速搭建

1. 先创建一个普通Maven工程&#xff0c;导入依赖 <dependencies><dependency><groupId>junit</groupId><artifactId>junit</artifactId><version>4.12</version><scope>test</scope></dependency><depe…

Java 匿名内部类使用的外部变量,为什么一定要加 final?

问题描述 Effectively final Java 1.8 新特性&#xff0c;对于一个局部变量或方法参数&#xff0c;如果他的值在初始化后就从未更改&#xff0c;那么该变量就是 effectively final&#xff08;事实 final&#xff09;。 这种情况下&#xff0c;可以不用加 final 关键字修饰。 …

报错:Parsed mapper file: ‘file mapper.xml 导致无法启动

报错 &#xff1a; Logging initialized using class org.apache.ibatis.logging.stdout.StdOutImpl adapter. Registered plugin: com.github.yulichang.interceptor.MPJInterceptor3b2c8bda Parsed mapper file: file [/Mapper.xml] application无法启动 我这边产生原因是项…

K8S学习指南(4)-minikube的使用

文章目录 简介安装 Minikube启动 Minikube 集群基本概念创建和管理资源1. 创建 Pod2. 创建 Deployment3. 创建 Service 监视和调试1. 查看集群状态2. 查看集群信息3. 访问 Kubernetes Dashboard4. 使用 kubectl 命令 清理资源1. 删除 Pod2. 删除 Deployment3. 删除 Service4. 停…

! [remote rejected] master -> master (pre-receive hook declined)

! [remote rejected] master -> master (pre-receive hook declined) 如图&#xff1a; 出错解决方法 首先输入命令 git branch xindefenzhi然后&#xff0c;进入这个新创建的分支 git checkout branch然后重新git push就可以了

爬虫学习-基础库的使用(urllib库)

目录 一、urllib库介绍 二、request模块使用 &#xff08;1&#xff09;urlopen ①data参数 ②timeout参数 &#xff08;2&#xff09;request &#xff08;3&#xff09;高级用法 ①验证 ②代理 ③Cookie 三、处理异常 ①URLError ②HTTPError 四、解析链接 ①urlparse ②…

LeetCode-10. 正则表达式匹配

LeetCode-10. 正则表达式匹配 问题分析算法描述程序代码CGo 问题分析 这道题的难点主要在于*号的匹配&#xff0c;这里记dp[i][j]表示s[1...i]和p[1...j]能否完成匹配&#xff0c;先根据特殊情况归纳总结&#xff1a; *号匹配 0 次&#xff0c;则dp[i][j] dp[i][j-2]*号匹配…

Mybatis源码解析4:获取Session、Mapper

Mybatis源码解析4&#xff1a;获取Session、Mapper 1.项目结构2. 源码分析2.1 获取Session DefaultSqlSessionFactory#openSession2.2 获取Mapper DefaultSqlSession#getMapper 1.项目结构 2. 源码分析 2.1 获取Session DefaultSqlSessionFactory#openSession private SqlSe…

利用人工智能算法解决内存垃圾回收问题

内存垃圾回收是计算机领域中的一个重要问题&#xff0c;可以利用人工智能算法解决此问题。常用的人工智能算法包括遗传算法、模拟退火算法、禁忌搜索算法等。 其中&#xff0c;遗传算法是一种基于自然选择和遗传进化的算法&#xff0c;可以用于优化问题。在内存垃圾回收中&…

Python实战演练之Python实现一个简单的天气查询应用

今天&#xff0c;晓白给大家分享Python实现一个简单的天气查询应用&#xff0c;帮助大家获取实时的天气信息&#xff0c;内容仅供学习交流。 首先&#xff0c;我们需要安装一个名为"requests"的Python库&#xff0c;它可以帮助我们发送HTTP请求并获取响应数据。你可…

Kernel(一):基础

本文主要讨论210的kernel基础相关知识。 内核驱动 驱动是内核中的硬件设备管理模块,工作在内核态,程序故障可能导致内核崩溃,程序漏洞会使内核不安全 根文件系统提供根目录,进程存放在根文件系统中,内核启动最后会装载根文件系统 应用程序不属于内核,…

1828_ChibiOS中的对象FIFO

全部学习汇总&#xff1a; GreyZhang/g_ChibiOS: I found a new RTOS called ChibiOS and it seems interesting! (github.com) 1. 最初的这个理解&#xff0c;当看到后面之后就知道有点偏差了。其实&#xff0c;这个传输就是一个单纯的FIFO而不是两个FIFO之间的什么操作。 2.…

去掉参数中第一个“,”

记录一下&#xff0c;前端传参中&#xff0c;传给我参数是“categoryIds: ,1731557494586241026,1731569816263311362,1731569855534579713,1731858335179223042,1731858366821052418” 但是后端&#xff0c;因为我的mybati是in查询&#xff0c;所以因为第一个是“,”。所以会导…