【数值计算方法(黄明游)】解线性代数方程组的迭代法(一):向量、矩阵范数与谱半径【理论到程序】

文章目录

  • 一、向量、矩阵范数与谱半径
    • 1、向量范数
    • 2、矩阵范数
      • a. 矩阵的范数
      • b. 常见的矩阵范数
        • 相容范数
        • 算子范数
    • 3、谱半径
    • 4、知识点总结
      • 1. 向量范数
      • 2. 矩阵范数
      • 3. 谱半径
    • 5、计算例题

  注意:速读可直接跳转至“4、知识点总结”及“5、计算例题”部分

一、向量、矩阵范数与谱半径

  当涉及到线性代数和矩阵理论时,向量、矩阵范数以及谱半径是非常重要的概念,下面将详细介绍这些内容:

1、向量范数

a. 定义及性质

  考虑一个 n n n 维向量 x x x,定义一个实值函数 N ( x ) N(x) N(x),记作 N ( x ) = ∥ x ∥ N(x) = \|x\| N(x)=x。如果 N ( x ) N(x) N(x) 满足以下条件,那么它就是 x x x 上的一个向量范数(或向量模):

  1. 非负性: N ( x ) ≥ 0 N(x) \geq 0 N(x)0,且 N ( x ) = 0 N(x) = 0 N(x)=0当且仅当 x x x 是零向量。

∥ x ∥ ≥ 0 \|x\| \geq 0 x0 ∥ x ∥ = 0 当且仅当  x = 0 \|x\| = 0 \text{ 当且仅当 } x = \mathbf{0} x=0 当且仅当 x=0

  1. 齐次性: 对于任意实数 α \alpha α(或复数),有 N ( α x ) = ∣ α ∣ ⋅ N ( x ) N(\alpha x) = |\alpha| \cdot N(x) N(αx)=αN(x)

∥ α x ∥ = ∣ α ∣ ⋅ ∥ x ∥ \| \alpha x \| = |\alpha| \cdot \|x\| αx=αx

  1. 三角不等式: 对于任意向量 x x x y y y,有 N ( x + y ) ≤ N ( x ) + N ( y ) N(x + y) \leq N(x) + N(y) N(x+y)N(x)+N(y)

    ∥ x + y ∥ ≤ ∥ x ∥ + ∥ y ∥ \|x + y\| \leq \|x\| + \|y\| x+yx+y

补充解释
  • 非负性: 范数是非负的,即它不会为负值。当且仅当向量是零向量时,范数为零。

  • 齐次性: 范数在缩放(乘以常数)下保持一致,即放大或缩小向量会按比例影响其范数。

  • 三角不等式: 范数的三角不等式表示通过两边之和的方式度量两个向量之间的距离。它确保了向量空间中的“三角形”不会变得扭曲。

范数差

  由上述三角不等式可推导出: ∥ x − y ∥ ≥ ∣ ∥ x ∥ − ∥ y ∥ ∣ \|x - y\| \geq |\|x\| - \|y\|| xy∣∥xy∥∣

  • 推导过程
    • 根据向量范数的三角不等式,对于任意向量 x x x y y y,有: ∥ x − y ∥ ≤ ∥ x ∥ + ∥ y ∥ \|x - y\| \leq \|x\| + \|y\| xyx+y 其中

b. 常见的向量范数

l 1 l_1 l1 l 2 l_2 l2 l ∞ l_\infty l 范数

  对于一个 n n n维向量 x = ( x 1 , x 2 , … , x n ) x = (x_1, x_2, \ldots, x_n) x=(x1,x2,,xn)

  1. l 1 l_1 l1 范数:
    ∥ x ∥ 1 = ∑ i = 1 n ∣ x i ∣ \|x\|_1 = \sum_{i=1}^{n} |x_i| x1=i=1nxi

  2. l 2 l_2 l2 范数:
    ∥ x ∥ 2 = ∑ i = 1 n x i 2 \|x\|_2 = \sqrt{\sum_{i=1}^{n} x_i^2} x2=i=1nxi2

  3. l ∞ l_\infty l 范数:
    ∥ x ∥ ∞ = max ⁡ 1 ≤ i ≤ n ∣ x i ∣ \|x\|_\infty = \max_{1 \leq i \leq n} |x_i| x=1inmaxxi

性质
  • 非负性:

    ∥ x ∥ 1 , ∥ x ∥ 2 , ∥ x ∥ ∞ ≥ 0 \|x\|_1, \|x\|_2, \|x\|_\infty \geq 0 x1,x2,x0

  • 齐次性: 对于每个 x x x 和标量 α \alpha α,这三种范数都满足齐次性,即
    ∥ α x ∥ 1 = ∣ α ∣ ⋅ ∥ x ∥ 1 \|\alpha x\|_1 = |\alpha| \cdot \|x\|_1 αx1=αx1 ∥ α x ∥ 2 = ∣ α ∣ ⋅ ∥ x ∥ 2 \|\alpha x\|_2 = |\alpha| \cdot \|x\|_2 αx2=αx2 ∥ α x ∥ ∞ = ∣ α ∣ ⋅ ∥ x ∥ ∞ \|\alpha x\|_\infty = |\alpha| \cdot \|x\|_\infty αx=αx

  • 三角不等式: 对于每对向量 x x x y y y,这三种范数都满足三角不等式:
    ∥ x + y ∥ 1 ≤ ∥ x ∥ 1 + ∥ y ∥ 1 \|x + y\|_1 \leq \|x\|_1 + \|y\|_1 x+y1x1+y1 ∥ x + y ∥ 2 ≤ ∥ x ∥ 2 + ∥ y ∥ 2 \|x + y\|_2 \leq \|x\|_2 + \|y\|_2 x+y2x2+y2 ∥ x + y ∥ ∞ ≤ ∥ x ∥ ∞ + ∥ y ∥ ∞ \|x + y\|_\infty \leq \|x\|_\infty + \|y\|_\infty x+yx+y

关系
  • l 1 l_1 l1 范数、 l 2 l_2 l2 范数、 l ∞ l_\infty l 范数之间存在关系:
    ∥ x ∥ ∞ ≤ ∥ x ∥ 2 ≤ n ∥ x ∥ ∞ \|x\|_\infty \leq \|x\|_2 \leq \sqrt{n}\|x\|_\infty xx2n x ∥ x ∥ ∞ ≤ ∥ x ∥ 1 ≤ n ∥ x ∥ ∞ \|x\|_\infty \leq \|x\|_1 \leq n\|x\|_\infty xx1nx

2、矩阵范数

a. 矩阵的范数

  矩阵的范数是定义在矩阵空间上的实值函数,用于度量矩阵的大小或度量。对于一个矩阵 A A A,矩阵范数通常表示为 N ( A ) N(A) N(A) ∣ ∣ A ∣ ∣ ||A|| ∣∣A∣∣,满足以下条件:

  1. 非负性(Non-negativity):对于任意矩阵 A A A,有 N ( A ) ≥ 0 N(A) \geq 0 N(A)0,且等号成立当且仅当 A A A 是零矩阵。

  2. 齐次性(Homogeneity):对于任意标量 k k k 和矩阵 A A A,有 N ( k A ) = ∣ k ∣ ⋅ N ( A ) N(kA) = |k| \cdot N(A) N(kA)=kN(A)

  3. 三角不等式(Triangle Inequality):对于任意两个矩阵 A A A B B B,有 N ( A + B ) ≤ N ( A ) + N ( B ) N(A + B) \leq N(A) + N(B) N(A+B)N(A)+N(B)

b. 常见的矩阵范数

相容范数
  • 对于任意两个矩阵 A A A B B B,有 ∣ ∣ A B ∣ ∣ ≤ ∣ ∣ A ∣ ∣ ⋅ ∣ ∣ B ∣ ∣ ||AB|| \leq ||A|| \cdot ||B|| ∣∣AB∣∣∣∣A∣∣∣∣B∣∣,这被称为相容性质。
  • 对于任意矩阵 A A A 和向量 x x x,有 ∣ ∣ A x ∣ ∣ ≤ ∣ ∣ A ∣ ∣ ⋅ ∣ ∣ x ∣ ∣ ||Ax|| \leq ||A|| \cdot ||x|| ∣∣Ax∣∣∣∣A∣∣∣∣x∣∣,这也是相容性质。
算子范数

在这里插入图片描述

具体而言,常用的算子范数是 p p p范数,其中 p p p 是一个实数。

  • p = ∞ p = \infty p= 时,算子范数被定义为矩阵行的绝对值之和的最大值。即,
    ∣ ∣ A ∣ ∣ ∞ = max ⁡ 1 ≤ i ≤ n ∑ j = 1 n ∣ a i j ∣ ||A||_\infty = \max_{1 \leq i \leq n} \sum_{j=1}^n |a_{ij}| ∣∣A=1inmaxj=1naij
  • p = 1 p = 1 p=1 时,算子范数被定义为矩阵列的绝对值之和的最大值。即,
    ∣ ∣ A ∣ ∣ 1 = max ⁡ 1 ≤ j ≤ n ∑ i = 1 n ∣ a i j ∣ ||A||_1 = \max_{1 \leq j \leq n} \sum_{i=1}^n |a_{ij}| ∣∣A1=1jnmaxi=1naij
  • p = 2 p = 2 p=2 时,算子范数被定义为 A A A 的谱半径。谱半径是矩阵的特征值的按模最大值,表示为 p ( A ) = max ⁡ ∣ λ ∣ p(A) = \max |\lambda| p(A)=maxλ其中 λ \lambda λ A A A 的特征值。

3、谱半径

  待完善……

4、知识点总结

1. 向量范数

  • l 1 l_1 l1 范数(曼哈顿范数)
    ∣ ∣ x ∣ ∣ 1 = ∑ i = 1 n ∣ x i ∣ ||x||_1 = \sum_{i=1}^{n} |x_i| ∣∣x1=i=1nxi

  • l 2 l_2 l2 范数(欧几里得范数)
    ∣ ∣ x ∣ ∣ 2 = ∑ i = 1 n x i 2 ||x||_2 = \sqrt{\sum_{i=1}^{n} x_i^2} ∣∣x2=i=1nxi2

  • l ∞ l_\infty l 范数(无穷范数)
    ∣ ∣ x ∣ ∣ ∞ = max ⁡ 1 ≤ i ≤ n ∣ x i ∣ ||x||_\infty = \max_{1 \leq i \leq n} |x_i| ∣∣x=1inmaxxi

2. 矩阵范数

  • 弗罗贝尼乌斯范数(矩阵中每项数的平方和的开方值)
    ∣ ∣ A ∣ ∣ F = ∑ i = 1 n ∑ j = 1 n ∣ a i j ∣ 2 ||A||_F = \sqrt{\sum_{i=1}^{n} \sum_{j=1}^{n} |a_{ij}|^2} ∣∣AF=i=1nj=1naij2
  • 算子范数
    • 行和范数:当 p = ∞ p = \infty p= 时,算子范数被定义为矩阵中各行元素按绝对值求和所得的最大和数,即,
      ∣ ∣ A ∣ ∣ ∞ = max ⁡ 1 ≤ i ≤ n ∑ j = 1 n ∣ a i j ∣ ||A||_\infty = \max_{1 \leq i \leq n} \sum_{j=1}^n |a_{ij}| ∣∣A=1inmaxj=1naij
    • 列和范数:当 p = 1 p = 1 p=1 时,算子范数被定义为
      矩阵列的绝对值之和的最大值。即,
      ∣ ∣ A ∣ ∣ 1 = max ⁡ 1 ≤ j ≤ n ∑ i = 1 n ∣ a i j ∣ ||A||_1 = \max_{1 \leq j \leq n} \sum_{i=1}^n |a_{ij}| ∣∣A1=1jnmaxi=1naij
    • p = 2 p = 2 p=2 时,算子范数即 A A A 的谱半径,谱半径是矩阵的特征值的按模最大值
      ∣ ∣ A ∣ ∣ 2 = λ max ( A T A ) = p ( A ) = max ⁡ ∣ λ ∣ ||A||_2 = \sqrt{\lambda_{\text{max}}(A^TA)} = p(A) = \max |\lambda| ∣∣A2=λmax(ATA) =p(A)=maxλ

3. 谱半径

  谱半径是矩阵的特征值按模最大的那个值,对于一个 n × n n \times n n×n 的矩阵 A A A,其谱半径 p ( A ) p(A) p(A) 定义为:

p ( A ) = max ⁡ { ∣ λ ∣ ∣ λ 是  A 的特征值 } p(A) = \max \{|\lambda| \ | \ \lambda \text{ 是 } A \text{ 的特征值}\} p(A)=max{λ  λ  A 的特征值}

5、计算例题

对于矩阵 A = [ 2 1 − 1 4 ] A = \begin{bmatrix} 2 & 1 \\ -1 & 4 \end{bmatrix} A=[2114]计算其各种范数:

∥ A ∥ 1 = max ⁡ j ∑ i ∣ a i j ∣ = max ⁡ { 3 , 5 } = 5 \|A\|_1 = \max_j \sum_i |a_{ij}| = \max\{3, 5\} = 5 A1=jmaxiaij=max{3,5}=5

∥ A ∥ ∞ = max ⁡ i ∑ j ∣ a i j ∣ = max ⁡ { 3 , 5 } = 5 \|A\|_\infty = \max_i \sum_j |a_{ij}| = \max\{3, 5\} = 5 A=imaxjaij=max{3,5}=5

∥ A ∥ 2 = λ max ( A T A ) \|A\|_2 = \sqrt{\lambda_{\text{max}}(A^TA)} A2=λmax(ATA)

计算 A T A A^TA ATA 的特征值,找到最大特征值 λ max \lambda_{\text{max}} λmax

A T A = [ 5 − 2 − 2 17 ] A^TA = \begin{bmatrix} 5 & -2 \\ -2 & 17 \end{bmatrix} ATA=[52217]

特征值为 $\lambda = $。

∥ A ∥ 2 = λ max = \|A\|_2 = \sqrt{\lambda_{\text{max}}} = \sqrt{} A2=λmax =

  1. 谱半径:

    p ( A ) = max ⁡ { ∣ λ ∣ } p(A) = \max \{|\lambda|\} p(A)=max{λ}

    A A A 求特征值,找到最大的绝对值。

  • 1范数:5
  • ∞范数:5
  • 2范数:
  • 谱半径:

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/208542.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Mybatis XML 多表查询

这篇需结合 <<Mybatis XML 配置文件>>那一篇博客一起看 工作中尽量避免使用多表查询,尤其是对性能要求非常高的项目 我们之前建了个用户表(代码在Mybatis XML配置文件那篇博客里),这次再建一个文章表,代码如下 : -- 创建⽂章表 DROP TABLE IF EXISTS articleinf…

vue中组件传值方法

父组件给子组件传值 一、 1.在子组件标签中写入父组件传递数据 向下传递prop 2.在子组件内声明props选项接收父组件传递的数据 props:[,,] 父组件&#xff1a; <Header :msgmsg ></Header> 子组件&#xff1a; props:[msg], 二、 provide i…

AI 训练框架:Pytorch TensorFLow MXNet Caffe ONNX PaddlePaddle

https://medium.com/jit-team/bridge-tools-for-machine-learning-frameworks-3eb68d6c6558

基于jsonrpc4j实现JSON-RPC over HTTP(服务端集成Spring Boot)

1.JSON-RPC说明 JSON-RPC是一个无状态且轻量级的远程过程调用(RPC)协议。 它主要定义了一些数据结构及其相关的处理规则。 它运行时可以基于tcp(socket),http等不同的消息传输方式&#xff0c; 即它不关心底层传输方式的细节。 它使用JSON&#xff08;RFC 4627&#xff09;作为…

Tabbar切换效果(vant)

route 是否开启路由模式 <template><div class"layout-page"><!-- 二级路由出口 --><router-view></router-view><van-tabbar route><van-tabbar-item to"/home">首页<!-- 图标切换为active是高亮 -->&…

JAVA实现敏感词高亮或打码过滤:sensitive-word

练手项目中实现发表文章时检测文章是否带有敏感词&#xff0c;以及对所有敏感词的一键过滤功能 文章目录 效果预览实现步骤 效果预览 随便复制一篇内容到输入框 机器审核文章存在敏感词&#xff0c;弹消息提示并进入人工审核阶段&#xff08;若机器审核通过&#xff0c;则无需审…

eclipse的日志文件放在什么位置

eclipse的日志文件放在<workspace的目录>/.metadata目录下面&#xff0c;例如&#xff1a;

html中一个div中平均一行分配四个盒子,可展开与收起所有的盒子

html中一个div中平均一行分配四个盒子&#xff0c;可展开与收起所有的盒子 1.截图显示部分 2.代码展示部分 <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8"><meta name"viewport" content"wid…

12.8_黑马数据结构与算法笔记Java

目录 044 递归 e04 冒泡排序2 044 递归 e05 插入排序1 044 递归 e05 插入排序2 045 多路递归 斐波那契 046 多路递归 斐波那契 时间复杂度 047 多路递归 斐波那契 兔子问题 048 多路递归 斐波那契 青蛙跳台阶 049 递归 优化 记忆法 050 递归 爆栈问题 051 递归 尾调用…

Linux驱动开发一

一、Linux驱动开发与裸机开发的区别 1、开发思维区别 裸机驱动&#xff1a; &#xff08;1&#xff09;底层&#xff0c;跟寄存器打交道&#xff0c;有些MCU提供了库 Linux驱动&#xff1a; &#xff08;1&#xff09;Linux下驱动开发直接操作寄存器不现实 &#xff08;2…

【MATLAB源码-第97期】基于matlab的能量谷优化算法(EVO)机器人栅格路径规划,输出做短路径图和适应度曲线。

操作环境&#xff1a; MATLAB 2022a 1、算法描述 能量谷优化算法&#xff08;Energy Valley Optimization, EVO&#xff09;是一种启发式优化算法&#xff0c;灵感来源于物理学中的“能量谷”概念。它试图模拟能量在不同能量谷中的转移过程&#xff0c;以寻找最优解。 在EVO…

Springboot+FastJson实现解析第三方http接口json数据为实体类(时间格式化转换、字段包含中文)

场景 若依前后端分离版手把手教你本地搭建环境并运行项目&#xff1a; 若依前后端分离版手把手教你本地搭建环境并运行项目_前后端分离项目本地运行-CSDN博客 在上面搭建SpringBoot项目的基础上&#xff0c;并且在项目中引入fastjson、hutool、lombok等所需依赖后。 系统需…

unity 2d 入门 飞翔小鸟 小鸟跳跃 碰撞停止挥动翅膀动画(十)

1、切换到动画器 点击make transition和exit关联起来 2、设置参数 勾选掉Has Exit Time 3、脚本给动画器传参 using System.Collections; using System.Collections.Generic; using UnityEngine;public class Fly : MonoBehaviour {//获取小鸟&#xff08;刚体&#xff09;p…

JVM常见垃圾回收器

串行垃圾回收器 Serial和Serial Old串行垃圾回收器&#xff0c;是指使用单线程进行垃圾回收&#xff0c;堆内存较小&#xff0c;适合个人电脑 Serial作用于新生代&#xff0c;采用复制算法 Serial Old作用于老年代&#xff0c;采用标记-整理算法 垃圾回收时&#xff0c;只有…

Windows 系统,TortoiseSVN 无法修改 Log 信息解决方法

使用SVN提交版本信息时&#xff0c;注释内容写的不全。通过右键TortoiseSVN的Show log看到提交的的注释&#xff0c;右键看到Edit log message的选项&#xff0c;然而提交后却给出错误提示&#xff1a; Repository has not been enabled to accept revision propchanges; ask …

【PHP】php发送邮箱验证码格式美化,样式美化

效果展示&#xff1a; 格式美化前 格式美化后 代码 大多数框架都自带有封装好的发送email方法&#xff0c;就不多赘述&#xff0c;主要写格式&#xff1a; <? php// 验证码过期时间 $expire 120; // 发件人邮箱 $from_email xx163.com; // 收件人 $to_email to163.com…

数据分析基础之《matplotlib(5)—直方图》

一、直方图介绍 1、什么是直方图 直方图&#xff0c;形状类似柱状图却有着与柱状图完全不同的含义。直方图牵涉统计学的概念&#xff0c;首先要对数据进行分组&#xff0c;然后统计每个分组内数据元的数量。在坐标系中&#xff0c;横轴标出每个组的端点&#xff0c;纵轴表示频…

无人机巡山护林,林业无人机智能助力绿色守护

随着全球环保意识的不断提高&#xff0c;无人机巡山护林已经成为解决森林巡检难题的一种独特而高效的方式。在我国&#xff0c;各地正积极探索无人机在森林防火、病虫害监测以及生态调查等领域的创新应用。随着无人机技术的不断演进&#xff0c;其在推动森林保护和可持续发展方…

【Docker】进阶之路:(九)Docker网络

【Docker】从零开始&#xff1a;19.Docker网络 Docker网络模式简介bridge网络模式host网络模式none网络模式container网络模式user-defined网络模式1.创建自定义的bridge网络2.使用自定义网络 高级网络配置docker network命令 为什么要了解容器的网络模式? 首先&#xff0c;容…

工业级路由器在风力发电场的远程监控技术

工业级路由器在风力发电场的远程监控技术方面具有重要的应用意义。风力发电场通常由分布在广阔地区的风力发电机组组成&#xff0c;需要进行实时监测、数据采集和远程管理。工业级路由器作为网络通信设备&#xff0c;能够提供稳定可靠的网络连接和多种远程管理功能&#xff0c;…