多视角多对学习方式的相关论文解读

目标解决问题:
1;地理分布的空气质量和天气站是异质的空间对象,它们监测的条件不同。现有的方法通常设计用于同质的空间对象,不适合联合预测。
2;观察误差累积:监测站的观测数据往往因传感器误差和环境干扰而噪声较大,联合建模可能会导致误差在时空域的累积。

必要操作:

一;由于两个数据来源于两种不同的数据类型,

用类型特定的转换层将异质观测投影到统一的特征空间中
转换过程:
-给定一个监测站 s i {s_i} si,其观测数据表示为 x i {x_i} xi
-根据监测站的类型(例如,空气质量监测站或天气监测站),选择对应的转换矩阵 W ψ ( i ) W_{\psi(i)} Wψ(i)
这里 ψ ( i ) {\psi(i)} ψ(i) 是一个映射函数,用于标识监测站的类型。
-使用转换矩阵 W ψ ( i ) {W_{\psi_{(i)}}} Wψ(i)对观测数据进行线性变换,将其投影到统一的特征空间中。变换后的特征向量表示为 x ~ i {\tilde{x}_i} x~i ,其计算公式如下:
x ~ i = W ψ ( i ) x i {\tilde{x}_i = W_{\psi(i)} x_i} x~i=Wψ(i)xi
其中, W ψ ( i ) {W_{\psi(i)}} Wψ(i)是一个可训练的权重矩阵,其维度为 ∣ x i ∣ × d {\lvert x_i \rvert \times d} xi×d,其中 ∣ x i ∣ {\lvert x_i \rvert} xi是原始观测数据的维度, d d d 是统一特征空间的维度。

二;在不同性质的预测模型里分配注意力权重

注意力机制通过在不同的站点之间分配不同的权重来预测,从而更好地捕捉不同站点之间的非线性相关性。
在异质图中,不同类型的监测站和它们的观测数据具有不同的特性,需要类型依赖的注意力机制来分别处理。

  • 假设有两个监测站 s i s_i si s j s_j sj,分别对应转换后的特征向量 x ~ i \tilde{x}_i x~i x ~ j \tilde{x}_j x~j
  • 它们的环境上下文特征分别为 c i c_i ci c j c_j cj
利用以上可以计算注意力评分

采用一种基于连接的注意力函数(Attention Function),计算站点 s i s_i si s j s_j sj之间的注意力得分。注意力得分反映了 s j s_j sj s i s_i si的重要性。

注意力得分的计算公式如下:
α i j = ∑ k ∈ N i exp ⁡ ( Attn ( x ~ i , x ~ k , c i , c k , d i k ) ) exp ⁡ ( Attn ( x ~ i , x ~ j , c i , c j , d i j ) ) {\alpha_{ij} = \sum_{k \in N_i} \frac{\exp(\text{Attn}(\tilde{x}_i, \tilde{x}_k, c_i, c_k, d_{ik}))}{\exp(\text{Attn}(\tilde{x}_i, \tilde{x}_j, c_i, c_j, d_{ij}))}} αij=kNiexp(Attn(x~i,x~j,ci,cj,dij))exp(Attn(x~i,x~k,ci,ck,dik))
其中, Attn ( ⋅ ) {\text{Attn}(\cdot)} Attn()表示注意力函数, N i r {N_{ir}} Nir是类型 r r r的邻居站点集合。

注意力函数(Attention Function):
使用一个连接操作(concatenation)结合特征向量和上下文特征,然后通过一个前馈神经网络计算注意力得分:
Attn ( x ~ i , x ~ j , c i , c j , d i j ) = LeakyReLU ( a T [ W θ x ~ i ∥ W θ x ~ j ∥ W ϕ c i ∥ W ϕ c j ∥ W δ d i j ] ) \text{Attn}(\tilde{x}_i, \tilde{x}_j, c_i, c_j, d_{ij}) = \text{LeakyReLU}\left(a^T \left[ W_\theta \tilde{x}_i \parallel W_\theta \tilde{x}_j \parallel W_\phi c_i \parallel W_\phi c_j \parallel W_\delta d_{ij} \right] \right) Attn(x~i,x~j,ci,cj,dij)=LeakyReLU(aT[Wθx~iWθx~jWϕciWϕcjWδdij])
其中, ∥ {\parallel} 表示连接操作, α \alpha α是一个可训练的权重向量, W θ , W ϕ , W δ W_\theta, \quad W_\phi, \quad W_\delta Wθ,Wϕ,Wδ是可训练的权重矩阵。

上下文感知异质图卷积操作: \textcolor{red}{上下文感知异质图卷积操作:} 上下文感知异质图卷积操作:
基于计算的注意力得分,定义上下文感知的异质图卷积操作来更新站点的表示:
x ~ i ( r ) = G C o n v ( x ~ i , r ) = σ ( ∑ j ∈ N i ( r ) α i j W r x ~ j ) {\tilde{x}_i^{(r)} = GConv(\tilde{x}_i, r) = \sigma\left(\sum_{j \in N_i^{(r)}} \alpha_{ij} W^r \tilde{x}_j\right)} x~i(r)=GConv(x~i,r)=σ(jNi(r)αijWrx~j)
其中, x ~ i ( r ) {\tilde{x}_i^{(r)}} x~i(r)是基于边类型 r r r聚合后的节点表示, σ \sigma σ是一个非线性激活函数, W r { W^r } Wr是边类型 r r r的可训练权重矩阵。
最终表示的组合: \textcolor{red}{最终表示的组合:} 最终表示的组合:
将不同边类型 r r r的聚合表示进行连接,形成最终的站点表示:
x ~ i ′ = ∑ r ∈ Ψ G C o n v ( x ~ i , r ) {\tilde{x}_i' = \sum_{r \in \Psi} GConv(\tilde{x}_i, r)} x~i=rΨGConv(x~i,r)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/48903.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何在 Nginx 中配置访问日志的格式?

文章目录 如何在 Nginx 中配置访问日志的格式?一、Nginx 访问日志的重要性二、Nginx 访问日志的默认格式三、自定义 Nginx 访问日志格式四、配置访问日志的存储路径五、实际应用场景与示例场景一:电商网站场景二:多语言网站场景三&#xff1a…

Win10+Docker配置TensorRT环境

1.Docker下载和安装 Docker下载:Install Docker Desktop on Windows Docker安装: 勾选直接下一步就行,安装完成后需要电脑重启。 重启后,选择Accept—>Continue without signing in—>skip survey. 可以进入下面页面,并且左下角是绿色的,显示e…

用Python写一个视频采集脚本,对某网站进行批量采集

最近某牙上又出现一批高质量视频&#xff0c;听说删的很快&#xff0c;还好我会Python&#xff0c;赶紧采集下来保存&#xff01; 准备工作 环境使用 Python 3.10 解释器 Pycharm 编辑器 模块使用 requests >>> 数据请求模块 re <正则表达式模块> os <文…

unittest框架和pytest框架区别及示例

unittest框架和pytest框架区别及示例 类型unittest框架pytest框架unittest框架示例pytest框架示例安装python内置的一个单元测试框架,标准库&#xff0c;不需要安装第三方单元测试库&#xff0c;需要安装使用时直接引用 import unittest安装命令&#xff1a;pip3 install pyte…

matlab 声音信号希尔伯特黄变换

1、内容简介 略 91-可以交流、咨询、答疑 2、内容说明 略 Hilbert-Huang变换&#xff08;HHT&#xff09;是一种基于经验的数据分析方法 方法。它的扩展基础是自适应的&#xff0c;因此它可以从非线性和非平稳过程中产生具有物理意义的数据表示。这个 适应性的优势是有代价…

加入更多的功能,我需要随便输入一个 我今天的工作 ,它能自动分类到 其中一个,例如 “编程” 它会自动分类到 工作

为了实现更智能的分类&#xff0c;我们需要改进分类器&#xff0c;使其能够处理用户输入的任意文本&#xff0c;并自动分类到相应的类别。可以通过增加训练数据并改进数据预处理和分类器训练来实现这一点。 改进步骤 增加训练数据&#xff1a;增加更多样化的训练数据&#xf…

算法——双指针(day4)

15.三数之和 15. 三数之和 - 力扣&#xff08;LeetCode&#xff09; 题目解析&#xff1a; 这道题目说是三数之和&#xff0c;其实这和我们之前做过的两数之和是一个规律的~无非就是我们需要实时改动target的值。先排好序&#xff0c;然后固定一个数取其负值作target&#xf…

【MySQL进阶之路 | 高级篇】GROUP BY优化,分页查询优化

1. GROUP BY优化 group by使用的索引的原则几乎跟order by一致&#xff0c;即使没有过滤条件用到索引&#xff0c;也可以直接使用索引。 group by先排序再分组&#xff0c;遵循索引建立的最佳左前缀原则 当无法使用索引列&#xff0c;增大max_length_for_sort_data和sort_buf…

【Linux 驱动】IMX6ULL eLCDIF驱动

1. eLCDIF设备树 lcdif: lcdif021c8000 {compatible "fsl,imx6ul-lcdif", "fsl,imx28-lcdif"; //属性reg <0x021c8000 0x4000>; //起始地址 地址大小interrupts <GIC_SPI 5 IRQ_TYPE_LEVEL_HIGH>; …

Linux存储管理-逻辑卷管理(LVM)

逻辑卷管理&#xff08;LVM&#xff09;流程 物理磁盘/分区 -> 物理卷&#xff08;PV&#xff09;-> 加入卷组&#xff08;VG&#xff09;-> 卷组调配空间&#xff0c;制作逻辑卷&#xff08;LV&#xff09;-> 格式化 -> 挂载 -> 使用 为什么需要逻辑卷管理…

Web 性能入门指南-3.5 优化单页应用程序 (SPA)

&#x1f338; 欢迎来到前端后花园&#xff01;这里是一个温馨的小角落&#xff0c;专为热爱前端技术的你打造。没有华丽的辞藻&#xff0c;只有真诚的分享。希望你能在这里找到实用的内容&#xff0c;学到新知识&#xff0c;同时也欢迎你畅所欲言&#xff0c;分享你的思考和见…

【Linux 13】文件系统

文章目录 &#x1f308; 一、前言&#x1f308; 二、文件操作的系统接口⭐ 1. 打开文件 open⭐ 2. 关闭文件 close⭐ 3. 写入文件 write⭐ 4. 读取文件 read &#x1f308; 三、文件描述符⭐ 1. 文件描述符介绍⭐ 2. 提前被分配的文件描述符 0 1 2⭐ 3. 文件描述符的分配规则 &…

浏览器插件利器--allWebPluginV2.0.0.16-beta版发布

allWebPlugin简介 allWebPlugin中间件是一款为用户提供安全、可靠、便捷的浏览器插件服务的中间件产品&#xff0c;致力于将浏览器插件重新应用到所有浏览器。它将现有ActiveX控件直接嵌入浏览器&#xff0c;实现插件加载、界面显示、接口调用、事件回调等。支持Chrome、Firefo…

minio安装小计一则

安装minio并且使用api方式对文件进行操作 本文使用docker安装 docker pull minio/minio docker pull minio/mc &#xff08;mc为minio文件运行命令行工具&#xff09; 使用如下命令运行Minio服务器容器&#xff1a; docker run -p 9000:9000 -p 9001:9001 --name minio-…

【深度学习】大模型GLM-4-9B Chat ,微调与部署

下载好东西&#xff1a; 启动容器环境: docker run -it --gpus all --net host --shm-size8g -v /ssd/xiedong/glm-4-9b-xd:/ssd/xiedong/glm-4-9b-xd kevinchina/deeplearning:pytorch2.3.0-cuda12.1-cudnn8-devel-yolov8train bashpip install typer tiktoken numpy1.2…

Web开发:ASP.NET CORE使用Ajax定时获取后端数据

一、低难度&#xff08;刷新a标签&#xff09; 1、需求 给a标签每15s刷新一次&#xff0c;显示最新的时间&#xff08;时间必须由后端获取&#xff09; 应该如何操作呢 2、代码 后端 using Microsoft.AspNetCore.Mvc; using Microsoft.AspNetCore.Mvc.RazorPages; using Mi…

解决mysql5.0,Navicat for MySQL,IntelliJ IDEA之间中文乱码

使用软件版本 jdk-8u171-windows-x64 ideaIU-2021.1.3 mysql-essential-5.0.87-win32 navicat8_mysql_cs 这个问题我调试了好久&#xff0c;网上的方法基本上都试过了&#xff0c;终于是解决了。 三个地方结果都不一样。 方法一 首先大家可以尝试下面这种方法&#xff1a…

记录 cocos 开发问题 ,微信 wx.xxx函数 报找不到名称“wx”

今天写微信排行榜遇到 问题分享一下。 目前&#xff0c;微信、百度 和 抖音 小游戏这些平台为了保护其社交关系链数据&#xff0c;增加了 开放数据域 的概念&#xff0c;这是一个单独的游戏执行环境。开放数据域中的资源、引擎、程序&#xff0c;都和主游戏&#xff08;主域&a…

Vue-Plugin-HiPrint 打印设计

Vue-Plugin-HiPrint 是一个Vue.js的插件&#xff0c;旨在提供一个简单而强大的打印解决方案。通过 Vue-Plugin-HiPrint&#xff0c;您可以轻松地在Vue.js应用程序中实现高度定制的打印vue-plugin-hiprinthiprint.io

(秋招复习)自动驾驶与机器人中的SLAM技术(二)

秋招复习之--自动驾驶与机器人中的SLAM技术2 第五章 基础点云处理激光传感器与点云的数学模型最近邻问题准确率和召回率暴力最近邻栅格和体素方法二分树与K-d树四叉树和八叉树 拟合问题平面拟合直线拟合 第六章 2D激光定位与建图扫描匹配算法点到点的scan matching点到线的scan…