交叉注意力一脚踹进医学图像分割!新成果精度、效率表现SOTA

为解决传统方法的局限性,研究者们提出了将交叉注意力机制应用于医学图像分割。

交叉注意力机制能更有效地整合来自不同模态/尺度的特征,让模型同时捕捉全局和局部信息,加速学习并减少干扰。这样不仅可以提高分割的精度,还可以减少训练时间,提高分割的效率。

因此这种策略成为了目前医学图像领域的重要研究方向,为我们实现更高的综合性能提供了新的解决思路。

本次分享8种最新的用交叉注意力做医学图像分割的创新方案,开源代码已附,论文创新点做了简单提炼,供大家参考学习寻找灵感。

论文原文以及开源代码需要的同学看文末

Dual Cross-Attention for Medical Image Segmentation

方法:论文介绍了一种用于医学图像分割的基于U-Net的架构中加强跳跃连接的Dual Cross-Attention (DCA)方法。DCA包括通道交叉注意力(CCA)和空间交叉注意力(SCA)模块,分别在通道和空间维度上捕捉远距离依赖关系。

创新点:

  • 提出了Dual Cross-Attention (DCA)机制,通过顺序捕捉通道和空间维度上的长程依赖关系,加强了U-Net-based架构中的跳跃连接。

  • 在融合策略上,通过比较三种融合策略(求和、串联和顺序融合),发现顺序融合策略的性能最好。顺序融合策略先进行CCA,再进行SCA,能够更好地提升性能。

  • 在补丁嵌入方面,通过比较简单的2D平均池化和卷积补丁嵌入,发现2D平均池化在性能上稍微优于卷积补丁嵌入。此外,卷积补丁嵌入需要额外的参数,而2D平均池化是无参数的,并且与1×1深度卷积投影结合时效果更好。

BEFUnet: A Hybrid CNN-Transformer Architecture for Precise Medical Image Segmentation

方法:本文提出了一种新的医学图像分割结构BEFUnet,BEFUnet包含三个主要模块:局部交叉注意力特征融合模块、双层融合模块和双分支编码器,实现了边缘分割的鲁棒性和精确性。BEFUnet模型能够准确地分割边界模糊、不规则和受干扰的器官区域,并具有强大的泛化能力。

创新点:

  • 引入了像素差异卷积的概念,将传统边缘编码器和深度CNN的优势结合起来。这种整合使得边缘分割更加稳健和精确。

  • 提出了一种名为BEFUnet的新型医学图像分割结构,该结构提取了身体和边缘特征,并有效地将它们集成在一起以增强分割性能。

CKD-TransBTS: Clinical Knowledge-Driven Hybrid Transformer With Modality-Correlated Cross-Attention for Brain Tumor Segmentation

方法:论文提出了一种新颖的基于临床知识驱动的脑肿瘤分割模型CKD-TransBTS。模型结构由双分支混合编码器和特征校准解码器组成。设计了一个具有所提出的模态相关交叉注意力块的双分支混合编码器来提取多模态图像特征。双分支混合编码器利用Transformer和CNN的优势,通过Modality-Correlated Cross-Attention模块进行跨模态特征提取。

创新点:

  • 提出了一种根据影像学原理对不同MRI序列进行重新分组的方法,将相关的图像模态组合在一起,使模型能够学习到更好的跨模态特征表示。

  • 提出了一种混合编码器的设计,将Transformer和CNN的优势相结合,通过引入卷积层在Transformer模型中实现归纳偏置和更好的局部特征表示。

  • 设计了一种特征校准解码器,通过Trans&CNN特征校准模块来弥合Transformer和CNN提取的特征之间的差距,从而获得更精确的分割结果。

CSAM: A 2.5D Cross-Slice Attention Module for Anisotropic Volumetric Medical Image Segmentation

方法:论文比较不同模型在医学图像分割中的性能,并提出了一种新的2.5D交叉切片注意机制(CSAM),该机制在前列腺分区分割中表现出优越性能,并且具有更少的参数。

创新点:

  • 引入了CSAM,该机制可以有效地学习和利用3D图像体积中的跨切片信息,从而改善体积分割的性能。

  • CSAM可以方便地插入到现有的2D CNN网络中,实现体积图像分割。通过对前列腺、胎盘和心脏MRI分割的广泛验证研究,证明了CSAM模型在性能上优于相应的2D、3D和之前最先进的2.5D方法。

 

关注下方《学姐带你玩AI》🚀🚀🚀

回复“注意力医学”获取全部论文+代码

码字不易,欢迎大家点赞评论收藏

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/31764.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

深度解析SD-WAN在企业组网中的应用场景

在现代企业快速发展的网络环境中,SD-WAN技术不仅是实现企业各站点间高效连接的关键,也是满足不同站点对互联网、SaaS云应用和公有云等多种业务需求的理想选择。本文将从企业的WAN业务需求出发,对SD-WAN的组网场景进行全面解析,涵盖…

动态库、静态库制作与使用

动态库 在linux中动态库以lib为前缀,so为后缀,中间是库的名字,可自己定义,即libxxx.so在windows中动态库以lib为前缀,dll为后缀,中间名字自定义,即libxxx.dll生成动态链接库直接使用gcc命令,并且需要添加-fPIC(-fpic)以及-shared参数 -fPIC(-fpic)参数作用:使得gcc生成…

日元预计明年开始上涨

被称为“日元先生”的前大藏省(现财务省)财务官榊原英资预测,美元兑日元汇率将在今年底或2025年初逐步升至130。他认为,通缩时代已经过去,通货膨胀即将来临。 《日本经济新闻》6月5日报道,日本财务省于5月3…

机器人----移动

机器人的移动需要指定移动的对象,即目标坐标系。 移动对象坐标系 一般在机器人语言中,通过t参数指定移动的坐标系,移动的坐标系可以直接指定为flange坐标系,或者基于flange坐标系计算的工具(tcp)坐标系。总之,这个移动…

webkit 的介绍

WebKit 是一个开源的网页浏览器引擎,它是 Safari 浏览器和许多其他应用程序的基础。WebKit 最初由苹果公司开发,并在2005年作为开源项目发布。WebKit 的核心组件包括 WebCore 和 JavaScriptCore。以下是 WebKit 的详细介绍: ### WebKit 的主…

oracle12c到19c adg搭建(五)dg搭建后进行切换19c进行数据字典升级

一、备库切主库升级 12c切换为19c主库的时候是由低版本到高版本所以cdb和pdb的数据字典需要进行升级才可以让数据与软件版本兼容。 1.1切换 SQL> alter database recover managed standby database finish; Database altered. SQL> alter database commit to switcho…

javascript 中字符串转化utf8字节数组, 然后在将字节数组转化十六进制字符串

https://www.cnblogs.com/han-guang-xue/p/14386666.html 1. Buffer 是用来处理流操作的 2. 字符串转化utf8字节数组, 然后在将字节数组转化十六进制字符串 /** 将字符串转化为utf-8字节 */ function ToUTF8(str) {var result new Array();var k 0;for (var i 0; i < …

无线桥接两个路由器 实现全屋网络全覆盖

由于房屋结构、面积等因素&#xff0c;单个路由器的信号很难覆盖整个家。这时&#xff0c;我们可以通过无线桥接的方式&#xff0c;将两个路由器连接成一个网络&#xff0c;实现家庭网络的全面覆盖。 一、准备工作 在进行无线桥接之前&#xff0c;我们需要准备以下设备&#…

prior knowledge 先验知识

先验知识&#xff08;Prior Knowledge&#xff09;是指在进行某项研究、分析或决策之前已经掌握的知识或信息。在统计学、机器学习和人工智能中&#xff0c;先验知识具有重要作用&#xff0c;尤其是在构建和优化模型时。 先验知识在统计学中的应用 在贝叶斯统计中&#xff0c…

阿里云使用域名访问部署网站【2024 详细版】

目录 一、注册域名 1.创建信息模板 2.查询注册域名 二、域名设置 1.SSL证书 2.域名解析 3.宝塔设置 一、注册域名 1.创建信息模板 点击右上角【三】-【域名】-【信息模板】-【创建信息模板】- 填写信息 模板分为个人和企业两种&#xff0c;根据情况进行创建即可&…

Per 语言入门学习

语言学习对于很多人来说是一个很有挑战性的任务&#xff0c;尤其是对于初学者来说。但是通过合理的学习方法和坚持不懈的努力&#xff0c;任何人都可以成功地掌握一门新的语言。下面是一个关于语言入门学习的大致指南&#xff0c;希望能对你有所帮助。 一、制定学习计划 在开始…

C++ GPU编程(英伟达CUDA)

安装编译环境 https://developer.download.nvidia.com/compute/cuda/12.5.0/local_installers/cuda_12.5.0_555.85_windows.exe CMakeLists.txt cmake_minimum_required(VERSION 3.10)set(CMAKE_CXX_STANDARD 17) set(CMAKE_BUILD_TYPE Release) #set(CMAKE_CUDA_ARCHITECTUR…

域名反查IP多种方式

域名反查IP是指通过已知的域名来查询其对应的IP地址。以下是几种常用的域名反查IP的方法&#xff1a; 使用ping命令&#xff1a; 在命令行中输入“ping 域名”&#xff0c;例如“ping www.example.com”。 系统会返回该域名对应的IP地址。 这种方法在Windows和Linux系统上都适…

微服务中不同服务使用openfeign 相互调用

首先 我们上文 已经知道了 nacos 的注册服务&#xff0c;现在 我们 在不同服务中相互调用就可以使用openfeign 直接调用&#xff0c;而不是 再写冗余的调用代码啦 首先 我们的微服务组件如下 因为我这个微服务是我在 员工登录demo 中 拆出来的&#xff0c;在userlogin模块中…

【计算机毕业设计】​206校园顺路代送微信小程序

&#x1f64a;作者简介&#xff1a;拥有多年开发工作经验&#xff0c;分享技术代码帮助学生学习&#xff0c;独立完成自己的项目或者毕业设计。 代码可以私聊博主获取。&#x1f339;赠送计算机毕业设计600个选题excel文件&#xff0c;帮助大学选题。赠送开题报告模板&#xff…

qmt量化交易策略小白学习笔记第43期【qmt编程之期货数据--如何获取历史主力合约--原生python】

qmt编程之获取期货数据 qmt更加详细的教程方法&#xff0c;会持续慢慢梳理。 也可找寻博主的历史文章&#xff0c;搜索关键词查看解决方案 &#xff01; 感谢关注&#xff0c;咨询免费开通量化回测与获取实盘权限&#xff0c;欢迎和博主联系&#xff01; 获取历史主力合约 …

Hi3861 OpenHarmony嵌入式应用入门--LiteOS Timer

iteOS Timer&#xff08;定时器&#xff09;是LiteOS操作系统中的一个重要组件&#xff0c;它提供了一种基于软件模拟的定时器功能&#xff0c;用于满足在硬件定时器数量不足时的定时需求。 软件定时器&#xff1a;基于系统Tick时钟中断&#xff0c;由软件来模拟的定时器。当经…

【计算机网络体系结构】计算机网络体系结构实验-FTP实验

1. 2. 3. wireshark 第一行&#xff1a;帧Frame 545&#xff1a;要发送的数据块&#xff0c;所抓帧的序号为545&#xff0c;捕获字节数等于传送字节数&#xff1a;451字节第二行&#xff1a;源Mac地址为a4:bb:6d:6e:28:9a&#xff1b;目标Mac地址为24:00:fa:e4:df:d8第三行&…

mysql学习——多表查询

多表查询 内连接外连接自连接自连接查询联合查询 子查询 学习黑马MySQL课程&#xff0c;记录笔记&#xff0c;用于复习。 添加外键 alter table emp add constraint fk_emp_dept_id foreign key (dept_id) references dept(id);多表查询 select * from emp , dept where emp…

深度学习Day-21:ResNet与DenseNet结合

&#x1f368; 本文为&#xff1a;[&#x1f517;365天深度学习训练营] 中的学习记录博客 &#x1f356; 原作者&#xff1a;[K同学啊 | 接辅导、项目定制] 要求&#xff1a; 探索ResNet与DenseNet结合的可能性根据模型特性构建新的模型框架验证改进后模型的效果 一、 基础配…