解决TensorRT加速推理SDXL出现黑图问题

文章目录

  • 解决TensorRT加速推理SDXL出现黑图问题
    • 1. fp16
    • 2. 更换vae

解决TensorRT加速推理SDXL出现黑图问题

一般产生黑图,仅需要修改下面两个问题即可解决。

1. fp16

将pipeline中的fp16修改为fp32。

在使用稳定扩散(Stable Diffusion)生成图片时,选择不同的数据类型可以影响生成的结果。在这种情况下,从fp16(半精度浮点数)切换到fp32(单精度浮点数)解决了问题,通常意味着精度的不同可能导致了生成的结果差异。

  • fp16(半精度):它使用更短的位数来表示浮点数,因此可以表示的数值范围相对较小,精度较低。这可以导致数值不稳定性和溢出问题,尤其是在涉及大范围数值计算时。

  • fp32(单精度):它使用更多的位数,可以表示更广范围的数值并提供更高的精度。在计算中,fp32通常更可靠,尤其是在大规模深度学习模型中,因为它可以减少数值稳定性问题。

生成黑图的问题可能与fp16的数值范围和精度不足有关,导致计算过程中的数值溢出或不稳定性。当使用fp32时,数值稳定性更高,能够处理较大的数值范围。

2. 更换vae

在TensorRT进行编译的时候,会首先找到torch models,将torch models的vae_decoder的配置文件和权重修改为https://huggingface.co/madebyollin/sdxl-vae-fp16-fix时,完美解决问题。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/102086.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

基于图像的照明(IBL)简明教程

基于图像的照明基本上将图像中的所有像素视为光源。 通常,从全景高动态范围 (HDR) 图像创建的环境贴图(通常是立方体贴图)将用作纹理获取的源。 推荐:用 NSDT编辑器 快速搭建可编程3D场景 假设阴影物体是不透明的,我们…

JVM(一)

字节码文件的组成: 基础信息:魔数,字节码文件对应的java版本号,访问表示public final以及父类和接口 常量池:保存了字符串常量,类或者是接口名,字段名,主要在接口中使用 字段:当前类或者是接口声明的字段信息 方法:当…

13 Java生产者是如何管理TCP连接的

为什么采用TCP连接 为什么采用TCP连接作为底层的通讯协议? 1.利用TCP协议本身的高级功能。比如多路复用请求和同时轮询多个连接的能力。 多路复用请求会在一个物理连接上创建多个虚拟连接,每个虚拟连接负责流转各自的数据流。 什么时候创建TCP连接 1.…

Spring之IoC

Spring的设计理念和整体架构 一句话概括就是:Spring是一个轻量级的、非侵入式的控制反转(IOC)和面向切面(AOP)的框架。 设计理念: 松散耦合: Spring鼓励开发者编写松散耦合的代码,通过依赖注入和接口抽象等方式来减少组件之间的…

蓝桥等考Python组别十八级002

第一部分:选择题 1、Python L18 (15分) 运行下面程序,输入30,输出的结果是( )。 t = int(input()) if t < 30: print(15) else: print(t // 15 * 2) 15401正确答案:B 2、Python L18 (15分)

系统架构设计:19 论数据挖掘技术的应用

目录 一 数据挖掘技术 1 数据挖掘的分类 2 数据挖掘的主要方法 一 数据挖掘技术 从技术角度看,数据挖掘可以定义为从大量的、不完全的、有噪声的、模糊的、随机的实际数据中提取隐含在其中的、人们不知道的、但又潜在有用的信息和知识的过程。</

DV SSL证书

随着网站越来越多&#xff0c;数据安全显得尤为重要。保护网站安全的数字证书应运而生&#xff0c;各大品牌的SSL证书可以实现网站http到https的转变&#xff0c;加密传输过程&#xff0c;提升品牌形象&#xff0c;优化SEO等优点。SSL证书按照验证等级分为DV&#xff0c;OV&…

意大利航天飞行器公司【Sidereus】完成510万欧元融资

来源&#xff1a;猛兽财经 作者&#xff1a;猛兽财经 猛兽财经获悉&#xff0c;位于意大利萨莱诺的航天飞行器公司Sidereus Space Dynamics今日宣布已完成510万欧元融资。 本轮融资由Primo Space和CDP Venture Capital Sgr领投&#xff0c;通过Italia Venture II - Fondo Impr…

win10 wsl安装步骤

参考&#xff1a; 安装 WSL | Microsoft Learn 一、安装wsl 1.若要查看可通过在线商店下载的可用 Linux 发行版列表&#xff0c;请输入&#xff1a; wsl --list --online 或 wsl -l -o> wsl -l -o 以下是可安装的有效分发的列表。 使用 wsl.exe --install <Distro>…

python结合excel数据轻松实现接口自动化测试

在刚刚进入测试行业的时候&#xff0c;最开始也是做功能测试&#xff0c;我想很多伙伴和我一样&#xff0c;觉得自动化测试都很高端&#xff0c;很神秘。迫不及待的想去学习作自动化测试。 以前比较常用数据库python做自动化&#xff0c;后面发现excel个人觉得更加适合&#x…

Vue开发中Jwt的使用

&#x1f3c5;我是默&#xff0c;一个在CSDN分享笔记的博主。&#x1f4da;&#x1f4da; &#x1f31f;在这里&#xff0c;我要推荐给大家我的专栏《Vue》。&#x1f3af;&#x1f3af; &#x1f680;无论你是编程小白&#xff0c;还是有一定基础的程序员&#xff0c;这个专栏…

vue 页面监听vuex state值的变化

A组件&#xff08;事件操作&#xff09;&#xff1a; methods: {// 收缩菜单menuShrink () {this.iscollapse !this.iscollapse;this.$store.state.iscollapse this.iscollapse;},}B组件&#xff08;监听state某值的变化做一些逻辑代码&#xff09; 先用computed&#xff08…

LeetCode 88 合并两个有序数组

该题注意点有&#xff1a; 1、确定是否需要break以及何时break&#xff1b; break和break one还有return的区别可以参考这篇 break和return-CSDN博客 2、对于m0的特殊情况需要特殊处理 3、这道题其实是插入排序的方法&#xff0c;当插入中间和尾部其实是不一样的处理&…

缓存的力量:提升API性能和可扩展性

缓存是将频繁访问的数据或资源存储在临时存储位置(例如内存或磁盘)的过程&#xff0c;以提高检索速度并减少重复处理的需要。 缓存的好处 提高性能&#xff1a;缓存消除了每次从原始源检索数据的需要&#xff0c;从而提高了响应时间并减少了延迟。减少服务器负载&#xff1a;通…

OrcaTerm AI

&#x1f648;作者简介&#xff1a;练习时长两年半的Java up主 &#x1f649;个人主页&#xff1a;程序员老茶 &#x1f64a; ps:点赞&#x1f44d;是免费的&#xff0c;却可以让写博客的作者开心好久好久&#x1f60e; &#x1f4da;系列专栏&#xff1a;Java全栈&#xff0c;…

MySQL(存储过程,store procedure)——存储过程的前世今生 MySQL存储过程体验 MybatisPlus中使用存储过程

前言 SQL&#xff08;Structured Query Language&#xff09;是一种用于管理关系型数据库的标准化语言&#xff0c;它用于定义、操作和管理数据库中的数据。SQL是一种通用的语言&#xff0c;可以用于多种关系型数据库管理系统&#xff08;RDBMS&#xff09;&#xff0c;如MySQ…

spark集群环境下,实现人口平均年龄计算

文章目录 任务目标0. 版本信息1. 计算生成renkou.txt2. 文件上传至spark3. 上传文件时&#xff0c;可能出现的常见错误4. 编写spark文件5. 上传集群6. 集群环境下提交任务 任务目标 在虚拟机上部署spark集群&#xff0c;给定renkou.txt文件&#xff0c;输出平均年龄 renkou.t…

Linux有哪些指令

Linux操作系统提供了许多指令&#xff0c;可以帮助用户进行各种操作。以下是一些常见的Linux指令&#xff1a; ls&#xff1a;列出当前目录下的文件和目录。cd&#xff1a;改变当前工作目录。pwd&#xff1a;显示当前工作目录。mkdir&#xff1a;创建新的目录。rm&#xff1a;…

huggingface下大模型最好的方案

一、背景&#xff1a; 搞模型应用&#xff0c;看看别家的模型&#xff0c;huggingface模型大市场&#xff0c;国际明星企业都在上发布开源大模型&#xff0c;一般5G&#xff0c;甚至10G更大&#xff0c;怎么下载呢&#xff1f; 二、方案 1、git clone 会把整个工程给下载下来…

linux C++ vscode连接mysql

1.linux使用Ubuntu 2.Ubuntu安装vscode 2.1 安装的是snap版本,直接打开命令行执行 sudo snap install --classic code 3.vscode配置C 3.1 直接在扩展中搜索C安装即可 我安装了C, Chinese, code runner, 安装都是同理 4.安装mysql sudo apt update sudo apt install mysql-…