如何清空Comfyui的gpu缓存

由于我电脑上同时装了两个Comfyui作为我站点的绘图服务,一个是给正式服使用,一个是开发测试使用,在使用过程中经常会因为两个Comfyui服务跑图后没有自动释放显存导致爆显存。所以我需要让Comfyui跑完图之后可以自动释放显存。

我自己在网上找了几个方案,测试下来是没有效果,也有可能是我电脑的原因,大家也可以试看看。后来自己在使用的过程中发现,Comfyui在跑新的任务的时候,会把上一次加载到显存的内容给清空(如果加载的模型不一样的情况下),所以我就想着,每次在跑完一次图之后,自动跑个空载的任务(没有加载任何模型的工作流),这样就实现了显存自动释放的效果。

一、使用空载任务清理显存

于是我就在创建完用户的绘图任务后立马创建了一个空载任务,用来清理GPU的显存。

1、空载工作流workflow.json:

{"last_node_id": 2,"last_link_id": 1,"nodes": [{"id": 2,"type": "PreviewImage","pos": [205.499643768773,298.78351573772534],"size": [210,246],"flags": {},"order": 1,"mode": 0,"inputs": [{"name": "images","type": "IMAGE","link": 1,"label": "images"}],"properties": {"Node name for S&R": "PreviewImage"}},{"id": 1,"type": "EmptyImage","pos": [-171,256],"size": {"0": 315,"1": 130},"flags": {},"order": 0,"mode": 0,"outputs": [{"name": "IMAGE","type": "IMAGE","links": [1],"shape": 3,"label": "IMAGE","slot_index": 0}],"properties": {"Node name for S&R": "EmptyImage"},"widgets_values": [1,1,1,0]}],"links": [[1,1,0,2,0,"IMAGE"]],"groups": [],"config": {},"extra": {},"version": 0.4
}

2、以下是具体java代码的实现:

    /*** 清理GPU显存*/public void cleanGpuRam() {try {String comfyuiApi = sysParamsService.getValue("sd_img_url");//comfyui绘图完成后是否清理gpu显存String isCleanGpuRam = sysParamsService.getValue("comfyui_complete_is_clean_gpu_ram");String cleanApiJson = sysParamsService.getValue("comfyui_clean_gpu_ram_json");if ((DicEnums.YesOrNo.YES.getValue() + "").equals(isCleanGpuRam)) {String promptResult = HttpUtil.sendPost(comfyuiApi + "/prompt",JSONObject.parseObject("{\n" +"  \"client_id\": \"cleanGpuRam\",\n" +"  \"prompt\": " + cleanApiJson +"}"),null);}} catch (Exception e) {log.error("执行清理GPU缓存的任务失败");}}

在创建完用户绘图任务后立即创建一个空载任务,用来清理GPU的显存。

需要注意的是,清理缓存的这步操作要做异常捕获。因为即使没有清空也不影响用户绘图任务的正常执行。

二、其他清理显存的方法介绍

网上找的其他方法虽然我使用没有效果,有可能是我使用方法不当或者说我电脑上的Comfyui环境有问题,所以在此我也把其他方法也列一下,大家如果使用有效的话,希望可以在评论区里告诉我一下正确的使用姿势!

方法1:在启动命令后边加上:–disable-smart-memory

  • 如果你是用命令行启动,那就在启动脚本中加上这个参数
  • 如果你用的是秋叶启动器,那就高级选项中,关闭智能显存优化
    在这里插入图片描述

但是我用了并没有效果。。。。。。。。不知道咋回事

方法2:使用ComfyUI-Easy-Use插件中提供的easy cleanGpuUsed节点

ComfyUI-Easy-Use插件地址:
https://github.com/yolain/ComfyUI-Easy-Use
在这里插入图片描述

这个用法是把easy cleanGpuUsed节点添加到工作流运行的末尾!

但是我用了并没有效果。。。。。。。。不知道咋回事

三、最后是介绍下Comfyui工作流封装成web站点、H5、小程序、App的源码介绍

项目中接入了国内外各大平台的gpt聊天模型,使用milvus作为向量数据库,可上传知识库文档。可AI接管微信、QQ钉钉、企业微信等社媒平台!绘图接入了comfyui和dalle,实现了电商换装、换脸、ai抠图、图片变高清、智能扩图、艺术二维码等功能。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
源码地址:
https://wailikeji.com/index.php/2023/07/15/chat_draw/

项目体验地址:
https://pcai.wailikeji.com/

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/862350.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C语言学习记录(十一)——指针基本知识及运算

文章目录 前言1. 指针的概念2.指针变量的说明3. 指针的含义4. 指针运算①指针加减:②指针的关系运算符 前言 一个学习嵌入式的小白~ 有问题评论区或私信指出~ 提示:以下是本篇文章正文内容,下面案例可供参考 1. 指针的概念 在C语言中&…

阐述以下方法 @classmethod, @staticmethod, @property?

💝💝💝欢迎莅临我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。 推荐:「stormsha的主页」…

【模板】项目建设方案(Word原件)

1 引言 1.1 编写目的 1.2 项目概述 1.3 名词解释 2 项目背景 3 业务分析 3.1 业务需求 3.2 业务需求分析与解决思路 3.3 数据需求分析【可选】 4 项目建设总体规划【可选】 4.1 系统定位【可选】 4.2 系统建设规划 5 建设目标 5.1 总体目标 5.2 分阶段目标【可选】 5.2.1 业务目…

Flutter循序渐进==>基金管理APP首页

目录 查看版本 组件 组件源码学习 做个基金APP首页源代码 效果 查看版本 组件 组件的本质就是个类。 import package:flutter/material.dart;void main() {runApp(const OurFirstApp(),); } OurFirstApp()实例化,就是给runApp用的,runApp就是运行实…

自适应蚁群算法优化的攀爬机器人的路径规划

大家好,我是带我去滑雪! 攀爬机器人是一种能够在复杂环境中自主移动和攀爬的具有广阔应用前景的智能机器人,具有较强的应用潜力和广泛的研究价值。随着科技的不断发展,攀爬机器人在许多领域中的应用越来越广泛,例如建筑…

Talk|CityU 助理教授马佳葳: CVPR 2024, 基于多模态理解的混合数据专家模型

本期为TechBeat人工智能社区第604期线上Talk。 北京时间6月27日(周四)20:00,香港城市大学助理教授—马佳葳的Talk已经准时在TechBeat人工智能社区开播! 他与大家分享的主题是: “基于多模态理解的混合数据专家模型”,他向大家介绍了混合数据专…

【合作ACM出版,稳定EI、Scopus稳定检索】第五届城市工程与管理科学国际会议(ICUEMS 2024,8月2-4)

第五届城市工程与管理科学国际会议(ICUEMS 2024)将于2024年8月2-4日在天津举行。 会议的目的是为从事城市工程、管理科学相关领域的专家、学者、工程师和技术研究人员提供一个平台,分享科研成果和前沿技术,了解学术发展趋势&…

航空电子制造业企业数字化转型:智能工厂建设

引言 航空电子制造业是航空工业的重要组成部分,涵盖了飞机的电子系统、导航设备、通信系统、自动驾驶仪等关键组件。自20世纪中期以来,航空电子技术经历了快速发展,从最初的机械和模拟设备逐步过渡到数字化、网络化和智能化系统。现代航空电子…

中国高分辨率土壤质地数据(1KM)

土壤中各粒级占土壤重量的百分比组合,叫做土壤质地。土壤质地是土壤的最基本物理性质之一,对土壤的各种性状,如土壤的通透性、保蓄性、耕性以及养分含量等都有很大的影响是评价土壤肥力和作物适宜性的重要依据。 中国土壤质地空间分布数据是根…

搭建ragflow的步骤

前提条件 CPU > 4 核 RAM > 16 GB Disk > 50 GB Docker > 24.0.0 & Docker Compose > v2.26.1 如果你并没有在本机安装 Docker(Windows、Mac,或者 Linux), 可以参考文档 Install Docker Engine 自行安装。 启动服务器 …

C盘太满怎么办

C盘红了怎么办,最常见的问题是微信装在了C盘,需要通过设置来更换缓存文件位置。 此外,如果是工作电脑,钉钉、企业微信等都有可能产生和微信同样的问题,解决方式也相同,通过设置更换文件位置。 此外&…

Linux创建目录——mkdir命令,du命令,touch用法,创建tree拓扑图

1. mkdir 命令 格式 mkdir - 参数 路径 / 目录名 参数 -p :快速创建多级目录(递归目录) -v :显示创建目录的详细过程 例: [rootserver ~] # mkdir t1 [rootserver ~] # mkdir t2 t3 t4 [rootserver ~] # mk…

什么是GPIO口,GPIO口最简单的input/output

目录 一,什么是GPIO口 二,GPIO内部结构 三,GPIO口工作模式 一,什么是GPIO口 1.GPIO口是通用输入输出端口(General-purpose input/output)的英文缩写,是所有的微控制器必不可少的外设之一&…

每日一题系列-把字符串转换成整数

🌈个人主页:羽晨同学 💫个人格言:“成为自己未来的主人~” 题目 题目分析 对于这道题目而言,我们需要做到的是将字符串转换成整数。 这里我们需要注意几个点 首先我们需要保证下标在这个范围之内,所以我们会在每…

【Python】已解决:(SqlServer报错)SQL错误(208):对象名‘string_split’无效

文章目录 一、分析问题背景二、可能出错的原因三、错误代码示例四、正确代码示例五、注意事项 已解决:(SqlServer报错)SQL错误(208):对象名‘string_split’无效 一、分析问题背景 在使用Python连接SqlSe…

第二证券:股票盘口是什么?股票盘口基础知识?

股票的盘口是指在生意过程中实时盘面数据窗口。 盘口信息有:托付份额、生意生意五档挂单数据、股票开盘价、股票收盘价、股票涨跌幅、股票最高价、股票最低价、股票价、股票的量比、股票的表里盘数据、股票的总成交量、股票的换手率、股票的总股本、股票的流通股本…

python笔记----少儿编程课程

第1课: 认识新朋友-python 知识点: 1、在英文状态下编写Python语句。 2、内置函数print()将结果输出到标准的控制台上,它的基本语法格式如下: print("即将输出的内容") #输出的内容要用引号引起来,可…

主播美颜工具开发全攻略:美颜SDK从基础到进阶的技术指南

今天,笔者将为你详细介绍美颜SDK的基础知识以及如何进行进阶开发。 一、美颜SDK基础知识 什么是美颜SDK? 美颜SDK是一种软件开发工具包,包含了一系列用于图像处理的算法和功能,主要用于实时视频处理和图像优化。开发者可以将美…

CentOS安装Docker教程(包含踩坑的经验)

目录 一.基础安装 ▐ 安装Docker 二.启动Docker服务 三.配置Docker镜像加速 一.基础安装 在安装Docker之前可能需要先做以下准备 首先如果系统中已经存在旧的Docker,则先卸载: yum remove docker \docker-client \docker-client-latest \docker-…

FastGPT 手动部署错误:MongooseServerSelectionError: getaddrinfo EAI_AGAIN mongo

在运行 FastGPT 时,mongodb 报如下错误: MongooseServerSelectionError: getaddrinfo EAI_AGAIN mongo 这是因为 mongo 没有解析出来,在 hosts 文件中添加如下信息: 127.0.0.1 mongo 重新运行 FastGPT 即可。 参考链接&#xff…