利用鸿鹄优化共享储能的SCADA 系统功能,赋能用户数据自助分析

摘要

本文主要介绍了共享储能的 SCADA 系统大数据架构,以及如何利用鸿鹄来更好的优化 SCADA 系统功能,如何为用户进行数据自助分析赋能。

1、共享储能介绍

说到共享储能,可能不少朋友比较陌生,下面我们简单介绍一下共享储能的价值及其未来的技术发展方向。

1.1 共享储能的价值

储能技术有着巨大的价值,储能的四个基本作用:一是削峰填谷,二是虚拟同步,三是准确控制性,四是响应电网的指令和控制负荷。储能的商业模式原来电源侧是自己用的,它是装在电源侧,但2019年6月份移到了电网侧由电网统一调度,叫共享储能,共享储能就由电网调度。

“共享储能”商业模式充分考虑到了各方需求。

从国际来看,2021年特斯拉部署的储能项目共4 GWh,2030年1500GWh 的目标,对比之下翻了375倍。由于市场需求仍持续高于产能,特斯拉储能业务增长依然受到供应链挑战的限制。

2020年,特斯拉美国官网正式上线Megapack 工业级电池储能系统,定价100万美元起,而且只面向企业销售,但依旧卖得火爆。在当年第二季度财报电话会议上,马斯克透露,Megapack 在2022年底的产能已全部售罄。

从国内来看,2021年4月21日,国家发展改革委、国家能源局发布《关于加快推动新型储能发展的指导意见(征求意见稿)》(以下简称《征求意见稿》)。《征求意见稿》提出,目标到2025年,实现新型储能从商业化初期向规模化发展转变,新型储能装机规模达3000万千瓦以上。

到2030年,实现新型储能全面市场化发展。

下图是彭博社关于未来共享储能市场各国装机容量的预测,我们可以看到,无论是中国还是美国,未来的储能市场都是一个至少万亿级的市场,天花板足够高。在这个新能源风起云涌的时代,共享储能已经跻身成为新型电力系统的基本要素。

(来源:彭博社)

1.2 电池储能是技术发展的未来

一般来说,目前共享储能包括机械储能、电磁储能和电池(也叫电化学)储能。通过下表我们可以看出,基于锂电池的储能技术优点明显,也是目前和未来共享储能的主流。

其他还有压缩空气储能、高能电容储能、液流电池储能、钠硫电池储能、铅酸电池储能等,由于地理条件限制、比能量太低等各种不同原因,并不是业界的主流技术。我们的共享储能 SCADA 系统也主要基于锂电池共享储能进行建设。

2、传统SCADA系统

所谓 SCADA ( Supervisor Control And Data Acquisition ) 数据采集系统,是一种集测量技术、计算机技术、通讯技术于一体的综合性集成控制系统,可实现共享储能系统的实时中央监控和管理调度。

典型的 SCADA 如下图,分为场站端和管理端。场站端:主要是三部分:下位机、通信网络、上位机。管理端:一般包括前置采集、SCADA应用。

由于早期的 SCADA 系统面对的数据量相对较小,因此大部分采用单机或者 C/S 架构,一般采用关系型数据库,比如:MySQL、SQL Server 等进行存储。随着采集数据的增多,这样的系统不能保存过长时间的数据,都会设置几个月的定期数据清理策略,如果要进行长周期的数据对比分析,则很难满足需求。

以下是一个我们客户之前用的传统 SCADA 系统:

3、基于大数据平台的共享储能 SCADA 系统

随着各种新能源(风能、太阳能)电厂的建设,电厂的数据采集层具有数据采集量大、采集频率高的特点,历史库必将形成复杂、异构的储能大数据,传统的SCADA系统开始面临计算机 CPU 升级、内存不足、计算机硬件扩充、成本增加等一系列的问题。传统的数据处理方式,难以快速处理海量的共享储能大数据。

因此,我们的共享储能客户提出要基于大数据平台进行共享储能 SCADA 系统的建设。

3.1 总体架构

一般来说,共享储能电站主要由变配电设备、储能电池组、能源管理系统( EMS )、电池管理系统( BMS )、能量转换控制系统( PCS )及 SCADA 系统组成。

在建设中,我们考虑到现有共享储能系统复杂、采集点比较多的特点,采用了时序数据库进行主要数据存储。另外,共享储能系统一般要求是在一个封闭的环境下,无法连接互联网,因此我们会通过一台基于 GPS(北斗)的时间服务器进行时间同步。

下图是我们共享储能 SCADA 系统的示意图:

为了能更方便的集成一些第三方标准采集盒子,我们采用了 MQTT 协议作为数据传输的主要协议,这样对于第三方标准的采集盒子仅仅需要进行简单的配置,就能把数据采集上来。

为了更加灵活的进行采集程序编写,我们采用的是 Python 语言进行开发,对于数据展示、分析端,我们进行了前后端分离,后端使用主流的 Java 框架 Spring Boot 进行开发,前端采用 Vue 进行开发。

3.2 数据存储

采集的数据主要存储在 InfluxDB 中,对于一些特殊的报表需求,我们会定时ETL数据到 MySQL 关系型数据库中。

对于 InfluxDB 的存储结构,有一些查询的效率会比较低,因此,会提前进行预计算以满足快速的数据分析需求。当然对于大数据系统,这也是一个非常常用的要求,好在 InfluxDB 提供 Rollup 的功能,能很方便的通过编写 SQL 语句根据采样的精度和数据聚合方式进行预计算。

3.3 实景拍摄

这是第一个应用我们 SCADA 系统的共享储能电站实景拍摄图,该共享储能电站基本上具备了一般共享储能电站的主要功能:削峰填谷、响应电网的指令和控制负荷。

3.4 系统界面

下图是我们一个共享储能电站的主系统图,图中所有的数据都是实时进行采集显示。此外,根据客户的需求,也能直接在系统图上进行一些简单的系统交互控制。

一般在共享储能电站的 SCADA 系统首页,用户希望能看到储能系统响应电网计算机 AGC 指令的实时情况,从而快速分析出当前储能系统的工作功率。下图是我们建设的一个典型的 SCADA 系统首页:

4、利用鸿鹄优化共享储能 SCADA 系统

在了解到国内推出了一款新的大数据产品,我们就希望能尝鲜体验,当然之前我们也考虑过一些其他产品,但是从价格、易用性方面比我们现有架构并没有明显提升。

4.1 我们的痛点

虽然我们之前基于大数据平台建立的产品比原有传统的 SCADA 系统已经有了很大进步,但是仍然还是有一些不太令人满意的地方。

4.1.1 缺乏灵活性

对于共享储能SCADA系统来说,除了和一般SCADA系统一样具有监控的功能外,更重要的是共享储能SCADA系统必须响应电网的指令精准控制储能系统出力(也就是我们前面提到储能的四个基本作用的后面两个)提供数据分析服务和辅助决策。

共享储能系统建成后大约3-6个月的时间都处于电网指令响应算法的调试期,为了针对算法模型进行调参优化,电力工程师和算法工程师就会不断的有很多临时的想法,在看到算法调整后的数据变化,用户会进一步希望有一些新的指标或者统计图表呈现。

由于所有的统计分析功能都需要用Java代码进行实现,一旦用户提出更多的数据分析需求,就要重新对需求进行排期。如果能有一款所见即所得的辅助数据分析工具,显然能更好的满足一些临时性、探索性的分析需求。加快共享储能系统的算法模型调试进度。

4.1.2 ETL依赖

虽然我们核心的采集数据都保存到了 InfluxDB,目前一个储能电站的每日采集数据量大约是8-12GB,目前我们建设第一个共享储能电站SCADA系统运行一年后,大约有3TB的累计数据。有一些报表通过 SQL 直接查询 InfluxDB 效率就会比较低下,因此我们就会把一部分统计报表的数据从 InfluxDB 通过 ETL 脚本抽取到 MySQL 中,以应对相对复杂的分析报告需求。

4.1.3 扩展价格昂贵

随着数据量的增多,未来如果要采用 InfluxDB 集群,这个代价也是相当高的。由于社区版的 InfluxDB 不支持集群模式,所以,我们从相关渠道打听过支持集群模式的 InfluxDB 企业版,据说价格能达到百万,这显然对于一个SCADA 系统来说无法承受。

4.2 选型对比

基于提高灵活性、减少对 ETL 的依赖以及合理的成本等几项要素,我们更多的偏向于 ElasticSearch、Splunk 等能够省去 ETL 过程、建模更加灵活的产品,刚好最近从业界的朋友得知国内一个实力强劲的团队发布了一款比Splunk 更好的产品——鸿鹄社区版,就忍不住想上手试试。尤其是当我们看到鸿鹄的读时建模和向量加速的特性的时候,显然能解决我们之前的痛点。

4.2.1 读时建模

按照官方文档的解释,“读时模式”是一种在搜索数据的同时,从原始数据提取有用字段( field )的技术。由于可以省去ETL部分,该技术可以极大的减少数据导入时候的开销。这一点非常适合我们 SCADA 系统用户的一些临时性、探索性的需求。

尤其是当数据采集进入平台的时候,直接存储原始数据,通过定义一些列字段提取规则,在查询时,动态的根据引用到的规则,从原始数据中提取字段值。

(此图来源于鸿鹄官方文档)

4.2.2 向量加速

通过在使用中,我们还发现了鸿鹄系统的一个非常重要的特性,就是使用了向量加速计算,向量计算能充分利用CPU的SIMD(Single Instruction Multiple Data)指令,SIMD是一类特殊的CPU指令类型,这种指令可以在一条指令中同时操作多个数据,大大提升了数据处理的性能,这也是鸿鹄在安装的时候为什么要求CPU必须支持AVX2 指令集的原因。

4.3 新的架构

我们新的架构将鸿鹄替代关系型数据库,如果在装机容量不大的储能电站甚至可以做为主数据存储使用。

如下图所示,通过和鸿鹄的整合,提升了现有SCADA 系统的灵活性,相当于直接给原有的系统进行了自助分析赋能。

在新的架构中,我们会让鸿鹄和InfluxDB共同工作。使用鸿鹄,一方面替代了MySQL的作用以及一部分InfluxDB的预计算处理;另外一方面我们可以让用户直接登录鸿鹄的管理界面进行一些自助的数据分析,这也是之前用户一直期望的。

4.4 项目集成

说了这么多,已经迫不及待进行系统集成尝试了。

4.4.1 鸿鹄系统的安装

鸿鹄系统的安装非常简单,基本上按照官方文档一步步下来很快就能搞定,系统内存也只是需要 8G 的限制,在如今手机内存都超过 8G 的年代,还是非常良心的配置要求。

不过由于鸿鹄使用了矢量计算技术,官方文档提示:鸿鹄计算引擎使用了 AVX2 高级指令集做向量计算加速,因此,鸿鹄需要运行在支持 AVX2 指令集的 CPU 上。

当然,官方文档给出了测试方法,可以运行以下命令得知CPU是否支持AVX2 指令集:

刚好,我有一台现成的老服务器,赶紧进行测试。不幸的是,他……不支持。

很快,我找来一台云主机,完美解决。

安装需要安装docker以及其他一些相关组件,不过安装过程非常简单,完全按照官方安装文档(https://yanhuang.yuque.com/staff-sbytbc/rb5rur/auwfm3?)一步步进行即可。

这是安装完成后的界面,确实是“大数至简”。

4.4.2 接收MQTT数据

为了能赶紧试试鸿鹄的功能,我们需要先把数据灌进来,当然如果只是试用,你可以用 csv、json 等文件导入数据。

由于在之前的架构中,我们会采用 EMQX 来采集各种设备的数据,所以,在试用的过程中我简单的开发了一个从EMQX 接收 MQTT 数据并转发到鸿鹄的服务,并已发布到 Github 平台上。

开发过程就不细表,大家可以到如下地址看到并下载:

https://github.com/neulf/mqtt-honghu

4.4.3 数据预计算技术

由于数据量的增大,我们在 InfluxDB 上一般会采用 Rollup 进行预计算,以增强对大数据的处理能力,提高查询性能。因此,对于一款新的大数据产品,很自然地,我们对数据预计算方面也非常关切。

从官方文档上,我们发现鸿鹄提供了多种数据预计算技术,包括物化视图、预存查询、定时报表,你可以在官方文档中看到这几种技术的应用场景,我就不在这里一一赘述。

4.4.4 灵活的查询

鸿鹄提供简易查询和高阶查询的功能,支持业界通用的生产力工具——SQL 进行查询,这一点对于大部分工程师、数据分析人员甚至一部分资深的运营人员都是很方便的。

有关鸿鹄SQL的介绍,请参考这里

(https://yanhuang.yuque.com/staff-sbytbc/rb5rur/znakv0?)

4.4.5 丰富的开箱即用图表

鸿鹄提供了非常丰富的图表,对于一个使用过一些商业BI产品(比如:Tableau、PowerBI)的人来说,这款社区产品真的是非常给力,我们尝试把之前需要进行定制开发的功能,比如 AGC 指令、系统出力功率等指标的对比曲线用鸿鹄的高级查询功能实现,真的是非常简单。

4.5 总结

从试用来看,鸿鹄是一款安装非常方便,具备丰富的图表分析功能的社区产品。由于我没有对鸿鹄和一些时序数据库进行插入性能方面的基准测试,但是从其他搜索引擎和时序数据库的对比以及个人经验来看,对于采集并发性能要求不是太严苛的新建共享储能 SCADA 系统,可以直接采用鸿鹄做为主存储进行使用;如果是已建项目的改造或者对性能要求非常高,可以考虑架构上采用时序性数据库配合鸿鹄的方式。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/5271.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Python高光谱遥感数据处理与高光谱遥感机器学习方法深度应用

目录 ​第一章 高光谱基础 第二章 高光谱开发基础(Python) 第三章 高光谱机器学习技术(python) 第四章 典型案例操作实践 更多推荐 本教程提供一套基于Python编程工具的高光谱数据处理方法和应用案例。 涵盖高光谱遥感的基础…

2023年7月18日,File类,IO流,线程

File类 1. 概述 File,是文件和目录路径的抽象表示 File只关注文件本身的信息,而不能操作文件里的内容 。如果需要读取或写入文件内容,必须使用IO流来完成。 在Java中,java.io.File 类用于表示文件或目录的抽象路径名。它提供了一…

selenium.chrome怎么写扩展拦截或转发请求?

Selenium WebDriver 是一组开源 API,用于自动测试 Web 应用程序,利用它可以通过代码来控制chrome浏览器! 有时候我们需要mock接口的返回,或者拦截和转发请求,今天就来实现这个功能。 代码已开源: https:/…

HTML语法

文章目录 前言HTML 文件基本结构常见标签标签种类特殊符号图片链接a链接 双标签链接 列表表格 &#xff1a;表单多行文本域: 前言 HTML是有标签组成的 <body>hello</body>大部分标签成对出现. 为开始标签, 为结束标签. 少数标签只有开始标签, 称为 “单标签”. 开…

Helm 安装prometheus-stack 使用local pv持久化存储数据

目录 背景&#xff1a; 环境准备&#xff1a; 1. 磁盘准备 2. 磁盘分区格式化 local storage部署 1. 节点打标签 2. 创建local pv storageClass和prometheus-pv Prometheus-stack部署 1. 下载helm chart包 2. values.yaml 参数解释 3. 部署prometheus-stack 4. 查看…

Baichuan-13B:130亿参数的开源语言模型,引领中文和英文benchmark

Baichuan-13B: 一个强大的开源大规模语言模型 标题&#xff1a;Baichuan-13B&#xff1a;130亿参数的开源语言模型&#xff0c;引领中文和英文benchmark Baichuan-13B是由百川智能开发的一个开源大规模语言模型项目&#xff0c;包含了130亿参数。该模型在中文和英文的权威ben…

【广州华锐互动】VR地铁消防逃生路线演练系统

随着城市轨道交通的不断发展&#xff0c;事故应急演练的重要性也越来越受到重视。而VR技术的应用&#xff0c;为地铁消防逃生路线演练带来了许多亮点&#xff0c;包括以下几个方面&#xff1a; 首先&#xff0c;VR技术可以提供高度真实的模拟场景。在传统的事故应急演练中&…

ipad可以使用其他品牌的手写笔吗?平价ipad手写笔推荐

我是一个拥有多年数码经验的爱好者&#xff0c;我知道一些关于电容笔的知识。我认为&#xff0c;苹果原装的电容笔与普通的电容笔最大的不同之处&#xff0c;就是其所带来的压感不同。由于“重力压感”的特殊性&#xff0c;我们能很快地把色彩填充到画面中。除此之外&#xff0…

亿发软件:数字化大中型制造企业生产管理应用,实现智慧工厂信息化

随着信息技术与制造业的深度协调&#xff0c;作为企业发展的趋势&#xff0c;大中型制造企业需要拥抱信息化建设。通过运用信息技术和数字化运营&#xff0c;大中型制造企业的生产、设计、经营、管理、后续服务等都实现自动化、智能化。大中型制造企业信息化建设解决方案&#…

uniapp中axios封装和环境配置

axios版本 最好锁定版本&#xff0c;避免bug axios-miniprogram-adapter这个依赖主要是适配小程序网络请求的适配器&#xff0c;为了解决uniapp 适配axios请求&#xff0c;避免报adapter is not a function错误 cnpm i axios0.26.0 axios-miniprogram-adapter 配置adapter函…

bean的生命周期

生命周期&#xff1a;从生到死的过程。那么对于bean来说就是从创建到销毁的过程。 普通的Java对象的创建由我们new创建&#xff0c;然后在不用的时候&#xff0c;java回收机制会自动回收。那么bean呢&#xff1f; bean是spring中的对象&#xff0c;和普通对象不一样的就是bea…

Unity游戏源码分享-Unity手游火柴忍者游戏StickmanDojo

Unity游戏源码分享-Unity手游火柴忍者游戏StickmanDojo 项目地址&#xff1a;https://download.csdn.net/download/Highning0007/88050234

蒲公英打包环境搭建碰到问题

一&#xff1a;证书那边选择手动&#xff0c;不要自动&#xff0c;——》debug配置dev证书&#xff0c;release配置ad-hoc证书 二&#xff1a;证书有时候不生效&#xff0c;删除重新下载。~/Library/MobileDevice/Provisioning Profiles 三&#xff1a;更新测试手机时&#…

OpenCv色彩空间

目录 一、RGB 二、图像处理入门 三、色彩空间的转换 一、RGB 在表示图像时&#xff0c;有多种不同的颜色模型&#xff0c;但最常见的是红、绿、蓝(RGB) 模型RGB 模型是一种加法颜色模型&#xff0c;其中原色 (在RGB模型中&#xff0c;原色是红色 R、绿色 G 和蓝色 B)混合在…

设计模式之享元模式

写在前面 本文看下一种结构型设计模式&#xff0c;享元模式。 1&#xff1a;介绍 1.1&#xff1a;什么时候使用享元模式 当程序需要大量的重复对象&#xff0c;并且这些大量的重复对象只有部分属性不相同&#xff0c;其他都是相同的时候&#xff0c;就可以考虑使用享元设计…

【天工Godwork精品教程】天工3.1.7安装教程(附Godwork完整版下载地址)

本文讲解天工3.1.7安装过程(附Godwork完整版网盘下载地址)。 文章目录 一、天工3.1.7安装教程1. 安装GodWork-AT 3.1.72. 安装GodWork-AT 3.1.7补丁3. 安装GodWork-EOS-Setup-2017B-12314. 安装GodWork-EOS补丁5. 运行godwokr软件6. 生成ZC码7. 输入ZC码8. eos插件调用二、天…

Linux·从 URL 输入到页面展现到底发生什么?

打开浏览器从输入网址到网页呈现在大家面前&#xff0c;背后到底发生了什么&#xff1f;经历怎么样的一个过程&#xff1f;先给大家来张总体流程图&#xff0c;具体步骤请看下文分解&#xff01; 总体来说分为以下几个过程: DNS 解析:将域名解析成 IP 地址TCP 连接&#xff1a…

Vue中的侦听器:数据变化的秘密揭示

一、侦听器&#xff1a;vue中想监听数据的变化 &#x1f680;&#xff08;一&#xff09;侦听器watch 如何侦听到某个变量值改变呢&#xff1f;使用watch配置项&#x1f6a7;&#x1f6a7;&#x1f6a7;watch&#xff1a;可以侦听到data/computed属性值的改变。语法&#xff…

使用 Pytest 运行 yaml 文件来驱动 Appium 自动化测试

目录 前言&#xff1a; 获取 yaml 文件 YamlTest 测试类 Appium 初始化 Pytest 测试类 自定义 runtest demo&#xff1a; 自定义错误输出 Yaml 使用方式规则 前言&#xff1a; 使用Pytest来运行yaml文件来驱动Appium自动化测试是一种方便且灵活的方法。通过将测试数据…

为你精选5款体验极佳的原型设计工具!

在绘制原型图的过程中&#xff0c;使用一款的简单易操作的原型设计工具是非常重要的&#xff0c;本文精选了5款好用的原型工具与大家分享&#xff0c;一起来看看吧&#xff01; 1、即时设计 即时设计是国内很多设计师都在用的原型设计工具&#xff0c;同时它也是国产的原型设…