TDengine+OpenVINO+AIxBoard，助力时序数据分类

时间序列数据分析在工业，能源，医疗，交通，金融，零售等多个领域都有广泛应用。其中时间序列数据分类是分析时序数据的常见任务之一。本文将通过一个具体的案例，介绍 Intel 团队如何使用 TDengine 作为基础软件存储实验数据，并通过 TDengine 高效的查询能力在 OpenVINO 部署深度学习模型，最终在 AIxBoard 开发板上实时运行分类任务。

模型简介

近年来机器学习和深度学习在时序数据分类任务中取得了显著进展，HIVE-COTE 和 InceptionTime 模型都取得了不错的成果。相比基于 Nearest Neighbor 和 DTW 算法的 HIVE-COTE 模型，基于一维卷积 (Conv1D) 的 InceptionTime 模型成果更为显著，其在极大降低计算复杂度的基础上，还达到了与 HIVE-COTE 相当的分类精度。

如下图所示，Inception 模块是 InceptionTime 模型的基本组成模块，由多个一维卷积 (Conv1D) 操作堆叠，并于残差连接而成。

TDengine+OpenVINO+AIxBoard，助力时序数据分类 - TDengine Database 时序数据库

完整的 InceptionTime 模型由多个 Inception 模块连接而成。

TDengine+OpenVINO+AIxBoard，助力时序数据分类 - TDengine Database 时序数据库

关于 InceptionTime 的更多细节请参考论文：https://arxiv.org/abs/1909.04939。

数据集

TDengine+OpenVINO+AIxBoard，助力时序数据分类 - TDengine Database 时序数据库

本文采用的数据集来自 Time Series Classification Website，由 128 个时间序列分类任务组成。其中的 Wafer 数据集包含 1000 条训练数据和和 6164 条测试数据，每条数据均包含标签值和长度 152 的时间序列数据。数据通过程序提前写入到 TDengine 中。

这里描述的时序数据是晶片生成过程中同一个工具通过单个传感器记录的时间序列数据。下图展示了正常 (class 1) 和异常 (class 0) 两种标签对应的时序数据示例。

TDengine+OpenVINO+AIxBoard，助力时序数据分类 - TDengine Database 时序数据库

不难看出，这是一个标准的监督学习分类任务。我们希望找到一个模型，在每输入长度 152 的时序数据时，模型输出 0 或 1，以此判断输入时序数据对应的晶片在生成过程是否存在异常。

模型训练

本文中我们将使用 Wafer 数据集训练一个 InceptionTime 模型。训练得到的模型可以根据晶片生产过程中传感器记录的时序数据，判断某个晶片的生产过程是否存在异常。

InceptionTime 的作者开源了基于 tensorflow.keras 的实现，本文的模型代码基于 InceptionTime 开源版本并集成 TDengine 支持 GitHub - sangshuduo/InceptionTime: InceptionTime: Finding AlexNet for Time Series Classification。

首先加载 Python 库。

from os import path
import numpy as np
from sklearn import preprocessingfrom tensorflow import keras
from tensorflow.keras.layers import (Activation, Add, BatchNormalization, Concatenate,Conv1D, Dense, Input, GlobalAveragePooling1D, MaxPool1D
)from sqlalchemy import create_engine, text

然后使用 TDengine 的 SQLAlchemy 驱动加载 Wafer 数据集并进行预处理。

def readucr(conn, dbName, tableName):data = pd.read_sql(text("select * from " + dbName + "." + tableName),conn,)y = data[:, 0]x = data[:, 1:]return x, ydef load_data(db):engine = create_engine("taos://root:taosdata@localhost:6030/" + db)try:conn = engine.connect()except Exception as e:print(e)exit(1)if conn is not None:print("Connected to the TDengine ...")else:print("Failed to connect to taos")exit(1)x_train, y_train = readucr(conn, db + '_TRAIN.tsv')x_test, y_test = readucr(conn, db + '_TEST.tsv')n_classes = len(np.unique(y_train))enc = preprocessing.OneHotEncoder()y = np.concatenate((y_train, y_test), axis=0).reshape(-1,1)enc.fit(y)y_tr = enc.transform(y_train.reshape(-1,1)).toarray()y_te = enc.transform(y_test.reshape(-1,1)).toarray()x_tr, x_te = map(lambda x: x.reshape(x.shape[0], x.shape[1], 1), [x_train, x_test])return x_tr, y_tr, x_te, y_te, n_classesx_tr, y_tr, x_te, y_te, n_classes = load_data('Wafer')

再使用 tensorflow.keras 实现 IncetionTime，并创建模型。

def inception_module(input_tensor, filters, kernel_size, bottleneck_size,activation='relu', use_bottleneck=True):if use_bottleneck and int(input_tensor.shape[-1]) > 1:input_inception = Conv1D(filters=bottleneck_size, kernel_size=1, padding='same',activation=activation, use_bias=False)(input_tensor)else:input_inception = input_tensorkernel_size_s = [kernel_size // (2 ** i) for i in range(3)] # [40, 20, 10]conv_list = []for i in range(len(kernel_size_s)):conv = Conv1D(filters=filters, kernel_size=kernel_size_s[i],strides=1, padding='same', activation=activation,use_bias=False)(input_inception)conv_list.append(conv)max_pool = MaxPool1D(pool_size=3, strides=1, padding='same')(input_tensor)conv_6 = Conv1D(filters=filters, kernel_size=1, padding='same',activation=activation, use_bias=False)(max_pool)conv_list.append(conv_6)x = Concatenate(axis=2)(conv_list)x = BatchNormalization()(x)x = Activation(activation='relu')(x)return xdef shortcut_layer(input_tensor, output_tensor):y = Conv1D(filters=int(output_tensor.shape[-1]), kernel_size=1,padding='same', use_bias=False)(input_tensor)y = BatchNormalization()(y)x = Add()([y, output_tensor])x = Activation(activation='relu')(x)return xdef build_model(input_shape, n_classes, depth=6,filters=32, kernel_size=40, bottleneck_size=32,use_residual=True):input_layer = Input(input_shape)x = input_layerinput_res = input_layerfor d in range(depth):x = inception_module(x, filters, kernel_size, bottleneck_size)if use_residual and d % 3 == 2:x = shortcut_layer(input_res, x)input_res = xgap_layer = GlobalAveragePooling1D()(x)output_layer = Dense(n_classes, activation="softmax")(gap_layer)model = keras.Model(input_layer, output_layer)return modelmodel = build_model(x_tr.shape[1:], n_classes)model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy']
)

训练模型：

ckpt_path = path.sep.join(['.', 'models', 'inception_wafer.h5'])callbacks = [keras.callbacks.ReduceLROnPlateau(monitor='val_loss', factor=0.5, patience=20, min_lr=0.0001),keras.callbacks.EarlyStopping(monitor='val_loss', patience=20, verbose=1),keras.callbacks.ModelCheckpoint(filepath=ckpt_path, monitor='val_loss', save_best_only=True)
]batch_size = 32
epochs = 500history = model.fit(x_tr, y_tr, batch_size, epochs, verbose='auto', shuffle=True, validation_split=0.2, callbacks=callbacks)

简单显示一下训练过程：

metric = 'accuracy'
plt.figure(figsize=(10, 5))
plt.plot(history.history[metric])
plt.plot(history.history['val_'+metric])
plt.title("model " + metric)
plt.ylabel(metric, fontsize='large')
plt.xlabel('epoch', fontsize='large')
plt.legend(["train", "val"], loc="best")
plt.show()
plt.close()

TDengine+OpenVINO+AIxBoard，助力时序数据分类 - TDengine Database 时序数据库

使用测试数据验证模型的推理精度。

classifier = keras.models.load_model(ckpt_path)
test_loss, test_acc = classifier.evaluate(x_te, y_te)
print("Test accuracy: ", test_acc)
print("Test loss: ", test_loss)
193/193 [==============================] - 2s 11ms/step - loss: 0.0142 - accuracy: 0.9958
Test accuracy: 0.9957819581031799
Test loss: 0.014155667275190353

我们的模型在 Wafer 测试数据上取得了 99.58% 的精度。

模型转换

为了达成使用 OpenVINO Runtime 进行推理计算的目的，我们需要将 tensorflow 模型转换为 OpenVINO IR 格式。

from pathlib import Path
from openvino.tools import mo
from tensorflow import kerasmodel = keras.models.load_model('models/inception_wafer.h5')model_path = Path('models/inception.0_float')
model.save(model_path)model_dir = Path("ov")
model_dir.mkdir(exist_ok=True)
ir_path = Path("ov/inception.xml")input_shape = [1, 152, 1]if not ir_path.exists():print("Exporting TensorFlow model to IR...")ov_model = mo.convert_model(saved_model_dir=model_path, input_shape=input_shape, compress_to_fp16=True)serialize(ov_model, ir_path)
else:print(f"IR model {ir_path} already exists.")

转换完成后，生成的 IR 格式模型被存储为模型定义文件 inception.xml 和二进制文件 inception.bin。

模型部署

接下来我们在 AIxBoard 开发板上部署刚刚训练的 IncetpionTime 模型。首先将 inception.bin、inception.xml 和 Wafer_TEST.tsv 几个文件复制到 AIxBoard 板上。

加载 Python 库。

from pathlib import Path
import numpy as np
from openvino.runtime import Core, serialize

使用 OpenVINO 运行 Inception 模型。

ir_path = Path("inception.xml")
core = Core()
model = core.read_model(ir_path)
import ipywidgets as widgetsdevice = widgets.Dropdown(options=core.available_devices + ["AUTO"],value='AUTO',description='Device:',disabled=False
)device
0.995782

使用OpenVINO推理的精度跟tensorflow模型推理精度一致，同样达到了99.58%。我们在模型转换时将原模型数据格式压缩为 FP16，这一操作并没有导致精度下降。

性能测试

使用 OpenVINO 自带的 benchmark 工具可以轻松地在 AIxBoard 上进行性能测试。

benchmark_app -m inception.xml -hint latency -d CPU
[ INFO ] First inference took 8.59 ms
[Step 11/11] Dumping statistics report
[ INFO ] Execution Devices:['CPU']
[ INFO ] Count:            8683 iterations
[ INFO ] Duration:         60012.27 ms
[ INFO ] Latency:
[ INFO ]    Median:        6.44 ms
[ INFO ]    Average:       6.81 ms
[ INFO ]    Min:           6.34 ms
[ INFO ]    Max:           37.13 ms
[ INFO ] Throughput:   144.69 FPS
benchmark_app -m inception.xml -hint latency -d GPU
[ INFO ] First inference took 10.58 ms
[Step 11/11] Dumping statistics report
[ INFO ] Execution Devices:['GPU.0']
[ INFO ] Count:            7151 iterations
[ INFO ] Duration:         60026.34 ms
[ INFO ] Latency:
[ INFO ]    Median:        7.50 ms
[ INFO ]    Average:       8.23 ms
[ INFO ]    Min:           7.04 ms
[ INFO ]    Max:           21.78 ms
[ INFO ] Throughput:   119.13 FPS

从上面结果可以看出，使用AIxBoard的CPU运行InceptionTime模型推理，平均时长为6.81ms。使用集成 GPU 推理，平均时长为 8.23ms。

总结

本文介绍了如何利用 TDengine 支持时间序列数据的底层存储，以及如何通过分类模型 InceptionTime 在 UCR 时序数据集的 Wafer 分类任务上进行训练。最后，我们使用 OpenVINO 将该模型部署在 AIxBoard 开发板上，实现了高效的实时时序数据分类任务。希望本文的内容能够帮助大家在项目中利用 TDengine、OpenVINO 和 AIxBoard 来解决更多的时间序列分析问题。

关于 AIxBoard

英特尔开发者套件 AIxBoard（爱克斯开发板）是专为支持入门级边缘 AI 应用程序和设备而设计，能够满足人工智能学习、开发、实训等应用场景。该开发板是类树莓派的 x86 主机，可支持 Linux Ubuntu 及完整版 Windows 操作系统，板载一颗英特尔 4 核处理器，最高运行频率可达 2.9 GHz，且内置核显（iGPU），板载 64GB eMMC 存储及 LPDDR4x 2933MHz（4GB/6GB/8GB），内置蓝牙和 Wi-Fi 模组，支持 USB 3.0、HDMI 视频输出、3.5mm 音频接口，1000Mbps 以太网口，完全可把它作为一台 mini 小电脑来看待，且其可集成一块 Arduino Leonardo 单片机，可外拓各种传感器模块。此外，其接口与 Jetson Nano 载板兼容，GPIO 与树莓派兼容，能够最大限度地复用树莓派、Jetson Nano 等生态资源，无论是摄像头物体识别，3D 打印，还是 CNC 实时插补控制都能稳定运行，不仅可作为边缘计算引擎用于人工智能产品验证、开发，也可作为域控核心用于机器人产品开发。

产品链接：首页_蓝蛙智能

关于 TDengine

TDengine 核心是一款高性能、集群开源、云原生的时序数据库（Time Series Database，TSDB），专为物联网、工业互联网、电力、IT 运维等场景设计并优化，具有极强的弹性伸缩能力。同时它还带有内建的缓存、流式计算、数据订阅等系统功能，能大幅减少系统设计的复杂度，降低研发和运营成本，是一个高性能、分布式的物联网、工业大数据平台。当前 TDengine 主要提供两大版本，分别是支持私有化部署的 TDengine Enterprise 以及全托管的物联网、工业互联网云服务平台 TDengine Cloud，两者在开源时序数据库 TDengine OSS 的功能基础上有更多加强，用户可根据自身业务体量和需求进行版本选择。

关于作者

冯伟，英特尔软件架构师，16 年软件研发经验，涵盖浏览器、计算机视觉、虚拟机等多个领域。2015 年加入英特尔，近年来专注于边缘计算、深度学习模型落地，以及时序数据分析等方向。

了解更多 TDengine Database的具体细节，可在GitHub上查看相关源代码。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/100533.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

rocketmq消息发送源码学习

rocketmq消息发送源码学习

消息发送基本流程 消息发送流程主要的步骤：验证消息、查找路由、消息发送（包含异常处理机制）。 代码：同步消息发送入口 DefaultMQProducer#send public SendResult send(Message msg) throws MQClientException, RemotingExcep…
阅读更多...
golang singleflight资料整理

golang singleflight资料整理

https://www.cyningsun.com/01-11-2021/golang-concurrency-singleflight.html https://juejin.cn/post/7261897250648817701 https://segmentfault.com/q/1010000022916754 https://juejin.cn/post/6916785233509482509 https://segmentfault.com/a/1190000018464029
阅读更多...
备忘录模式 行为型模式之八

备忘录模式 行为型模式之八

1.定义 备忘录模式是一种行为型的软件设计模式，在不破坏封装的前提下，获取一个对象的内部状态，并在对象外保存该状态，当对象需要恢复到该状态时，对其进行恢复。 2.组成结构 原发器 （Originator&#xff0…
阅读更多...
超详细！主流大语言模型的技术原理细节汇总！

超详细！主流大语言模型的技术原理细节汇总！

1.比较 LLaMA、ChatGLM、Falcon 等大语言模型的细节：tokenizer、位置编码、Layer Normalization、激活函数等。 2. 大语言模型的分布式训练技术：数据并行、张量模型并行、流水线并行、3D 并行、零冗余优化器 ZeRO、CPU 卸载技术 ZeRo-offload、混合精度训…
阅读更多...
pip安装或更新

pip安装或更新

在终端用pip安装时老是报错，把pip升级到最高版本还是不行 ERROR: Exception: Traceback (most recent call last): File "F:\software\anaconda\envs\tensorflow\lib\site-packages\pip\_vendor\urllib3\response.py", line 438, in _error_catcher yiel…
阅读更多...
gcc和g++区别

gcc和g++区别

一、什么是GNU编译器? GNU编译器（GNU Compiler Collection，简称GCC），是一套由自由软件基金会所发展的编程器。GCC支持多种编程语言，包括C、C、Objective-C、Fortran、Ada、以及其它一些语言。它是Linux系统和很多类U…
阅读更多...
Zabbix监控硬盘S.M.A.R.T.信息教程

Zabbix监控硬盘S.M.A.R.T.信息教程

S.M.A.R.T.是"Self-Monitoring, Analysis, and Reporting Technology"的缩写，它是一种硬盘自我监测、分析和报告技术。硬盘S.M.A.R.T.信息的主要用途是帮助用户和系统管理员监测硬盘的健康状态和性能，例如温度、振动、读写错误率、坏道数量等&…
阅读更多...
Linux 部署 MinIO 分布式对象存储 配置为 typora 图床

Linux 部署 MinIO 分布式对象存储 配置为 typora 图床

前言 MinIO 是一款高性能的对象存储系统，它可以用于大规模的 AI/ML、数据湖和数据库工作负载。它的 API 与Amazon S3 云存储服务完全兼容，可以在任何云或本地基础设施上运行。MinIO 是开源软件，也提供商业许可和支持 MinIO 的特点有&#x…
阅读更多...
用Jmeter进行接口自动化测试的工作流程你知道吗？

用Jmeter进行接口自动化测试的工作流程你知道吗？

在测试负责人接受到测试任务后，应该按照以下流程规范完成测试工作。 2.1 测试需求分析 产品开发负责人在完成某产品功能的接口文档编写后，在核对无误后下发给对应的接口测试负责人。测试负责人拿到接口文档需要首先做以下两方面的工作。一方面&#…
阅读更多...
点云采样方法

点云采样方法

随机采样，网格采样，均匀采样，集合采样。 网格采样：用规则的网格对点进行采样，不能精确的控制采样点的数量 均匀采样：均匀的采样点云中的点，由于其鲁棒性(系统的健壮性)而更受欢迎 点云降采样…
阅读更多...
Windows11更新后Chrome无法打开解决方案

Windows11更新后Chrome无法打开解决方案

引言 最近更新了win11后，chrome突然抽风无法打开了，不知道是不是微软的锅，上网查询发现似乎有很多人最近碰到了相同的问题，试了试最为广泛传播的方案–更改manifest文件。然而在我这无效，索性直接重装，发现…
阅读更多...
vscode搭建c/c++环境

vscode搭建c/c++环境

1. 安装mingw64 2.vscode安装c/c插件，run插件 3.在workspace/.vscode文件夹下新建三个文件： 1）c_cpp_properties.json { "configurations": [ { "name": "Win32", "includePath": [ "${wor…
阅读更多...
CentOS8的nmcli常用命令总结

CentOS8的nmcli常用命令总结

nmcli常用命令 # 查看ip（类似于ifconfig、ip addr） nmcli# 创建connection，配置静态ip（等同于配置ifcfg，其中BOOTPROTOnone，并ifup启动） nmcli c add type ethernet con-name ethX ifname ethX…
阅读更多...
vue怎样封装接口

vue怎样封装接口

Vue可以使用axios来发送HTTP请求，通过封装axios可以实现接口的统一管理和调用。下面是一个简单的封装接口的示例。 安装axios 在项目中安装axios依赖，可以使用npm或者yarn命令进行安装。 npm install axios --save创建api.js文件 在项目中创建一个ap…
阅读更多...
BACnet /IP转MQTT网关

BACnet /IP转MQTT网关

在工业自动化和楼宇自动化领域中，Modbus、MQTT和BACnet/IP是三种常用的通信协议。Modbus是一种串行通信协议，常用于连接工业电子设备；MQTT是一种基于发布/订阅模式的轻量级通信协议，适用于远程监测和控制系统；BACnet/I…
阅读更多...
代码注释对于程序员重要吗？

代码注释对于程序员重要吗？

程序员对代码注释可以说是又爱又恨又双标……你是怎么看待程序员不写注释这一事件的呢？ 代码注释的重要性 代码注释是指在程序代码中添加的解释性说明，用于描述代码的功能、目的、使用方法等。代码注释对于程序的重要性主要体现在以下几个方面&#x…
阅读更多...
JSON数据处理工具-在线工具箱网站tool.qqmu.com的使用指南

JSON数据处理工具-在线工具箱网站tool.qqmu.com的使用指南

导语：无论是处理JSON数据、进行文本数字处理、解码加密还是使用站长工具，我们都希望能够找到一个功能强大、简便易用的在线平台。tool.qqmu.com作为一款瑞士军刀般的在线工具箱网站，满足了众多用户的需求。本文将介绍tool.qqmu.com的多项功能…
阅读更多...
什么是网络流量监控

什么是网络流量监控

随着许多服务迁移到云，网络基础架构的维护变得复杂。虽然云采用在生产力方面是有利的，但它也可能让位于未经授权的访问，使 IT 系统容易受到安全攻击。 为了确保其网络的安全性和平稳的性能，IT 管理员需要监控用户访问的每个链接以…
阅读更多...
tcpdump(三)命令行参数讲解(二)

tcpdump(三)命令行参数讲解(二)

一 tcpdump实战详解 骏马金龙tcpdump详解 强调： 注意区分选项参数和过滤条件 本文继上篇 网卡没有开启混杂模式 tcpdump默认开启混杂模式 --no-promiscuous-mode --> 可以指定在非混杂模式抓包 ① -vv 控制详细内容的输出 ② -s -s 长度: 可以只…
阅读更多...
【Python】概述

【Python】概述

【Python】概述 特点 Python 是一种面向对象、解释性、弱类型（动态数据类型）的脚本语言（高级程序设计语言）。 由于Python是解释型语言，所以具有跨平台特性。 解释型语言： 这意味着开发过程中没有了编译…
阅读更多...
最新文章

Copyright @ 2022~2023