竞赛 基于GRU的 电影评论情感分析 - python 深度学习 情感分类

文章目录

  • 1 前言
    • 1.1 项目介绍
  • 2 情感分类介绍
  • 3 数据集
  • 4 实现
    • 4.1 数据预处理
    • 4.2 构建网络
    • 4.3 训练模型
    • 4.4 模型评估
    • 4.5 模型预测
  • 5 最后

1 前言

🔥 优质竞赛项目系列，今天要分享的是

基于GRU的 电影评论情感分析

该项目较为新颖，适合作为竞赛课题方向，学长非常推荐！

🧿 更多资料, 项目分享：

https://gitee.com/dancheng-senior/postgraduate

1.1 项目介绍

其实，很明显这个项目和微博谣言检测是一样的，也是个二分类的问题，因此，我们可以用到学长之前提到的各种方法，即：

朴素贝叶斯或者逻辑回归以及支持向量机都可以解决这个问题。

另外在深度学习中，我们可以用CNN-Text或者RNN以及LSTM等模型最好。

当然在构建网络中也相对简单，相对而言，LSTM就比较复杂了，为了让不同层次的同学们可以接受，学长就用了相对简单的GRU模型。

如果大家想了解LSTM。以后，学长会给大家详细介绍。

2 情感分类介绍

其实情感分析在自然语言处理中，情感分析一般指判断一段文本所表达的情绪状态，属于文本分类问题。一般而言：情绪类别：正面/负面。当然，这就是为什么本人在前面提到情感分析实际上也是二分类问题的原因。

3 数据集

学长本次使用的是非常典型的IMDB数据集。

该数据集包含来自互联网的50000条严重两极分化的评论，该数据被分为用于训练的25000条评论和用于测试的25000条评论，训练集和测试集都包含50%的正面评价和50%的负面评价。该数据集已经经过预处理：评论（单词序列）已经被转换为整数序列，其中每个整数代表字典中的某个单词。

查看其数据集的文件夹：这是train和test文件夹。

在这里插入图片描述

接下来就是以train文件夹介绍里面的内容
在这里插入图片描述

然后就是以neg文件夹介绍里面的内容，里面会有若干的text文件：
在这里插入图片描述

4 实现

4.1 数据预处理

​

#导入必要的包import zipfileimport osimport ioimport randomimport jsonimport matplotlib.pyplot as pltimport numpy as npimport paddleimport paddle.fluid as fluidfrom paddle.fluid.dygraph.nn import Conv2D, Pool2D, Linear, Embeddingfrom paddle.fluid.dygraph.base import to_variablefrom paddle.fluid.dygraph import GRUUnitimport paddle.dataset.imdb as imdb#加载字典def load_vocab():vocab = imdb.word_dict()return vocab#定义数据生成器class SentaProcessor(object):def __init__(self):self.vocab = load_vocab()def data_generator(self, batch_size, phase='train'):if phase == "train":return paddle.batch(paddle.reader.shuffle(imdb.train(self.vocab),25000), batch_size, drop_last=True)elif phase == "eval":return paddle.batch(imdb.test(self.vocab), batch_size,drop_last=True)else:raise ValueError("Unknown phase, which should be in ['train', 'eval']")

步骤

  1. 首先导入必要的第三方库

  2. 接下来就是数据预处理，需要注意的是：数据是以数据标签的方式表示一个句子，因此，每个句子都是以一串整数来表示的，每个数字都是对应一个单词。当然，数据集就会有一个数据集字典，这个字典是训练数据中出现单词对应的数字标签。

4.2 构建网络

这次的GRU模型分为以下的几个步骤

  • 定义网络
  • 定义损失函数
  • 定义优化算法

具体实现如下

​
#定义动态GRU
class DynamicGRU(fluid.dygraph.Layer):
def init(self,
size,
param_attr=None,
bias_attr=None,
is_reverse=False,
gate_activation=‘sigmoid’,
candidate_activation=‘relu’,
h_0=None,
origin_mode=False,
):
super(DynamicGRU, self).init()
self.gru_unit = GRUUnit(
size * 3,
param_attr=param_attr,
bias_attr=bias_attr,
activation=candidate_activation,
gate_activation=gate_activation,
origin_mode=origin_mode)
self.size = size
self.h_0 = h_0
self.is_reverse = is_reverse
def forward(self, inputs):
hidden = self.h_0
res = []
for i in range(inputs.shape[1]):
if self.is_reverse:
i = inputs.shape[1] - 1 - i
input_ = inputs[ :, i:i+1, :]
input_ = fluid.layers.reshape(input_, [-1, input_.shape[2]], inplace=False)
hidden, reset, gate = self.gru_unit(input_, hidden)
hidden_ = fluid.layers.reshape(hidden, [-1, 1, hidden.shape[1]], inplace=False)
res.append(hidden_)
if self.is_reverse:
res = res[::-1]
res = fluid.layers.concat(res, axis=1)
return res

class GRU(fluid.dygraph.Layer):def __init__(self):super(GRU, self).__init__()self.dict_dim = train_parameters["vocab_size"]self.emb_dim = 128self.hid_dim = 128self.fc_hid_dim = 96self.class_dim = 2self.batch_size = train_parameters["batch_size"]self.seq_len = train_parameters["padding_size"]self.embedding = Embedding(size=[self.dict_dim + 1, self.emb_dim],dtype='float32',param_attr=fluid.ParamAttr(learning_rate=30),is_sparse=False)h_0 = np.zeros((self.batch_size, self.hid_dim), dtype="float32")h_0 = to_variable(h_0)self._fc1 = Linear(input_dim=self.hid_dim, output_dim=self.hid_dim*3)self._fc2 = Linear(input_dim=self.hid_dim, output_dim=self.fc_hid_dim, act="relu")self._fc_prediction = Linear(input_dim=self.fc_hid_dim,output_dim=self.class_dim,act="softmax")self._gru = DynamicGRU(size=self.hid_dim, h_0=h_0)def forward(self, inputs, label=None):emb = self.embedding(inputs)o_np_mask =to_variable(inputs.numpy().reshape(-1,1) != self.dict_dim).astype('float32')mask_emb = fluid.layers.expand(to_variable(o_np_mask), [1, self.hid_dim])emb = emb * mask_embemb = fluid.layers.reshape(emb, shape=[self.batch_size, -1, self.hid_dim])fc_1 = self._fc1(emb)gru_hidden = self._gru(fc_1)gru_hidden = fluid.layers.reduce_max(gru_hidden, dim=1)tanh_1 = fluid.layers.tanh(gru_hidden)fc_2 = self._fc2(tanh_1)prediction = self._fc_prediction(fc_2)if label is not None:acc = fluid.layers.accuracy(prediction, label=label)return prediction, accelse:return prediction

4.3 训练模型

​
def train():
with fluid.dygraph.guard(place = fluid.CUDAPlace(0)): # # 因为要进行很大规模的训练，因此我们用的是GPU，如果没有安装GPU的可以使用下面一句，把这句代码注释掉即可
# with fluid.dygraph.guard(place = fluid.CPUPlace()):

        processor = SentaProcessor()train_data_generator = processor.data_generator(batch_size=train_parameters["batch_size"], phase='train')model = GRU()sgd_optimizer = fluid.optimizer.Adagrad(learning_rate=train_parameters["lr"],parameter_list=model.parameters())steps = 0Iters, total_loss, total_acc = [], [], []for eop in range(train_parameters["epoch"]):for batch_id, data in enumerate(train_data_generator()):steps += 1doc = to_variable(np.array([np.pad(x[0][0:train_parameters["padding_size"]], (0, train_parameters["padding_size"] - len(x[0][0:train_parameters["padding_size"]])),'constant',constant_values=(train_parameters["vocab_size"]))for x in data]).astype('int64').reshape(-1))label = to_variable(np.array([x[1] for x in data]).astype('int64').reshape(train_parameters["batch_size"], 1))model.train()prediction, acc = model(doc, label)loss = fluid.layers.cross_entropy(prediction, label)avg_loss = fluid.layers.mean(loss)avg_loss.backward()sgd_optimizer.minimize(avg_loss)model.clear_gradients()if steps % train_parameters["skip_steps"] == 0:Iters.append(steps)total_loss.append(avg_loss.numpy()[0])total_acc.append(acc.numpy()[0])print("step: %d, ave loss: %f, ave acc: %f" %(steps,avg_loss.numpy(),acc.numpy()))if steps % train_parameters["save_steps"] == 0:save_path = train_parameters["checkpoints"]+"/"+"save_dir_" + str(steps)print('save model to: ' + save_path)fluid.dygraph.save_dygraph(model.state_dict(),save_path)draw_train_process(Iters, total_loss, total_acc)

在这里插入图片描述
在这里插入图片描述

4.4 模型评估

在这里插入图片描述

结果还可以，这里说明的是，刚开始的模型训练评估不可能这么好，很明显是过拟合的问题，这就需要我们调整我们的epoch、batchsize、激活函数的选择以及优化器、学习率等各种参数，通过不断的调试、训练最好可以得到不错的结果，但是，如果还要更好的模型效果，其实可以将GRU模型换为更为合适的RNN中的LSTM以及bi-
LSTM模型会好很多。

4.5 模型预测

​
train_parameters[“batch_size”] = 1

with fluid.dygraph.guard(place = fluid.CUDAPlace(0)):sentences = 'this is a great movie'data = load_data(sentences)print(sentences)print(data)data_np = np.array(data)data_np = np.array(np.pad(data_np,(0,150-len(data_np)),"constant",constant_values =train_parameters["vocab_size"])).astype('int64').reshape(-1)infer_np_doc = to_variable(data_np)model_infer = GRU()model, _ = fluid.load_dygraph("data/save_dir_750.pdparams")model_infer.load_dict(model)model_infer.eval()result = model_infer(infer_np_doc)print('预测结果为：正面概率为：%0.5f，负面概率为：%0.5f' % (result.numpy()[0][0],result.numpy()[0][1]))

在这里插入图片描述

训练的结果还是挺满意的，到此为止，我们的本次项目实验到此结束。

5 最后

🧿 更多资料, 项目分享：

https://gitee.com/dancheng-senior/postgraduate

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/821651.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Java基础入门day33

Java基础入门day33

day33 html 表单 表单实现与用户的可交互操作 表单可以用来收集用户输入信息 form表单标签，可以在页面上添加一个表单元素，表单本身没有边界 属性action，目标地址，表单提交后要跳转的对应的url地址 属性method： get…
阅读更多...
【数据结构|C语言版】双向链表

【数据结构|C语言版】双向链表

前言1. 初步认识双向链表1.1 定义1.2 结构1.3 储存 2. 双向链表的方法（接口函数）2.1 动态申请空间2.2 创建哨兵位2.3 查找指定数据2.4 指定位置插入2.5 指定位置删除2.6 头部插入2.7 头部删除2.8 尾部插入2.9 尾部删除2.10 计算链表大小2.11 销毁链表 3.…
阅读更多...
【LeetCode热题100】【贪心算法】划分字母区间

【LeetCode热题100】【贪心算法】划分字母区间

题目链接：763. 划分字母区间 - 力扣（LeetCode） 要将一个字符串划分为多个子串，要求每个字母只能出现在一个子串里面 如果一个字母的当前位置是它在这个字符串里面最后一次出现的位置，那么这里就应该划分出来成为子串…
阅读更多...
记录一下hive跑spark的insert，update语句报类找不到的问题

记录一下hive跑spark的insert，update语句报类找不到的问题

我hive能正常启动，建表没问题，我建了一个student表，没问题，但执行了下面一条insert语句后报如下错误： hive (default)> insert into table student values(1,abc); Query ID atguigu_20240417184003_f9d459d7-199…
阅读更多...
【Image captioning】论文阅读九—Self-Distillation for Few-Shot Image Captioning_2022

【Image captioning】论文阅读九—Self-Distillation for Few-Shot Image Captioning_2022

摘要 大规模图像字幕数据集的开发成本高昂，而大量未配对的图像和文本语料库可能有助于减少手动注释的工作。在本文中，我们研究了只需要少量带注释的图像标题对的少样本图像标题问题。我们提出了一种基于集成的自蒸馏方法，允许使用不成对的图像和字幕来训练图像字幕模型。该…
阅读更多...
VBA脚本： excel隐藏和展开指定行 【图文】

VBA脚本： excel隐藏和展开指定行 【图文】

打开开发工具功能 【文件】-》【选项】-》【自定义功能区】-》勾选【开发工具】-》【确定】 代开VBA编辑器 【开发工具】-》【Visual Basic】 插入模块 编写代码 所有sheet 关闭 Sub HideRowsInAllSheets()Dim ws As WorksheetDim i As Integer 循环遍历所有工作表For E…
阅读更多...
【学习笔记】Python大数据处理与分析——Matplotlib数据可视化

【学习笔记】Python大数据处理与分析——Matplotlib数据可视化

一、绘图步骤 1、导入第三方库 import matplotlib.pyplot as plt import numpy as np 2、准备数据 x1 np.linspace(1, 10, 5) y1 np.sin(x1) 3、开始绘图 plt.plot(x1, y1, linewidth3) 4、完善图表 plt.title("plot figure") plt.xlabel("value of x&qu…
阅读更多...
java日志log4j使用

java日志log4j使用

1、导入jar包 log4j-1.2.17.jar log4j-api-2.0-rc1.jar log4j-core-2.0-rc1.jar https://download.csdn.net/download/weixin_44201223/89148839 所需jar包下载地址 2、创建 log4j.properties src 下创建 log4j.properties (路径和名称都不允许改变)，放置 src 下…
阅读更多...
springboot源码(二)：自动装配原理

springboot源码(二)：自动装配原理

springboot源码(二)：自动装配原理 ​ 在之前的课程中我们讲解了springboot的启动过程，其实在面试过程中问的最多的可能是自动装配的原理，而自动装配是在启动过程中完成，只不过在刚开始的时候我们选择性的跳过了，下面详…
阅读更多...
WPF App.xaml 中添加多个ResourceDictionary

WPF App.xaml 中添加多个ResourceDictionary

在WPF应用程序中，App.xaml 文件是一个常用的集中位置来管理应用级别的资源，包括样式、模板、图像、数据转换器等。为了添加多个 ResourceDictionary 到 App.xaml 中，可以利用 ResourceDictionary 的 MergedDictionaries 属性。这个属性允许您…
阅读更多...
百分比padding---------实现图片固定比例并自适应布局 以及aspect-ratio属性、cqw单位

百分比padding---------实现图片固定比例并自适应布局 以及aspect-ratio属性、cqw单位

一、百分百padding 在文档流中css的margin和padding这两个属性垂直方向的百分百值都是基于宽度计算的，这个也是本次布局方式的核心。 这个方案优势：图片自适应同时保持比例，以及页面刷新的时候没有布局稳固不晃动 这种方式应用场景就是&am…
阅读更多...
OpenHarmony、HarmonyOS和Harmony NEXT 《我们不一样》

OpenHarmony、HarmonyOS和Harmony NEXT 《我们不一样》

1. OpenHarmony 定义与地位：OpenHarmony是鸿蒙系统的底层内核系统，集成了Linux内核和LiteOS，为各种设备提供统一的操作系统解决方案。 开源与商用：OpenHarmony是一个开源项目，允许开发者自由访问和使用其源代码&#…
阅读更多...
【Leetcode每日一题】 递归 - 二叉树的所有路径（难度⭐）（59）

【Leetcode每日一题】 递归 - 二叉树的所有路径（难度⭐）（59）

1. 题目解析 题目链接：257. 二叉树的所有路径 这个问题的理解其实相当简单，只需看一下示例，基本就能明白其含义了。 2.算法原理 针对二叉树路径的求解问题，我们可以采用深度优先遍历（DFS）的策略来寻找所…
阅读更多...
Java项目如何使用EasyExcel插件对Excel数据进行导入导出

Java项目如何使用EasyExcel插件对Excel数据进行导入导出

文章目录 一、EasyExcel的示例导入依赖创建实体类数据导入和导出 二、EasyExcel的作用三、EasyExcel的注解 EasyExcel是一个阿里巴巴开源的excel处理框架，它以使用简单、节省内存著称。在解析Excel时，EasyExcel没有将文件数据一次性全部加载到内存中&…
阅读更多...
linux学习：进程（新建+运行某文件+退出处理函数+等待）

linux学习：进程（新建+运行某文件+退出处理函数+等待）

目录 api 创建新进程 注意 运行某文件 例子 注意 例子，等待进程 进程是由进程控制块、程序段、数据段三部分组成 进程有都有一个父进程，除了init，父进程可以创建子进程 每个进程都有一个PID，可以用ps来查看，等…
阅读更多...
【行为型模式】策略模式

【行为型模式】策略模式

一、策略模式概述 策略模式(又叫政策Policy模式)，属于对象行为模式下的：Strategy类提供了可插入式(Pluggable)算法的实现方案。 策略模式的定义-意图：定义一系列算法，将每一个算法封装起来，并让它们互相替换。策略模式…
阅读更多...
汽车笔记-保险

汽车笔记-保险

保险 1.交强险 上路必须买的， 国家规定必须要买。交强险不管你是有责还是无责，它都是可以赔偿的。交强险还有一个18000的垫付功能，比如说我们出了交通事故后，对方住院治疗需要你垫付钱，那么这个时候就可以用到交强险…
阅读更多...
Mybatis常用注解说明

Mybatis常用注解说明

MyBatisPlus 常用注解说明 TableName(opens new window) 描述：表名注解，标识实体类对应的表 使用位置：实体类 TableName("sys_user") public class User {private Long id;private String name;private Integer age;private Strin…
阅读更多...
实用图像视频修复工具：完善细节、提高分辨率 | 开源日报 No.225

实用图像视频修复工具：完善细节、提高分辨率 | 开源日报 No.225

xinntao/Real-ESRGAN Stars: 25.6k License: BSD-3-Clause Real-ESRGAN 是一个旨在开发实用的图像/视频恢复算法的项目。 该项目主要功能、关键特性和核心优势包括： 提供动漫视频小模型和动漫插图模型支持在线 Colab 演示和便携式 Windows/Linux/MacOS 可执行文件…
阅读更多...
如何利用纯前端技术，实现一个网页版视频编辑器？

如何利用纯前端技术，实现一个网页版视频编辑器？

纯网页版视频编辑器 一、前言二、功能实现三、所需技术四、部分功能实现4.1 素材预设4.2 多轨道剪辑 一、前言 介绍：本篇文章打算利用纯前端的技术，来实现一个网页版的视频编辑器。为什么突然想做一个这么项目来呢，主要是最近一直在利用手机…
阅读更多...
最新文章

Copyright @ 2022~2023