大模型之-Seq2Seq介绍

大模型之-Seq2Seq介绍

1. Seq2Seq 模型概述

Seq2Seq（Sequence to Sequence）模型是一种用于处理序列数据的深度学习模型，常用于机器翻译、文本摘要和对话系统等任务。它的核心思想是将一个输入序列转换成一个输出序列。

Seq2Seq模型由两个主要部分组成：编码器（Encoder）和解码器（Decoder）。编码器读取并理解输入序列，将其转换成一个称为上下文向量的固定长度表示。解码器根据这个上下文向量生成目标序列。

编码器逐步处理输入序列中的每个元素，并将每一步的结果传递给下一步，最终生成一个总结输入信息的上下文向量。解码器使用这个向量，逐步生成输出序列的每个元素。

为了提高模型性能，常引入Attention机制，使解码器在生成每个输出时能够关注编码器输出的不同部分。Seq2Seq模型的灵活性和强大功能使其成为解决许多自然语言处理任务的有效工具。

1-1. 基本组成部分

  1. 编码器（Encoder）：负责读取并理解输入序列。

假设正在读一本书。编码器就像大脑在读书的时候，它会逐字逐句地理解书中的内容，并在你的脑海里形成一个总结。具体来说，编码器会逐个处理输入的每个单词（或字符），并把它们转化为一个理解的内部表示。

  1. 解码器（Decoder）：负责生成输出序列。

现在需要根据你读的书写一篇总结。解码器就像你在写这篇总结的过程。它会根据编码器生成的内部表示（你对书的理解），逐步地写出总结中的每个句子或单词。

  • 编码器和解码器合作过程

    • 读书（编码器）：编码器一边读一边总结，把整个输入（比如一句话或一段话）变成一个内部表示，就像你读完一本书后脑海中的理解。
    • 写总结（解码器）：解码器根据编码器的内部表示，逐字逐句地写出总结内容，就像你在写一篇文章。

  • 简单比喻

    • 编码器：你在读一本书，把内容记在脑子里。

    • 解码器：你根据记在脑子里的内容，写出一篇文章。

所以，编码器是负责理解输入内容的部分，而解码器是根据理解的内容生成输出的部分

  1. 上下文向量（Context Vector）：编码器将输入序列转换成的固定长度向量，作为解码器的输入。

像是你在读完书之后形成的“脑海里的理解”或者“脑海中的总结”。它浓缩了你所读的内容的所有重要信息。

当编码器处理完输入序列（比如一句话的所有单词）之后，它会生成一个代表整个输入序列的内部状态，这个状态就是上下文向量。这个向量包含了输入序列中的所有关键信息，能够帮助解码器理解输入内容的总体意思。

1-2. 基本工作流程

  1. 输入序列通过编码器，生成上下文向量。
  2. 解码器根据上下文向量生成目标序列。

2. 编码器（Encoder）

编码器通常由一个或多个RNN（循环神经网络）组成，如LSTM（长短期记忆网络）或GRU（门控循环单元）。编码器将输入序列逐步处理，将每个时刻的隐藏状态传递给下一个时刻，最终生成一个上下文向量，表示整个输入序列的信息。

2-1. 编码器结构

  • 输入嵌入层：将输入的词或字符转换为向量表示。
  • RNN层：处理输入嵌入，生成隐藏状态。
import torch
import torch.nn as nnclass Encoder(nn.Module):def __init__(self, input_dim, emb_dim, hidden_dim, n_layers):super(Encoder, self).__init__()self.embedding = nn.Embedding(input_dim, emb_dim)self.rnn = nn.LSTM(emb_dim, hidden_dim, n_layers, batch_first=True)def forward(self, src):embedded = self.embedding(src)outputs, (hidden, cell) = self.rnn(embedded)return hidden, cell

3. 解码器（Decoder）

解码器的结构与编码器类似，但其初始状态是编码器生成的上下文向量。解码器逐步生成输出序列，每一步都依赖于前一步的输出和隐藏状态。

3-1. 解码器结构

  • 输入嵌入层：将前一步的输出词或字符转换为向量表示。
  • RNN层：处理输入嵌入和编码器的隐藏状态，生成新的隐藏状态和输出。
class Decoder(nn.Module):def __init__(self, output_dim, emb_dim, hidden_dim, n_layers):super(Decoder, self).__init__()self.embedding = nn.Embedding(output_dim, emb_dim)self.rnn = nn.LSTM(emb_dim, hidden_dim, n_layers, batch_first=True)self.fc_out = nn.Linear(hidden_dim, output_dim)def forward(self, input, hidden, cell):input = input.unsqueeze(1)embedded = self.embedding(input)output, (hidden, cell) = self.rnn(embedded, (hidden, cell))prediction = self.fc_out(output.squeeze(1))return prediction, hidden, cell

4. 训练过程

4-1. 损失函数

使用交叉熵损失（Cross-Entropy Loss）来计算模型输出与目标序列之间的差异。

4-2. 优化器

常用的优化器有Adam和SGD。

4-3. 训练循环

def train(model, iterator, optimizer, criterion, clip):model.train()epoch_loss = 0for i, batch in enumerate(iterator):src = batch.srctrg = batch.trgoptimizer.zero_grad()output = model(src, trg)output_dim = output.shape[-1]output = output[1:].view(-1, output_dim)trg = trg[1:].view(-1)loss = criterion(output, trg)loss.backward()torch.nn.utils.clip_grad_norm_(model.parameters(), clip)optimizer.step()epoch_loss += loss.item()return epoch_loss / len(iterator)

5. Attention机制

Attention机制用于解决上下文向量长度固定导致的信息丢失问题。通过Attention机制，解码器在生成每个词时，可以“关注”编码器输出的不同部分，从而利用更多的上下文信息。

5-1. Attention层

class Attention(nn.Module):def __init__(self, hidden_dim):super(Attention, self).__init__()self.attn = nn.Linear(hidden_dim * 2, hidden_dim)self.v = nn.Parameter(torch.rand(hidden_dim))def forward(self, hidden, encoder_outputs):batch_size = encoder_outputs.shape[0]src_len = encoder_outputs.shape[1]hidden = hidden.unsqueeze(1).repeat(1, src_len, 1)energy = torch.tanh(self.attn(torch.cat((hidden, encoder_outputs), dim=2)))energy = energy.permute(0, 2, 1)v = self.v.repeat(batch_size, 1).unsqueeze(1)attention = torch.bmm(v, energy).squeeze(1)return torch.softmax(attention, dim=1)

6. 实际应用场景

6-1. 机器翻译

Seq2Seq（Sequence to Sequence）模型是一种基于神经网络的技术，广泛应用于自然语言处理任务，特别是机器翻译。Seq2Seq模型能够将一个序列（例如一句话）转换为另一个序列（另一种语言的翻译）。其主要构成包括编码器（Encoder）和解码器（Decoder）两个部分，通常使用递归神经网络（RNN）、长短期记忆网络（LSTM）或门控循环单元（GRU）来实现。

6-1-1. Seq2Seq模型的基本结构
  1. 编码器（Encoder）：
    • 编码器的任务是将输入序列（源语言句子）转换为一个固定大小的上下文向量（Context Vector）。
    • 输入序列的每个单词通过嵌入层（Embedding Layer）转换为词向量，然后逐步输入到RNN、LSTM或GRU单元中。
    • 编码器的最后一个隐藏状态（Hidden State）作为上下文向量传递给解码器。
  2. 解码器（Decoder）：
    • 解码器根据编码器传递的上下文向量生成目标序列（目标语言句子）。
    • 解码器在每个时间步接收前一个时间步生成的单词和当前的隐藏状态，输出当前时间步的单词。
    • 解码器输出的每个单词通过Softmax层转换为概率分布，从中选出最可能的单词作为当前时间步的输出。
6-1-2. 应用流程
  1. 训练阶段：
    • 输入大量的源语言-目标语言对（例如英语句子-中文句子）。
    • 编码器将源语言句子编码为上下文向量。
    • 解码器根据上下文向量和已生成的目标语言单词逐步生成整个目标语言句子。
    • 使用目标语言的实际单词对生成的单词进行监督学习，更新模型参数。
  2. 翻译阶段：
    • 输入一个新的源语言句子。
    • 编码器将其编码为上下文向量。
    • 解码器根据上下文向量逐步生成目标语言句子，直到生成结束标记（）。
6-1-3. Seq2Seq机器翻译优点
  • 处理变长输入和输出：Seq2Seq模型能够处理长度不固定的输入和输出序列。
  • 上下文捕捉：编码器能够捕捉源语言句子的全局上下文信息，有助于生成连贯的目标语言句子。
  • 端到端训练：Seq2Seq模型可以通过端到端的方式直接训练，无需手工设计特征。

6-2. 文本摘要

Seq2Seq（Sequence to Sequence）模型在文本摘要任务中的应用与其在机器翻译中的应用有很多相似之处。文本摘要的目标是从一个长文本中生成一个简短的、语义上等价的摘要。与机器翻译类似，Seq2Seq模型通过编码器和解码器的组合来实现这个任务。

6-2-1. Seq2Seq模型在文本摘要中的基本结构
  1. 编码器（Encoder）：
    • 编码器将输入的长文本编码成一个固定长度的上下文向量（Context Vector）。
    • 通常使用递归神经网络（RNN）、长短期记忆网络（LSTM）或门控循环单元（GRU）来处理输入文本。
    • 输入文本的每个词通过嵌入层（Embedding Layer）转换为词向量，然后逐步输入到编码器的RNN、LSTM或GRU单元中。
    • 最终，编码器的隐藏状态作为上下文向量传递给解码器。
  2. 解码器（Decoder）：
    • 解码器根据编码器生成的上下文向量生成文本摘要。
    • 解码器在每个时间步接收前一个时间步生成的词和当前的隐藏状态，输出当前时间步的词。
    • 解码器输出的每个词通过Softmax层转换为概率分布，从中选出最可能的词作为当前时间步的输出。
6-2-2. 应用流程
  1. 训练阶段：
    • 输入大量的原始文本和相应的摘要对。
    • 编码器将原始文本编码为上下文向量。
    • 解码器根据上下文向量和已生成的摘要词逐步生成整个摘要。
    • 使用实际的摘要词对生成的词进行监督学习，更新模型参数。
  2. 摘要生成阶段：
    • 输入一个新的长文本。
    • 编码器将其编码为上下文向量。
    • 解码器根据上下文向量逐步生成摘要，直到生成结束标记（）。
6-2-3. Seq2Seq文本摘要优点
  • 处理变长输入和输出：Seq2Seq模型能够处理长度不固定的输入和输出序列，这对文本摘要特别重要。
  • 上下文捕捉：编码器能够捕捉输入文本的全局上下文信息，有助于生成连贯的摘要。
  • 端到端训练：Seq2Seq模型可以通过端到端的方式直接训练，无需手工设计特征。

6-3. 对话系统

Seq2Seq（Sequence to Sequence）模型在对话系统中的应用非常广泛。对话系统（也称为聊天机器人）需要处理自然语言输入，并生成自然语言输出，这与机器翻译和文本摘要任务有很多相似之处。Seq2Seq模型能够根据用户输入的对话上下文，生成适当的回复，完成自然语言理解和生成的任务。

6-3-1. Seq2Seq模型在对话系统中的基本结构
  1. 编码器（Encoder）：
    • 编码器将用户输入的对话内容编码成一个固定长度的上下文向量（Context Vector）。
    • 通常使用递归神经网络（RNN）、长短期记忆网络（LSTM）或门控循环单元（GRU）来处理输入文本。
    • 输入的每个词通过嵌入层（Embedding Layer）转换为词向量，然后逐步输入到编码器的RNN、LSTM或GRU单元中。
    • 最终，编码器的隐藏状态作为上下文向量传递给解码器。
  2. 解码器（Decoder）：
    • 解码器根据编码器生成的上下文向量生成对话回复。
    • 解码器在每个时间步接收前一个时间步生成的词和当前的隐藏状态，输出当前时间步的词。
    • 解码器输出的每个词通过Softmax层转换为概率分布，从中选出最可能的词作为当前时间步的输出。
6-3-2. 应用流程

训练阶段：

  • 输入大量的对话数据对（例如用户输入和对应的回复）。
  • 编码器将用户输入编码为上下文向量。
  • 解码器根据上下文向量和已生成的回复词逐步生成整个回复。
  • 使用实际的回复词对生成的词进行监督学习，更新模型参数。

对话生成阶段：

  • 输入一个新的用户对话内容。
  • 编码器将其编码为上下文向量。
  • 解码器根据上下文向量逐步生成回复，直到生成结束标记（）。
6-3-3. Seq2Seq对话系统优点
  • 处理变长输入和输出：Seq2Seq模型能够处理长度不固定的输入和输出序列，这对对话系统特别重要。
  • 上下文捕捉：编码器能够捕捉用户输入的全局上下文信息，有助于生成连贯的回复。
  • 端到端训练：Seq2Seq模型可以通过端到端的方式直接训练，无需手工设计特征。

7. 完整示例代码演示

7-1. 完整代码分享

以下是一份完整的示例代码，包括编码器、解码器、Seq2Seq模型、训练和预测部分，test_seq2seq.py

​ 代码实现了一个基础的Seq2Seq模型，并使用随机数据进行训练。训练损失的逐步下降表明模型在学习，但损失下降比较缓慢，可能是需要调整参数和数据来优化模型性能。实际应用场景中，一般跑模型的都是真实数据集并根据需要调整模型参数，以获得更好的结果。

#!/usr/bin/env python3
# -*- coding:utf-8 -*-
# @Project  :WangtAI
# @File     :test_seq2seq.py
# @Time     :2024/6/19 17:56
# @Author   :wangting_666
# @Email    :wangtingbk@gmail.com### pip install torch torchvisionimport torch
import torch.nn as nn
import torch.optim as optim
import random# 设置随机种子以确保结果可重复
SEED = 1234
random.seed(SEED)
torch.manual_seed(SEED)
torch.backends.cudnn.deterministic = True# 定义编码器Encoder
class Encoder(nn.Module):def __init__(self, input_dim, emb_dim, hidden_dim, n_layers, dropout):super().__init__()self.embedding = nn.Embedding(input_dim, emb_dim)self.rnn = nn.LSTM(emb_dim, hidden_dim, n_layers, dropout=dropout)self.dropout = nn.Dropout(dropout)def forward(self, src):embedded = self.dropout(self.embedding(src))outputs, (hidden, cell) = self.rnn(embedded)return hidden, cell# 定义解码器Decoder
class Decoder(nn.Module):def __init__(self, output_dim, emb_dim, hidden_dim, n_layers, dropout):super().__init__()self.embedding = nn.Embedding(output_dim, emb_dim)self.rnn = nn.LSTM(emb_dim, hidden_dim, n_layers, dropout=dropout)self.fc_out = nn.Linear(hidden_dim, output_dim)self.dropout = nn.Dropout(dropout)def forward(self, input, hidden, cell):input = input.unsqueeze(0)embedded = self.dropout(self.embedding(input))output, (hidden, cell) = self.rnn(embedded, (hidden, cell))prediction = self.fc_out(output.squeeze(0))return prediction, hidden, cell# 定义Seq2Seq模型
class Seq2Seq(nn.Module):def __init__(self, encoder, decoder, device):super().__init__()self.encoder = encoderself.decoder = decoderself.device = devicedef forward(self, src, trg, teacher_forcing_ratio=0.5):trg_len = trg.shape[0]batch_size = trg.shape[1]trg_vocab_size = self.decoder.fc_out.out_featuresoutputs = torch.zeros(trg_len, batch_size, trg_vocab_size).to(self.device)hidden, cell = self.encoder(src)input = trg[0, :]for t in range(1, trg_len):output, hidden, cell = self.decoder(input, hidden, cell)outputs[t] = outputteacher_force = random.random() < teacher_forcing_ratiotop1 = output.argmax(1)input = trg[t] if teacher_force else top1return outputs# 初始化模型参数
INPUT_DIM = 100
OUTPUT_DIM = 100
ENC_EMB_DIM = 32
DEC_EMB_DIM = 32
HID_DIM = 64
N_LAYERS = 2
ENC_DROPOUT = 0.5
DEC_DROPOUT = 0.5
DEVICE = torch.device('cuda' if torch.cuda.is_available() else 'cpu')enc = Encoder(INPUT_DIM, ENC_EMB_DIM, HID_DIM, N_LAYERS, ENC_DROPOUT)
dec = Decoder(OUTPUT_DIM, DEC_EMB_DIM, HID_DIM, N_LAYERS, DEC_DROPOUT)
model = Seq2Seq(enc, dec, DEVICE).to(DEVICE)# 定义优化器和损失函数
optimizer = optim.Adam(model.parameters())
criterion = nn.CrossEntropyLoss()# 训练函数
def train(model, iterator, optimizer, criterion, clip):model.train()epoch_loss = 0for i, batch in enumerate(iterator):src = batch.src.to(DEVICE)trg = batch.trg.to(DEVICE)optimizer.zero_grad()output = model(src, trg)output_dim = output.shape[-1]output = output[1:].view(-1, output_dim)trg = trg[1:].view(-1)loss = criterion(output, trg)loss.backward()torch.nn.utils.clip_grad_norm_(model.parameters(), clip)optimizer.step()epoch_loss += loss.item()return epoch_loss / len(iterator)# 示例数据
class Batch:def __init__(self, src, trg):self.src = srcself.trg = trgbatch_size = 10
src_len = 7
trg_len = 9src = torch.randint(0, INPUT_DIM, (src_len, batch_size)).long()
trg = torch.randint(0, OUTPUT_DIM, (trg_len, batch_size)).long()iterator = [Batch(src, trg)]# 训练模型
N_EPOCHS = 10
CLIP = 1for epoch in range(N_EPOCHS):train_loss = train(model, iterator, optimizer, criterion, CLIP)print(f'Epoch: {epoch + 1:02}, Train Loss: {train_loss:.3f}')### 运行代码后，控制台输出内容：
"""
D:\Python\Python312\python.exe E:\PandasAI\tmp\test_seq2seq.py 
Epoch: 01, Train Loss: 4.613
Epoch: 02, Train Loss: 4.604
Epoch: 03, Train Loss: 4.598
Epoch: 04, Train Loss: 4.594
Epoch: 05, Train Loss: 4.589
Epoch: 06, Train Loss: 4.583
Epoch: 07, Train Loss: 4.587
Epoch: 08, Train Loss: 4.578
Epoch: 09, Train Loss: 4.566
Epoch: 10, Train Loss: 4.562
"""

7-2 . 总结和分析

  • 功能实现
  1. 编码器（Encoder）：通过嵌入层和循环神经网络（LSTM）来处理输入序列，并生成隐藏状态和细胞状态。这些状态捕捉了输入序列中的信息。
  2. 解码器（Decoder）：使用嵌入层和LSTM，根据编码器生成的隐藏状态和细胞状态逐步生成输出序列。
  3. Seq2Seq模型：结合编码器和解码器，将输入序列转换为输出序列。解码器使用教师强制（Teacher Forcing）策略，即在生成序列的过程中，有一定概率使用真实的目标序列作为下一个时间步的输入，以加速训练。
  4. 训练过程：使用随机生成的数据进行训练，优化模型参数以最小化交叉熵损失。训练过程中，每轮迭代都会输出当前的训练损失。
  • 结果分析

从提供的训练损失结果来看：

Epoch: 01, Train Loss: 4.613
Epoch: 02, Train Loss: 4.604
Epoch: 03, Train Loss: 4.598
Epoch: 04, Train Loss: 4.594
Epoch: 05, Train Loss: 4.589
Epoch: 06, Train Loss: 4.583
Epoch: 07, Train Loss: 4.587
Epoch: 08, Train Loss: 4.578
Epoch: 09, Train Loss: 4.566
Epoch: 10, Train Loss: 4.562

可以得出以下结论：

  1. 损失下降趋势：总体上，训练损失在逐步下降。这表明模型在学习过程中逐渐改进，尽管下降幅度较小。
  2. 下降缓慢：损失下降的幅度较小，可能原因如下：
    • 数据复杂性：随机生成的数据可能过于简单或过于复杂，导致模型难以有效学习。
    • 模型参数：编码器和解码器的参数选择（如隐藏层维度、层数、丢弃率等）可能需要调整，以更好地适应数据。
    • 训练数据量：训练数据量较小（仅一个批次），可能不足以充分训练模型。

8. 进阶优化

8-1. 双向编码器

使用双向RNN（BiRNN）作为编码器，使得编码器能够利用输入序列的前后文信息，从而提高表示能力。

class BiEncoder(nn.Module):def __init__(self, input_dim, emb_dim, hidden_dim, n_layers):super(BiEncoder, self).__init__()self.embedding = nn.Embedding(input_dim, emb_dim)self.rnn = nn.LSTM(emb_dim, hidden_dim, n_layers, bidirectional=True, batch_first=True)self.fc = nn.Linear(hidden_dim * 2, hidden_dim)def forward(self, src):embedded = self.embedding(src)outputs, (hidden, cell) = self.rnn(embedded)hidden = torch.tanh(self.fc(torch.cat((hidden[-2,:,:], hidden[-1,:,:]), dim=1)))return hidden, cell

8-2. Beam Search

解码器在生成序列时，使用Beam Search代替贪心搜索，可以生成更优的目标序列。Beam Search在每一步保留得分最高的k个序列，最终选择得分最高的一个。

def beam_search_decoder(data, k):sequences = [[list(), 1.0]]for row in data:all_candidates = list()for i in range(len(sequences)):seq, score = sequences[i]for j in range(len(row)):candidate = [seq + [j], score * -np.log(row[j])]all_candidates.append(candidate)ordered = sorted(all_candidates, key=lambda tup: tup[1])sequences = ordered[:k]return sequences

8-3. 多任务学习

通过多任务学习，Seq2Seq模型可以在同一网络中同时学习多个相关任务，提高模型的泛化能力和性能。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/web/30698.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

企业微信，机器人定时提醒

企业微信，机器人定时提醒

场景&#xff1a; 每天定时发送文字&#xff0c;提醒群成员事情&#xff0c;可以用机器人代替 人工提醒。 1&#xff09;在企业微信&#xff0c;创建机器人 2&#xff09;在腾讯轻联&#xff0c;创建流程&#xff0c;选择定时任务&#xff0c;执行操作&#xff08;企业微信机…
阅读更多...
未登录也能知道你是谁？浏览器指纹了解一下！

未登录也能知道你是谁？浏览器指纹了解一下！

引言 大多数人都遇到过这种场景&#xff0c;我在某个网站上浏览过的信息&#xff0c;但我并未登录&#xff0c;可是到了另一个网站发现被推送了类似的广告&#xff0c;这是为什么呢&#xff1f; 本文将介绍一种浏览器指纹的概念&#xff0c;以及如何利用它来判断浏览者身份。…
阅读更多...
FIddler+Proxifer 实现PC客户端抓包详细教程

FIddler+Proxifer 实现PC客户端抓包详细教程

文章目录 前言1、Proxifer下载和配置1.1、下载Proxifer1.2、Proxifier配置 2、FIddler下载和配置2.1、FIddler下载2.2、FIddler配置 3、三、为什么抓不到有些应用程序的HTTP(s)的包&#xff1f; 前言 一般在浏览器场景下&#xff0c;我们可以利用Fiddler很好的完成抓包&#x…
阅读更多...
计算机网络学习3

计算机网络学习3

文章目录 以太网的MAC帧格式虚拟局域网VLAN概述虚拟局域网VLAN的实现机制以太网的发展802.11无线局域网的组成无线局域网的物理层无线局域网的数据链路层---使用CSMA/CD协议802.11无线局域网的MAC帧 网络层网络层概述网际协议IP和4.2.1异构网络互联IPv4地址及其编址方法概述IPv…
阅读更多...
webpack处理样式资源04--webpack入门学习

webpack处理样式资源04--webpack入门学习

处理样式资源 本章节学习使用 Webpack 如何处理 Css、Less、Sass、Scss、Styl 样式资源 介绍 Webpack 本身是不能识别样式资源的&#xff0c;所以我们需要借助 Loader 来帮助 Webpack 解析样式资源 我们找 Loader 都应该去官方文档中找到对应的 Loader&#xff0c;然后使用…
阅读更多...
osgearth提示“simple.earth: file not handled”

osgearth提示“simple.earth: file not handled”

在用vcpkg编译完osg和osgearth后&#xff0c;为了验证osgearth编译是否正确&#xff0c;进行测试&#xff0c;模型加载代码如下&#xff1a; root->addChild(osgDB::readNodeFile("simple.earth")); 此时以为是simple.earth路径的问题&#xff0c;遂改为以下代码…
阅读更多...
Kithara实时定时器

Kithara实时定时器

管理定时器和实时定时器 目录 管理定时器和实时定时器管理时间数据通用定时器编程初始化计时器删除计时器停止/启动/调整定时器备注RealTimer 备注项目实例项目结构项目源码 示例更多&#xff1a; 管理时间数据 在 Kithara RealTime Suite 中&#xff0c;所有时间值均以 100 ns…
阅读更多...
Pikachu靶场--文件上传

Pikachu靶场--文件上传

参考借鉴 Pikachu靶场之文件上传漏洞详解_皮卡丘文件上传漏洞-CSDN博客 文件上传漏洞&#xff1a;pikachu靶场中的文件上传漏洞通关_pikachu文件上传通关-CSDN博客 client check 在桌面新建一个文件夹&#xff0c;准备一个hello.php文件&#xff0c;文件写入如下代码 <?p…
阅读更多...
产品3D模型在线展示

产品3D模型在线展示

产品3D模型可以向潜在客户提供360度的观察角度&#xff0c;比平面图形的效果更好。快速实现产品3D模型的在线展示最简单的方法是使用老子云3D可视老子云3D可视化的模型内嵌特性&#xff0c;无需任何开发工作&#xff0c;5分钟就可以完成&#xff1a; 老子云的模型内嵌功能&…
阅读更多...
[YOLOv10：注意力机制的轻量化创新，MLCA在目标检测中的卓越表现]

[YOLOv10：注意力机制的轻量化创新，MLCA在目标检测中的卓越表现]

本文改进:一种轻量级的Mixed Local Channel Attention (MLCA)模块，该模块考虑通道信息和空间信息，并结合局部信息和全局信息以提高网络的表达效果。 1.YOLOv10介绍 论文：[https://arxiv.org/pdf/2405.14458] 代码： https://gitcode.com/THU-MIG/yolov10?utm_source=csdn…
阅读更多...
二叉树的基础讲解

二叉树的基础讲解

二叉树在遍历&#xff0c;查找&#xff0c;增删的效率上面都很高&#xff0c;是数据结构中很重要的&#xff0c;下面我们来基础的认识一下。(高级的本人还没学&#xff0c;下面的代码用伪代码或C语言写的)我会从树&#xff0c;树的一些专有名词&#xff0c;树的遍历&#xff0c…
阅读更多...
ROM以及ROM与RAM对比

ROM以及ROM与RAM对比

1.ROM ROM最原始的定义是“只读存储器”&#xff0c;一旦写入原始信息则不能更改。所以ROM通常用来存放固定不变的程序、常数和汉字字库&#xff0c;甚至用于操作系统的固化。它与随机存储器可共同作为主存的一部分&#xff0c;统一构成主存的地址域。 现在已经发展出了很多R…
阅读更多...
《模拟联合国2.9—团队协作》

《模拟联合国2.9—团队协作》

感谢上海财经大学持续的邀请&#xff0c;今天在阶梯教室举办的《模拟联合国2.0—团队协作》沙盘课程圆满结束。尽管场地的限制带来了一定的挑战&#xff0c;但得益于系统思考中“结构影响行为”的原则&#xff0c;我得以在不同场景中巧妙设计课程结构&#xff0c;极大地促进了大…
阅读更多...
云顶森林的新守护者：大数据平台的智慧力量

云顶森林的新守护者：大数据平台的智慧力量

在遥远的云顶之上&#xff0c;有一片生机盎然的森林&#xff0c;它不仅是动植物的家园&#xff0c;更是自然与人类和谐共生的典范。然而&#xff0c;如何在这片广袤的森林中实施高效、科学的管理&#xff0c;一直是一个摆在管理者面前的难题。幸运的是&#xff0c;随着科技的飞…
阅读更多...
jQuery 样式操作

jQuery 样式操作

3.tab栏切换案例 实现效果&#xff1a; 案例分析&#xff1a; 核心代码&#xff1a; html结构&#xff1a; 4.jQuery类操作与className区别 1.操作css方法 jQuery可以使用Css方法来修改简单元素样式;可以操作类,修改多个样式。 参数只写属性名&#xff0c;则是返回属性值…
阅读更多...
WordPress插件数据库批量替换内容工具插件

WordPress插件数据库批量替换内容工具插件

1、安装插件后&#xff0c;我们就可以在后台菜单看到工具操作界面 2、目前支持网站内容、标题、评论指定字符的快速替换 3、可以快速解决以往我们需要从MYSQL数据库命令替换的烦恼
阅读更多...
DNF安卓分离仅是开始：游戏厂商积极布局自有渠道，市场变革在即

DNF安卓分离仅是开始：游戏厂商积极布局自有渠道，市场变革在即

毫无征兆&#xff0c;DNF手游今天突然宣布从各大安卓平台下架。 《地下城与勇士:起源》运营团队于6月19日发布声明&#xff0c;指出因合约到期&#xff0c;游戏将不再上架部分安卓平台的应用商店。然而&#xff0c;这一事件并非完全无迹可循。 早在2021年初&#xff0c;华为游…
阅读更多...
51单片机STC89C52RC——2.3 两个独立按键模拟控制LED流水灯方向

51单片机STC89C52RC——2.3 两个独立按键模拟控制LED流水灯方向

目的 按下K1键LED流水向左移动 按下K2键LED流水向右移动 一&#xff0c;STC单片机模块 二&#xff0c;独立按键 2.1 独立按键位置 2.2 独立按键电路图 这里要注意一个设计的bug P3_1 引脚对应是K1 P3_0 引脚对应是K2 要实现按一下点亮、再按一下熄灭&#xff0c;我们就需…
阅读更多...
磁盘未格式化深度解析与应对策略

磁盘未格式化深度解析与应对策略

一、认识磁盘未格式化现象 在计算机世界中&#xff0c;磁盘未格式化是一个常见的故障现象。当系统提示磁盘未格式化时&#xff0c;意味着该磁盘或分区上的文件系统结构已损坏或丢失&#xff0c;导致计算机无法正确读取其中的数据。这种情况下&#xff0c;用户通常无法直接访问…
阅读更多...
【Liunx】基础开发工具的使用介绍-- yum / vim / gcc / gdb / make

【Liunx】基础开发工具的使用介绍-- yum / vim / gcc / gdb / make

前言 本章将介绍Linux环境基础开发工具的安装及使用&#xff0c;在Linux下安装软件&#xff0c;编写代码&#xff0c;调试代码等操作。 目录 1. yum 工具的使用1.1 什么是软件包&#xff1a;1.2 如何下载软件&#xff1a;1.3 配置国内yum源&#xff1a; 2. vim编辑器2.1 vim的安…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023