Llama模型家族之Stanford NLP ReFT源代码探索 （三）reft_model.py代码解析

LlaMA 3 系列博客

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （三）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （四）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （五）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （六）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （七）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （八）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （九）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （十）

构建安全的GenAI/LLMs核心技术解密之大模型对抗攻击（一）

构建安全的GenAI/LLMs核心技术解密之大模型对抗攻击（二）

构建安全的GenAI/LLMs核心技术解密之大模型对抗攻击（三）

构建安全的GenAI/LLMs核心技术解密之大模型对抗攻击（四）

构建安全的GenAI/LLMs核心技术解密之大模型对抗攻击（五）

你好 GPT-4o！

大模型标记器之Tokenizer可视化（GPT-4o）

大模型标记器 Tokenizer之Byte Pair Encoding (BPE) 算法详解与示例

大模型标记器 Tokenizer之Byte Pair Encoding (BPE)源码分析

大模型之自注意力机制Self-Attention（一）

大模型之自注意力机制Self-Attention（二）

大模型之自注意力机制Self-Attention（三）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （十一）

Llama 3 模型家族构建安全可信赖企业级AI应用之 Code Llama （一）

Llama 3 模型家族构建安全可信赖企业级AI应用之 Code Llama （二）

Llama 3 模型家族构建安全可信赖企业级AI应用之 Code Llama （三）

Llama 3 模型家族构建安全可信赖企业级AI应用之 Code Llama （四）

Llama 3 模型家族构建安全可信赖企业级AI应用之 Code Llama （五）

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话（一）

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话（二）

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话（三）

大模型之深入理解Transformer位置编码（Positional Embedding）

大模型之深入理解Transformer Layer Normalization（一）

大模型之深入理解Transformer Layer Normalization（二）

大模型之深入理解Transformer Layer Normalization（三）

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（一）初学者的起点

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（二）矩阵操作的演练

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（三）初始化一个嵌入层

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（四）预先计算 RoPE 频率

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（五）预先计算因果掩码

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（六）首次归一化：均方根归一化（RMSNorm）

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（七） 初始化多查询注意力

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（八）旋转位置嵌入

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（九） 计算自注意力

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（十） 残差连接及SwiGLU FFN

大模型之一步一步使用PyTorch编写Meta的Llama 3代码（十一）输出概率分布 及损失函数计算

大模型之使用PyTorch编写Meta的Llama 3实际功能代码（一）加载简化分词器及设置参数

大模型之使用PyTorch编写Meta的Llama 3实际功能代码（二）RoPE 及注意力机制

大模型之使用PyTorch编写Meta的Llama 3实际功能代码（三） FeedForward 及 Residual Layers

大模型之使用PyTorch编写Meta的Llama 3实际功能代码（四） 构建 Llama3 类模型本身

大模型之使用PyTorch编写Meta的Llama 3实际功能代码（五）训练并测试你自己的 minLlama3

大模型之使用PyTorch编写Meta的Llama 3实际功能代码（六）加载已经训练好的miniLlama3模型

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话 （四）

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话 （五）

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话 （六）

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话 （七）

Llama 3 模型家族构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模型对话 （八）

Llama 3 模型家族构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和能力的基准（一）

Llama 3 模型家族构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和能力的基准（二）

Llama 3 模型家族构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和能力的基准（三）

Llama 3 模型家族构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和能力的基准（四）

Llama 3 模型家族构建安全可信赖企业级AI应用之code shield（一）Code Shield简介

Llama 3 模型家族构建安全可信赖企业级AI应用之code shield（二）防止 LLM 生成不安全代码

Llama 3 模型家族构建安全可信赖企业级AI应用之code shield（三）Code Shield代码示例

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（一） LLaMA-Factory简介

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（二） LLaMA-Factory训练方法及数据集

大模型之Ollama：在本地机器上释放大型语言模型的强大功能

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（三）通过Web UI微调

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（四）通过命令方式微调

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（五） 基于已训练好的模型进行推理

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（六）Llama 3 已训练的大模型合并LoRA权重参数

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（七） 使用 LoRA 微调 LLM 的实用技巧

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（八） 使用 LoRA 微调 LLM 的实用技巧

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（九） 使用 LoRA 微调常见问题答疑

Llama模型家族之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模型（十） 使用 LoRA 微调常见问题答疑

Llama模型家族训练奖励模型Reward Model技术及代码实战（一）简介

Llama模型家族训练奖励模型Reward Model技术及代码实战（二）从用户反馈构建比较数据集

Llama模型家族训练奖励模型Reward Model技术及代码实战（三） 使用 TRL 训练奖励模型

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（一）RLHF简介

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（二）RLHF 与RAIF比较

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（三） RLAIF 的工作原理

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（四）RLAIF 优势

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（五）RLAIF 挑战

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（六） RLAIF 代码实战

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（七） RLAIF 代码实战

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（八） RLAIF 代码实战

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（九） RLAIF 代码实战

Llama模型家族之RLAIF 基于 AI 反馈的强化学习（十） RLAIF 代码实战

Llama模型家族之拒绝抽样(Rejection Sampling)（一）

Llama模型家族之拒绝抽样(Rejection Sampling)（二）均匀分布简介

Llama模型家族之拒绝抽样(Rejection Sampling)（三）确定缩放常数以优化拒绝抽样方法

Llama模型家族之拒绝抽样(Rejection Sampling)（四） 蒙特卡罗方法在拒绝抽样中的应用：评估线与样本接受标准

Llama模型家族之拒绝抽样(Rejection Sampling)（五） 蒙特卡罗算法在拒绝抽样中：均匀分布与样本接受标准

Llama模型家族之拒绝抽样(Rejection Sampling)（六） 拒绝抽样中的蒙特卡罗算法：重复过程与接受标准

Llama模型家族之拒绝抽样(Rejection Sampling)（七） 优化拒绝抽样：选择高斯分布以减少样本拒绝

Llama模型家族之拒绝抽样(Rejection Sampling)（八） 代码实现

Llama模型家族之拒绝抽样(Rejection Sampling)（九） 强化学习之Rejection Sampling

Llama模型家族之使用 ReFT技术对 Llama-3 进行微调（一）ReFT简介

Llama模型家族之使用 ReFT技术对 Llama-3 进行微调（二） PyReFT简介

Llama模型家族之使用 ReFT技术对 Llama-3 进行微调（三）为 ReFT 微调准备模型及数据集

Llama模型家族之使用 ReFT技术对 Llama-3 进行微调（四） ReFT 微调训练及模型推理

Llama模型家族之Stanford NLP ReFT源代码探索 （一）数据预干预

Llama模型家族之Stanford NLP ReFT源代码探索 （二）interventions.py 代码解析

Llama模型家族之Stanford NLP ReFT源代码探索 （三）reft_model.py代码解析

pyreft-main\pyreft\mapping.py

 from .interventions import (LoreftIntervention,NoreftIntervention
)
from .trainer import (ReftTrainerForCausalLM,ReftTrainerForSequenceClassification
)REFT_TYPE_TO_INTERVENTION_MAPPING = {"LOREFT": ReftTrainerForCausalLM,"NOREFT": ReftTrainerForSequenceClassification
}MODEL_TYPE_TO_REFT_TRAINER_MAPPING = {"SEQ_CLS": PeftModelForSequenceClassification,"CAUSAL_LM": PeftModelForCausalLM,
}

这段代码 创建了两个映射字典， 将特定的干预类型和模型类型映射到相应的训练器类。

  1. 导入干预层类：
    from .interventions import LoreftIntervention, NoreftIntervention

interventions 模块导入了两种干预层类：LoreftIntervention 和 NoreftIntervention。

  1. 导入训练器类：

    from .trainer import ReftTrainerForCausalLM, ReftTrainerForSequenceClassification

    从 trainer 模块导入了两种训练器类：ReftTrainerForCausalLM 和 ReftTrainerForSequenceClassification。这些类用于训练特定类型的模型，分别是因果语言模型和序列分类模型。

  2. REFT类型到干预层的映射：

    REFT_TYPE_TO_INTERVENTION_MAPPING = {"LOREFT": ReftTrainerForCausalLM,"NOREFT": ReftTrainerForSequenceClassification
}

    这是一个字典，它将 REFT 类型的字符串标识符映射到对应的训练器类。"LOREFT" 对应于因果语言模型的训练器，而 "NOREFT" 对应于序列分类模型的训练器。根据干预类型快速找到对应的训练器类。

  3. 模型类型到REFT训练器的映射：

    MODEL_TYPE_TO_REFT_TRAINER_MAPPING = {"SEQ_CLS": PeftModelForSequenceClassification,"CAUSAL_LM": PeftModelForCausalLM,
}

    这是另一个字典，将模型类型的字符串标识符映射到对应的 REFT 训练器类。"SEQ_CLS" 映射到序列分类模型的训练器，"CAUSAL_LM" 映射到因果语言模型的训练器。

pyreft-main\pyreft\reft_model.py

 import pyvene as pvdef count_parameters(model):"""Count parameters of a model that require gradients"""return sum(p.numel() for p in model.parameters() if p.requires_grad)class ReftModel(pv.IntervenableModel):"""Base model for Reft methods."""def __init__(self, config, model, **kwargs):super().__init__(config, model, **kwargs)@staticmethoddef _convert_to_reft_model(intervenable_model):reft_model = ReftModel(intervenable_model.config, intervenable_model.model)# Copy any other necessary attributesfor attr in vars(intervenable_model):setattr(reft_model, attr, getattr(intervenable_model, attr))return reft_model@staticmethoddef load(*args, **kwargs):model = pv.IntervenableModel.load(*args, **kwargs)return ReftModel._convert_to_reft_model(model)def print_trainable_parameters(self):"""Print trainable parameters."""_linked_key_set = set([])trainable_intervention_parameters = 0for k, v in self.interventions.items():if isinstance(v[0], pv.TrainableIntervention):if k in self._intervention_reverse_link:if not self._intervention_reverse_link[k] in _linked_key_set:_linked_key_set.add(self._intervention_reverse_link[k])trainable_intervention_parameters += count_parameters(v[0])else:trainable_intervention_parameters += count_parameters(v[0])trainable_model_parameters = sum(p.numel() for p in self.model.parameters() if p.requires_grad)all_model_parameters = sum(p.numel() for p in self.model.parameters())total_trainable_parameters = trainable_intervention_parameters + trainable_model_parametersprint(f"trainable intervention params: {trainable_intervention_parameters:,d} || trainable model params: {trainable_model_parameters:,d}\n"f"model params: {all_model_parameters:,d} || trainable%: {100 * total_trainable_parameters / all_model_parameters}")

定义了一个 ReftModel 的类，继承自 pyvene 模块中的 IntervenableModel 类，提供了一些与模型参数相关的功能。

  1. 导入 pyvene 模块：

    import pyvene as pv

    这行代码导入了 pyvene 模块，并且给它指定了一个别名 pv，以便于在代码中引用。

  2. 定义 count_parameters 函数：

    def count_parameters(model):"""Count parameters of a model that require gradients"""return sum(p.numel() for p in model.parameters() if p.requires_grad)

    这个函数用于计算模型中需要梯度的参数总数。通过迭代模型的所有参数，并使用 numel() 函数计算每个参数的元素数量，然后对所有需要梯度的参数求和。

  3. 定义 ReftModel 类：

    class ReftModel(pv.IntervenableModel):"""Base model for Reft methods."""

    ReftModel 类继承自 pv.IntervenableModel，是一个基类，用于 Reft模型。

  4. ReftModel 类的构造函数：

    def __init__(self, config, model, **kwargs):super().__init__(config, model, **kwargs)

    构造函数接受配置 config、模型 model 和其他关键字参数 **kwargs，然后调用基类的构造函数。

  5. _convert_to_reft_model 静态方法：

    @staticmethod
def _convert_to_reft_model(intervenable_model):...

    这是一个静态方法，用于将 IntervenableModel 对象转换为 ReftModel 对象。返回一个新的 ReftModel 实例。

  6. load 静态方法：

    @staticmethod
def load(*args, **kwargs):model = pv.IntervenableModel.load(*args, **kwargs)return ReftModel._convert_to_reft_model(model)

    load 静态方法用于加载一个 IntervenableModel 对象，并将其转换为 ReftModel 对象。它首先调用基类的 load 方法加载模型，然后使用 _convert_to_reft_model 方法进行转换。

  7. print_trainable_parameters 方法：

    def print_trainable_parameters(self):...

    这个方法用于打印模型中可训练参数的数量。首先计算所有可训练的干预层参数的总数，然后计算模型参数中需要梯度的参数数量，计算总的可训练参数数量，并打印出来。

    • _linked_key_set 用于跟踪已经计算过的干预层，以避免重复计算。
    • trainable_intervention_parameters 用于累计可训练干预层的参数数量。
    • trainable_model_parameters 和 all_model_parameters 分别用于计算模型中需要梯度的参数总数和所有参数的总数。
    • total_trainable_parameters 是所有可训练参数的总和。

  8. 打印格式：

    print(f"trainable intervention params: {trainable_intervention_parameters:,d} || trainable model params: {trainable_model_parameters:,d}\n"f"model params: {all_model_parameters:,d} || trainable%: {100 * total_trainable_parameters / all_model_parameters}"
)

    这行代码使用格式化字符串打印出可训练干预层参数、模型参数、总参数以及可训练参数的百分比。

pyreft-main\pyreft\reft_trainer.py

 import pyvene as pv
import torch.nn as nn
from torch.utils.data import DataLoader
from transformers import (Trainer,TrainingArguments,DataCollator,DataCollatorForSeq2Seq,AutoTokenizer
)
from transformers.trainer_utils import (EvalPrediction,has_length,denumpify_detensorize
)
from datasets import Dataset
from dataclasses import dataclass
from typing import Dict, Optional, Sequencefrom tqdm import tqdm
import os
import torch
import re
import evaluate
import numpy as np
from torch.nn import BCEWithLogitsLoss, CrossEntropyLoss, MSELoss
from transformers.utils import logginglogger = logging.get_logger(__name__)@dataclass
class ReftDataCollator(object):"""Collate examples for ReFT."""data_collator: DataCollatordef __call__(self, instances: Sequence[Dict]) -> Dict[str, torch.Tensor]:batch_inputs = self.data_collator(instances)max_seq_length = batch_inputs["input_ids"].shape[-1]batch_inputs["intervention_locations"] = batch_inputs["intervention_locations"][..., :max_seq_length]return batch_inputsdef make_data_collator(tokenizer, model) -> ReftDataCollator:data_collator_fn = DataCollatorForSeq2Seq(tokenizer=tokenizer,model=model,label_pad_token_id=-100,padding="longest",max_length=2048,)return ReftDataCollator(data_collator=data_collator_fn)def make_dataloader(dataset: Dataset, batch_size: int, collate_fn: DataCollatorForSeq2Seq, shuffle: bool) -> DataLoader:return DataLoader(dataset, shuffle=shuffle, batch_size=batch_size, collate_fn=collate_fn)class ReftTrainer(Trainer):def save_model(self, output_dir, _internal_call=False):if not os.path.exists(output_dir):os.makedirs(output_dir)self.model.save_intervention(save_directory=f"{output_dir}/intervenable_model", include_model=True)def _load_best_model(self):logger.warning(f"Loading best model from {self.state.best_model_checkpoint} (score: {self.state.best_metric}).")self.model.load_intervention(f"{self.state.best_model_checkpoint}/intervenable_model", include_model=True)def compute_loss(self,intervenable: pv.IntervenableModel,inputs,return_outputs=False):# run intervened forward pass_, cf_outputs = intervenable({"input_ids": inputs["input_ids"],"attention_mask": inputs["attention_mask"]},unit_locations={"sources->base": (None,inputs["intervention_locations"].permute(1, 0, 2).tolist())},labels=inputs["labels"],subspaces=inputs["subspaces"].permute(1, 0, 2).tolist() if "subspaces" in inputs else None)# returnreturn (cf_outputs.loss, cf_outputs) if return_outputs else cf_outputs.lossclass ReftTrainerForCausalLM(ReftTrainer):def get_train_dataloader(self) -> DataLoader:return make_dataloader(self.train_dataset, self._train_batch_size, self.data_collator, shuffle=True)class ReftTrainerForSequenceClassification(ReftTrainer):def evaluate(self, ignore_keys,):# ensure everything is in eval modeself.model.model.eval()for k,v in  self.model.interventions.items():_ = v[0].eval()batch_size = self.args.eval_batch_sizedata_collator = self.data_collatoreval_dataset = self.eval_datasetintervenable = self.modeldataloader = make_dataloader(eval_dataset, batch_size, data_collator, shuffle=False)logger.info(f"***** Running In-Training Evaluation *****")if has_length(dataloader):logger.info(f"  Num examples = {self.num_examples(dataloader)}")else:logger.info("  Num examples: Unknown")logger.info(f"  Batch size = {batch_size}")eval_iterator = tqdm(dataloader, position=0, leave=True)all_preds = []all_labels = []with torch.no_grad():for step, inputs in enumerate(eval_iterator):for k, v in inputs.items():if v is not None and isinstance(v, torch.Tensor):inputs[k] = v.to(self.model.get_device())# [layers, batch_size, positions]intervention_locations = inputs["intervention_locations"].permute(1, 0, 2).tolist()_, cf_outputs = intervenable({"input_ids": inputs["input_ids"], "attention_mask": inputs["attention_mask"]},unit_locations={"sources->base": (None, intervention_locations)})all_preds += [cf_outputs.logits]all_labels += [inputs["labels"]]all_preds = torch.cat(all_preds, dim=0).cpu().to(torch.float32)all_labels = torch.cat(all_labels, dim=0).cpu().to(torch.float32)metrics = self.compute_metrics(EvalPrediction(predictions=all_preds, label_ids=all_labels))metrics = denumpify_detensorize(metrics)metric_key_prefix = "eval"for key in list(metrics.keys()):if not key.startswith(f"{metric_key_prefix}_"):metrics[f"{metric_key_prefix}_{key}"] = metrics.pop(key)self.log(metrics)self.control = self.callback_handler.on_evaluate(self.args, self.state, self.control, metrics)self._memory_tracker.stop_and_update_metrics(metrics)return metrics

定义了一个用于训练和评估ReFT模型的框架，包括数据整理、模型训练和评估等组件。

  1. 导入必要的库：

    • pyvene 作为 pv 被导入，用于处理干预模型。
    • torch.nn 作为 nn 导入，用于访问PyTorch的神经网络模块。
    • DataLoader 从 torch.utils.data 导入，用于创建数据加载器。
    • transformers 库导入，包括 Trainer、TrainingArguments 等组件。
    • datasets 库导入，用于处理数据集。
    • tqdm 用于显示进度条。
    • os、torch、re 等Python标准库被导入。

  2. 创建日志记录器：

    logger = logging.get_logger(__name__)

    使用 transformers.utils 中的 logging 创建一个日志记录器。

  3. 定义 ReftDataCollator 类：

    • 使用 @dataclass 装饰器定义了一个数据整理类，它继承自 object。
    • 该类包含一个方法 __call__，它接收一系列字典，并将它们整理成一个批次的输入数据。

  4. 定义 make_data_collator 函数：

    • 这个函数创建并返回一个 ReftDataCollator 实例，它使用 DataCollatorForSeq2Seq 来整理数据。

  5. 定义 make_dataloader 函数：

    • 这个函数接收一个数据集、批量大小、数据整理函数和是否打乱数据的标志，并返回一个 DataLoader 实例。

  6. 定义 ReftTrainer 类：

    • 继承自 transformers 的 Trainer 类。
    • 重写了 save_model 方法，用于保存模型的干预信息。
    • 重写了 _load_best_model 方法，用于加载最佳模型的干预信息。
    • 定义了 compute_loss 方法，用于计算模型的损失。

  7. 定义 ReftTrainerForCausalLM 类：

    • 继承自 ReftTrainer 类。
    • 重写了 get_train_dataloader 方法，用于获取因果语言模型的训练数据加载器。

  8. 定义 ReftTrainerForSequenceClassification 类：

    • 继承自 ReftTrainer 类。
    • 重写了 evaluate 方法，用于评估序列分类模型的性能。

  9. 评估函数 evaluate：

    • 将模型设置为评估模式。
    • 创建评估数据加载器。
    • 使用 tqdm 显示评估进度。
    • 收集所有预测结果和标签。
    • 计算并记录评估指标。

  10. 计算指标：

    • 使用 self.compute_metrics 计算评估指标。
    • 使用 denumpify_detensorize 将指标转换为适当的格式。

  11. 日志记录和内存跟踪：

    • 使用日志记录器记录评估信息。
    • 使用内存跟踪器更新指标。

以上代码提供了一个完整的训练和评估流程，包括数据整理、模型保存和加载、损失计算、评估指标计算等功能。代码的设计允许灵活性和可扩展性，可以适应不同的ReFT模型和任务。

pyreft-main\pyreft\utils.py

import enum
from .reft_model import ReftModelclass ReftType(str, enum.Enum):"""Enum class for the different types of adapters in REFT.Supported REFT types:- LOREFT"""LOREFT = "LOREFT"NLOREFT = "NOREFT"# Add yours here!class TaskType(str, enum.Enum):"""Enum class for the different types of tasks supported by REFT.Overview of the supported task types:- SEQ_CLS: Text classification.- CAUSAL_LM: Causal language modeling."""SEQ_CLS = "SEQ_CLS"CAUSAL_LM = "CAUSAL_LM"def get_reft_model(model, reft_config, set_device=True, disable_model_grads=True):"""Create an instance of ReFT model."""reft_model = ReftModel(reft_config, model)if set_device:reft_model.set_device(model.device)if disable_model_grads:reft_model.disable_model_gradients()    return reft_model

大模型技术分享

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

《企业级生成式人工智能LLM大模型技术、算法及案例实战》线上高级研修讲座

模块一：Generative AI 原理本质、技术内核及工程实践周期详解
模块二：工业级 Prompting 技术内幕及端到端的基于LLM 的会议助理实战
模块三：三大 Llama 2 模型详解及实战构建安全可靠的智能对话系统
模块四：生产环境下 GenAI/LLMs 的五大核心问题及构建健壮的应用实战
模块五：大模型应用开发技术：Agentic-based 应用技术及案例实战
模块六：LLM 大模型微调及模型 Quantization 技术及案例实战
模块七：大模型高效微调 PEFT 算法、技术、流程及代码实战进阶
模块八：LLM 模型对齐技术、流程及进行文本Toxicity 分析实战
模块九：构建安全的 GenAI/LLMs 核心技术Red Teaming 解密实战
模块十：构建可信赖的企业私有安全大模型Responsible AI 实战

Llama3关键技术深度解析与构建Responsible AI、算法及开发落地实战

1、Llama开源模型家族大模型技术、工具和多模态详解：学员将深入了解Meta Llama 3的创新之处，比如其在语言模型技术上的突破，并学习到如何在Llama 3中构建trust and safety AI。他们将详细了解Llama 3的五大技术分支及工具，以及如何在AWS上实战Llama指令微调的案例。
2、解密Llama 3 Foundation Model模型结构特色技术及代码实现：深入了解Llama 3中的各种技术，比如Tiktokenizer、KV Cache、Grouped Multi-Query Attention等。通过项目二逐行剖析Llama 3的源码，加深对技术的理解。
3、解密Llama 3 Foundation Model模型结构核心技术及代码实现：SwiGLU Activation Function、FeedForward Block、Encoder Block等。通过项目三学习Llama 3的推理及Inferencing代码，加强对技术的实践理解。
4、基于LangGraph on Llama 3构建Responsible AI实战体验：通过项目四在Llama 3上实战基于LangGraph的Responsible AI项目。他们将了解到LangGraph的三大核心组件、运行机制和流程步骤，从而加强对Responsible AI的实践能力。
5、Llama模型家族构建技术构建安全可信赖企业级AI应用内幕详解：深入了解构建安全可靠的企业级AI应用所需的关键技术，比如Code Llama、Llama Guard等。项目五实战构建安全可靠的对话智能项目升级版，加强对安全性的实践理解。
6、Llama模型家族Fine-tuning技术与算法实战：学员将学习Fine-tuning技术与算法，比如Supervised Fine-Tuning(SFT)、Reward Model技术、PPO算法、DPO算法等。项目六动手实现PPO及DPO算法，加强对算法的理解和应用能力。
7、Llama模型家族基于AI反馈的强化学习技术解密：深入学习Llama模型家族基于AI反馈的强化学习技术，比如RLAIF和RLHF。项目七实战基于RLAIF的Constitutional AI。
8、Llama 3中的DPO原理、算法、组件及具体实现及算法进阶：学习Llama 3中结合使用PPO和DPO算法，剖析DPO的原理和工作机制，详细解析DPO中的关键算法组件，并通过综合项目八从零开始动手实现和测试DPO算法，同时课程将解密DPO进阶技术Iterative DPO及IPO算法。
9、Llama模型家族Safety设计与实现：在这个模块中，学员将学习Llama模型家族的Safety设计与实现，比如Safety in Pretraining、Safety Fine-Tuning等。构建安全可靠的GenAI/LLMs项目开发。
10、Llama 3构建可信赖的企业私有安全大模型Responsible AI系统：构建可信赖的企业私有安全大模型Responsible AI系统，掌握Llama 3的Constitutional AI、Red Teaming。

解码Sora架构、技术及应用

一、为何Sora通往AGI道路的里程碑？
1，探索从大规模语言模型(LLM)到大规模视觉模型(LVM)的关键转变，揭示其在实现通用人工智能(AGI)中的作用。
2，展示Visual Data和Text Data结合的成功案例，解析Sora在此过程中扮演的关键角色。
3，详细介绍Sora如何依据文本指令生成具有三维一致性(3D consistency)的视频内容。 4，解析Sora如何根据图像或视频生成高保真内容的技术路径。
5，探讨Sora在不同应用场景中的实践价值及其面临的挑战和局限性。

二、解码Sora架构原理
1，DiT (Diffusion Transformer)架构详解
2，DiT是如何帮助Sora实现Consistent、Realistic、Imaginative视频内容的？
3，探讨为何选用Transformer作为Diffusion的核心网络，而非技术如U-Net。
4，DiT的Patchification原理及流程，揭示其在处理视频和图像数据中的重要性。
5，Conditional Diffusion过程详解，及其在内容生成过程中的作用。
三、解码Sora关键技术解密
1，Sora如何利用Transformer和Diffusion技术理解物体间的互动，及其对模拟复杂互动场景的重要性。
2，为何说Space-time patches是Sora技术的核心，及其对视频生成能力的提升作用。
3，Spacetime latent patches详解，探讨其在视频压缩和生成中的关键角色。
4，Sora Simulator如何利用Space-time patches构建digital和physical世界，及其对模拟真实世界变化的能力。
5，Sora如何实现faithfully按照用户输入文本而生成内容，探讨背后的技术与创新。
6，Sora为何依据abstract concept而不是依据具体的pixels进行内容生成，及其对模型生成质量与多样性的影响。

GPT 自回归语言模型架构、数学原理及内幕-简介

GPT 自回归语言模型架构、数学原理及内幕-简介

基于 Transformer 的 Rasa Internals 解密之 Retrieval Model 剖析-简介

基于 Transformer 的 Rasa Internals 解密之 Retrieval Model 剖析-简介

Transformer语言模型架构、数学原理及内幕机制-简介

Transformer语言模型架构、数学原理及内幕机制-简介

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/851031.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

RapidMiner数据挖掘4 —— 决策树

RapidMiner数据挖掘4 —— 决策树

0. 序章 0.1 文本说明 所有应用程序操作的名称和编程说明都以黄色背景书写，问题以蓝色背景书写，以方便他们在文本中识别。 在整个课程中，请逐步遵循所有说明，并确保获得预期结果，然后再继续下一部分或问题。 通过在Ub…
阅读更多...
⌈ 传知代码 ⌋ 以思维链为线索推理隐含情感

⌈ 传知代码 ⌋ 以思维链为线索推理隐含情感

💛前情提要💛 本文是传知代码平台中的相关前沿知识与技术的分享~ 接下来我们即将进入一个全新的空间，对技术有一个全新的视角~ 本文所涉及所有资源均在传知代码平台可获取 以下的内容一定会让你对AI 赋能时代有一个颠覆性的认识哦&#x…
阅读更多...
Linux网络命令——tcpdump

Linux网络命令——tcpdump

tcpdump是Linux下的一个网络数据采集分析工具，也就是常说的抓包工具 tcpdump 核心参数 tcpdump [option] [proto] [dir] [type] 例如：$ tcpdump -i eth0 -nn -s0 -v port 80 option 可选参数： -i : 选择要捕获的接口，通常是以太…
阅读更多...
定时器中断计数

定时器中断计数

1.定时器中断配置步骤 （1）RCC开启时钟。 （2）选择时基单元的时钟源（内部时钟源）。 （3）配置时基单元：预分频器、自动重装器、计数模式等。 （4）配…
阅读更多...
OpenGauss数据库-3.数据库管理

OpenGauss数据库-3.数据库管理

第1关：创建数据库 gsql -d postgres -U gaussdb -w passwd123123 create database accessdb with ownergaussdb templatetemplate0;第2关：修改数据库 gsql -d postgres -U gaussdb -w passwd123123 alter database accessdb rename to human_tpcds; 第…
阅读更多...
OpenGauss数据库-6.表空间管理

OpenGauss数据库-6.表空间管理

第1关：创建表空间 gsql -d postgres -U gaussdb -W passwd123123 CREATE TABLESPACE fastspace OWNER omm relative location tablespace/tablespace_1; 第2关：修改表空间 gsql -d postgres -U gaussdb -W passwd123123 ALTER TABLESPACE fastspace R…
阅读更多...
C++ 贪心算法——跳跃游戏、划分字母区间

C++ 贪心算法——跳跃游戏、划分字母区间

一：跳跃游戏 55. 跳跃游戏 题目描述：给你一个非负整数数组 nums ，你最初位于数组的 第一个下标 。数组中的每个元素代表你在该位置可以跳跃的最大长度。判断你是否能够到达最后一个下标，如果可以，返回 true &#xff1…
阅读更多...
《大道平渊》· 拾壹 —— 商业一定是个故事：讲好故事，员工奋发，顾客买单。

《大道平渊》· 拾壹 —— 商业一定是个故事：讲好故事，员工奋发，顾客买单。

《大道平渊》 拾壹 "大家都在喝，你喝不喝？" 商业一定是个故事，人民群众需要故事。 比如可口可乐的各种故事。 可口可乐公司也只是被营销大师们， 作为一种故事载体，发挥他们的本领。 营销大师们开发故事…
阅读更多...
基于51单片机俄罗斯方块小游戏

基于51单片机俄罗斯方块小游戏

基于51单片机俄罗斯方块游戏 （仿真＋程序） 功能介绍 具体功能： 1.用LCD12864显示游戏界面； 2.用四个按键控制游戏（左、右移、下移、翻转）； 3.游戏规则和平时玩的俄罗斯方块一样&a…
阅读更多...
点估计参数估计

点估计参数估计

点估计（Point Estimation）是一种统计推断的方法，用于通过样本统计量来估计总体参数。在概率论和数理统计中，点估计是将总体的未知参数估计为某个确定的值或在某个确定的点上，因此也被称为定值估计。 定义： …
阅读更多...
AXI Quad SPI IP核中命令的使用

AXI Quad SPI IP核中命令的使用

1 双通道SPI和混合内存模式下支持的常用命令 对于配置中Mode设置为Dual且Slave Device设置为Mixed的情况，IP核支持表3-1中列出的命令。这些命令在Winbond、Micron和Spansion内存设备上具有相同的命令、地址和数据行为。 某些命令，如fast read、dual I/…
阅读更多...
从年金理论到杠杆效应，再到财务报表与投资评估指标

从年金理论到杠杆效应，再到财务报表与投资评估指标

一、解释普通年金终值和普通年金现值的概念。 普通年金终值：以利率为1%，每期收款100元，5期为例，普通年金终值的折算过程如图： 普通年金现值：以利率为1%，每期收款100元，5期为例&am…
阅读更多...
【RabbitMQ】RabbitMQ配置与交换机学习

【RabbitMQ】RabbitMQ配置与交换机学习

【RabbitMQ】RabbitMQ配置与交换机学习 文章目录 【RabbitMQ】RabbitMQ配置与交换机学习简介安装和部署1. 安装RabbitMQ2.创建virtual-host3. 添加依赖4.修改配置文件 WorkQueues模型1.编写消息发送测试类2.编写消息接收（监听）类3. 实现能者多劳 交换机F…
阅读更多...
C++类与对象（拷贝与类的内存管理）

C++类与对象（拷贝与类的内存管理）

感谢大佬的光临各位，希望和大家一起进步，望得到你的三连，互三支持，一起进步 个人主页：LaNzikinh-CSDN博客 文章目录 前言一.对象的动态建立和释放二.多个对象的构造和析构三.深拷贝与浅拷贝四.C类的内存管理总结 前言 …
阅读更多...
element-plus日历组件el-calendar自定义内容，每天绑定不同的值

element-plus日历组件el-calendar自定义内容，每天绑定不同的值

效果 代码 <template><el-calendar v-model"calendarDate"><template #date-cell"{ data }"><p :class"data.isSelected ? is-selected : ">{{ data.day.split("-").slice(1).join("-") }}{{ d…
阅读更多...
IDEA创建SpringBoot项目的时候，如何使用Java8，怎么办？

IDEA创建SpringBoot项目的时候，如何使用Java8，怎么办？

在创建springboot项目的时候,IDEA提示&#xff0c;最低Java版本要求17&#xff0c;但是实际上我们可能不需要这么高的版本&#xff0c;怎么使用Java8呢&#xff1f; 解决办法 修改Server URL地址即可&#xff1a;https://start.aliyun.com
阅读更多...
天才程序员周弈帆 | Stable Diffusion 解读（二）：论文精读

天才程序员周弈帆 | Stable Diffusion 解读（二）：论文精读

本文来源公众号“天才程序员周弈帆”&#xff0c;仅用于学术分享&#xff0c;侵权删&#xff0c;干货满满。 原文链接&#xff1a;Stable Diffusion 解读&#xff08;二&#xff09;&#xff1a;论文精读 【小小题外话】端午安康&#xff01; 在上一篇文章天才程序员周弈帆 …
阅读更多...
【数据结构】排序（上）

【数据结构】排序（上）

个人主页~ 堆排序看这篇~ 还有这篇~ 排序 一、排序的概念及应用1、概念2、常见的排序算法 二、常见排序的实现1、直接插入排序&#xff08;1&#xff09;基本思想&#xff08;2&#xff09;代码实现&#xff08;3&#xff09;时间复杂度&#xff08;4&#xff09;空间复杂度 2…
阅读更多...
【设计模式】创建型设计模式之 工厂模式

【设计模式】创建型设计模式之 工厂模式

一、介绍 工厂模式可以分为 3 个小类 简单工厂模式工厂方法模式抽象工厂模式 工厂模式的工厂类&#xff0c;并不一定以 Factory 结尾&#xff0c;例如 DataFormat、Calender 他们都是工厂类&#xff0c;通过静态方法来创建实例。 除此之外&#xff0c;创建对象的方法名称一…
阅读更多...
VBA即用型代码手册：删除重复行Delete Duplicate Rows

VBA即用型代码手册：删除重复行Delete Duplicate Rows

我给VBA下的定义&#xff1a;VBA是个人小型自动化处理的有效工具。可以大大提高自己的劳动效率&#xff0c;而且可以提高数据的准确性。我这里专注VBA,将我多年的经验汇集在VBA系列九套教程中。 作为我的学员要利用我的积木编程思想&#xff0c;积木编程最重要的是积木如何搭建…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023