240330-大模型资源-使用教程-部署方式-部分笔记

A. 大模型资源

  • Models - Hugging Face
  • HF-Mirror - Huggingface 镜像站
  • 模型库首页 · 魔搭社区

在这里插入图片描述

B. 使用教程

HuggingFace

  • HuggingFace 10分钟快速入门（一），利用Transformers，Pipeline探索AI。_哔哩哔哩_bilibili
  • HuggingFace快速入门（二），利用AI模型快速搭建APP。_哔哩哔哩_bilibili
  • HuggingFace 快速入门（三），HF的Agent快速搭建AI Agent_哔哩哔哩_bilibili
  • HuggingFace 快速入门（四），玩转HF上的模型_哔哩哔哩_bilibili

HF-Mirror

  • 如何快速下载huggingface模型——全方法总结 - 知乎
huggingface-cli download --resume-download mistralai/Mistral-7B-Instruct-v0.2 --local-dir Mistral-7B-Instruct-v0.2 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download google-t5/t5-small --local-dir t5-small --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/whisper-large-v3 --local-dir whisper-large-v3 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/whisper-large-v3 --local-dir whisper-large-v3 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/clip-vit-base-patch32 --local-dir clip-vit-base-patch32 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/clip-vit-large-patch14 --local-dir clip-vit-large-patch14 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download keremberke/yolov8m-table-extraction --local-dir yolov8m-table-extraction --local-dir-use-symlinks Falsehuggingface-cli download --resume-download merve/yolov9 --local-dir yolov9 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download stabilityai/stable-code-instruct-3b --local-dir stable-code-instruct-3b --local-dir-use-symlinks Falsehuggingface-cli download --resume-download stabilityai/stable-code-3b --local-dir stable-code-3b--local-dir-use-symlinks Falsehuggingface-cli download --resume-download defog/sqlcoder-7b-2 --local-dir sqlcoder-7b-2 --local-dir-use-symlinks False

魔搭社区

  • ModelScope 魔搭社区初探 - 知乎
  • 魔搭v1.3版本 Release Note (20230216) · 文档中心
from modelscope.hub.snapshot_download import snapshot_downloadmodel_dir = snapshot_download('iic/speech_fsmn_vad_zh-cn-16k-common-pytorch', cache_dir='speech_fsmn_vad_zh-cn-16k-common-pytorch')model_dir = snapshot_download('qwen/Qwen1.5-MoE-A2.7B', cache_dir='Qwen1.5-MoE-A2.7B')model_dir = snapshot_download('iic/speech_eres2net_large_sv_zh-cn_cnceleb_16k', cache_dir='speech_eres2net_large_sv_zh-cn_cnceleb_16k')model_dir = snapshot_download('iic/cv_ddsar_face-detection_iclr23-damofd', cache_dir='cv_ddsar_face-detection_iclr23-damofd')model_dir = snapshot_download('iic/Whisper-large-v3', cache_dir='Whisper-large-v3-iic')model_dir = snapshot_download('iic/nlp_bart_text-error-correction_chinese', cache_dir='nlp_bart_text-error-correction_chinese')model_dir = snapshot_download('iic/nlp_bart_text-error-correction_chinese-law', cache_dir='nlp_bart_text-error-correction_chinese-law')model_dir = snapshot_download('iic/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch', cache_dir='speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch')model_dir = snapshot_download('iic/cv_dla34_table-structure-recognition_cycle-centernet', cache_dir='cv_dla34_table-structure-recognition_cycle-centernet')model_dir = snapshot_download('iic/cv_resnet-transformer_table-structure-recognition_lore', cache_dir='cv_resnet-transformer_table-structure-recognition_lore') model_dir = snapshot_download('iic/cv_convnextTiny_ocr-recognition-general_damo', cache_dir='cv_convnextTiny_ocr-recognition-general_damo')model_dir = snapshot_download('iic/cv_resnet18_ocr-detection-db-line-level_damo', cache_dir='cv_resnet18_ocr-detection-db-line-level_damo')model_dir = snapshot_download('iic/cv_convnextTiny_ocr-recognition-document_damo', cache_dir='cv_convnextTiny_ocr-recognition-document_damo')model_dir = snapshot_download('iic/cv_resnet18_ocr-detection-line-level_damo', cache_dir='cv_resnet18_ocr-detection-line-level_damo')

C. 部署方式

  • 一键部署Google开源大模型Gemma，性能远超Mistral、LLama2 | 本地大模型部署，ollama助您轻松完成！_哔哩哔哩_bilibili
  • Windows系统本机运行Gemma最简步骤_哔哩哔哩_bilibili
  • ollama如何把gemma模型部署到D盘_哔哩哔哩_bilibili
  • Ollama如何把Gemma模型部署到D盘_方法二创建目录链接释放C盘空间_哔哩哔哩_bilibili
  • Ollama如何使用现有的GGUF文件_哔哩哔哩_bilibili
  • Ollama导入GGUF文件_哔哩哔哩_bilibili
  • Ollama wsarecv: An existing connection was forcibly closed by the remote host._哔哩哔哩_bilibili
  • OLLAMA_KEEP_ALIVE潜在问题分析_哔哩哔哩_bilibili
  • Ollama 运行 GGUF 模型
  • LangChain 与 ollama 携手python 环境演示 Hello World 构建属于自己的大模型应用
  • 人工智能大模型系列（七）使用 Ollama 和 CodeGPT 在 VSCode 中创建您自己的自定义 Copilot

D. 格式转换

  • 开源大模型GGUF量化(llama.cpp)与本地部署运行(ollama)教程 - 知乎

  • 揭开gguf神秘面纱——大模型CPU部署系列02 - 知乎

E. 代码生成

  • LLM 系列 | 21 : Code Llama实战(上篇) : 模型简介与试用
  • LLM系列 | 22 : Code Llama实战(下篇)：本地部署、量化及GPT-4对比
  • Stability AI开源3B代码生成模型：可补全，还能Debug

F. YOLOV9

  • WongKinYiu/yolov9
  • YOLO v9训练自己数据集_yolov9训练自己的数据集-CSDN博客
  • 手把手教你在自己的数据集上训练YOLOv9！ - 知乎

G. SAM

  • facebookresearch/segment-anything

H. Qwen1.5-MoE

  • Github官方GitHub - QwenLM/Qwen1.5: Qwen1.5 is the improved version of Qwen, the large language model series developed by Qwen team, Alibaba Cloud.
  • GPTQ版本运行失败Qwen1.5-MoE: 1/3的激活参数量达到7B模型的性能_哔哩哔哩_bilibili
  • 对应Chat版本的代码Qwen1.5-MoE: 1/3的激活参数量达到7B模型的性能 - 哔哩哔哩
  • 微信资料开源MOE再添一员：通义团队Qwen1.5 MOE A2.7B大模型
  • 如何选择模型Qwen1.5系列6个模型如何选择？ AWQ还是GPTQ？#小工蚁_哔哩哔哩_bilibili
  • 不同型号显卡在同一台机器上通过vllm加速推理双4090部署qwen72b大模型 每秒150tokens_哔哩哔哩_bilibili
  • Qwen-Agent及浏览器插件GitHub - QwenLM/Qwen-Agent: Agent framework and applications built upon Qwen1.5, featuring Function Calling, Code Interpreter, RAG, and Chrome extension.

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/783776.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

ChatGPT引领学术风潮：写作技巧与实践

ChatGPT引领学术风潮：写作技巧与实践

ChatGPT无限次数:点击直达 ChatGPT引领学术风潮：写作技巧与实践 引言 在当今信息爆炸的时代，各行各业对于内容创作的需求日益增长，人们追求更高效、更优质的写作工具。ChatGPT作为一款具有自我学习和生成文本能力的先进AI技术，成…
阅读更多...
【计算机视觉】四篇基于Gaussian Splatting的SLAM论文对比

【计算机视觉】四篇基于Gaussian Splatting的SLAM论文对比

本文对比四篇论文： [1] Gaussian Splatting SLAM [2] SplaTAM: Splat, Track & Map 3D Gaussians for Dense RGB-D SLAM [3] Gaussian-SLAM: Photo-realistic Dense SLAM with Gaussian Splatting [4] GS-SLAM: Dense Visual SLAM with 3D Gaussian Splatting …
阅读更多...
汇编语言——用INT 21H 的A号功能，输入一个字符串存放在内存，倒序输出

汇编语言——用INT 21H 的A号功能，输入一个字符串存放在内存，倒序输出

用INT 21H 的A号功能，输入一个字符串“Hello, world!”，存放在内存，然 后倒序输出。 在DOS中断中，INT 21H是一个常用的系统功能调用中断，它提供了多种功能，其中A号功能用于字符串的输入。 在使用这个功能时…
阅读更多...
高级排序算法：归并排序（优化版）

高级排序算法：归并排序（优化版）

题目描述 leecode第912题：排序数组： 给你一个整数数组 nums，请你将该数组升序排列。 示例 1： 输入：nums [5,2,3,1] 输出：[1,2,3,5]示例 2： 输入：nums [5,1,1,2,0,0] 输出&…
阅读更多...
【PSINS工具箱】基于工具箱，自己设计的轨迹，并生成IMU数据和三维视图（完整代码）

【PSINS工具箱】基于工具箱，自己设计的轨迹，并生成IMU数据和三维视图（完整代码）

完整代码 在有工具箱的情况下，直接运行代码，即可 % 基于PSINS工具箱的三维轨迹生成、三维图像绘制与IMU数据生成 % date:2024-2-13 % Evand（evandworldqq.com） % Ver1 clear;clc;close all; glvs ts 0.1; % sampling int…
阅读更多...
RuntimeError: CUDA error: an illegal memory access was encountered

RuntimeError: CUDA error: an illegal memory access was encountered

前言 我在跑深度学习模型。其中卷积用CUDA写的。数据集是cifar10。在运行了1个epoch后，就报错：RuntimeError: CUDA error: an illegal memory access was encountered。这个错误是在调用loss.backward()方法时出现的。 在网上看了很多方法，有…
阅读更多...
linux自定义命令

linux自定义命令

文章目录 1、自定义命令介绍2、自定义命令步骤 (centos7)2.1 新建隐藏目录存放自定义命令脚本文件2.2 将新建的目录配置环境变量2.3 取别名的方式简化已有命令2.4 编写自定义命令脚本 1、自定义命令介绍 不管是linux系统还是windows系统都支持自定义命令，windows端…
阅读更多...
学习 C++ 一定要搭配 Linux 吗？

学习 C++ 一定要搭配 Linux 吗？

学习C并不一定非要搭配Linux，但使用Linux环境进行学习和开发确实有其独特的优势，尤其对于深入理解和实践某些高级主题及特定领域的开发工作。以下是关于是否需要搭配Linux学习C的详细分析： 为了帮助您更好地入门并深入掌握C，我们精…
阅读更多...
PLC的大脑和心脏——CPU及西门子S7-1200CPU分类、CPU型号及端子接线图示例

PLC的大脑和心脏——CPU及西门子S7-1200CPU分类、CPU型号及端子接线图示例

CPU不断地采集输入信号，执行用户程序，刷新系统的输出。 根据供电方式和输入/输出方式的不同，西门子S7-1200 CPU分为3类，如下图1。 图1 CPU的分类 第1对字母，表示CPU的供电方式，AC（Alternating…
阅读更多...
Python实现的网页爬虫示例

Python实现的网页爬虫示例

当然可以。以下是一个使用Python实现的基础网页爬虫示例。这个示例将使用requests库来发送HTTP请求，并使用BeautifulSoup库来解析HTML文档。如果你还没有安装这两个库，请先使用pip进行安装： pip install requests beautifulsoup4接下来是网页…
阅读更多...
代码随想录第25天|216.组合总和III 17.电话号码的字母组合

代码随想录第25天|216.组合总和III 17.电话号码的字母组合

216.组合总和III 216. 组合总和 III - 力扣（LeetCode） 代码随想录 (programmercarl.com) 和组合问题有啥区别？回溯算法如何剪枝？| LeetCode：216.组合总和III_哔哩哔哩_bilibili 找出所有相加之和为 n 的 k 个数的组…
阅读更多...
【KingSCADA】播放语音

【KingSCADA】播放语音

1.函数介绍 PlaySound(string strWaveFileName, int nMode);下面是官方帮助文档中的解释： 2.生成语音文件 3.使用脚本播放音频文件 将音频文件存放在工程目录下面，我存放在了…\Resources\文件夹下： 我简单的写了一个定时1分钟播放一次语…
阅读更多...
Fluent循环流动案例（模拟循环泵，含换热、散热、VOF、UDF）

Fluent循环流动案例（模拟循环泵，含换热、散热、VOF、UDF）

在此特意记录下循环通道的fluent思路和参数设置 该案例中，主要关注的是催化剂域的温度变化情况，因此需要监控的是温度的变化曲线，关于泵如何进行模拟，这里有两种思路，一种是用风扇代替泵，优点是整个流体域基…
阅读更多...
HarmonyOS ArkTS 骨架屏加载显示（二十五）

HarmonyOS ArkTS 骨架屏加载显示（二十五）

目录 前言1、骨架屏代码显示2、代码中引用3、效果图展示 前言 所谓骨架屏，就是在页面进行耗时加载时，先展示的等待 UI, 以告知用户程序目前正在运行，稍等即可。 等待的UI大部分是 loading 转圈的弹窗，有的是自己风格的小动画。其实…
阅读更多...
JS - const 关键字声明的变量并不是常量

JS - const 关键字声明的变量并不是常量

// 1. 赋值给一个变量 const declare function (x) { return x * x; }; 读到这部分时‘ 疑惑注释为什么会是说 把这个函数表达式赋值给一个变量 在 JavaScript 中，使用 const 关键字声明的变量并不是常量（immutable），而是常量引用…
阅读更多...
vue3路由跳转

vue3路由跳转

在 Vue 3 中，路由跳转通常是通过 Vue Router 实现的。Vue Router 是 Vue.js 官方的路由管理器，它和 Vue.js 深度集成，使构建单页面应用变得易如反掌。 下面是一些在 Vue 3 中使用 Vue Router 进行路由跳转的基本步骤： 安装 Vue …
阅读更多...
武汉大学开设 “雷军班”：计算机专业、今年招收 15 名本科生。武汉大学已经联合小米成立了机器系

武汉大学开设 “雷军班”：计算机专业、今年招收 15 名本科生。武汉大学已经联合小米成立了机器系

更多精彩内容在公众号。 3月25日，武汉大学官方网站发布了一则新闻，报道了校长张平文对计算机学院的调研活动。在报道中，张平文校长特别强调了关于“雷军班”及机器人系的发展规划。他表示，希望计算机学院能够立足于更高层次&#…
阅读更多...
【python从入门到精通】-- 第三战：输入输出 运算符

【python从入门到精通】-- 第三战：输入输出 运算符

🌈 个人主页：白子寰 🔥 分类专栏：python从入门到精通，魔法指针，进阶C，C语言，C语言题集，C语言实现游戏👈 希望得到您的订阅和支持~ 💡 坚持创作博文…
阅读更多...
前端虚拟滚动列表 vue虚拟列表

前端虚拟滚动列表 vue虚拟列表

前端虚拟滚动列表 在大型的企业级项目中经常要渲染大量的数据，这种长列表是一个很普遍的场景，当列表内容越来越多就会导致页面滑动卡顿、白屏、数据渲染较慢的问题；大数据量列表性能优化，减少真实dom的渲染 看图：绿色…
阅读更多...
构建 3D+虚拟人+ai 结合虚拟直播间

构建 3D+虚拟人+ai 结合虚拟直播间

构建 3D 虚拟人与 AI 结合的虚拟直播间可以通过以下步骤实现： 1. 选择合适的平台和工具： 首先，你需要选择适合构建虚拟直播间的平台和工具。一些常用的平台包括 Unity、Unreal Engine 等，它们提供了强大的 3D 渲染和物理引擎&…
阅读更多...
最新文章

Copyright @ 2022~2023