240330-大模型资源-使用教程-部署方式-部分笔记

A. 大模型资源

  • Models - Hugging Face
  • HF-Mirror - Huggingface 镜像站
  • 模型库首页 · 魔搭社区

在这里插入图片描述

B. 使用教程

HuggingFace

  • HuggingFace 10分钟快速入门（一），利用Transformers，Pipeline探索AI。_哔哩哔哩_bilibili
  • HuggingFace快速入门（二），利用AI模型快速搭建APP。_哔哩哔哩_bilibili
  • HuggingFace 快速入门（三），HF的Agent快速搭建AI Agent_哔哩哔哩_bilibili
  • HuggingFace 快速入门（四），玩转HF上的模型_哔哩哔哩_bilibili

HF-Mirror

  • 如何快速下载huggingface模型——全方法总结 - 知乎
huggingface-cli download --resume-download mistralai/Mistral-7B-Instruct-v0.2 --local-dir Mistral-7B-Instruct-v0.2 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download google-t5/t5-small --local-dir t5-small --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/whisper-large-v3 --local-dir whisper-large-v3 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/whisper-large-v3 --local-dir whisper-large-v3 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/clip-vit-base-patch32 --local-dir clip-vit-base-patch32 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download openai/clip-vit-large-patch14 --local-dir clip-vit-large-patch14 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download keremberke/yolov8m-table-extraction --local-dir yolov8m-table-extraction --local-dir-use-symlinks Falsehuggingface-cli download --resume-download merve/yolov9 --local-dir yolov9 --local-dir-use-symlinks Falsehuggingface-cli download --resume-download stabilityai/stable-code-instruct-3b --local-dir stable-code-instruct-3b --local-dir-use-symlinks Falsehuggingface-cli download --resume-download stabilityai/stable-code-3b --local-dir stable-code-3b--local-dir-use-symlinks Falsehuggingface-cli download --resume-download defog/sqlcoder-7b-2 --local-dir sqlcoder-7b-2 --local-dir-use-symlinks False

魔搭社区

  • ModelScope 魔搭社区初探 - 知乎
  • 魔搭v1.3版本 Release Note (20230216) · 文档中心
from modelscope.hub.snapshot_download import snapshot_downloadmodel_dir = snapshot_download('iic/speech_fsmn_vad_zh-cn-16k-common-pytorch', cache_dir='speech_fsmn_vad_zh-cn-16k-common-pytorch')model_dir = snapshot_download('qwen/Qwen1.5-MoE-A2.7B', cache_dir='Qwen1.5-MoE-A2.7B')model_dir = snapshot_download('iic/speech_eres2net_large_sv_zh-cn_cnceleb_16k', cache_dir='speech_eres2net_large_sv_zh-cn_cnceleb_16k')model_dir = snapshot_download('iic/cv_ddsar_face-detection_iclr23-damofd', cache_dir='cv_ddsar_face-detection_iclr23-damofd')model_dir = snapshot_download('iic/Whisper-large-v3', cache_dir='Whisper-large-v3-iic')model_dir = snapshot_download('iic/nlp_bart_text-error-correction_chinese', cache_dir='nlp_bart_text-error-correction_chinese')model_dir = snapshot_download('iic/nlp_bart_text-error-correction_chinese-law', cache_dir='nlp_bart_text-error-correction_chinese-law')model_dir = snapshot_download('iic/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch', cache_dir='speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch')model_dir = snapshot_download('iic/cv_dla34_table-structure-recognition_cycle-centernet', cache_dir='cv_dla34_table-structure-recognition_cycle-centernet')model_dir = snapshot_download('iic/cv_resnet-transformer_table-structure-recognition_lore', cache_dir='cv_resnet-transformer_table-structure-recognition_lore') model_dir = snapshot_download('iic/cv_convnextTiny_ocr-recognition-general_damo', cache_dir='cv_convnextTiny_ocr-recognition-general_damo')model_dir = snapshot_download('iic/cv_resnet18_ocr-detection-db-line-level_damo', cache_dir='cv_resnet18_ocr-detection-db-line-level_damo')model_dir = snapshot_download('iic/cv_convnextTiny_ocr-recognition-document_damo', cache_dir='cv_convnextTiny_ocr-recognition-document_damo')model_dir = snapshot_download('iic/cv_resnet18_ocr-detection-line-level_damo', cache_dir='cv_resnet18_ocr-detection-line-level_damo')

C. 部署方式

  • 一键部署Google开源大模型Gemma，性能远超Mistral、LLama2 | 本地大模型部署，ollama助您轻松完成！_哔哩哔哩_bilibili
  • Windows系统本机运行Gemma最简步骤_哔哩哔哩_bilibili
  • ollama如何把gemma模型部署到D盘_哔哩哔哩_bilibili
  • Ollama如何把Gemma模型部署到D盘_方法二创建目录链接释放C盘空间_哔哩哔哩_bilibili
  • Ollama如何使用现有的GGUF文件_哔哩哔哩_bilibili
  • Ollama导入GGUF文件_哔哩哔哩_bilibili
  • Ollama wsarecv: An existing connection was forcibly closed by the remote host._哔哩哔哩_bilibili
  • OLLAMA_KEEP_ALIVE潜在问题分析_哔哩哔哩_bilibili
  • Ollama 运行 GGUF 模型
  • LangChain 与 ollama 携手python 环境演示 Hello World 构建属于自己的大模型应用
  • 人工智能大模型系列（七）使用 Ollama 和 CodeGPT 在 VSCode 中创建您自己的自定义 Copilot

D. 格式转换

  • 开源大模型GGUF量化(llama.cpp)与本地部署运行(ollama)教程 - 知乎

  • 揭开gguf神秘面纱——大模型CPU部署系列02 - 知乎

E. 代码生成

  • LLM 系列 | 21 : Code Llama实战(上篇) : 模型简介与试用
  • LLM系列 | 22 : Code Llama实战(下篇)：本地部署、量化及GPT-4对比
  • Stability AI开源3B代码生成模型：可补全，还能Debug

F. YOLOV9

  • WongKinYiu/yolov9
  • YOLO v9训练自己数据集_yolov9训练自己的数据集-CSDN博客
  • 手把手教你在自己的数据集上训练YOLOv9！ - 知乎

G. SAM

  • facebookresearch/segment-anything

H. Qwen1.5-MoE

  • Github官方GitHub - QwenLM/Qwen1.5: Qwen1.5 is the improved version of Qwen, the large language model series developed by Qwen team, Alibaba Cloud.
  • GPTQ版本运行失败Qwen1.5-MoE: 1/3的激活参数量达到7B模型的性能_哔哩哔哩_bilibili
  • 对应Chat版本的代码Qwen1.5-MoE: 1/3的激活参数量达到7B模型的性能 - 哔哩哔哩
  • 微信资料开源MOE再添一员：通义团队Qwen1.5 MOE A2.7B大模型
  • 如何选择模型Qwen1.5系列6个模型如何选择？ AWQ还是GPTQ？#小工蚁_哔哩哔哩_bilibili
  • 不同型号显卡在同一台机器上通过vllm加速推理双4090部署qwen72b大模型 每秒150tokens_哔哩哔哩_bilibili
  • Qwen-Agent及浏览器插件GitHub - QwenLM/Qwen-Agent: Agent framework and applications built upon Qwen1.5, featuring Function Calling, Code Interpreter, RAG, and Chrome extension.

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/783776.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

【计算机视觉】四篇基于Gaussian Splatting的SLAM论文对比

【计算机视觉】四篇基于Gaussian Splatting的SLAM论文对比

本文对比四篇论文： [1] Gaussian Splatting SLAM [2] SplaTAM: Splat, Track & Map 3D Gaussians for Dense RGB-D SLAM [3] Gaussian-SLAM: Photo-realistic Dense SLAM with Gaussian Splatting [4] GS-SLAM: Dense Visual SLAM with 3D Gaussian Splatting …
阅读更多...
汇编语言——用INT 21H 的A号功能，输入一个字符串存放在内存，倒序输出

汇编语言——用INT 21H 的A号功能，输入一个字符串存放在内存，倒序输出

用INT 21H 的A号功能，输入一个字符串“Hello, world!”，存放在内存，然 后倒序输出。 在DOS中断中，INT 21H是一个常用的系统功能调用中断，它提供了多种功能，其中A号功能用于字符串的输入。 在使用这个功能时…
阅读更多...
【PSINS工具箱】基于工具箱，自己设计的轨迹，并生成IMU数据和三维视图（完整代码）

【PSINS工具箱】基于工具箱，自己设计的轨迹，并生成IMU数据和三维视图（完整代码）

完整代码 在有工具箱的情况下，直接运行代码，即可 % 基于PSINS工具箱的三维轨迹生成、三维图像绘制与IMU数据生成 % date:2024-2-13 % Evand（evandworldqq.com） % Ver1 clear;clc;close all; glvs ts 0.1; % sampling int…
阅读更多...
linux自定义命令

linux自定义命令

文章目录 1、自定义命令介绍2、自定义命令步骤 (centos7)2.1 新建隐藏目录存放自定义命令脚本文件2.2 将新建的目录配置环境变量2.3 取别名的方式简化已有命令2.4 编写自定义命令脚本 1、自定义命令介绍 不管是linux系统还是windows系统都支持自定义命令，windows端…
阅读更多...
学习 C++ 一定要搭配 Linux 吗？

学习 C++ 一定要搭配 Linux 吗？

学习C并不一定非要搭配Linux，但使用Linux环境进行学习和开发确实有其独特的优势，尤其对于深入理解和实践某些高级主题及特定领域的开发工作。以下是关于是否需要搭配Linux学习C的详细分析： 为了帮助您更好地入门并深入掌握C，我们精…
阅读更多...
PLC的大脑和心脏——CPU及西门子S7-1200CPU分类、CPU型号及端子接线图示例

PLC的大脑和心脏——CPU及西门子S7-1200CPU分类、CPU型号及端子接线图示例

CPU不断地采集输入信号，执行用户程序，刷新系统的输出。 根据供电方式和输入/输出方式的不同，西门子S7-1200 CPU分为3类，如下图1。 图1 CPU的分类 第1对字母，表示CPU的供电方式，AC（Alternating…
阅读更多...
代码随想录第25天|216.组合总和III 17.电话号码的字母组合

代码随想录第25天|216.组合总和III 17.电话号码的字母组合

216.组合总和III 216. 组合总和 III - 力扣（LeetCode） 代码随想录 (programmercarl.com) 和组合问题有啥区别？回溯算法如何剪枝？| LeetCode：216.组合总和III_哔哩哔哩_bilibili 找出所有相加之和为 n 的 k 个数的组…
阅读更多...
【KingSCADA】播放语音

【KingSCADA】播放语音

1.函数介绍 PlaySound(string strWaveFileName, int nMode);下面是官方帮助文档中的解释： 2.生成语音文件 3.使用脚本播放音频文件 将音频文件存放在工程目录下面，我存放在了…\Resources\文件夹下： 我简单的写了一个定时1分钟播放一次语…
阅读更多...
Fluent循环流动案例（模拟循环泵，含换热、散热、VOF、UDF）

Fluent循环流动案例（模拟循环泵，含换热、散热、VOF、UDF）

在此特意记录下循环通道的fluent思路和参数设置 该案例中，主要关注的是催化剂域的温度变化情况，因此需要监控的是温度的变化曲线，关于泵如何进行模拟，这里有两种思路，一种是用风扇代替泵，优点是整个流体域基…
阅读更多...
HarmonyOS ArkTS 骨架屏加载显示（二十五）

HarmonyOS ArkTS 骨架屏加载显示（二十五）

目录 前言1、骨架屏代码显示2、代码中引用3、效果图展示 前言 所谓骨架屏，就是在页面进行耗时加载时，先展示的等待 UI, 以告知用户程序目前正在运行，稍等即可。 等待的UI大部分是 loading 转圈的弹窗，有的是自己风格的小动画。其实…
阅读更多...
武汉大学开设 “雷军班”：计算机专业、今年招收 15 名本科生。武汉大学已经联合小米成立了机器系

武汉大学开设 “雷军班”：计算机专业、今年招收 15 名本科生。武汉大学已经联合小米成立了机器系

更多精彩内容在公众号。 3月25日，武汉大学官方网站发布了一则新闻，报道了校长张平文对计算机学院的调研活动。在报道中，张平文校长特别强调了关于“雷军班”及机器人系的发展规划。他表示，希望计算机学院能够立足于更高层次&#…
阅读更多...
【python从入门到精通】-- 第三战：输入输出 运算符

【python从入门到精通】-- 第三战：输入输出 运算符

🌈 个人主页：白子寰 🔥 分类专栏：python从入门到精通，魔法指针，进阶C，C语言，C语言题集，C语言实现游戏👈 希望得到您的订阅和支持~ 💡 坚持创作博文…
阅读更多...
前端虚拟滚动列表 vue虚拟列表

前端虚拟滚动列表 vue虚拟列表

前端虚拟滚动列表 在大型的企业级项目中经常要渲染大量的数据，这种长列表是一个很普遍的场景，当列表内容越来越多就会导致页面滑动卡顿、白屏、数据渲染较慢的问题；大数据量列表性能优化，减少真实dom的渲染 看图：绿色…
阅读更多...
Prometheus +Grafana +node_exporter可视化监控Linux + windows虚机

Prometheus +Grafana +node_exporter可视化监控Linux + windows虚机

1、介绍 背景：需要对多台虚机进行负载可视乎监控，并进行及时的报警 2、架构图 node_exporter ：主要是负责采集服务器的信息。 Prometheus ：主要是负责存储、抓取、聚合、查询方面。 Grafana ： 主要是…
阅读更多...
Pandas | value_counts() 的详细用法

Pandas | value_counts() 的详细用法

value_counts() 函数得作用 用来统计数据表中，指定列里有多少个不同的数据值，并计算每个不同值有在该列中的个数，同时还能根据指定得参数返回排序后结果。 返回得是Series对象 value_counts(values,sortTrue, ascendingFalse, normalizeFal…
阅读更多...
SSTI 服务器端模板注入（Server-Side Template Injection）

SSTI 服务器端模板注入（Server-Side Template Injection）

1.Web_python_template_injection {{}}是变量包裹标识符，里面存放的是一个变量，当你输入 http://61.147.171.105:55121/{{8*8}} 执行成功，说明存在模版注入。接下来，开始想办法编代码拿到服务器的控制台权限 。 首先&#xff0c…
阅读更多...
unity 打包安卓错误汇集

unity 打包安卓错误汇集

Failed to find target with hash string "android-34’ in: D:Pr 他说找不到sdk34level的我用as打开后卸载又重装，最后解决了 我放到Plugins/Android/下面的Java代码没有被编译 这个不知道为什么。我故意把代码写的有问题，会报错那种&#xff…
阅读更多...
Java中常见的锁策略

Java中常见的锁策略

目录 乐观锁 vs 悲观锁 悲观锁: 乐观锁： 重量级锁 vs 轻量级锁 ⾃旋锁（Spin Lock） 公平锁 vs 非公平锁 可重⼊锁 vs 不可重入锁 读写锁 乐观锁 vs 悲观锁 悲观锁: 总是假设最坏的情况，每次去拿数据的时候都认为别…
阅读更多...
AES加密解密算法

AES加密解密算法

一，AES算法概述 AES属于分组加密，算法明文长度固定为128位（单位是比特bit，1bit就是1位，128位等于16字节） 而密钥长度可以是128、192、256位 当密钥为128位时，需要循环10轮完成加密&#xff0…
阅读更多...
【Threejs基础教程-光影篇】5.2 Threejs 阴影系统

【Threejs基础教程-光影篇】5.2 Threejs 阴影系统

5.2 Threejs阴影系统 学习ThreeJS的捷径在用光影系统之前threejs是实时光影web端目前没有优质的实时光影实时光影会大幅增加渲染压力没有独显的电脑不建议添加实时光影 阴影配置什么样的灯光可以产生阴影什么样的物体可以产生阴影和接受阴影注意开启阴影渲染灵活运用阴影 平行光…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023