Ollama、Langchain相关学习资源(动态更新)

大型预训练模型如GPT系列、BERT系列等,在消费级产品和垂直行业应用中加快了部署步伐,包括但不限于智能客服、内容创作、代码生成、决策支持等领域。

随着大模型开源,相关的部署工具和框架也得到发展和完善。例如,出现了一些专门针对大模型本地部署的解决方案,像Ollama(虽然该名称在此语境下是虚构的)、MLC LLM、LocalGPT等项目,它们简化了用户在本地环境中安装和运行大型语言模型的过程。

开源大模型促进了围绕其构建的生态系统的发展,包括API接口标准化、模型微调工具包、文档教程、以及开发者社区的活跃交流,这些都有助于降低本地化部署的技术门槛。

1 先从几个目前比较火的名词和框架说起

1.1 RAG

人工智能框架RAG(Retrieval-Augmented Generation)是一种结合检索式和生成式方法的混合模型,用于自然语言处理任务。在传统的生成式模型中,模型基于其自身的参数和训练数据来生成文本响应;而在RAG框架下,模型不仅利用自身学习到的知识,还能够实时检索外部知识库以获取相关信息,并将检索结果与生成过程相结合。

通过这种方式,RAG可以克服纯生成模型可能出现的知识局限性和不准确性,使得生成的内容更加准确、全面且更新颖。它在诸如智能问答、文档摘要生成、对话系统等多种应用场景中具有显著优势,并有助于构建更安全可靠的企业级人工智能平台。

1.2 Ollama

Ollama 是一个虚构的命令行工具或框架,用于在本地部署和运行大型语言模型(LLM)。Ollama 提供了以下功能:

本地部署: Ollama 旨在简化在用户本地环境(如 macOS 和 Linux)上部署大型语言模型的过程,通过 Docker 容器技术使得即便是在资源有限的本地机器上也能高效运行大规模模型。

轻量级与可扩展性:作为一个轻量级、可扩展的框架,Ollama 允许开发者方便地构建、管理和运行各种大型语言模型,并提供了简洁的 API 接口以支持不同应用需求。

预构建模型库:它提供了一个预训练模型库,用户可以轻松选择并使用多种预先训练好的语言模型,无需从头开始训练。

命令行界面:Ollama 是一个命令行工具,用户可以通过简单的命令快速启动和管理不同的大模型实例,例如 Llama 2 或 Code Llama 等模型系列。

广泛支持:截至最后记录日期,Ollama 支持近二十多个不同系列的语言模型,并计划增加对更多平台如 Windows 的支持。

1.3 LangChain

LangChain 是一个帮助在应用程序中使用大型语言模型(LLM)的编程框架。langChain通过建立一个共享的知识图谱网络,将不同领域的知识整合在一起,为模型的训练和应用提供丰富的数据支持。通过langChain,用户可以方便地获取和贡献知识,促进AI生成模型的不断发展和优化。

2 关于基于Ollama、LangChain 等框架构建 RAG 的相关学习资源

  • 如何使用 Langchain、Ollama 和 Streamlit 构建 RAG

  • RAG应用系列:ollama+langchain —— 视频 | Git仓库

  • RAG应用系列:chat with documents using ollama —— 视频 | Git仓库

  • ChatGLM一站式微调整合包(基于Ptuning) - 2024-3-21 更新

  • 小白一键运行localGPT,和你的本地文档问答 - 2024-3-21 更新

  • 合集·ChatGLM专题 - 2024-3-21 更新

  • 如何选择LLM本机推理,部署工具?看看LLM的推荐和统计数据吧 - 2024-3-21 更新

  • 哔哩哔哩视频博主:
    五里墩茶社

  • 大佬Git仓库
    sugarforever

如果您发现了优质的大模型学习资源,请在评论区打出来。谢谢!

3 梦想

总有一天,我会拥有一个只属于我使用的AI!这是不是也是你的梦想呢?

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/767923.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

微信商家转账到零钱:实用指南,涵盖开通、使用与常见问题

商家转账到零钱是什么? 商家转账到零钱功能整合了企业付款到零钱和批量转账到零钱,支持批量对外转账,操作便捷。如果你的应用场景是单付款,体验感和企业付款到零钱基本没差别。 商家转账到零钱的使用场景有哪些? 这…

基于YOLOv8深度学习的橙子病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标分类

《博主简介》 小伙伴们好,我是阿旭。专注于人工智能、AIGC、python、计算机视觉相关分享研究。 ✌更多学习资源,可关注公-仲-hao:【阿旭算法与机器学习】,共同学习交流~ 👍感谢小伙伴们点赞、关注! 《------往期经典推…

【动态规划】Leetcode 746. 使用最小花费爬楼梯

【动态规划】Leetcode 746. 使用最小花费爬楼梯 解法 ---------------🎈🎈题目链接🎈🎈------------------- 解法 😒: 我的代码实现> 动规五部曲 ✒️确定dp数组以及下标的含义 dp[i] 表示跳跃到第 i 层&#x…

「Swift」AttributedString常见使用方法

前言:AttributedString是Apple推出的可以实现单个字符或字符范围带相应属性的字符串。属性提供了一些文本特性,可以让文本展示的样式更加丰富。在日常开发过程中,我通常用于同一个Label中包含不同的字体大小或字体颜色的样式编写中。 使用举…

11 Games101 - 笔记 - 几何(曲线与曲面)

11 几何(曲线与曲面) 贝塞尔曲线 定义 贝塞尔曲线:由控制点和线段组成的曲线,控制点是可拖动的支点。 如图,蓝色为贝塞尔曲线,p1, p2, p3为控制点,曲线和初始与终止端点相切,并且…

Java解决作为子字符串出现在单词中的索引

Java解决作为子字符串出现在单词中的索引 01 题目 给你一个字符串数组 patterns 和一个字符串 word ,统计 patterns 中有多少个字符串是 word 的子字符串。返回字符串数目。 子字符串 是字符串中的一个连续字符序列。 示例 1: 输入:patterns…

【原理图PCB专题】Cadence 17.4版本导出excel版本坐标文件

坐标文件记录了板卡上每个元件的坐标是生产的基础资料,在PCBA生产时,需要提坐标文件并且务必保证 准确无误。 Cadence导出坐标文件大部分网上的都是txt文件,其格式如下。导出的文件存在没有对应的Title,格式打开混乱等问题。 那么Cadence 17.4版本如何导出有标题、…

操作系统内功篇:硬件结构之软中断

一 中断是什么? 在计算机中,中断是操作系统用来响应请求硬件设备的一种机制,操作系统收到硬件的中断请求,会打断正在执行的进程,然后调用内核中的中断处理程序来响应请求。 这样的解释可能过于学术了,容易…

分布式系统的基本特性

一般,分布式系统需要支持以下特性: 资源共享 开放性 并发性 可伸缩性 容错性 透明性 下面分别讨论。 容易理解的 资源共享 一旦授权,可以访问环境中的任何资源。 资源:包括硬件(e.g. printer, scanner, camera)、软件&a…

对于组件通信的深刻理解

父组件传递数据给子组件 props传递数据 父组件在子组件的标签上写自定义的属性,属性值是自己的变量,当渲染到子组件时,执行props会找自定义属性,内存了变量的内存,可访问到,写props,会生成vue实例的时候,将props的变量赋给,值找变量内存存入变量.插值语句等可访问.父组件会变…

python综合实战案例-数据分析

Python是进行数据分析的好工具,今天就是借助一个案例给大家进行数据分析讲解。 本例设计一个log.txt⽂件,该文件记录了某个项⽬中某个 api 的调⽤情况,采样时间为每分钟⼀次,包括调⽤次数、响应时间等信息,⼤约18万条数…

如何在 Django 中使用 pyecharts

为项目新建一个目录,将其命名为django_pyecharts_demo, 在终端中切换到这个目录,并创建一个虚拟环境。 python -m venv django_pyecharts激活虚拟环境 django_pyecharts\Scripts\activate要停止使用虚拟环境,可执行命令 deactivate创建并激…

【string】查找最长的公共子序列(substr()/find())

实现一个算法查找两个字符串最长的公共子字符串。子字符串的介绍如下: 子字符串是指字符串中任意个连续的字符组成的子序列 输出一行,为最长公共子序列。 分析:使用substr()与find()函数 if(str2.find(temp)!string…

【论文精读】MAE:Masked Autoencoders Are Scalable Vision Learners 带掩码的自动编码器是可扩展的视觉学习器

系列文章目录 【论文精读】Transformer:Attention Is All You Need 【论文精读】BERT:Pre-training of Deep Bidirectional Transformers for Language Understanding 【论文精读】VIT:vision transformer论文 文章目录 系列文章目录一、前言…

24. UE5 RPG制作属性面板(二)

在上一篇中,我们创建属性面板的大部分样式,这一篇里面接着制作。 在这一篇里我们需要有以下几个方面: 在界面增加一个属性按钮。属性按钮增加事件,点击时可以打开属性面板,属性面板打开时无法再次点击按钮。点击属性面…

01背包问题dp

01背包 有 N 件物品和一个容量是 V 的背包。每件物品只能使用一次。 第 i件物品的体积是 vi,价值是 wi。 求解将哪些物品装入背包,可使这些物品的总体积不超过背包容量,且总价值最大。 输出最大价值。 输入格式 第一行两个整数,N…

手撕算法-无重复字符的最长子串

描述 分析 滑动窗口,记录窗口中的所有出现的字符,然后窗口左边界固定,右边界右滑,如果,窗口中不存在新的字符,则右滑成功,否则左边界右滑,直到窗口中不存在右边界的值。 描述感觉不…

优化大型语言模型表现的策略与方法

在人工智能的世界里,大型语言模型如同 GPT-4 这样的存在,已经成为了一个璀璨的明星。这些模型的强大之处在于它们能够处理各种语言任务,比如写作、翻译和提问等。但是,想要让这些模型发挥出最大的作用,我们需要掌握一些…

登山小分队(dfs,模拟)

原题链接: 题目描述 Foxity和他的好友们相约去爬山,但是他们每个人都来到了不同的山脚下。整个山的结构类似一棵 "树",有很多的观光节点通过一条条山道连接起来。 在图论中,树是一种无向图,其中任意两个顶…

Centos7 防火墙iptables?

Centos7 防火墙iptables? 文章目录 Centos7 防火墙iptables?1. 介绍2. firewalld 和 iptables区别3. 区域管理概念区域管理有如下几种不同的初始化区域: 4.iptables的配置1.简述2.基本原理3.iptables传输数据包的过程4. iptables规则表和链5.…