ollama部署bge-m3,并实现与dify平台对接

概述

这几天为了写技术博客,各种组件可谓是装了卸,卸了装,只想复现一些东西,确保你们看到的东西都是可以复现的。
(看在我这么认真的份上,求个关注啊,拜托各位观众老爷了。)

这不,为了实验在windows上docker里运行pytorch,把docker重装了。

dify也得重装:
Dify基础:Dify平台的本地化部署(含windows部署中,常见问题及解决方案)
https://blog.csdn.net/xiezhipu/article/details/143693054

结果发现,这个模型注册这里,有了一些新东西:
在这里插入图片描述
那咱可得好好玩一玩。

可以看到,经过之前的配置ollama的通义千问2.5版本已经成为默认的系统推理模型。

如今我们再把embedding模型给它配置好!

什么是Ollama?

Ollama是一个假设的云服务平台,专注于简化机器学习模型的部署和管理。它提供了从模型训练到生产的完整生命周期管理,支持多种框架和算法,旨在让开发人员能够快速迭代并部署他们的机器学习项目。

BGE-M3简介

BGE-M3(Big General Embedding Model - Multi-lingual, Multi-modal, Multi-task)是一个多语言、多

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/62338.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

详细介绍HTTP与RPC:为什么有了HTTP,还需要RPC?

目录 一、HTTP 二、RPC 介绍 工作原理 核心功能 如何服务寻址 如何进行序列化和反序列化 如何网络传输 基于 TCP 协议的 RPC 调用 基于 HTTP 协议的 RPC 调用 实现方式 优点和缺点 使用场景 常见框架 示例 三、问题 问题一:是先有HTTP还是先有RPC&…

Paddle Inference部署推理(十五)

十五:Paddle Inference推理 (python)API详解 枚举类型 DataType DataType 定义了 Tensor 的数据类型,由传入 Tensor 的 numpy 数组类型确定。 # DataType 枚举定义 class paddle.inference.DataType:# 获取各个 DataType 对应…

blender 视频背景

准备视频文件 首先,确保你有想要用作背景的视频文件。视频格式最好是 Blender 能够很好兼容的,如 MP4 等常见格式。 创建一个新的 Blender 场景或打开现有场景 打开 Blender 软件后,你可以新建一个场景(通过点击 “文件” - “新建…

Elasticsearch与NLP的深度融合:文本嵌入与向量搜索实战指南

Elasticsearch与NLP的深度融合:文本嵌入与向量搜索实战指南 引言 在当今信息爆炸的时代,如何从海量文本数据中快速准确地检索出相关信息,成为了一个迫切需要解决的问题。自然语言处理(NLP)技术的发展为这一挑战提供了新的解决方案。Elasticsearch,作为一个强大的搜索引…

Lesson 10 GNN

听课(李宏毅老师的)笔记,方便梳理框架,以作复习之用。本节课主要讲了生成式对抗网络(GNN)。 目录 Generation Network as Generator 到目前为止,我们学习到的是类似于函数的network&#xf…

Delphi 内置的用于 SOAP WebService 的数据类型定义

记录一下备查。 数据定义在这个单元:unit Soap.InvokeRegistry; 比如: TByteSOAPArray array of Byte;TIntegerSOAPArray array of Integer;TCardinalSOAPArray array of Cardinal;TWordSOAPArray array of Word;TSmallIntSOAPArray array of Sma…

Qt creator设置程序图标

1.windows 在.pro加入 RC_ICONS XXX.ico Qt 只能使用.ico图片设置为程序图标,若是其他图片,需转换为.ico. png在线转ico:PNG to ICO | Convert PNG to ICO online for free 2.其他平台 Qt 设置应用程序图标并没有跨平台: https://doc…

JSON数据转化为Excel及数据处理分析

在现代数据处理中,JSON(JavaScript Object Notation)因其轻量级和易于人阅读的特点而被广泛使用。然而,有时我们需要将这些JSON数据转化为Excel格式以便于进一步的分析和处理。本文将介绍如何将JSON数据转化为Excel文件&#xff0…

Scala入门基础(20)数据集复习拓展

一.Stack栈二.Queue 队列 一.Stack栈 Stack:栈,特殊的结构。它对元素的操作是在头部:栈顶 先进后出的队列。pop表示取出,push表示在栈中添加元素 二.Queue 队列 Queue 队列;先进先出.enqueue入队,dequeue出队。

Pandas 数据读取与导出

Pandas 是一个强大的 Python 库,用于数据处理和分析。它提供了许多函数来读取和导入数据,支持多种文件格式,如 CSV、Excel、SQL 数据库、JSON 等。以下是一些常用的数据读取和导出方法: 常用方法 格式文件格式读取函数写入&…

Ubuntu20.04运行DM-VIO

目录 环境配置非ROS环境运行编译运行结果图 ROS环境参考 环境配置 Ubuntu20.04 将项目中Cmakelists.txt中C 和 opencv版本修改下 C 使用 14 opencv使用4 非ROS环境运行 编译 按照官网即可 cd dm-vio mkdir build cd build cmake .. make -j运行 DM-VIO给的命令是 bin/d…

TDengine 签约深圳综合粒子,赋能粒子研究新突破

在高能物理和粒子研究领域,实验装置的不断升级伴随着海量数据的产生与处理。尤其是随着大湾区综合性国家科学中心的建设步伐加快,深圳综合粒子设施研究院(以下简称“研究院”)作为承载“双区驱动”战略的重要科研机构,…

IDEA连接Apifox客户端

IDEA连接Apifox客户端 一、下载Apifox安装包二、IDEA配置三、配置Apifox和IDEA项目同步 一、下载Apifox安装包 Apifox官网,根据自己的操作系统下载对应的Apifox安装包,我是windows系统所以下载的是windows版。 下载 默认仅为我安装,点击下一…

(C语言) 8大翻译阶段

(C语言) 8大翻译阶段 文章目录 (C语言) 8大翻译阶段⭐前言🗃️8大阶段🗂️1. 字符映射🗂️2. 行分割🗂️3. 标记化🗂️4. 预处理🗂️5. 字符集映射🗂️6. 字符串拼接🗂️7. 翻译&…

php反序列化1_常见php序列化的CTF考题

声明: 以下多内容来自暗月师傅我是通过他的教程来学习记录的,如有侵权联系删除。 一道反序列化的CTF题分享_ctf反序列化题目_Mr.95的博客-CSDN博客 一些其他大佬的wp参考:php_反序列化_1 | dayu’s blog (killdayu.com) 序列化一个对象将…

Spring Boot拦截器(Interceptor)详解

拦截器Interceptor 拦截器我们主要分为三个方面进行讲解: 介绍下什么是拦截器,并通过快速入门程序上手拦截器拦截器的使用细节通过拦截器Interceptor完成登录校验功能 1. 快速入门 什么是拦截器? 是一种动态拦截方法调用的机制&#xff…

从入门到精通:Java异常处理的最佳实践全解

目录 一、理解异常的分类 二、精简异常处理逻辑 三、合理使用finally块 四、避免吞掉异常 五、记录异常 六、自定义异常提高可读性 七、谨慎使用try-catch块 八、重抛异常并添加上下文 总结 在Java中,异常处理是保障程序稳定性和可靠性的重要部分。尽管Java…

Centos Linux 服务器 批量替换文件内容sed

Centos Linux 服务器 批量替换文件内容sed sed -i "s/oldString/newString/g" grep -rl "oldString" ./

使用 Go 语言中的 Context 取消协程执行

使用 Go 语言中的 Context 取消协程执行 在 Go 语言中,协程(goroutine)是一种轻量级的线程,非常适合处理并发任务。然而,如何优雅地取消正在运行的协程是一个常见的问题。本文将通过一个具体的例子来展示如何使用 con…

使用zabbix监控k8s

一、 参考文献 小阿轩yx-案例:Zabbix监控kubernetes云原生环境 手把手教你实现zabbix对Kubernetes的监控 二、部署经验 关于zabbix监控k8s,总体来说是分为两块内容,一是在k8s集群部署zabbix-agent和zabbix- proxy。二是在zabbix进行配置。…