客户案例|Zilliz Cloud 助力点石科技转型 AI 智能服务商

福建点石科技网络科技有限公司成立于2010年,是国家高新技术企业,阿里云、蚂蚁金服等大厂海内外生态合作伙伴ISV。在餐饮、零售、酒店、旅游、商圈的行业定制化服务化上有深厚积累,在境内外做了大量标杆性软件项目,如东南亚RWS圣淘沙、DBS银行、新加坡樟宜机场等项目,获得众多荣誉扶持资金和CGTN及多国政府官方新闻媒体报道,得到高度好评。

alt

01.客户简介

经过10多年的努力和大量海内外标杆项目实践,点石科技聚合了海内外众多大语言模型,AI工具和AI应用强大能力,搭建了一整套从业务、数据(向量数据库)、AI智能、算法等协同的点石中台+AI应用的SaaS系统。如“爱晚亭”AI系统、“长江商学院”AI演示平台,“AI开店宝”等系列落地项目,帮助用户解决员工实际生产生活实现如智能客服/HR/智能销售等各种场景应用,或基于Agent进行流程再造等,真实帮助企业实现降本增效。

2023 年点石科技的系列AI产品陆续上线后,快速被市场认可,发展了众多的付费用户,不乏如长江商学院、顾均辉教定位,上海墨迹天气、新疆兆龙集团、湖南尔康药业、深圳魅动智能、广州国测规划等标杆或典型用户。点石科技也成功转型为AI智能服务商,成为AI赋能服务的头部应用平台。

02.应用场景

当前各大语言模型普遍面临的一个巨大挑战是用户结合企业自身数据知识训练输出结果时会出现“幻觉”现象。究其根本,除了数据训练或者模型选择的问题,更主要的原因大模型没有特定领域的知识,而当用户正好问到这个问题的时候,那大模型就会产生“一本正经的胡说八道”甚至“犟嘴”的情况。

目前业界被公认为解决大语言模型“幻觉”问题的方案是RAG(Retrieval-Augmented-Generation),而构建RAG的关键三要素是“LLM”+“向量数据库”+“Prompt”,以“爱晚亭APP”为例,此前点石科技在开发过程中,采用的是开源向量数据库Milvus,而随着业务的快速发展,技术团队将业务迁移上了由Milvus原厂Zilliz打造的全托管的Milvus向量数据库云服务Zilliz Cloud,这不仅大大减少向量数据库部署、运维的人力,从而专注于业务的创新和研发上,同时Zilliz Cloud丰富的功能能够同时满足业务ToB、ToC场景的多种需求。

满足多租户及数据安全的需求

1、海量ToC客户:ToC客户数量大但数据量相对较少,而每个客户要能独立地进行管理和查询。Zilliz Cloud的Partition Key方案可以完美的应对这样的特定场景:所有客户的知识库服务后台共享一个 Zilliz Cloud Cluster,Partition Key方案为每个用户提供一个Partition key 来实现寻址,可达到百万级租户的能力,它允许用户根据实际需求灵活地划分和管理数据,从而提高系统的可扩展性、灵活性和性能。

2、ToB客户:ToB客户对于数据隔离性要求高,希望自己的数据和其它客户数据隔离开。Zilliz Cloud为此类客户单独创建Cluster来管理私有知识,点石科技调用Zilliz Cloud提供的运维接口,为客户提供管理界面,客户无需登录Zilliz Cloud账号,即可查看资源消耗,按需扩容。

3、实现了RAG应用中的80%以上的问答召回率

在实现复杂的信息检索任务,如基于 RAG 的应用时,评估效果的标准通常会因具体任务和行业而异。点石科技在做客户服务聊天机器人时,技术团队针对RAG应用做了些测试:在没有采用RAG架构,也没有对数据进行训练时,回答虽然正确,但是过于简略,且召回率低于40%;而经过数据训练,答案基本正确,但是过于简略;当使用向量数据库之后,不仅可以看到其已经引用了正确的文档,回答正确且丰富。业务实际上线后,当前“爱晚亭”AI系统已经达到了80%的问答召回率,超过80% 的问答召回率则通常被认为是非常优秀的。

alt

生态丰富,适合AIGC应用场景

Zilliz Cloud已经完成了与主流大语言模型框架、Embedding模型等的对接,如LLamaindex、Langchain、OpenAI、Cohere、Huggingface,因此点石科技在开发AI应用时可以直接在Zilliz Cloud平台上使用这些框架和模型,无需自己进行复杂的集成和配置工作,从而大大节省开发时间和成本。

此外,Zilliz Cloud还能够快速匹配点石科技“爱晚亭”AI系统的智能写作、智能办公场景等各种AI应用。

03.客户说

点石科技创始人兼CEO卢文胜表示:“Zilliz Cloud替代Milvus后,看起来,我们每月会新增一些向量数据库云服务的费用,但我们的运维成本降低了20-30%,同步得到Zilliz的及时响应和帮助,还是非常划算的!”

04.关于 Zilliz

Zilliz 作为向量数据库技术的开创者,推出的全球最受欢迎的的开源向量数据库--Milvus,受到了全球 5000 家以上企业用户的支持与青睐。2023 年,Zilliz推出了基于 Milvus 的全托管云服务 Zilliz Cloud。

截至目前,Zilliz Cloud 已实现全球 5 大云 16 个节点的全覆盖,是全球首个提供海内外多云服务的向量数据库企业,其企业注册用户已超过 40,000 家,付费用户遍及全球多个国家和地区,覆盖 AIGC 领域、电商、在线教育等场景。作为 AIGC 关键基础设施和 RAG 技术的基本组件提供商,Zilliz 完成了与全球头部大模型生态的对接,赋能大模型应用落地。

本文由 mdnice 多平台发布

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/847801.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Vite + Vue 3 前端项目实战

一、项目创建 npm install -g create-vite #安装 Vite 项目的脚手架工具 # 或者使用yarn yarn global add create-vite#创建vite项目 create-vite my-vite-project二、常用Vue项目依赖安装 npm install unplugin-auto-import unplugin-vue-components[1] 安装按需自动导入组…

Python | 试卷刷题and基础笔记

1.下列转义字符中, 属于“回车”含义的是 \n 换行 \r 回车 2.for循环遍历字典 在Python中,你可以使用for循环来遍历字典的键(keys)、值(values)或者键-值对(items)。下面是三种遍历…

supervisord常用命令及服务配置记录

whereis supervisor主进程配置文件:/etc/supervisord.conf 子进程配置文件:/etc/supervisor/conf.d 启动supervisor服务 sudo supervisord -c /etc/supervisor/supervisord.conf关闭supervisor则执行命令 sudo supervisorctl shutdown重启supervisor则…

Postman接口测试笔记(超详细)

基于工具Poatman的接口自动化基础应用以及接口关联 一、什么是接口? 硬件接口:USB接口,投影仪接口,鼠标键盘接口 软件接口:称为API,主要使用于数据交互 软件接口分类: 内部接口&#xff1a…

Vue3实战笔记(61)—Vue 3 Watch进化论:解锁实时数据监听新境界

文章目录 前言基本使用总结 前言 Vue 3 中的 watch 功能相比Vue 2有了改进和扩展,旨在提供更灵活的数据监听方式。 基本使用 Vue 3中的watch可以用于Composition API和Options API,但Composition API的使用更为常见。它主要用于监听响应式数据的变化&a…

树莓派5烧系统和ssh远程实现

1、硬件说明 树莓派5 64G micro SD卡读卡器 2、烧录系统过程记录 之前写过一篇pi4B烧录Ubuntu22.04的博客,这篇就简单记录备份下 2.1 去ubuntu官网在树莓派上安装Ubuntu | Ubuntu下载Ubuntu 桌面 24.04 LTS 我之前已经下好了就有个(1) 2.2 用读卡器把SD卡插到…

富格林:采用安全出金操作方法

富格林指出,现货黄金投资是近几年来热门的投资产品,剧烈的行情波动会给投资者带来充分的盈利机会,让不少投资者都开始投身于黄金市场。不过对于新手而言,要想实现安全盈利出金并没有那么容易,需要把握一些正规的交易技…

实战:一款唯美的个人主页-home2.0-2024.6.4(测试成功)

目录 文章目录 目录实验软件前提条件效果说明1、背景2、配置1、克隆代码库2、配置并构建镜像3、部署测试方案1:从docker容器拷贝生成的静态文件放到网站/目录方案2:启动容器,nginx里配置反向代理(推荐) 4、访问 3、总结…

“物联网安全:万物互联背景下的隐私保护与数据安全策略“

在物联网(IoT)时代,随着智能设备的普及和万物互联的加速,隐私保护与数据安全成为了亟待解决的关键问题。以下是一些重要的隐私保护与数据安全策略,以确保在万物互联背景下信息的安全: 1. 加强设备安全&…

.NET Core 应用程序发布指南

引言 .NET Core 是一个开源、跨平台的框架,用于构建现代化的、高性能的应用程序。本文将介绍如何将一个 .NET Core 应用程序发布到不同的环境中,包括本地、云端和容器化部署。 准备工作 在开始之前,请确保您的开发环境已经安装了以下工具&…

MySQL数据库开发设计规范总结

MySQL数据库开发设计规范总结 概述MySQL数据库设计规范设计规范-库设计规范-表、列设计规范-索引跟索引相关的SQL优化设计规范-视图设计规范-存储过程设计规范-触发器设计规范-安全规范 数据库架构设计原则一、高可用架构选择二、扩展性三、安全性策略四、数据完整性策略五、规…

全球首款AR电脑上线,可投影100英寸屏幕

近日,Sightful公司推出了一款名为Spacetop G1的革命性笔记本电脑,将AR技术与传统笔记本电脑巧妙融合,打造出令人惊叹的全新办公体验。 全球首款AR电脑上线,可投影100英寸屏幕 不同于传统笔记本电脑依赖物理屏幕显示内容&#xff0…

异常概述

自学python如何成为大佬(目录):https://blog.csdn.net/weixin_67859959/article/details/139049996?spm1001.2014.3001.5501 在程序运行过程中,经常会遇到各种各样的错误,这些错误统称为“异常”。这些异常有的是由于开发者将关键字敲错导致的&#xf…

重学java 63.IO流 字节流 ④ 文件复制

身处泥泞,看满山花开 —— 24.6.4 图片复制 分析 1.创建两个对象 FilelnputStream —>读取指定的文件 FileOutputStream —> 将读到的字节写到指定的位置 2.边读边写 import java.io.FileInputStream; import java.io.FileOutputStream;public class Demo…

2024年湖北省中级职称代申报不通过扣除手续费套路满满

2024年湖北省中级职称代申报不通过扣除手续费套路满满 建筑类中级职称,市场需求大。建筑企业、人才、工程项目招投标等等都需要一定数量的中级职称。建筑类中级职称申报一年1-2批次。湖北省不同地级市安排不同。湖北建筑类中级职称申报方式 1.公司内部组织申报&…

二进制安装Prometheus

从 https://prometheus.io/download/ 下载相应版本,安装到服务器上官网提供的是二进制版,解压就 能用,不需要编译 1、下载软件 [rootlocalhost ~]# wget -c https://github.com/prometheus/prometheus/releases/download/v2.45.5/prometheus…

训练Pytorch深度学习模型出现StopIteration

训练一个深度学习检测模型,突然出现: 是因为next(batch_iterator),可能迭代器读出来的数据为空。 # load train data# 原先代码images, targets next(batch_iterator)# 更改为:try:images, targets next(batch_iterator)except…

Flutter 中的 ParentDataWidget 小部件:全面指南

Flutter 中的 ParentDataWidget 小部件:全面指南 Flutter 是一个由 Google 开发的跨平台 UI 框架,它提供了丰富的组件来帮助开发者构建高性能、美观的应用。在 Flutter 的布局体系中,ParentDataWidget 是一个抽象类,用于定义如何…

LeetCode刷题之最大子数组

今天打算多做一题。 1、题目描述 2、逻辑分析 哈哈,这题我前两天在小红书刷到了,博主答不上来,一样的是,我也不知道怎么做。当时只看到评论说什么dp解法,看看题解怎么说。现在才反应过来dp dynamic programming &am…

二叉树遍历 和 线索二叉树

文章目录 1.1 二叉树遍历1.1 前提问题1: 什么叫二叉树的遍历?二叉树的三种遍历:三个概念:遍历 和 访问 和 经过重要概念:遍历过程中的经过节点,不代表访问节点 问题2:遍历和访问的联系&#xff…