用户案例|Milvus 助力 Credal.AI 实现 GenAI 安全与可控

AIGC 时代,企业流程中是否整合人工智能(AI)对于的企业竞争力至关重要。然而,随着 AI 不断发展演进,企业也在此过程中面临数据安全管理、访问权限、数据隐私等方面的挑战。

为了更好地解决上述问题,Credal.AI(以下简称 “Credal”) 提供的解决方案使组织能够在释放生成式人工智能(GenAI)潜力的同时降低其风险。Credal 解决方案的核心向量数据库 Milvus,在 Milvus 的加持下,Credal 能够更好地实现其企业愿景——【打造安全且实用的 AI】 。

01.Credal:GenAI 与企业数据安全间的桥梁

Credal 的目标是使企业能安全且方便地使用 GenAI。为此,Credal 提供了强大的数据集成和治理功能,能从 Microsoft Office、Google Workspace 以及 Slack 等多种平台中拉取数据。他们推出了类似于“Okta 的 AI 版本”,从而严格管理访问和权限,以便为开发者和终端用户提供一个流畅且安全的接口。因此,Credal 成为一个端到端的解决方案,支持安全、企业级的 GenAI 部署。

alt

从用户的角度来看,他们无需精通编码或复杂的算法便可利用大量数据,发挥 GenAI 的力量。用户能够使用 Credal 创建代理,确保能够最大化利用 GenAI 技术。

对于管理员和 IT 团队,Credal 提供了监控数据和管理工具,包括强制根据使用条款实施、审计跟踪、日志记录、数据目录和数据治理等功能。这些功能都是在大型企业中高效部署 GenAI 的关键部分。用户可以通过 Credal 的聊天界面或 API 使用诸多重要功能,如 PII 删除、审计日志、数据访问控制等。

02.Credal 痛点:缺乏生产就绪的向量数据库

在 Credal AI 产品开发的初期阶段,公司遭遇了多个挑战。其中一个核心功能是语义搜索,但发现使用基本的向量搜索插件在大规模实现这个功能颇为困难。当语义搜索被嵌入到需要高数据库性能的定制工作流中时,这些挑战变得更为严重。为了构造这些由 GenAI 驱动的工作流,需要对传统的搜索机制进行改进,因为这些工作流需要根据复杂、用户定义的标准实时处理大量数据集。

另外,由于拥有多种托管环境,包括云基础设施和现场部署,Credal 需要有一个可以自我托管,且得到活跃开源社区支持的向量数据库,一个快速、可扩展且多功能的数据库,以应对复杂的数据管道和多种托管条件的需求。而在进行技术选型的过程中,Credal 发现市面上有许多向量数据库解决方案,但都无法满足其企业级的需求。

03.选择 Milvus:以开发者为核心的全能向量数据库

经过对众多市面上主流的向量数据库的评估,评估指标包括:是否支持自托管、可扩展性、是否拥有庞大的社区。

Milvus 在评估中脱颖而出。Milvus 在 GitHub 上获星超过 24 K,拥有高度活跃的社区,且处于不断迭代的过程中,高频推出新功能。

首先,Milvus 不断升级的特性是 Credal 考虑的重点,特别是其混合搜索功能,能够在执行向量搜索的同时过滤其他元数据。尽管许多解决方案提供了快速的向量搜索,但在处理结构化数据方面却显得力不从心。Milvus 的混合搜索能力完美解决了这一技术缺口,解决了实际的商业问题。

其次,Milvus 为 Kubernetes 提供的官方 Helm Chart 同样是 Credal 考虑的重点。尽管自定义 Helm Chart 不是难事,但官方支持的 Chart 却体现了 Milvus 对开发者成功的承诺。Credal 认为这体现了 Milvus 团队不追求短期利益,而是致力于解决用户面临的实际挑战。尤其是对于 Credal AI 这样的初创企业来说,这种支持极为宝贵,Milvus 可以帮助他们简化部署流程,节省时间和工程资源。

再者,Milvus 从架构设计上,将计算和存储分离,因此具备高度的灵活性和可扩展性。与单节点的数据库架构不同,Milvus 的架构支持灵活扩展,从而应对不断变化的需求。

Credal 联合创始人兼首席技术官 Jack Fischer 强调了这种架构设计的优越性:“刚开始搭建平台时,我们并不能确切知道后续的访问模式会是什么样的。随着我们的产品发展,访问模式肯定会随之变化......所以,我们很庆幸采用了 Milvus 这种存储和计算分离的向量数据库。无论我们如何发展产品,Milvus 能够满足我们的业务需求,我们对此充满信心。”

04.结果:Milvus 助力 Credal 搭建高效、可扩展的平台

对于 Credal AI 来说,采用 Milvus 无疑改变了整个游戏局面,为他们复杂的向量搜索需求提供了坚实的基础。Milvus 的技术能力迅速消除了他们对数据库性能的初步疑虑。在创业公司常面对不断变化需求的场景中,Milvus 既是即时的解决方案,也展现出长期的价值。

选择 Milvus 的决定得到了验证,它完美融入了 Credal AI 的现有系统,不仅满足了技术的前提条件,还实现了更广泛的商业目标。由于其分离的存储和计算架构,使得平台具有很高的可扩展性,这让 Credal AI 有信心预见并适应不断出现的客户需求。这也让 Credal 能够集中精力做它最擅长的事:不断优化其核心产品并促进用户参与度。他们完全放心,无论面对什么样的需求,其后端都能够应对自如。

Fisher 表示:“在我们需求的文氏图中,处在最中间的就是 Milvus,它集所有需求的交集于一身。这点是其他向量数据库都比不上的。如果只需要其中一两点功能,那可以考虑别的向量数据库。但如果需要所有功能,必然选择 Milvus。”

05.未来合作:与 Zilliz 共绘蓝图

借助 Milvus,Credal 能够为客户提供可扩展、易于使用的解决方案,而无需从头开始自行研发向量搜索解决方法。此外,使用 Milvus 并不会带来额外的运营开销。Milvus 的可扩展性和稳定性确保了 Credal 平台能够随着业务发展灵活扩展。

目前,Credal 正考虑未来与打造 Milvus 的原厂 Zilliz 合作,利用 Zilliz Cloud 为其云上客户提供服务。Credal 的公司使命和愿景是持续努力将 GenAI 功能整合到实际企业应用中,这就需要强大的安全保障和全面的数据治理。Zilliz Cloud——全托管、开箱即用的 Milvus 服务,非常契合 Credal 的商业战略,能够助其简化运营流程,优化云上客户的体验。关于未来的合作,我们拭目以待!

本文由 mdnice 多平台发布

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/205705.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

# 如何在Nginx中配置服务器负载均衡(SLB)

服务器负载均衡(SLB)是一种技术,用于在多台服务器之间分发网络或应用程序流量。这有助于提高应用程序的可用性和可靠性,同时还可以优化资源的使用。在这篇文章中,我们将详细介绍如何在Nginx中配置SLB。 什么是Nginx&a…

0011Java程序设计-ssm药店管理系统微信小程序

文章目录 摘 要目 录系统实现5.2服务端开发环境 编程技术交流、源码分享、模板分享、网课分享 企鹅🐧裙:776871563 摘 要 随着我国经济迅速发展,人们对手机的需求越来越大,各种手机软件也都在被广泛应用,但是对于手机…

利用eclipse导入外部java工程

利用eclipse导入外部java工程,打开eclipse,依次点击File-Import,…按下图依次执行…

粒子库particles.vue3在项目中的使用

一、particles.vue3是什么 particles.vue3 是一个 Vue 3 的组件库,用于在 Vue 3 项目中创建和管理粒子效果。它基于 tsparticles 引擎,提供了一系列的 Vue 组件,使我们能够轻松地在应用程序中添加动态的粒子效果。   如果您正在开发一个 V…

Redis配置项汇总(chao详细)

基本配置 port 6379 # 监听端口号,默认为6379,如果你设为 0 ,redis 将不在 socket 上监听任何客户端连接。 daemonize no #指定redis是否以守护线程的方式启动 databases 16 #创建database的数量,默认为0库 save 900 1 #刷新快照…

【redis笔记】分布式锁

什么需要分布式锁 分布式场景下,原单机的多进程多线程并发控制策略会失效,典型的像海量key分布在redis集群中,那么对这些key的并发修改操作就不像单机那样容易保证有序(单机的锁只对单机有效),这时就需要使…

Xilinx FPGA——ISE时序约束“建立时间不满足”问题解决记录

一、现象 最近使用赛灵思的FPGA设计项目时,出现时序约束失效问题。 点进去发现如下: 一个始终约束没有生效,有多处报错。 二、原因 出现这个问题的原因是,建立时间不满足。 时序违例的主要原因是建立时间和保持时间不满足要求&a…

服务器ipv6地址显示“scope global dadfailed tentative noprefixroute”无法连通的问题处理一例

服务器规模启用ipv6地址后,遇到一起案例 ,配置的服务ipv6地址显示“scope global dadfailed tentative noprefixroute”,无法连通,现将解决过程记录如下。 一、问题情况 1、ipv6信息检查 某台服务器配置ipv6地址后&#xff0c…

性能优化一条龙

性能优化 根据实际情况做性能优化的流程和分析。 性能优化的话,可以从很多方面,ui优化,组件优化,打包体积优化,页面优化等,但我们要监控这个页面哪些指标需要优化,比如FP,FCP&#x…

vue实现页面之间的el-select同步数据选项

demo案例&#xff1a; 父组件的el-select发生改变&#xff0c;子组件的el-select也可以发生改变 子组件的el-select发生改变&#xff0c;父组件的el-select也可以发生改变 核心就是给el-select组件的v-modle值互传 Index父组件页面 <template lang""><d…

Spark RDD惰性计算的自主优化

原创/朱季谦 RDD&#xff08;弹性分布式数据集&#xff09;中的数据就如final定义一般&#xff0c;只可读而无法修改&#xff0c;若要对RDD进行转换或操作&#xff0c;那就需要创建一个新的RDD来保存结果。故而就需要用到转换和行动的算子。 Spark运行是惰性的&#xff0c;在…

【Python】Python仓储管理系统(源码)【独一无二】

&#x1f449;博__主&#x1f448;&#xff1a;米码收割机 &#x1f449;技__能&#x1f448;&#xff1a;C/Python语言 &#x1f449;公众号&#x1f448;&#xff1a;测试开发自动化【获取源码商业合作】 &#x1f449;荣__誉&#x1f448;&#xff1a;阿里云博客专家博主、5…

uni-app 微信小程序之好看的ui登录页面(二)

文章目录 1. 页面效果2. 页面样式代码 更多登录ui页面 uni-app 微信小程序之好看的ui登录页面&#xff08;一&#xff09; uni-app 微信小程序之好看的ui登录页面&#xff08;二&#xff09; uni-app 微信小程序之好看的ui登录页面&#xff08;三&#xff09; uni-app 微信小程…

vivado时序方法检查6

TIMING-19 &#xff1a; ODDR 上的生成时钟波形反相 生成时钟 <clock_name> 的波形与传入时钟 <clock_name> 的波形相比呈反相。 描述 前向时钟端口上的生成时钟应定义为与传入时钟相关。 DRC 警告报告称 &#xff0c; 通过对比传入源时钟发现 &#xff0…

【Android Audio Focus 音频焦点】

介绍 Android 中的音频焦点&#xff08;Audio Focus&#xff09;是一种机制&#xff0c;用于管理应用程序之间的音频资源竞争。当多个应用程序同时请求使用音频设备时&#xff0c;通过音频焦点机制可以确保最终用户的体验不受影响。 两个或两个以上的 Android 应用可同时向同…

go的两大测试方法- 官网推荐

go的两大测试方法- 官网推荐 go的两大测试方法- 官网推荐常见的不正规测试方法main方法个例测试验证 - 不正规1. 提供一个函数&#xff1a;Reverse(input string)进行测试2. 直接在函数下创建main函数下进行个例测试3. 测试发现&#xff0c;Reverse方法不支持某些汉字&#xff…

【SQL开发实战技巧】系列(四十九):Oracle12C常用新特性☞表分区部分索引(Partial Indexes)

系列文章目录 【SQL开发实战技巧】系列&#xff08;一&#xff09;:关于SQL不得不说的那些事 【SQL开发实战技巧】系列&#xff08;二&#xff09;&#xff1a;简单单表查询 【SQL开发实战技巧】系列&#xff08;三&#xff09;&#xff1a;SQL排序的那些事 【SQL开发实战技巧…

树莓派学习:socket获取客户端IP地址

定义 int s_fd;//服务器套接字描述符int c_fd;//客户端套接字描述符int clensizeof(struct sockaddr_in);//地址结构体的大小struct sockaddr_in s_addr;//服务端socket地址结构体memset(&s_addr,0,clen);struct sockaddr_in c_addr;//客户端socket地址结构体memset(&c…

数据分析基础之《matplotlib(4)—柱状图》

一、柱状图绘制 1、柱状图要素 有类别 2、需求&#xff1a;对比每部电影的票房收入 电影数据如下图所示&#xff1a; 3、matplotlib.pyplot.bar(x, height, width0.8, bottomNone, *, aligncenter, dataNone, **kwargs) 说明&#xff1a; x&#xff1a;有几个类别 height&am…

玩转Sass:掌握数据类型!

当我们在进行前端开发的时候&#xff0c;有时候需要使用一些不同的数据类型来处理样式&#xff0c;Sass 提供的这些数据类型可以帮助我们更高效地进行样式开发&#xff0c;本篇文章将为您详细介绍 Sass 中的数据类型。 布尔类型 在 Sass 中&#xff0c;布尔数据类型可以表示逻…