企业级AI知识库
Bsin-kb-agent 是基于BsinPaaS开源框架和大语言模型构建的企业知识库应用,借鉴langchain的框架思想,引入langchian4j组件,微前端微服务的架构设计,可快速助您构建和体验端到端的AI知识库应用。
应用场景
- 企业微信群、公众号智能客服:通过智能化的客服功能,提升客户体验。
- IP品牌官:助力企业品牌的数字化管理和传播。
- 数字分身:为个人或企业打造独立的 AI 数字形象。
- 企业知识库助手:提供高效的企业内部知识管理与查询服务。
架构设计
场景示图
UI
功能
bsin-copilot基于BsinPaaS开发,除了BsinPaaS自带的多租户多商户多用户权限管理,菜单管理等基础功能外,集成了丰富的大语言模型应用通用基础组件,并可通过后台管理配置所有功能,集合AI高级编排功能,可快速构建垂直领域的AI应用。如数字分身(数字人),企业品牌馆,客服助手等等。
一、LLMs
- 主流 LLM 模型支持
- OPENAI
- THUDM/chatglm2-6b
- 百度/文心一言
- THUDM/chatglm-6b
二、Embeddings
- 主流 Embedding 模型支持
- OPENAI/embedding
- weaviate/text2vec-transformers
- 百度/文心一言
- shibing624/text2vec-base-chinese
三、提示词模版
四、敏感词过滤
系统自带设计宗教、政治、颜色的敏感词过滤,同时用户可自己创建敏感词库
五、OutputParsers
对聊天模型及其他模型输出结果的解析,因为理论上模型输出的结构都是字符串(如json格式的字符串),通过该模块可以将模型的输出按指定的格式输出, 比如json格式,boolean格式,也可以是自定的类结构格式。这样做主要是为了方便与生成应用交互。比如所有的模型输出都通过该模块转换成类结构输出, 那么上层应用就可以根据类结构获取对应的属性字段。类结构字段定义好之后,模型的调用和具体的上层应用就可以分离开,两者按定义好的中间数据层(类结构)独立开发,可以大大提升效率。
六、本地知识库
6.1 知识库roadMap
-
接入非结构化文档
- markDown文档,.md
- pdf文档,.pdf
- docx文档,.docx
- txt文档,.txt
- csv文档,.csv
-
搜索引擎接入
- baidu
-
结构化数据接入
- Excel
- SQL
-
知识图谱/图数据库接入,多模态
4.2 本地知识库RAG(Retriveval Generate Argument)设计方案
七、智能体
BsinCopilot中的智能体是与用户交互的最终表现形式,
- 对于品牌方来说,是一个品牌官,加载品牌的知识库,作为品牌宣传大使形象和人设,可以进一步保存与每一个用户的聊天记录,用于分析用户画像
- 对于个人使用而言,是一个元宇宙数字分身,可在元宇宙自动交友...