大模型应用商业化落地关键:给企业带来真实的业务价值

2024 年被很多人称为大模型应用的元年,毫无疑问,大模型已经成为共识,下一步更急迫的问题也摆在了大家的面前——大模型到底能够用在哪?有哪些场景能落地?怎么做才能创造真正的价值?

在刚刚过去的 AICon 全球人工智能开发与应用大会上,InfoQ 采访了在大模型应用领域的领跑企业数势科技创始人兼 CEO 黎科峰博士,交流大模型商业化落地的可行性路径,为行业提供启发。

1大模型在 ToB 领域蕴藏巨大机遇,企业出海或将成为落地加速器

当前,许多传统企业对于如何将大模型技术整合到现有业务中感到迷茫。大模型应用产品提供企业难以找到合适的变现方式。大模型应用企业究竟该如何突破商业化之困?ToB 和 ToC,呈现出两种不同的路径。

ToC 市场似乎拥有一种天然的魔力,在中国的互联网领域中,它催生了一批又一批的杀手级应用,并不断吸引着更多企业加入这个生态系统。ToC 市场如火如荼,ToB 市场发展因为投资回报率、数据安全性等问题导致相对发展缓慢。但纵观中国科技发展史, ToB 市场经历了 20 多年的从信息化到数字化再到智能化等多个技术阶段的演变与发展,每一次技术革命都经历了探索和融合期,最终帮助企业更好地为用户提供个性化产品、满足特定需求。

因此黎科峰认为,大模型在 ToB 市场同样蕴藏着更大的机遇。从用户的角度来看,广大用户,包括企业管理者、技术人员和业务人员,已经开始熟悉并运用大模型进行日常的数据处理、知识获取等,当企业公民使用率提升后,将反向推动 To B 软件的发展,真正实现软件产品“从管到用”的进化。从市场选择来看,企业出海也许将加速大模型商业化落地。一方面,由于海外企业用户更倾向选择公有云部署,能够为大模型商业化提供更加全面的场景数据积累,不断丰富和优化场景应用;另一方面,SaaS 付费模式在海外接受程度高于国内市场,有利于大模型应用企业更轻量、高效地实现商业化落地。

2大模型 +Agent,将在企业经营分析领域落地

大模型具备知识、智商、学习能力和推理能力,能够总结和生成新的见解,叠加 Agent,让企业应用具备了记忆、反思和学习能力,能够调用企业内部工具并不断迭代反思,真正实现业务价值的落地。据行业调研表明,数据分析和决策被视为这一结合最重要的应用方向。

在企业考虑引入数据分析 Agent 产品时,成本、数据安全以及实际落地价值将是关注重点。部署千亿级别参数的大模型成本高昂,目前或许只有头部企业才能承担。同时,数据安全问题也不容忽视,特别是在受严格监管的金融等行业。再者,企业也需要确保大模型投入后能对业务产生实质性的帮助。

黎科峰表示,为解决这些问题,数势科技为企业提供了规模适中、符合企业经营分析场景的 Agent 产品,来降低企业成本和使用门槛。同时,通过云端私有化的专属数据空间以及支持私有化和本地化部署的方式,确保数据安全。

3SwiftAgent 2.0 发布,实现企业数据分析与决策的范式变革

自大模型技术发布之初,数势科技便迅速拥抱这一变革,并在此基础上推出了 SwiftAgent 的新一代产品。黎科峰在采访中介绍,SwiftAgent 2.0 版本与 1.0 相比,主要新增了五大亮点功能,包括增加了指标和标签语义层、多模态和多源异构数据链接、用户可干预、可持续性学习和数据加速引擎,这些亮点体现了产品如何针对企业数据分析的现有问题提供解决办法。

“统一语义层的构建”,SwiftAgent 2.0 通过添加指标和标签语义层,解决了大模型对底层业务语义理解的难题,并统一了企业各部门的数据口径,从而避免了数据的混乱。

“多模态和多源异构数据链接”使得结构化数据和非结构化数据能够结合,提供更丰富的分析结论。

“用户可干预机制”允许用户参与到数据分析过程中,通过反馈和确认来训练和优化 Agent。

“数据加速引擎”则确保了实时数据处理的能力,实现了秒级数据查询,真正达到了实时人机交互的水平。底层选用了性能优异的数据分析引擎,如 StarRocks、Doris,并结合对数据加工和使用场景的优化,提供了基于视图的预计算能力和基于预计算结果的查询优化能力。

此外,数据虚拟化技术的应用,使得数据定义与物理数据解耦,实现了指标 / 标签的灵活加工使用,无需排期开发,进一步提高了数据处理的效率。

图片

4大模型应用商业化落地的关键:找到产品的业务价值

在商业化方面,大模型仍然属于新兴事物。为了让更多行业看到大模型在真实业务场景中的应用价值,数势科技也在致力于创造实际的落地标杆。“只有通过口口相传和业务价值的真实感知,才能让有价值的产品被更多人接受和使用。”黎科峰认为。

目前,SwiftAgent 已经与行业头部客户签订了合同,并实现了真正的付费使用。这标志着数势科技在大模型领域的领先地位,其产品已经在金融、零售、消费和高端制造等多个行业中得到了应用,帮助企业解决实际的业务问题。

以一家头部茶饮连锁企业为例,黎科峰介绍说明,SwiftAgent 通过在集团层面部署语义层和数据分析框架,并将 Agent 提供给每位店长,使得他们能够通过对话式查询快速获取数据和分析结果,从而提升门店运营效率。这种数字化工具的应用,为企业提供了一个经营闭环,改变了过去门店靠经验经营的困境,极大地促进了业务发展。

数势科技 SwiftAgent 2.0 实现了大模型技术在企业经营场景下的价值验证,也提升了产品的智能化程度,正在颠覆企业企业数据分析与决策范式。黎科峰表示,数势科技的愿景便是以科技创新实现数据价值的普惠化,让每一个企业、每一位员工都能体会到数据带来的价值。

未来,我们期待看到更多像数势科技这样的企业,通过创新的技术和产品,推动大模型商业化进程,为各行各业带来价值提升。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/15243.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【排序算法】快速排序(四个版本以及两种优化)含动图)

制作不易,三连支持一下吧!!! 文章目录 前言一.快速排序Hoare版本实现二.快速排序挖坑法版本实现三.快速排序前后指针版本实现四.快速排序的非递归版本实现五.两种优化总结 前言 前两篇博客介绍了插入和选择排序,这篇博…

halcon配合yolov8导出onnx模型检测物体

1.工业上多数视觉开发都是用halcon开发的,halcon本身也有自己的深度学习网络,至于halcon如果不使用本身的深度学习,使用其他网络导出的onnx模型怎样配合使用?本文基于yolov8写一个列子。 2。创建输入数据的转换代码 #region 创建输…

Nginx高可用性架构:实现负载均衡与故障转移的探索

随着网络应用的不断发展和用户访问量的增长,如何确保系统的高可用性、实现负载均衡以及快速响应故障转移成为了每个运维和开发团队必须面对的挑战。Nginx作为一款高性能的HTTP和反向代理服务器,凭借其强大的功能和灵活的配置,成为了实现这些目…

题目:填空练习(指向指针的指针)

题目:填空练习(指向指针的指针) There is no nutrition in the blog content. After reading it, you will not only suffer from malnutrition, but also impotence. The blog content is all parallel goods. Those who are worried about …

【bugfix】/usr/local/bin/docker-compose:行1: html: 没有那个文件或目录

前言 在使用 docker-compose 管理容器化应用时,偶尔会遇到一些意想不到的错误,比如当尝试运行 docker-compose 命令时,终端非但没有展示预期的输出,反而出现类似网页错误的信息。这类问题通常与 docker-compose 的安装或配置有关…

首都师范大学聘请旅美经济学家向凌云为客座教授

2024年4月17日,首都师范大学客座教授聘任仪式在首都师范大学资源环境与旅游学院举行。首都师范大学资源环境与旅游学院院长吕拉昌主持了仪式,并为旅美经济学家向凌云教授颁发了聘书。 吕拉昌院长指出,要贯彻教育部产学研一体化战略&#xff0…

数据库工具类

public interface DbMapper {/*** 查询数据库类型*/String queryDbType(); }<select id"queryDbType" resultType"java.lang.String">select<choose><when test"_databaseId mysql">mysql</when><when test"_d…

虚拟机Centos扩展磁盘空间

虚拟机空间&#xff1a;现sda大小20G&#xff0c;因课程需要扩容 在虚拟机扩容中&#xff0c; 新增一块硬盘 和 直接在原有硬盘基础上扩容是一样的&#xff08;只不过在原有硬盘上扩容需要关机才可以执行&#xff09;&#xff1b; 但两者都最好先做数据备份或快照&#xff0c…

夏令营复习coding 算法第一天-状态:新奇

T1:bubble冒泡排序 &#xff08;1&#xff09;思路&#xff1a;两次循环&#xff0c;外层循环从后面开始-作为一个支点&#xff0c;内层循环每次将当前需要排序的最大的那个元素一步步移动到该支点&#xff0c;最终升序排列完成 &#xff08;2&#xff09;代码: #include &l…

5、设计模式之适配器模式/原型模式

文章目录 开始之前适配器模式使用场景注意事项何时使用优缺点代码实现 原型模式深拷贝和浅拷贝 开始之前 本章节是一个系列&#xff0c;里面用的的代码实例都是连贯的。在实现某一种设计模式时&#xff0c;为了减少代码篇幅&#xff0c;前面博客出现model类&#xff08;仅限公…

【LabVIEW FPGA入门】同步C系列模块

1.同步使用循环定时器VI计时循环速率的系列模块 数字模块SAR ADC 模块多路复用模块 数字通道可以在一个时钟周期内执行。模拟通道需要多个时钟周期。 同步模拟模块的每个通道有一个 ADC&#xff0c;采集的数据在通道之间没有明显的偏差。多路复用模块使用多路复用器通过单个 A…

Docker安装并部署Gitlab,同时解决Gitlab服务经常503/500的问题

文章目录 Docker 安装Gitlab部署后需要解决的小问题1. 获取初始密码2. 解决刚安装好的Gitlab频繁出现503/500并重启的错误 Docker 安装Gitlab docker pull gitlab/gitlab-cedocker run -d -p 11443:443 -p 11090:80 -p 11022:22 \ --name gitlab \ --restart unless-stopped \…

深入理解NumPy与Pandas【numpy模块及Pandas模型使用】

二、numpy模块及Pandas模型使用 numpy模块 1.ndarray的创建 import numpy as np anp.array([1,2,3,4]) bnp.array([[1,2,3,4],[5,6,7,8]]) print(a) #[1 2 3 4] print(b) #[[1 2 3 4][5 6 7 8]] 1.1使用array()函数创建 numpy.array(object, dtype None, copy True, ord…

vue2和vue3区别

Vue 3是Vue.js框架的下一代主要版本&#xff0c;它在2020年9月正式发布。Vue 3带来了一系列的新特性和改进&#xff0c;包括性能提升、更小的打包尺寸、更好的TypeScript支持、新的组合式API等。以下是Vue 2和Vue 3之间的一些主要区别&#xff1a; 1. 性能提升&#xff1a; …

计算机存储单位

目录 是什么 存储单位的划分 存储单位转换关系表 相关疑问 存储单位转换除了位之外的存储单位转换规则是什么 为什么在编码中最小的操作单位不是位 是什么 用来度量数据存储容量的单位。 存储单位的划分 存储单位有 位&#xff08;bit&#xff0c;也称为比特&#xff…

光伏项目怎么做预算?

随着可再生能源行业的蓬勃发展&#xff0c;光伏行业也得到了扩张。许多想要加入光伏项目投资的人&#xff0c;都在为怎样为项目做预算而苦恼&#xff0c;今天我就来跟大家分析下可以怎么做。 一、了解市场需求&#xff0c;确定预算目标 在制定光伏项目预算方案之前&#xff0c…

《SpringBoot》系列文章目录

SpringBoot是由Pivotal团队提供的全新框架&#xff0c;旨在简化新Spring应用的初始搭建以及开发过程。以下是一些关于SpringBoot的详细介绍&#xff1a; 设计目的&#xff1a;SpringBoot通过特定的方式来进行配置&#xff0c;使得开发人员不再需要定义样板化的配置&#xff0c…

「贪心算法」将数组和减半的最少操作次数

力扣原题链接&#xff0c;点击跳转。 给你一个数组&#xff0c;每次可以把其中一个数减半&#xff0c;可以对同一个数多次减半。至少操作多少次&#xff0c;才能让数组的和整体减少至少一半呢&#xff1f; 我们每次都选择当前数组中最大的那个数减半&#xff0c;就能减少最多…

链路初始化和训练

一、总览 链路初始化和训练&#xff0c;由物理层进行控制&#xff0c;是一个基于硬件的过程。初始化设备的链路和端口&#xff0c;使得设备能够收发报文&#xff0c;在链路上正常通信。 在reset后由硬件自动启动完整的训练过程&#xff0c;并由LTSSM管理。 1 位锁定 训练开始…

【Vue】diff 算法

diff的时机 当组件创建时&#xff0c;以及依赖的属性或数据变化时&#xff0c;会运行一个函数&#xff0c;该函数会做两件事&#xff1a; 运行_render生成一棵新的虚拟dom树(vnode tree)&#xff0c;返回根节点运行_update&#xff0c;传入虚拟dom树的根节点&#xff0c;对新旧…