大模型时代,华为与中软国际携手“打通AI落地应用最后一公里”

文 | 智能相对论

作者 | 叶远风

大模型驱动千行百业智能化变革已经成为广泛共识,下一步的问题是,企业要如何更好地推进?

近日,“2024中关村论坛系列活动——第二届北京人工智能产业创新发展大会”在北京国家会议中心成功举办,其主题“更安全、更开放、更普惠——让大模型真正成为新质生产力”为大模型的走向定了调。

而值得关注的是,该大会唯一战略合作伙伴中软国际的一系列能力、产品及方案的展出,官方提出的“打通AI落地应用最后一公里”,则将大模型如何走向应用落地、推进智能化转型升级进行了系统呈现。

从政企需求出发,在华为以及昇腾AI的帮助下,中软国际趟出了一条解决企业大模型推进问题的道路。

挑战:面对“更陌生”的大模型,客户需要完成“最后一公里”跃迁

大模型仍然是政企智能化转型升级的一部分,而针对智能化转型,一份对中国多个行业的500多家大型企业决策者进行的调研报告显示,80%的企业因为缺乏自身相关的能力基础、人才储备、变革经验等,希望能够得到外部全面的而非某些维度的支持。

到了大模型时代,毫无疑问,随着复杂性的进一步提升,组织的这种渴求只会越发明显。再加上,大模型本身带来的技术进步节奏几乎以周为单位,一小段时间没有跟上,就有可能陷入被动的竞争局面,留给企业们的时间窗口也变得越来越短。

于是,单一维度的大模型服务已经无法满足市场需要,能够真正全程帮政企组织完成应用落地、实现“最后一公里”跃迁的服务迫在眉睫。

中软国际副总裁、AIGC研究院院长、解放号总裁万如意在《解放生产力,共赢新生态》主旨演讲中提到,大模型不仅仅是提供“工具”,而应该成为客户企业的“伙伴”,其实,当下的政企客户们也需要的是“伙伴”,而不再只是卖生产力工具的外部合作方。

破局:华为与昇腾助力,中软国际“打通AI落地应用最后一公里”

在本次大会上,中软国际展示了灵析问数产品解决方案、JointPilot灵析平台、“问系列”大模型应用一体机、模型工厂整体服务能力、大模型运营管理系统LMBSS、AIGC咨询服务及落地案例等AIGC产品、服务和行业方案。

中软国际提出“打通AI落地应用最后一公里”的理念,可以通俗地理解为,在整合大模型应用架构各层能力和资源后,提供一站式从算力到模型到应用全面打通的能力,满足政企客户的具体业务需求。

换句话说,在中软国际的构想与实践中,所有复杂的东西都由其消化承担,政企客户组织只需要面对屏蔽了技术复杂性、解决了建设细节问题的友好界面,在提升生产力、实现业务增值的全程中,灵活高效的获得大模型赋能支持。

例如,中软国际灵析问数解决方案融合了中软国际场景大模型与数据分析核心技术,让客户无需掌握复杂的SQL知识,通过自然语言文字或语音对话即可完成深入数据挖掘、辅助提供决策建议,让管理者、业务人员及分析师轻松完成多种业务场景下的数据查询、数据分析以及结果的可视化输出。

此外,中软国际JointPilot灵析平台以赋能大模型应用落地为目标,提供“全过程AI应用一体化平台”,从模型和资源封装接入、数据/知识检索能力增强、应用编排生成和合规约束……所有大模型落地必须要有的能力,被“包圆了”。

目前,中软国际构已经建了一套“模型工厂”整体服务,这是一个面向行业客户提供大模型开发和应用服务的专业平台:

在体系上,模型工厂基于多形态大模型底座,对接算力中心、模型提供商、政企客户三类客户,一方面,简化模型训练和智能应用开发过程,提高开发效率,另一方面,又以咨询选型、数据建设、模型微调、模型评测、AI应用开发和集成部署帮助客户解决大模型落地的五大困难,端到端满足政企客户“上马大模型”的需求。

由此,所谓大模型应用落地的最后一公里问题,也就迎刃而解。

值得关注的是,既然是面向千行百业政企客户,屏蔽了产业链的复杂性,那么中软国际“打通AI落地应用最后一公里”的背后,也一定离不开产业链的鼎力支持。

以大模型最迫切需要的算力资源以及算力服务配套为例,昇腾AI就成为关键的产业链协作者。

此次发布会的许多成果,就是中软国际依托昇腾AI、云、算力等各方产业合作伙伴协作打造。

除了大会上展出的中软国际“问系列”大模型应用一体机中直接应用到了昇腾AI的硬件能力,上文提到的JointPilot灵析平台和模型工厂也都以昇腾算力为重要算力支撑。

事实上,昇腾AI还与其他产业链协作者一起,与中软国际在数据处理、模型训练微调、模型部署、行业AI应用开发等环节开展了广泛合作,联创了数据集、工具库、模板库、算法库等,让政企客户大模型使用门槛大大降低,让“最后一公里”不再遭遇障碍。

提速:ISP升级IAV,千行百业加速完成“最后一公里”跃迁

如果说中软国际的一系列动作解决了面向某部分客户的AI落地应用最后一公里问题,那么下一个问题在于,千行百业无数的政企组织都在迫切等待大模型,怎样“提速”让这个过程得到更大范围的覆盖?

答案是生态。

在此次大会上,万如意博士宣布中软国际将与华为以及昇腾AI共同推出JointPilot计划,这个计划简单说,即一头对接昇腾AI等算力资源,一头对接客户,中间邀请数字化生态中的ISV加入,在华为、中软国际的共同帮助下,实现产品方案的大模型改造升级的复制,从而让更多的政企组织能够打通“最后一公里”。

为此,华为方面与中软国际还表态要将ISV伙伴升级为IAV(Independent Agent Vendor)伙伴,并提供包括模型网关、模型工厂服务、昇腾AI算力资源以及市场资源等一系列赋能。

对ISV伙伴来说,这是一次难得的拥抱大模型红利的机会。

而更重要的是,昇腾AI与华为、中软国际、IAV们共创共拓共赢新生态的同时,千行百业的智能化转型进程也将被“JointPilot计划”所加速。

当然,“JointPilot计划”的执行,还离不开更宏观层面的规划作为支撑。

此次大会期间,华为联合中软国际等20余家企事业单位联合发起“大模型应用产业联合体",要推动人工智能技术的广泛应用和产业的深度融合,尤其要推动大模型领域的突破和创新。

宏观层面的产业联盟,无疑将为打通AI落地应用“最后一公里”创造更良好的外部条件。

动能:根技术发展,提供大模型价值创造的持续源泉

中软国际称其未来还将与华为、昇腾AI等产业链合作方“携手共建人工智能生态”,尤其要发展“AI国产高端硬件平台+AI全栈应用服务”,联合打造“业内一流AI大模型算力/算法/数据/应用等融合解决方案”,夯实算力服务等能力。

这个规划中,不难看出,算力是绕不过去的关键词。

事实上,在中软国际“打通AI落地应用最后一公里”的理想追逐中,算力也始终作为最基础、最澎湃的能力来源。

所谓“最后一公里”打通的本质即是屏蔽复杂性,而这离不开算力资源方的通力合作,尤其是在基础软件、基础硬件的根技术上的创新发展,使得很多简化的、成体系的开发过程得以实现,或者训练、部署效率能够加速,等等。

这方面,华为作为昇腾AI产业生态的重要参与者,一直大力推动昇腾AI根技术的进化。

除了底层硬件不断迭代,可以看到,这些年来,CANN异构计算架构针对AI、大模型需求进行了不断优化,典型如构建Transformer加速库等提升大模型计算效率,优化执行器提升整体性能等。

此外,在直接面向大模型训练的开发框架上,昇腾AI既支持业界主流的PyTorch、飞桨、昇思等框架,“自家”的昇思开发框架也针对大模型进行了大量针对性优化,并在持续迭代当中。

在驱动大模型发展的成绩上,目前已有50+业界主流大模型基于昇腾训练迭代,而在这个数字的背后,更应该看到,根技术的进步正在通过AI产业生态放大,配合中软国际这样的关键伙伴与IAV们一道“打通最后一公里”,将智能化价值最终落地到千行百业当中。

*本文图片均来源于网络

此内容为【智能相对论】原创,

仅代表个人观点,未经授权,任何人不得以任何方式使用,包括转载、摘编、复制或建立镜像。

部分图片来自网络,且未核实版权归属,不作为商业用途,如有侵犯,请作者与我们联系。

•AI产业新媒体;

•澎湃新闻科技榜单月度top5;

•文章长期“霸占”钛媒体热门文章排行榜TOP10;

•著有《人工智能 十万个为什么》

•【重点关注领域】智能家电(含白电、黑电、智能手机、无人机等AIoT设备)、智能驾驶、AI+医疗、机器人、物联网、AI+金融、AI+教育、AR/VR、云计算、开发者以及背后的芯片、算法等。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/729604.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

yudao-cloud 学习笔记

前端代码 浏览器打开 https://cloud.iocoder.cn/intro/ F12 执行代码 var aaa $(".sidebar-group-items").find("a"); var ll[]; var tt[]; for(var i0;i<aaa.length;i ){ ll.push("https://doc.iocoder.cn" $(aaa[i]).attr("href&quo…

Hi3516DV500+SC2210 AIISP 黑光相机

1. Hi3516DV500 Hi3516DV500是一颗面向行业市场推出的高清智能网络摄像头SoC。该芯片最高支持2路sensor输入&#xff0c;支持最高5M30fps的ISP图像处理能力&#xff0c;支持2F WDR、多级降噪、六轴防抖、多光谱融合等多种传统图像增强和处理算法&#xff0c;支持通过AI算法对输…

第11周,第三期技术动态

大家好&#xff0c;才是真的好。 真没想到&#xff0c;本周是今年第十一周&#xff0c;2024年还有不到三百天就结束了。 今天周五&#xff0c;我们继续介绍与Domino相关产品新闻&#xff0c;以及互联网或其他IT行业动态等。 一、在Windows 10和Windows 11上运行Domino和Trav…

案例研究|辛格林电梯借助DataEase实现数据整合与智能展示

辛格林电梯&#xff08;SIGLEN&#xff09;于2012年创立&#xff0c;是电梯领域的领军品牌之一。该公司总部位于广东佛山&#xff0c;是全国首批获得A1级电梯制造资质的企业&#xff0c;拥有省级工程技术研究中心。辛格林电梯专注于研发和生产高品质电梯产品&#xff0c;涵盖别…

一个用libcurl多线程下载断言错误问题的排查

某数据下载程序&#xff0c;相同版本的代码&#xff0c;在64位系统中运行正常&#xff0c;但在32位系统中概率性出现断言错误。一旦出现&#xff0c;程序无法正常继续&#xff0c;即使重启亦不行。从年前会上领导提出要追到根&#xff0c;跟到底&#xff0c;到年后的今天&#…

通过统一规划和团队整合,提升企业财务洞察

在当今快节奏的商业环境中&#xff0c;企业财务职能部门更应该采取更迅速的行动来适应这个社会。大部分企业期待更高效的战略决策&#xff0c;尤其是面临海量数据信息的堆叠。但是企业领导者应该知道&#xff0c;速度本身并不是最终目标&#xff0c;财务团队必须更快地完成工作…

基于springboot的大学生智能消费记账系统的设计与实现(程序+数据库+文档)

** &#x1f345;点赞收藏关注 → 私信领取本源代码、数据库&#x1f345; 本人在Java毕业设计领域有多年的经验&#xff0c;陆续会更新更多优质的Java实战项目&#xff0c;希望你能有所收获&#xff0c;少走一些弯路。&#x1f345;关注我不迷路&#x1f345;** 一、研究背景…

六种方式,教你在SpringBoot初始化时搞点事情!

前言 在实际工作中总是需要在项目启动时做一些初始化的操作&#xff0c;比如初始化线程池、提前加载好加密证书....... 那么经典问题来了&#xff0c;这也是面试官经常会问到的一个问题&#xff1a;有哪些手段在Spring Boot 项目启动的时候做一些事情&#xff1f; 方法有很多…

火爆新品推荐!AI大模型应用和ai 数字人开发!

火爆新品来袭&#xff01;AI大模型应用和AI数字人开发成为当下科技界的热点话题。随着人工智能技术的不断发展&#xff0c;AI大模型应用已经开始在各个领域大放异彩。从医疗诊断到金融风控&#xff0c;从自然语言处理到智能推荐&#xff0c;AI大模型的应用场景愈发广泛&#xf…

PyCharm 显示无法加载文件 D:\...,因为在此系统上禁止运行脚本。

PyCharm 显示无法加载文件 D:…&#xff0c;因为在此系统上禁止运行脚本。 PyCharm 显示 无法加载文件 D:\python test\AI_CV\venv\Scripts\activate.ps1&#xff0c;因为在此系统上禁止运行脚本。 解决方法&#xff1a; winx点击Windows PowerShell&#xff08;管理员&#…

基于yolov5的SAR舰船检测系统,可进行图像目标检测,也可进行视屏和摄像检测(pytorch框架)【python源码+UI界面+功能源码详解】

功能演示&#xff1a; 基于yolov5的SAR舰船检测系统&#xff0c;系统既能够实现图像检测&#xff0c;也可以进行视屏和摄像实时检测_哔哩哔哩_bilibili &#xff08;一&#xff09;简介 基于yolov5的SAR舰船检测系统是在pytorch框架下实现的&#xff0c;这是一个完整的项目&…

爬虫实战——巴黎圣母院新闻【内附超详细教程,你上你也行】

文章目录 发现宝藏一、 目标二、简单分析网页1. 寻找所有新闻2. 分析模块、版面和文章 三、爬取新闻1. 爬取模块2. 爬取版面3. 爬取文章 四、完整代码五、效果展示 发现宝藏 前些天发现了一个巨牛的人工智能学习网站&#xff0c;通俗易懂&#xff0c;风趣幽默&#xff0c;忍不…

【python爬虫】免费爬取网易云音乐完整教程(附带源码)

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯,先赞后看哦~🎈🎈 所属专栏:爬虫实战,零基础、进阶教学 景天的主页:景天科技苑 文章目录 网易云逆向网易云逆向 https://music.163.com/ 下载云音乐 胡广生等,可以选择自己喜欢的歌曲 首先,我们可以先根据…

使用Pytorch导出自定义ONNX算子

在实际部署模型时有时可能会遇到想用的算子无法导出onnx&#xff0c;但实际部署的框架是支持该算子的。此时可以通过自定义onnx算子的方式导出onnx模型&#xff08;注&#xff1a;自定义onnx算子导出onnx模型后是无法使用onnxruntime推理的&#xff09;。下面给出个具体应用中的…

机器学习中的线性代数

基础知识的的复习: 线性代数——深度学习花书第二章 - 知乎 矩阵分解 特征值分解。 PCA(Principal Component Analysis)分解,作用:降维、压缩。 SVD(Singular Value Decomposition)分解,也叫奇异值分解。 矩阵分解的主要应用是:降维、聚类分析、数据预处理、低维度特征学…

Keepalive 解决nginx 的高可用问题

一 说明 keepalived利用 VRRP Script 技术&#xff0c;可以调用外部的辅助脚本进行资源监控&#xff0c;并根据监控的结果实现优先动态调整&#xff0c;从而实现其它应用的高可用性功能 参考配置文件&#xff1a; /usr/share/doc/keepalived/keepalived.conf.vrrp.localche…

三八妇女节智慧花店/自动售花机远程视频智能监控解决方案

一、项目背景 国家统计局发布的2023年中国经济年报显示&#xff0c;全年社会消费品零售总额471495亿元&#xff0c;比上年增长7.2%。我国无人零售整体发展迅速&#xff0c;2014年市场规模约为17亿元。无人零售自助终端设备市场规模超过500亿元&#xff0c;年均复合增长率超50%。…

正则表达式在QT开发中的应用

一.正则表达式在QT开发中的使用&#xff1a; 1.模式匹配与验证&#xff1a;正则表达式最基本的作用就是进行模式匹配&#xff0c;它可以用来查找、识别或验证一个字符串是否符合某个特定的模式。例如&#xff0c;在表单验证中&#xff0c;可以使用正则表达式来检查用户输入的邮…

Agent——记忆模块

在基于大模型的 Agent架构设计方面,论文[1]提出了一个统一的框架,包括Profile模块、Memory模块、Planning模块和Action模块。其中长期记忆的状态维护至关重要,在 OpenAI AI 应用研究主管 Lilian Weng 的博客《基于大模型的 Agent 构成》[2]中,将记忆视为关键的组件之一,下…

Prompt Engineering、Finetune、RAG:OpenAI LLM 应用最佳实践

一、背景 本文介绍了 2023 年 11 月 OpenAI DevDay 中的一个演讲&#xff0c;演讲者为 John Allard 和 Colin Jarvis。演讲中&#xff0c;作者对 LLM 应用落地过程中遇到的问题和相关改进方案进行了总结。虽然其中用到的都是已知的技术&#xff0c;但是进行了很好的总结和串联…