聚焦亚马逊云科技 re:Invent re:Cap专场,重构生成式AI的无限可能!

摘要:12月14日至17日,第十二届全球软件案例研究峰会(简称TOP100summit)在北京国际会议中心成功举办,亚马逊云科技资深开发者布道师郑予彬、亚马逊云科技解决方案研发中心应用科学家肖宇、可以科技产品负责人曹临杰、亚马逊云科技解决方案架构师莫梓元、PingCAP TiDB Serverless 研发负责人孙晓光、亚马逊云科技资深技术讲师魏星作为《亚马逊云科技 re:Invent re:Cap专场》讲师,在生成式AI方面给予了分享和实践的启发。

首先由郑予彬为大家带来了《生成式AI驱动以开发者为中心的AIOps优化》的干货分享。她分别从DevOps的发展和实践、AIOps的机遇和挑战、利用re:Invent 推出的AI新技术全面实现AIOps、AIOps的未来展望等四个方面进行了详述。

亚马逊云科技资深开发者布道师 郑予彬

如今,企业拥有广泛的模型选项来为其生成式 AI 应用程序提供支持。在具体应用场景中,为了在准确性和性能之间取得适当的平衡,企业必须有效地比较模型并根据其首选指标找到最佳选择。对于每个新场景模型,这些通过主观比较所需的时间、专业知识和资源限制了企业对生成式 AI 的使用。

生成式AI技术栈包括三层架构,自下而上有基础设施层、基础模型服务层、AI应用层。最下层的基础设施层有大家熟悉的GPU的使用,还有亚马逊专门为训练和推理自研的芯片,还有其他的一些基础设施。

亚马逊自研的模型Amazon Bedrock 可从 AI21 Labs、Amazon、Anthropic、Cohere、Meta 和 Stability AI 等行业领先的基础模型中选择最适合模型,同时它具备跨组织系统和数据源执行多步骤任务,兼顾安全保障,可以帮助客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。借助Agents for Amazon Bedrock,客户可以提升准确性,加速生成式AI应用程序的开发。

谈到今年re:Invent 在工具方面的更新,郑予彬介绍了可以用于代码核审和观测Amazon CodeWhisperer 和用于优化和提升效率,专为业务量身定制的、生成式人工智能工作助手Amazon Q,它可以解读代码逻辑,还可以帮助开发人员完成日常的软件开发任务。只需点击几下,就能从问题中的一个想法转变为经过完整测试、准备合并、运行的应用代码,并且可以使用自然语言输入。

分享的最后,郑予彬表示,AIOps未来将以通过预测性维护、数据驱动的开发、运维决策支持来改变开发者的工作方式。

亚马逊云科技解决方案研发中心应用科学家肖宇为大家带来了《为扩散模型AI生图打造云上引擎,聚焦业务创新》的精彩话题。

亚马逊云科技解决方案研发中心应用科学家 肖宇

肖宇首先为大家分享了一个案例,客户希望通过引入生成式AI技术,快速扩展现有App的功能,从而实现更多业务创新。为此,尝试采用了Stable Diffusion模型生成风格化图像的功能,以增加App的吸引力和互动性。但遇到了本地算力资源有限,自建成本高 (硬件成本 + 维护成本)、基于开源项目搭建稳定性不够,无法保证业务正常运转、缺乏后端API调用弹性资源的能力,2C业务难开展、很难跟上开源社区功能迭代的速度等挑战。

为了帮助更多企业生图业务落地,亚马逊开发了生图云上的解决方案(将本地的模型调优、推理等工作负载低迁移成本的无感上云;云上CloudFormation模版一键部署;满足UI和API两种调用模式,满足两种用户需求;提供弹性云上资源;提供多用户权限管理和资源隔离)。并通过一个扩展、一个中间件拓展到云上,将SageMaker作为计算平台,通过此方法可以节省80%的部署时间,提升10X工作效率。

然后,肖宇详细的介绍了亚马逊解决方案中包含的核心功能、多用户权限配置、计算资源弹性配置、数据资产管理、底层AI生图框架(支持UI与API直接调用两种方式,灵活多样;支持多用户功能支持客户更便捷搭建内部媒资系统;适合2B/2C多种场景),并通过聚焦业务需求,加速GenAI创新;亚马逊云科技中国峰会GenAI展位“皮影随形”的案例,为大家分享了AI生图的成功实践,希望这些落地实践可以帮助企业更好的加快客户AI 生图业务的前期调研和模型验证的速度、提升客户搭建自有 AI 生图平台和工具的效率、降低客户开展 AI 生图业务的硬件要求、助力客户规范地管理同生成式 AI 业务相关的资产。

紧接着,可以科技产品负责人曹临杰、亚马逊云科技解决方案架构师莫梓元共同为大家带来了《爆款云原生儿童陪伴机器人背后的AI技术揭秘》的主题分享,话题主要围绕初识可以科技爆款云原生儿童陪伴机器人、可以科技智能萌宠产品化过程中遇到的挑战、借助亚马逊云科技产品,可以科技通过AI让机器人自由地表达情感、技术赋能,优化迭代,持续提升产品体验四部分展开。

可以科技产品负责人 曹临杰

亚马逊云科技解决方案架构师 莫梓元

可以科技推出了能够带动用户长期价值,又能让大众消费者接受的Loona产品,它具备五位一体的机器人新品类(人机多元深度交互,流畅灵活的运动,富有“生命感”的 设计,全方位、智能化的感知可拓展的多样化功能)。

在开发Loona项目中,遇到了几个关键挑战,一是机器人的工程设计开发,二是情感交互模型设计开发,三是全球各地市场的布局(安全合规完善、开发运维方便、全球覆盖保障、产品智能化、合作伙伴助力)。结合大模型的对话能力、交互能力以及生成能力,如何能够让Loona去实现风格化对话、情绪理解和丰富功能。亚马逊云科技解决方案架构师莫梓元给出了解决方案,但在这过程中也遇到了诸多技术挑战。

针对这些难题,莫梓元表示,为了让Loona能够听得见,利用基于Alexa技术堆栈的Amazon Lex ,以云原生的方式提供了ASR语音转文本、NLU语义理解能力,并且使用Bedrock生成式AI大语言模型辅助Lex意图快速开发,原生集成无服务器Lambda服务,极大提升了开发人员的效率,在短短一个月内完成了 Loona 对话式交互功能的研发、部署,全球交付;同时Amazon Kinesis Video Streams 支持的 Loona 双向音视频实时通话功能,使得 Loona 除了给人以情感陪伴以外,还具有符合安全隐私标准的远程监控功能;此外还加入了 Amazon Polly 服务完成TTS文本转语音,让机器人不仅“听得懂“,还可以通过自然语言在语音交互中回应用户;未来也将基于亚马逊云科技的大语言模型能力探索更多的智慧萌宠场景。

PingCAP TiDB Serverless 研发负责人孙晓光为大家带来的《TiDB Serverless 的云原生架构进化:从0到2万+集群的极速狂奔》话题火爆全场。

PingCAP TiDB Serverless 研发负责人 孙晓光

随着云原生开发模型的日渐流行,serverless 服务正在成为越来越多开发者技术选型时的第一选择。借助 serverless 服务,在不绑定某种具体技术架构的前提下。用户能够不再关心基础设施,以高投入产出比的状态服务各种场景的多样化工作负载要求。

TiDB Serverless 是 TiDB Cloud 上全面服务化的数据库产品。在正式发布之后短短的 400 天即收获了大量用户,当前正在为超过两万个用户集群持续提供高质量的服务。

TiDB Serverless 用户高速增长背后的一个原因是始终遵循着 serverless 产品目标客户的核心诉求,在产品能力和设计理念上紧跟这个明确客户群体的诉求。得益于 TiDB 过去打下的扎实基础。TiDB Serverless 能够全面兼容 MySQL,让用户继续使用熟悉的技术栈和工具; 具备无缝的弹性,随时应对业务增长和流量激增; 以天然的高可用能力保障业务连续性,提供零停机时间的服务能力; 还可以借助内置的 HTAP 能力助力企业实时洞察业务。在拥有这一切优势的前提下,仍然以按需按量付费的方式极大的降低了用户的使用成本。此外,TiDB Serverless 在商业上还采用了有限免费的策略。这为大量处于起步阶段的创新产品提供了 0 成本的数据库服务,助力更多创新的诞生。

从客户视角看 serverless 的数据库虽然有各种美好。然而,对于服务供应商来说,在线交易数据库的 serverless 化道路却并非一帆风顺。孙晓光提到,Serverless 数据库面临着自动化弹性扩展和冷启动等等挑战。在应对这些挑战中,孙晓光强调,亚马逊云科技的创新领导地位,包括其在弹性资源服务和 serverless 产品上的先进技术,为 TiDB Serverless 提供了坚实的基础。利用亚马逊云科技的产品和服务(如 Amazon EKS 和 Amazon S3),PingCAP 成功重构了云上的 TiDB 架构,使其成为一个真正的 serverless 数据库服务。此外,亚马逊云科技Marketplace 的渠道优势也为 TiDB Serverless 的客户快速增长做出了重要的贡献。

最后,孙晓光认为,serverless 数据库是云原生技术步入下一发展阶段时云产品矩阵的关键组成部分。随着产品的持续迭代和成熟 serverless 数据库将拥有更广泛的应用场景。

亚马逊云科技资深技术讲师魏星分享了《面向业务/技术决策者的生成式 AI 入门》话题,话题围绕生成式人工智能 (AI) 简介:可能性的艺术、规划生成式 AI项目、构建生成式 AI 就绪型企业三方面阐述。

亚马逊云科技资深技术讲师 魏星

魏星对生成式AI和机器学习进行了介绍,对于二者的区别,他表示,“生成式 AI 是深度学习的一个子集,因为它可以调整使用深度学习构建的模型,但无需进行重新训练或微调。而深度学习使用神经元和突触的概念,类似于我们大脑的连接方式。生成式 AI 是一种 AI,可以创建新的内容,包括对话、故事、图像、视频、音乐和代码。”

亚马逊云科技实现生成式AI,主要分四层,最底层是芯片层,一个是称之为加速器的Trainium,以及可以按照浮点数租用芯片的能力的Inferentia,第二层是帮助实现几乎所有机器学习场景的平台级服务SageMaker,第一层是Bedrock。

当下,应用大语言模型商用使用案例包括医护、生命科学、金融服务、制造、零售、媒体和娱乐。但是它也存在法律、社会、隐私问题等风险。接着,他还介绍了与生成式 AI 相关的技术基础知识和术语,规划了生成式 AI 项目(定义范围、选择模型、调整模型、使用模型)。

最后,他介绍到,想要在企业构建大语言模型项目,需要先从文化入手、保证团队成员理解生成式AI、解决就业问题。还要为生成式 AI 的成功定位团队、为生成式 AI 建立监管模型。

本专场论坛在热烈的讨论和意犹未尽中落下帷幕。未来,亚马逊云科技将始终从客户需求出发,持续深耕人工智能和机器学习技术,不断创新重构,致力于为企业提供负责任的 AI 应用,助力企业应对挑战,重塑业务并加速生成式 AI 之旅。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/581866.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Hive实战:统计总分与平均分

文章目录 一、实战概述二、提出任务三、完成任务(一)准备数据文件1、在虚拟机上创建文本文件2、将文本文件上传到HDFS指定目录 (二)实现步骤1、启动Hive Metastore服务2、启动Hive客户端3、创建Hive表,加载HDFS数据文件…

PO 发布SAP SProxy->外围系统 WebService

通信概览图 外围系统与PO、SAP的请求响应通信过程大致可以用下图描述 (个人整理所得,可能有误,欢迎指正) 1. 前期准备 1.1 外围系统提供WebService接口 以A系统的RFC发布WebService接口 RFC发布WebService接口 获取到WSDL地…

CSS样式详解之伪类元素及CSS3选择器

目录 一、伪类元素二、CSS3选择器1. 相邻选择器()2. 兄弟选择器(~)3. 指定选择器(nth-of-type(n))4. 子元素指定选择器(子元素匹配选择器)5. 属性选择器① [ 属性名 ]② [ 属性名属性…

什么是MLOps?

人工智能(AI)和机器学习(ML)应用激动人心的发展浪潮也许会让人相信,企业交付ML产品的能力也在迅速提高。但现实情况是,ML内部流程很难跟上行业的整体发展……但若以MLOps的形式则有希望解决此问题&#xff…

面试复盘5——后端开发——一面

前言 本文主要用于个人复盘学习,因此为保障公平,所以本文不指出公司名,题目编号只是为了自己区别而已。对待面经,望读者还是更多从其中学习总结,而不是去碰原题。 面试岗位信息 后端开发秋招,上海某大中…

08.Kubernetes node 节点部署

Kubernetes node节点部署比较繁琐,需要配置一堆的配置文件和证书,手动配置特别容易出错。 这就体现出用脚本部署的优势,将繁琐的操作批量自动化 一是极大的提升效率(尤其是节点比较多的时候)二是确保所有节点配置的统一性(配置统一很重要,因为正常情况下,如果某个节点出…

一文让你读懂Python中的Response对象

目录 引言 一、Response对象简介 二、Response对象的组成 三、Response对象的创建 1、使用内置的http.client模块: 2、使用requests库: 3、使用Django框架: 四、Response对象的处理 1、发送给客户端: 2、设置响应头&…

centos 编译安装 libxml-2.0

centos 编译安装 libxml-2.0 下载地址 我下载的 libxml2-2.9.12.tar.gz 版本 下载后解压&#xff0c;进入解压后的目录 执行&#xff1a; ./configure make && make install安装过程中出现 <Pyghon.h> 找不到的问题&#xff0c;指定了路径之后还是找不到&…

来看看这个技术,这才是UPS监控的最好方式!

在现代社会中&#xff0c;信息技术的持续发展使得机房UPS监控变得至关重要。机房是企业信息系统的核心&#xff0c;UPS监控系统能够确保在电力故障或其他问题发生时&#xff0c;机房设备能够持续稳定运行&#xff0c;从而保障数据的安全性和可用性。 客户案例 金融机构 河北某…

2660. 保龄球游戏的获胜者 --力扣 --JAVA

题目 给你两个下标从 0 开始的整数数组 player1 和 player2 &#xff0c;分别表示玩家 1 和玩家 2 击中的瓶数。 保龄球比赛由 n 轮组成&#xff0c;每轮的瓶数恰好为 10 。 假设玩家在第 i 轮中击中 xi 个瓶子。玩家第 i 轮的价值为&#xff1a; 如果玩家在该轮的前两轮的任何…

fork函数详解【Linux】

fork函数详解【Linux】 fork函数的概念fork调用后的底层细节解释fork学习中的一些笔记和问题fork的写实拷贝深拷贝的策略 fork调用失败的原因 fork函数的概念 调用fork函数可以在已存在的进程中创建一个子进程&#xff0c;此时&#xff0c;新进程叫做子进程&#xff0c;原进程叫…

SpringBoot当中的Singleton和Prototype详解

在Spring Boot中&#xff0c;Singleton和Prototype是两种Bean的作用域。这两种作用域决定了Spring容器如何创建和管理Bean的实例。 Singleton&#xff08;单例&#xff09;&#xff1a; 当一个Bean被配置为Singleton作用域时&#xff0c;Spring容器在启动时只会创建该Bean的一个…

Spring Boot 入参校验及全局异常处理

版本依赖 JDK 17 Spring Boot 3.2.0 源码地址&#xff1a;Gitee Spring Boot validation spring-boot-starter-validation是基于hibernate-validator的实现&#xff0c;在Spring Boot项目中直接导入spring-boot-starter-validation即可。 Valid 和 Validated 的区别 适用范围…

《对话品牌》——活到老“养”到老

本期节目《对话品牌》栏目组邀请到了深圳壹常青健康管理有限公司董事长邬锡娣女士参加栏目录制&#xff0c;分享其企业故事&#xff0c;树立品牌形象&#xff0c;提升品牌价值&#xff01; 节目嘉宾&#xff1a;邬锡娣女士 节目主持人&#xff1a;董倩 节目播出平台&#xf…

在线教育系统源码解读:定制化企业培训APP的开发策略

当下&#xff0c;企业培训正经历着一场数字化的迭代&#xff0c;定制化企业培训APP应运而生&#xff0c;成为提升员工技能、推动企业发展的重要工具。下文小编将与大家一同深入了解在线教育系统的源码&#xff0c;探讨开发定制化企业培训APP的策略&#xff0c;以满足不同企业的…

C#获取windows系统资源使用情况

1.前言 之前有一篇博客介绍如何获取Linux服务器上的资源使用情况《Java 获取服务器资源&#xff08;内存、负载、磁盘容量&#xff09;》&#xff0c;这里介绍如何通过C#获取Window系统的资源使用。 2.获取服务器资源 2.1.内存 [DllImport("kernel32.dll")][retu…

jenkins解决工具找不到的问题

--------------------------插件选择版本最好能跟服务器对上

香橙派5plus从ssd启动Ubuntu

官方接口图 我实际会用到的就几个接口&#xff0c;背面的话就一个M.2固态的位置&#xff1a; 其中WIFI模块的接口应该也可以插2230的固态&#xff0c;不过是pcie2.0的速度&#xff0c;背面的接口则是pcie3.0*4的速度&#xff0c;差距还是挺大的。 开始安装系统 准备工作 一张…

常用入门算法

一&#xff1a;快慢指针 适合原地调换一个数组的元素们的位置&#xff0c;使用for循环&#xff0c;声明两个下标&#xff0c;一个移的快&#xff0c;一个移的慢。 快的指针用来往前走&#xff0c;慢的用来停在目标数据上。典型的案例&#xff1a;283. 移动零 1、给定一个数组…

C语言中关于switch语句的理解

首先我们来看一下switch的定义 switch&#xff08;整型表达式&#xff09; { case 整型常量表达式: 语句&#xff1b; } 我们在书写时要注意一下&#xff0c;无论是在switch还是case&#xff0c;后面跟着的都一定要是整型&#xff0c;而且case这一行写完时&#xff0c;最后要用…