从图森未来的数据处理平台,看Serverless工作流应用场景

Serverless工作流来了!

发布会传送门

抢先了解Serverless技术干货

4月,阿里云Serverless工作流正式商业化,这是一款用于协调多个分布式任务执行的全托管 Serverless 云服务。产品致力于简化开发和运行业务流程所需要的任务协调、状态管理以及错误处理等繁琐工作,让用户聚焦业务逻辑开发。

精准打造云上自动生产线,Serverless工作流正式商用

工作流是一种非常常见的场景,比如企业内部审批、采购订单、ETL等日常企业事务,或者大数据处理流水线,常规或定制化自动化运维等。此外,音视频行业的多媒体文件分片转码、格式转换、审核校验和人脸识别等长时任务,电商旅游行业的客户线上订单,AI行业的机器学习流水线, 生信行业的基因测序工作流。

这些场景面临着以下难点:一般由众多异步分布式任务组成,控制逻辑和任务逻辑交织在一起,流程复杂冗长;分布式任务可能跨越公共云和本地机房,安全的打通网络代价很大;整个工作流执行完毕耗时过长,造成资源占用的浪费;涉及异步且关键业务流程,务必保证数据一致性;繁复的执行步骤如何进行可视化监控等等。

Serverless工作流正式针对这些痛点,分离控制逻辑与任务逻辑,细化责任,便于管理和维护; 将流程以模版方式统一定义控制,简化编排,通过串联或并行等多种方式编排任务;支持函数,队列,云服务等多种任务类型,打通公共云和企业内网;支持最长1年的执行任务,但却采用Serverless计费模型, 按需付费;动态调用并发函数,保持状态和消息的持久化,信息不丢失且最终同步,提高容错性,自动处理异常;流程进度可视化,历史执行可追溯性等等。
技术01.png

助力图森未来,自动化数据处理平台, 让一切简单可靠

图森未来是一家专注于L4级别无人驾驶卡车技术研发与应用的人工智能企业,面向全球提供可大规模商业化运营的无人驾驶卡车技术,为全球物流运输行业赋能。目前已完成D轮融资,估值超过10亿美元。无人驾驶技术研发依赖大量的路测试验数据积累,而高效进行路测、快速对路测数据进行处理来指导模型的更新迭代是这类场景的核心诉求。

路测过程中会有大量数据产生,而对这些数据的处理流程则复杂多变,即使对于同一批数据,不同的业务小组也会有不同的使用及处理方式。如何有效管理不同的数据处理流程、降低人为介入频率能够大幅的提高生产效率。

路测不定时运行的特点使得流程编排任务运行时间点、运行时长具有极大的不确定性,本地机房独自建立流程管理系统难以最大优化机器利用率,造成资源浪费。而图森未来本地已有许多单元化业务处理脚本及应用程序,但因为各种限制而无法全量的迁移上云,这也对如何合理化使用云上服务带来了挑战。

另外,由于处理流程的步骤繁多,不同任务间的数据共享变得十分重要。任务之间在相互依赖的情况下,非常考验系统可靠性。因此,对于复杂流程的步骤间的状态及数据管理也是业务所面临的一项挑战。
技术02.png
针对上述情况,图森未来开始探索数据处理平台的自动化。阿里云 Serverless 工作流按执行调度的次数计费,具有易用易集成、运维简单等诸多优点,能够很好的解决上述场景中所遇到的问题,非常适合这类不定时运行的离线任务场景。Serverless 工作流还支持编排本地或自建机房的任务,图森未来通过使用 Serverless 工作流原生支持的消息服务MNS解决了云上云下的数据打通问题,使得本地的原有任务得到很好的编排及管理。

除了调度外,Serverless 工作流也支持对任务的状态及执行过程中所产生的数据进行维护。图森未来通过使用任务的输入输出映射及状态汇报机制,高效的管理了流程中各任务的生命周期及相互间的数据传递。

在未来,随着业务规模的扩大,图森未来将持续优化离线大数据处理流程的运行效率及自动化水平。通过各种探索,图森未来将进一步提升工程团队的效率,将更多的精力和资金投入到业务创新中去。

Serverless工作流更多应用场景

技术03.png
各个公司会有如下的一些典型工作流场景。这里简单介绍三个典型应用:
订单流程审批,可支持1年执行时长
对于电商、旅行行业的订单,或者企业内部的日常各类申请, 从下发到生效都要经过多个环节,需要跨公司办公网络和公共云的多网络环境,途径多个环节的多步骤分布式,可能涉及人工介入,最终数据确保强一致性。目前Serverless工作流默认的支持最长 1 年的执行,以及并行触发 1 万个流程。

技术04.png

多媒体文件处理,降低失败率、提升吞吐量
Serverless工作流同样适用多任务编排,比如多媒体文件如转码、截帧、人脸识别、语音识别、审核上传等各类处理。用户可以编排成一个完整的处理流程,通过函数计算提交媒体处理(IMM)任务(或自建处理器),产出一个符合业务需求的输出。各任务的执行错误异常可以被可靠的重试,大大提升多媒体任务处理吞吐量。
对于视频点播、 视频转码等重度依赖算力的任务如果采用Serverless方式搭建,将函数计算和Serverless工作流组合使用,仅需3人天便可上线落地。

技术05.jpeg

自动化运维,流程进度可视化跟进
自动化运维常见有步骤繁琐时间长短不一,单机脚本可靠性低,依赖复杂等常见的挑战,另外进度无法可视化。Serverless 工作流+函数计算的流程可以很好地应对这些挑战。例如软件自动化部署从构建Docker容器,上传容器镜像,开始并追踪各节点下拉镜像并启动新版本镜像的容器,每一步函数产生的日志会被保存到日志服务可供查询分享。基于工作流的自动化工具相比单机运维脚本具有高可用,自带错误处理机制和进度图形化的特点。
技术06.png
"Serverless 工作流是阿里云 Serverless 产品体系中的关键一环。" 阿里云 Serverless产品负责人杨皓然表示,“ 通过 Serverless 工作流,用户能够将函数计算、视觉智能平台等多个阿里云服务,或者自建的服务,以简单直观的方式编排为工作流,迅速构建弹性高可用的云原生应用。”

据悉,阿里云在2017年推出函数计算, 该服务根据应用负载变化实时智能地弹性扩缩容,1分钟完成上万实例的伸缩并保证稳定的延时。目前已经支撑微博、芒果TV、华大基因、图森未来、石墨科技等用户的关键应用,轻松应对业务洪峰。

原文链接

本文为云栖社区原创内容,未经允许不得转载。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/516285.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

uniapp 开发基础环境搭建和配置

文章目录一、下载并安装开发工具1. 官网下载2. 点击 DOWNLOAD3. 版本选择二、安装 sass 依赖2.1. 打开 HBuilder X2.2. 打开插件地址2.3. 导入插件2.4. 在弹出框中点击2.5. 点击【是】2.6. 下载状态2.7. 等待完成即可三、创建 uni-app 项目3.1. 创建项目3.2. 项目目录介绍一、下…

大厂技术文档:Python基础+爬虫+数据分析+面试经精选

有段时间没跟各位粉丝分享编程资源福利了,看了下自己的资料夹,就剩下我认为比较好的Python学习资料了。相信这套资料可以对你进阶高级工程师有帮助!为什么只有Python这么火,能有机会成为通用语言?核心还是因为企业需要…

金融业务数字化,用户体验和安全防护双重挑战,你该怎么办?

在数字化转型的浪潮中,金融行业一直是最活跃的行业之一。受到新冠疫情影响,各商业银行、券商、保险企业的线上流量迅速攀升,线上金融业务将从互金时代直接跃迁到全面线上化时代。2月24日,中国银保监会下发的《关于进一步做好疫情防…

怎样用CDN防篡改、抗攻击、控内容?一份CDN安全指南请查收

5大安全产品全面升级,抢先了解:https://developer.aliyun.com/topic/securityapril 预约观看发布会:https://yq.aliyun.com/live/2670 阿里云CDN经过10多年的技术沉淀和实践,已经从传统的加速,逐渐构筑起一个边缘云的安…

Cannot read property ‘forceUpdate‘ of undefined

文章目录现象解决方案现象 VM46 WAService.js:2 TypeError: Cannot read property ‘forceUpdate’ of undefined 解决方案 解决 Cannot read property forceUpdate of undefined 的错误 这个错误的原因非常简单,是因为我们没有为项目配置 appID 的原因&#xf…

如何应对云原生之旅中的安全挑战?

作者 |Pavan Belagatti译者 | 弯月头图 | CSDN 下载自东方 IC来源 | CSDN(ID:CSDNnews)以下为译文:如果你已经接受了云原生计算的概念和原理,那么代表你已经处于领先地位。在当今先进且竞争激烈的IT环境中,…

阿里云:构建全球企业内外安全网络最佳实践

5大安全产品全面升级,抢先了解:https://developer.aliyun.com/topic/securityapril 预约观看发布会:https://yq.aliyun.com/live/2670 全球连接,立体防护 网络安全的最大挑战之一来自于不同地域的网络之间的访问,连接…

[sitemap 索引情况提示] 根据 sitemap 的规则[0],当前页面 [pages/index/index] 将被索引

[sitemap 索引情况提示] 根据 sitemap 的规则[0],当前页面 [pages/index/index] 将被索引 微信小程序默认开启了索引功能,但是因为我们没有配置索引策略,导致出现了这么一个警告的问题。具体情况可以参考:https://developers.weix…

Argo 项目入驻 CNCF,一文解析 Kubernetes 原生工作流

作者 | 遥鹭、郡宝 导读:近期,CNCF 技术监督委员会(Technical Oversight Committee,TOC)投票决定接受 Argo 作为孵化级别的托管项目。作为一个新加入的项目,Argo 主要关注于 Kubernetes 原生的工作流&…

腾讯智慧出行和现代汽车集团创新中心(北京)正式建立创新战略合作伙伴关系

2020年10月16日,腾讯智慧出行与现代汽车集团创新中心(北京)(Hyundai CRADLE Beijing)正式在汽车出行领域建立创新战略合作伙伴关系,双方将充分利用各自在智慧出行和互联网生态的优势资源,共同助力中国优秀初创企业&…

五项措施,让阿里云存储更安全

5大安全产品全面升级,抢先了解:https://developer.aliyun.com/topic/securityapril 预约观看发布会:https://yq.aliyun.com/live/2670 一、存储面临的安全新挑战 1、 安全合规成为必选项 2017 年 6 月 1 日,《中华人民共和国网络…

微信小程序 AppID和AppSecret的获取方式

微信公众平台:https://mp.weixin.qq.com/ 第一次需要注册,有账号直接扫扫码登陆即可

阿里云:助力数字经济新基建,打造物联网安全基石

5大安全产品全面升级,抢先了解:https://developer.aliyun.com/topic/securityapril 预约观看发布会:https://yq.aliyun.com/live/2670 新基建大势之下的物联网 近日,中央政治局常委会会议提出,加快发展5G、数据中心、…

官宣!1024 程序员节日程发布,第一代程序员求伯君将出席大会

‍‍‍‍10月23-25日,“长沙 中国 1024 程序员节”将盛大举行。程序员节活动以开源为主议题,包括 2 场岳麓尖峰对话;2020 开源技术英雄会;10场热门技术分论坛/峰会;创意集市;体验感超强的科技文化嘉年华、…

运行项目到 微信开发者工具和浏览器

文章目录一、运行项目到 微信开发者工具1. 下载安装2. HBuilder X配置3. 设置【微信开发工具路径】4. 运行5. 运行到浏览器一、运行项目到 微信开发者工具 1. 下载安装 下载地址 安装,一路下一步即可 2. HBuilder X配置 uniapp 支持10个平台,我们已…

医生的小助手,医疗AI赋能诊断新冠肺炎新方案!

春节前夕至今的一场肺炎病毒危机席卷了中国乃至整个世界,目前通过肺部CT的检测可迅速判断疑似患者的身体情况,但是由于疑似患者基数较大所以纯粹靠人工阅片,会耗费医生极大的精力。   为此阿里云视觉智能开放平台(vision.aliyun…

饿了么交易系统 5 年演化史

个人简介: 2014年12月加入饿了么,当时参与后台系统的研发(WalisJavis>Walle),主要面向客服和BD。 2015年5月开始接触订单系统的研发,7月负责订单研发组;度过单体应用到服务化这个阶段。 2016年初搭建订单的测试团队&#xff0c…

搞不定这三大难题,根本学不会Python,别不信!

Python作为一种解释型技术脚本语言,越来越被认可为程序员新时代的风口语言。无论是刚入门的程序员,还是年薪百万的BATJ的技术大牛都无可否认:Python的应用能力是成为一名码农大神的必要项。而作为Python初学者来讲,最大的问题就是…

东方希望上云 告诉你数字化门槛儿到底有多高?

云栖号案例库:【点击查看更多上云案例】 不知道怎么上云?看云栖号案例库,了解不同行业不同发展阶段的上云方案,助力你上云决策! 疫情发生前,依托钉钉平台以及云计算,东方希望集团快速实现了组织…

uniapp 创建与配置 tabbar

1. 创建页面 删除 pages 下的 index 文件夹 在 pages 文件夹处,右键 -> 选择新建页面 确认新建页面的信息 由于咱们删除了默认的index.vue页面,导致编译报错 找到pages.json文件,把鼠标选中部分配置删除即可 2. 配置 pages.json …