中国信通院魏博锴:云原生混部标准解读

572394816df425ad7c590ca4f094a23b.gif

嘉宾 | 魏博锴

出品 | CSDN云原生

2022年7月28日,中国信通院、腾讯云、FinOps产业标准工作组联合发起的《原动力x云原生正发声 降本增效大讲堂》系列直播活动第4讲如期举行,中国信通院云大所云计算部云原生研究员魏博锴解读了云原生混部标准。本文整理自魏博锴的分享。

5fa77ded2534c82c7a6b60ba17cc5c34.png

标准编制背景

云资源利用率持续偏低,成本问题迫在眉睫

国内公有云服务商统计数据显示,公有云环境里虚拟机平均资源利用率仅为12%,部分私有云环境里这个数字甚至不足10%。Flexera《2021云状态报告》数据显示,企业上云后的平均资源浪费率在30%左右。

降本增效,在离线混部成为有效路径

传统的在线交易类任务与离线数据分析类任务,都部署在独立基础设施之上。如果资源利用率持续低迷,我们自然而然会尝试将资源共享。

202576eced053f6884ac297efdc1af2d.png

将在线业务和离线任务混合部署到相同物理资源上,通过资源隔离、资源调度等方式 , 在充分使用资源的同时保证服务稳定运行,我们称这样的技术为“混部”。

在离线混部的目的在于降本增效,降本是指提升资源利用率,增效指的是保障服务运行质量。

从资源占用的角度,在离线混部可以有效提升资源利用率,实现降本增效。

cedb7f8b8e7748a9102e02c0c68147d7.png

在离线混部模型,理想很丰满,现实很骨感

混部的实现需要以底层基础设施与上层业务应用之间的打通为前提,这个过程会带来大量复杂的问题:

  • 业务部门、技术部门差异化的需求和供给导致资源冗余

  • 各种不同类型、不同特点的系统差异化,导致系统复杂性

  • 行业监管要求高,在离线系统运行合规难

  • 配套制度不完善,团队协作和沟通难度大

  • 资源配置不精准、资源扩容滞后性、资源分配不合理;

  • 业务应用与虚拟机、物理机的“强绑定”关系,导致资源利用率受到系统活跃度的影响大幅降低。

68c6af7b95f9b34e8b0cbcc47126f3f8.png

云原生混部方案

云原生技术逐步成熟,助力混部发展

面对在离线混部部署的“现实骨感”,我们尝试用云原生的方法来解决混部带来的问题。

CNCF云原生定义:有利于各组织在公有云、私有云和混合云等新型动态环境中,构建和运行可弹性扩展的应用,代表技术包括容器、服务网格、微服务、不可变基础设施、声明式API等。

8bf8a17c72487780536a17b35155198c.png

资源灵活配置助力混部发展

从架构角度看,基于虚拟机、物理机的传统技术架构下,业务应用与基础环境“强绑定”,资源借用只能通过腾挪机器的方式实现,很难做到混部场景下的资源弹性共享,同时IT成本并未显著降低。

9b2455cb4d3742ad5b424179b658b0f4.png

随着云原生技术的实现,云原生混部可以帮助企业实现更加灵活的弹性资源供给、智能的自动化流量调控。企业可以针对具有业务优先级、资源优先级、明显峰谷特性的业务,进行混部。

f50a57e90a4592f5e1880d799330035d.png

e92bca5c023369cb923997e9782fc549.png

混部能力要求

资源占用剖析和利用率提升

在对云原生混部标准的能力要求进行抽象之前,我们尝试对资源占用情况以及利用率提升的手段进行剖析。

  • 业务——已申请但未使用的量。当业务部门作为需求部门时,为了保证应用能够正常稳定地运行,往往会在提需求阶段要求技术部门冗余一定的资源。在降本的过程中,可以对该部分的使用量进行缩减。在云原生领域,可以基于容器实现精细化资源管理。

  • 系统——已分配但未使用的量。传统的基于虚拟机所分配的资源只能给系统使用,不够灵活的情况下,无法对该部分资源进行共享。而使用基于容器的Request和Limit可以对资源用量进行有效判断与管控。

  • 应用——峰谷效应的空闲量。应用在资源使用的波谷阶段会产生大量资源空闲量,此时可以对该部分资源进行填充,通过横向、纵向扩缩容,实现资源弹性供给及服务编排调度。

混部关键技术

从三种资源占用的角度出发,我们对云原生混部在不同方面所需具备的相关技术方案进行了归纳总结:

  • 基础设施:优先抢占、负载感知、干扰识别以及QoS保障等;

  • 平台混部:精细化资源编排、智能化资源超卖、服务化任务感知以及定制化冲突处理等;

  • 业务应用:Spark、Flink、Hadoop、AI Jobs等。

在对混部的整体架构以及开源、商业的不同解决方案进行研究和归纳后,《云原生混部技术能力要求》标准能力框架被梳理形成,如下图所示。

ea548ef47a2ba67aaf4372d936ade8cb.png

72fd7835f8bf9509e831dfad52a3f288.png

下一步工作计划

中国信通院自2016年开始云原生领域的技术研究工作,目前已形成覆盖容器、微服务、Serverless的完整云原生评估体系,完成20+行标的立项、编写工作。依托标准可为用户提供围绕云原生的预评估、能力建设规划、建设监理、价值挖掘和联合研究等全链条咨询服务。

bd73bd87430a4dcec008103e21b611d4.png

接下来,我们会围绕产业侧的实践及行业侧的经验对云原生混部技术的标准进行更新迭代,计划于8月启动首批评测。在研究方面,我们会启动云原生混部技术行业应用实践,对云原生混部的已有成效进行指南编写。

1e8fbb2db47ed1c92ec3d6869c43855d.gif

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/511142.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

从平凡到非凡 阿里云李克的技术进阶之路

简介:人物简介:李克 阿里云边缘云计算领域技术负责人 2009年硕士毕业加入阿里至今,一直从事CDN及边缘云领域的技术研发工作,在CDN、边缘计算等方向上有丰富的行业经验,全程参与了阿里云CDN商业化转型,边缘云…

一文搞懂redis

简介:NoSQL泛指非关系型数据库,随着web2.0互联网的诞生,传统的关系型数据库很难对付web2.0大数据时代!尤其是超大规模的高并发的社区,暴露出来很多难以克服的问题,NoSQL在当今大数据环境下发展的十分迅速&a…

热搜!华为 30 岁以下员工仅占 28%,网友:35 岁危机呢?

整理 | 郑丽媛出品 | CSDN(ID:CSDNnews)一直以来,程序员的“35 岁”都是圈内的热议话题:35 岁是程序员的职业终结点、程序员到 35 岁就废了、超过 35 岁的程序员容易被裁……久而久之,35 岁逐渐变成了一个很…

阿里云发布业界首本《云计算公网质量白皮书》

随着互联网的发展,网络已经融入了整个社会发展的进程,如同血液贯通人类文明的五脏六腑。一旦网络出现故障,将给社会的政治、经济、文化造成重大损失。 2021年10月4日,Facebook在地球上”消失”了6小时,市值跌掉3000亿…

选轻量应用服务器or云服务器ECS?一图帮你彻底区分

简介:轻量应用服务器适合轻量级且访问量低的应用场景,更适合个人开发者、对新手小白更友好;而云服务器ECS可覆盖全业务场景(如大数据分析,深度学习等),要求用户有一定的开发技术能力。 本文首发…

宜搭小技巧|一招摆脱纸质表单,数据收集更便捷

简介:开启「应用公开访问」,组织外成员也可提交数据。 许多公司在前台都会准备一个访客登记表,供来访者填写。但如果来访者数量较多,就会出现这样的问题…… 提供纸质表单供访客填写信息,使用起来繁琐且费时&#xff…

如何用 Serverless 低成本打造个人专属网盘?

简介:想要做个网盘不知如何开始,不妨花3分钟读读这篇,看看如何借助 Serverless ,低成本的做一个“不限制网速、无限扩展、同时支持数百种文件格式在线预览、编辑、协作”的专属个人 & 家庭网盘~ 前言 随着全球大数据不断增长…

云之后,亚马逊云科技要为业界提供水和空气一样的安全防护

云巨头亚马逊云科技,正在持续加码云安全。 编辑 | 宋慧 出品 | CSDN云计算 提到亚马逊云科技,我们首先想到的是它在云领域的计算存储等技术和优势。不过亚马逊云科技却连续四年在举办它的全球安全大会 re:Inforce,刚刚 ,2022 re:…

即学即会 Serverless | 如何解决 Serverless 应用开发部署的难题?

简介:开发者在选择使用 Serverless 时,仍会有开发和部署困难、厂商锁定等诸多担忧,有没有一种支持 Serverless 应用全生命周期管理的开发者工具,能够简单快速上手并真正帮助我们提升研发、运维的效能的呢? 破局&#x…

NBF事件中心架构设计与实现

简介:NBF是阿里巴巴供应链中台的基础技术团队打造的一个技术PaaS平台,她提供了微服务FaaS框架,低代码平台和中台基础设施等一系列的PaaS产品,旨在帮助业务伙伴快速复用和扩展中台能力,提升研发效能和对外的商业化输出。…

关于“算力”,这篇文章值得一看

作者 | 小枣君来源 | 鲜枣课堂今天这篇文章,我们来聊聊算力。这两年,算力可以说是ICT行业的一个热门概念。在新闻报道和大咖演讲中,总会出现它的身影。那么,究竟到底什么是算力?算力包括哪些类别,分别有什么…

宜搭小技巧|找不到应用怎么办?群应用一键直达

简介:5步学会「一键添加群应用」! 上期钉多多将Excel一键转应用后,大大提高了同学们的工作效率,于是小伙伴们纷纷用钉钉宜搭创建了各种各样的应用,那么新的问题产生了...... 每次提交数据都要切换到工作台找到对应的…

前端实现多文件编译器

简介:在前端工程中,有时我们需要在浏览器编译并执行一些代码,这种需求常见于低代码场景中。例如我们在搭建时需自定义一部分代码,这些代码需要在渲染时执行。为了方便起见,我们写的代码一定是 ES6 语法,如果…

3个月夯实基建,鲜丰水果这样实现研发数字化

简介:3个月夯实基建,鲜丰水果这样实现研发数字化。简单、快速地提升产研团队的交付质量和交付效率,成为了支持组织业务创新的必选项。让我们一起看看鲜丰究竟如何逐步破局。 鲜丰水果,创始于1997年,历经25年发展史的鲜…

打通源码,高效定位代码问题|云效工程师指北

简介:为了帮助企业和团队挖掘更多源代码价值以赋能日常代码研发、运维等工作,云效代码团队在大数据和智能化方向进行了一系列的探索和实践(例如代码搜索与推荐),本文主要介绍我们如何通过直接打通源代码来提高研发与运…

Nreal中国AR眼镜发布会:正式推出Nreal X和Nreal Air 售价2299元起

2022年8月23日,全球领先的消费级AR眼镜品牌Nreal在京召开中国首场AR眼镜发布会,面向中国市场正式推出三款硬件产品,其中包括两款AR眼镜:全球首款眼镜形态、探索增强现实技术无限场景应用的全功能AR眼镜——Nreal X;全新…

大数据时代下的App数据隐私安全

简介:随着信息技术快速发展,大数据为我们带来信息共享、便捷生活的同时,还存在着数据安全问题,主流商业模式下APP面临新的挑战。工信部持续开展APP侵权整治活动,进行了了六批次集中抽检,检查了76万款APP&am…

基于 Mesh 的统一路由在海外业务的实践

简介:本文主要介绍我们最近在利用 Service Mesh 架构解决海外业务问题中一些实践和价值探索。我们在海外业务引入 Mesh 架构过程中,充分利用 Istio 的基于 yaml 来描述和定义路由的抽象能力,制定了企业流量治理标准,并将集团海外业…

中国RISC-V机遇与变革下,赛昉科技发布两款高性能新品

8月23日,专注于RISC-V芯片研发的赛昉科技举办2022新产品发布会,发布两款重磅新品:全球首款量产高性能RISC-V多媒体处理器——昉惊鸿7110(JH7110),和全球性能最高的量产RISC-V单板计算机——昉星光 2&#x…

小米电商 Apache Dubbo-go 微服务实践

简介:2021 年是小米中国区电商部门变动调整较大的一年,小米中国区早期电商、服务体系建立在 Go 语言构建的微服务体系之上,由内部自研的 Go 语言微服务框架 koala 支撑起数以千计的微服务应用。随着业务的发展,新零售体系的成立以…