Unite Shanghai 2024 团结引擎专场 | 团结引擎 OpenHarmony 工程剖析

在 2024 年 7 月 24 日的 Unite Shanghai 2024 团结引擎专场演讲中,Unity中国 OpenHarmony 技术负责人刘伟贤对团结引擎导出的 OpenHarmony 工程进行了细节剖析,详细讲解 XComponent 如何与引擎结合,UI 线程和引擎线程的关联以及 ts/ets 的代码如何与引擎功能进行交互。帮助大家在接入 SDK 以及 OpenHarmony 系统能力调用方面有更深入的了解。

刘伟贤:大家下午好!今天在这里带来的分享是《团结引擎 OpenHarmony 工程剖析》。我是刘伟贤,目前是 Unity中国 OpenHarmony 平台和车机平台的技术负责人。今天的内容一共四个部分:基本概念介绍、引擎画布-XComponent、引擎线程模型、引擎跨语言交互。

OpenHarmony 是一个全新的操作系统,其次这个系统本身在快速发展过程中,中间胶水层代码也在频繁变化,而且很多开发者对这个胶水层代码很不熟悉。因为原来的 Android 和 iOS 是有一定历史的,但是对于 OpenHarmony 来讲是全新的。所以,今天希望能通过概念和核心部分的讲解,让大家对于胶水层代码有更深入了解,从而看到 OpenHarmony 技术平台的一些技术细节。

基本概念

首先大家打开一个工程,切换到 OpenHarmony 这个平台,当我们在 BuildSettings 里面勾选 Export Project,我们就能得到一个 Ability Project,是 OpenHarmony 平台的一个原生工程,然后使用 Deveco Studio 打开这个 Ability Project,我们就能进行调试、构建等常规的操作。同时,通过 Export Project 也能窥探到所有引擎适配 OpenHarmony 的胶水代码。

首先,我们从一个项目的目录结构来窥探 Ability Project 整体的目录结构是怎么样的。开发态包结构(Stage 模型)分成 AppScope 跟 entry 这两个比较重要的目录,AppScope 是一个应用的全局配置,核心是 app.json5,去配置包名信息、版本号等。Entry 是一个模块,类似于 Android 工程的 module,但是里面会存有资源、ets 代码、ArkTS 代码、模块配置、一些配置项,还有应用级的配置信息、签名信息会在 build-profile.json5。

上面是一般 OpenHarmony Ability Project 开发包结构,但是与引擎相关的目录只有上图这些,比如说引擎所有的 so,包括要接入的 SDK 都会放到 entry/libs 目录中,引擎中所有的胶水代码都在 entry/main/ets 中,而胶水代码中还有一个关键的入口 TuanjiePlayerAbility,相当于安卓的 activity。还有 UIAbility 对应的 page 文件 TuanjiePlayerAbilityIndex.ets。除了这些以外,其他plugins代码也会自动导到这个地方。对于包内的资源,会放在 resources/rawfile/Data 中,包括 StreamingAssets, boot.config 等。这就是引擎在适配的时候,我们怎么样把引擎中的资源放到原生的 Ability Project 里面去。

上面这个图展示了在 OpenHarmony 的工程由开发态视图经过编译以后的包结构视图。可以看出刚才提到的 entry 实际上是一个 module,里面有一些 resource 和代码。我们有一个全局的 AppScope,中间可以扩展很多不同的 module。但是这里面与 Android 有一个比较大的差异,在于它的 module 实际上会编译成一个一个的 HAP,就像分成一个一个的小安装包,最终由一个 .app 把这些全部包起来。

所以说,从刚才怎么把引擎的东西放到项目中可以看出,目前引擎所有的东西都放在 entry 的 module 里面,意味着目前在 OpenHarmony 很难做到像原来安卓工程那种 uaal (use as a library) 的形式。如果要达到,我们应该把它抽象成一个自己的 module,大家可以把 module 拷出放到别的 OpenHarmony 原生应用里去集成、开发。我们后续可能会计划改成一个独立的 library 或者 module,会在后面的版本迭代掉。

我们有一个非常重要的主入口 TuanjiePlayerAbility,它类似于 Android 的 Activity。UIAbility 底下还有一个 WindowStage,它们在我们的整个胶水代码里是捆在一起的,主要做一些生命周期管理。最后有一个有别于 Android 的地方,叫做 ArkUIPage,主要做一些布局以及简单代码的实现。所以 UIAbility 组件是一种包含 UI 的应用组件,主要用于和用户交互。

在 OpenHarmony 里面, UIAbility 组件是系统调度的基本单元,为应用提供绘制界面的窗口。一个应用可以包含一个或多个 UIAbility 组件。例如,在支付应用中,可以将入口功能和收付款功能分别配置为独立的 UIAbility。每一个 UIAbility 也可以包含不同的 page,所以整体在切换上面还是相对比较灵活的。

对于开发者而言,可以根据具体场景选择单个还是多个 UIAbility,如果开发者希望在任务视图中看到一个任务,则建议使用一个 UIAbility,多个页面的方式。如果开发者希望在任务视图中看到多个任务,或者需要同时开启多个窗口,则建议使用多个 UIAbility 开发不同的模块功能。

每个 UIAbility 实例都会与一个 WindowStage 类实例绑定,该类起到了应用进程内窗口管理器的作用。它包含一个主窗口。也就是说 UIAbility 实例通过 WindowStage 持有了一个主窗口,该主窗口为 ArkUI 提供了绘制区域。

在 TuanjiePlayerAbility.ts 中,它整个生命周期就是 UIAbility 和 WindowStage 绑定在一起,UIAbility 实例创建完成之后,在进入 Foreground 之前,系统会创建一个 WindowStage。WindowStage 创建完成后会进入 onWindowStageCreate() 回调,可以在该回调中设置 UI 加载、设置 WindowStage 的事件订阅。

适配时,在 OnCreate 的时候我们主要是获取了 AbilityContext,用来做跨语言调用时需要的上下文。其次我们初始化 TuanjieMainWorker 线程。WindowStage 里面的OnForeground/onBackground对应的就是前后台切换,所以不管是OnForeground/onBackground,包括 WindowStage 的 Shown/Hidden 都会执行到引擎的 onResume/onPause。在 WindowStage 中的 Active 和 InActive 就是对应引擎的焦点获取 Focus/LostFocus。

TuanjiePlayerAbility 对应 TuanjiePlayerAbilityIndex.ets,对应的是基于 ArkUI 的声明范式的一个文件,它是方舟开发框架下的一套开发极简、高性能、支持跨设备的 UI 开发框架,包含了 ArkTS(eTS) 、布局、组件、交互事件。从上图右侧的 TuanjiePlayer 可以看到整个简单、清晰的结构。

接下来我们详细剖析 TuanjiePlayerAbility 里面对应的 page 中的内容。首先,上面是装饰器,有自定义组件 TuanjiePlayer,有点类似 Android 里面也有一个 UnityPlayer.java 的 component。其次,在 TuanjiePlayer component 中包含了一些布局信息,内置了 Xcomponent,就是我们引擎最后用来绘制的画布,要从 Xcomponent 拿到 surface,引擎用于绘制。在 Xcomponent 里面还会扩展一些事件方法,然后对应一些 log 输出,包括属性设置、宽高。

下面还可以看到我们自己定义的 TuanjiePlayer component 整个层级结构是怎么样的:一个 Xcomponent,盖着 TuanjieWebview,再盖着 SlapshScreen,再盖着 VideoPlayer,这些都像 stack 一样一层一层叠加上面,通过状态控制显示还是隐藏。所以这里面就是我们自己定义的一些控件,底下是一些属性方法。从整体文件可以看出,它的 ArkUI 写法非常舒适,可以一目了然地看到整个页面的布局、事件、属性是怎么样的。

TuanjiePlayerAbility.ts/TuanjiePlayerAbilityIndex.ets,这里面有两个文件的后缀,大家要了解 ts 代表 TypeScript,ets 代表 extented TypeScript(ArkTS 语言)。ArkTS 是 OpenHarmony 的主力应用开发语言。ArkTS 围绕应用开发在 TypeScript 生态基础上做了进一步扩展,后缀为 ets,它保持了 TS 的基本风格,在 TypeScript 的基础上扩展了声明式 UI、状态管理等相应的能力。同时通过规范定义强化开发期静态检查和分析,提升程序执行稳定性和性能。TS 是 JavaScript(简称 JS)的超集,eTS 则是 TS 的超集。从 eTS 我们可以看一些特点,包括强制使用静态类型、禁止在运行时改变对象布局、限制运算符语义、不支持 Structural typing,去掉原本动态语言的一些特性,加了一些限制,能够达到更好的编译优化,从而把整个运行的性能提升上去。

引擎画布 - Xcomponent

Xcomponent 是 OpenHarmony 提供的一个非常重要的组件,主要用来进行 EGL/OpenGLES 和媒体数据写入,并将其显示在 XComponent 组件上。它有 surface/component/texture 类型,目前团结引擎使用的是 surface 类型。同时 XComponent 组件可以和其他组件一起进行布局和渲染。我们整个 TuanjiePlayer 中除了 Xomponent 之外还叠加了一些自定义组件在上面。开发者可将相关数据传入 XComponent 单独拥有 NativeWindow 来渲染画面。

Native XComponent 是 XComponent 组件提供在 Native 层的实例,可作为 JS 层和 Native 层 XComponent 绑定的桥梁。通过 XComponet 的 libraryname,指明 so 名字,这时候就会到 C++ 层,可以在 C++ 层通过 napi 去获取 OH_NativeXComponent,然后并且注册事件回调,得到最终用来渲染的 NativeWindow。

所以从整体渲染模型来讲,我们其实在 XComponent 回调获得 NativeWindow,使用 NativeWindow 来创建 EGL/OpenGLES 环境,也满足和安卓类似的生产者-消费者模型。从上图可以看出,引擎这一层如果是一个相对原生的 OpenHarmony 应用,原生组件会走到一个渲染服务中,经过 skia 最终进行 GLES/EGL 调用。如果是自绘制的应用,基本是经过 Xcomponent 直接调用到 OpenGLES 的这些绘制指令上面去。

引擎线程模型

从整个目录结构、怎么样把引擎所要的东西合进 Ability Project,到引擎需要拿到怎么样的画布进行渲染,下一步就是引擎在 OpenHarmony 上的线程模型是怎么样的。对于所有的应用来说,我们都不希望耗时操作会对我们的 UI 交互造成卡顿,在 OpenHarmony 上也一样,我们不会把引擎和 UI 放在同一条线程上面。

TuanjiePlayer Ability 起来的时候,它有一条 ArkUI 线程,即传统意义上的 UI 线程,我们通过 threadWorker 创建一条 TuanjieMain 线程,放到 C++ 那边去,走引擎的正式启动流程。这条 TuanjieMain 线程才会再去把渲染线程、JobWoker 线程,以及脚本中会调用的 C# 线程创建出来。

在这里面,ArkUI 线程可以说是 UI 线程,主要执行 UI 绘制,管理主线程的 ArkTS 引擎实例,使多个 UIAbility 组件能够运行在其之上。同时也可以管理其他线程的 ArkTS 引擎实例,例如启动和终止 Worker 线程,处理应用代码的回调,包括事件处理和生命周期管理。

对于 Worker 线程 - TuanjieMain,它是引擎的主线程,用于执行耗时操作,支持线程间通信,因为我们有一些 UI 操作要回到主线程 UI 线程执行。但是这里面有一个非常重要的点,Worker 的上下文对象和主线程的上下文对象是不同的,一定要小心,而且 Worker 线程不支持 UI 操作,意味着 TuanjieMain 线程不能进行任何 UI 操作,必须 post message 回到 UI 线程进行 UI 相关操作。

下面看一下整个引擎在 Worker 线程的初始化。

UIAbility.ts 在 OnCreate的时候,会传递 AbilityContext,并且初始化 TuanjieMainWorker。TuanjieMainWorker 的初始化调用到 TuanjieMainWorker.getInstance,它是一个单例,此时会调用到构造方法,会去创建一个 threadWorker。threadWorker 整个线程的运行环境就在 TuanjieMainWorkerHandler.ts。所以从这里看到,不管是 ArkUI 还是 Worker 线程,在 OpenHarmony 都挺特别的,都分成两个文件,没有合到一起去。

当我们 new 好 Worker thread 的时候,TuanjieMainWorkerHandler.ts 文件内所执行的代码已经是在 Worker 线程,这时候我们就会通过 tuanjie.nativeSetWorker() 调用 C++,从而注册 libuv 的回调,从而作为引擎 Loop,然后再循环。

关于 ArkUI 线程与 TuanjieMain 线程的交互,大家一定要注意 ArkUI 线程消息处理是在 threadWorker.onmessage;TuanjieMain 线程消息处理要去找到 workerPort.onmessage。如果从 ArkUI 线程发消息到 TuanjieMain 线程,需要 threadWorker.postMessage;反过来 TuanjieMain 线程到 ArkUI 线程是 workerPort.postMessage。线程之间的交互基本就是通过 postMessage 去处理,消息的接收也是通过 onMessage 的回调进行处理。

在 Worker 里面有比较多的注意事项:

  1. Worker 创建后需要手动管理生命周期,且 TS 里面最多同时运行的 Worker 子线程数量为 8 个;

  2. 由于不同线程中上下文对象是不同的,因此 Worker 线程只能使用线程安全的库;

  3. 因为线程之间只能通过 postMessage 进行交互,序列化传输的数据量大小限制为 16MB;

  4. 使用 Worker 模块时,需要在主线程中注册 onerror 接口,否则当 worker 线程出现异常时会发生 jscrash 问题。

引擎跨语言交互

引擎跨语言交互部分,首先 OH 使用 Node-API 实现跨语言交互。在 ArkTs/JS 侧只需要 import 一个对应的 so 库后,即可调用 C++ 方法。我们只需要在 TS 代码中 import tuanjie from ‘libtuanjie.so'; 然后调用 tuanjie.nativeOnResume(),是让引擎从后台回前台的接口。nativeOnResume 就会 call 到 C,C 侧的实现则是通过 RegisterModule 把 napi 的 module 丢到 TS,并且 module name 叫 tuanjie。里面有一个 register function 叫 JSI_onLoad。

右侧展示所有的这些代码就是我们把 C++ 接口暴露到 TS 接口的 API,我们绝大多数接口都是用 Native 开头的。如果大家在操作 TS 代码的时候,想知道哪些会调用到 C++ 内层去,只需要知道 Native 开头的基本都是调到 C++ 里面去。其中可能会有一些特别的如 Tuanjie.SendMessage,是为了和原来的 Unity.SendMessage 保持一致,没有把 Native 放在前面。

C++ 与 TS 是通过 Node-API 进行交互的,接下来如果要使用 C# 怎么进行 TS 的交互呢?首先 C# 调用 TS 接口,我们提供了很多的 OpenHarmony 的 js object, js class 等等 C# 接口,这些接口的执行都是在 TuanjieMain 线程里面的。当我们在 C# 中调用我们提供的 OpenHarmony js object 的接口时,它是从 C# 的 API 到了 C++ 内层,就会经过 Node-API,再到 TS API。

如果从 TS 调用 C# 接口,我们通过 import tuanjie from ‘libtuanjie.so' 直接调用 tuanjie.TuanjieSendMessage()TS 把信息发送到 C# 端。实际上是在 C++ 里面导出了 tuanjie.TuanjieSendMessage 的接口到 TS 层,从 C++ 回到 scripting的API,再回到 C#。需要注意的一点是,目前 C# call TS 目前所有的执行都还在 TuanjieMain 线程里面,但是如果是 TS 调用 C# 接口可以在任意线程,因为 TuanjieSendMessage 是线程安全的,会把来自不同线程的消息先放在消息堆中,等引擎每一个 loop 在走的时候才会把消息拿出来进行处理。

以上是我对 OpenHarmony 工程的分析,希望大家从今天的分享中可以了解引擎整体目录是什么样的、整个线程之间是怎样的关系,特别是在做 C# 和 TS 交互的时候,大家一定要注意线程之间交互的区别。

今天的分享就到这里,谢谢大家!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/56324.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

smbms项目(1)

目录 一、项目搭建准备工作 二、登录功能实现 三、注销功能实现 四、登录拦截实现 一、项目搭建准备工作 1、搭建一个maven web项目 2、配置Tomcat 3、测试项目是否能够跑起来 4、导入项目中会遇到的jar包(servlet、jsp、mysql驱动、jstl、standard&#xf…

python+大数据+基于Spark的共享单车数据存储系统【内含源码+文档+部署教程】

博主介绍:✌全网粉丝10W,前互联网大厂软件研发、集结硕博英豪成立工作室。专注于计算机相关专业毕业设计项目实战6年之久,选择我们就是选择放心、选择安心毕业✌ 🍅由于篇幅限制,想要获取完整文章或者源码,或者代做&am…

Golang | Leetcode Golang题解之第464题我能赢吗

题目&#xff1a; 题解&#xff1a; func canIWin(maxChoosableInteger, desiredTotal int) bool {if (1maxChoosableInteger)*maxChoosableInteger/2 < desiredTotal {return false}dp : make([]int8, 1<<maxChoosableInteger)for i : range dp {dp[i] -1}var dfs …

浙江省发规院产业发展研究所调研组莅临迪捷软件考察调研

2024年10月10日下午&#xff0c;浙江省发展与规划院产业发展研究所调研组一行莅临迪捷软件考察调研&#xff0c;绍兴市府办、区发改、区经信、迪荡街道等相关领导陪同。 调研组一行参观了迪捷软件的展厅与办公区&#xff0c;深入了解了迪捷软件的公司发展历程、运营状况、产品…

【论文#码率控制】ADAPTIVE RATE CONTROL FOR H.264

目录 摘要1.前言2.基本知识2.1 蛋鸡悖论2.2 基本单元的定义2.3 线性MAD预测模型 3.GOP级码率控制3.1 总比特数3.2 初始化量化参数 4.帧级码率控制4.1 非存储图像的量化参数4.2 存储图像的目标比特 5.基本单元级码率控制6.实验结果7.结论 《ADAPTIVE RATE CONTROL FOR H.264》 A…

第J5周:DenseNet+SE-Net实战(TensorFlow版)

>- **&#x1f368; 本文为[&#x1f517;365天深度学习训练营]中的学习记录博客** >- **&#x1f356; 原作者&#xff1a;[K同学啊]** &#x1f4cc; 本周任务&#xff1a; ●1. 在DenseNet系列算法中插入SE-Net通道注意力机制&#xff0c;并完成猴痘病识别&#xff0…

Mysql(八) --- 视图

文章目录 前言1.什么是视图&#xff1f;2.创建视图3. 使用视图4. 修改数据4.1.注意事项 5. 删除视图6.视图的优点 前言 前面我们学习了索引&#xff0c;这次我们来学习视图 1.什么是视图&#xff1f; 视图是一个虚拟的表&#xff0c;它是基于一个或多个基本表或其他视图的查询…

Java:玩家打怪小游戏

今天&#xff0c;我们尝试用Java来做一个“打怪小游戏”&#xff0c;听名字就知道&#xff0c;我们是应该创建几个成员和怪物&#xff0c;还有知道知道成员和怪物的血量&#xff0c;一次攻击的伤害等等。。当然我们的游戏攻击模式是“回合制”&#xff08;其实是别的方法&#…

Element-ui官方示例(Popover 弹出框)

Element-ui官方示例&#xff08;Popover 弹出框&#xff09;&#xff0c;好用的弹出框。 使用 vue-cli3 我们为新版的 vue-cli 准备了相应的​Element 插件​&#xff0c;你可以用它们快速地搭建一个基于 Element 的项目。 使用 Starter Kit 我们提供了通用的项目模版&#…

SQLAlchemy入门:详细介绍SQLAlchemy的安装、配置及基本使用方法

SQLAlchemy是一个流行的Python SQL工具包和对象关系映射&#xff08;ORM&#xff09;框架&#xff0c;它为开发人员提供了一种高效、灵活的方式来与数据库进行交互。本文将详细介绍SQLAlchemy的安装、配置及基本使用方法&#xff0c;并通过代码示例和案例分析&#xff0c;帮助新…

数据使用方法:

MySQL的存储引擎&#xff1a; 存储引擎的类型 MyISAM、InnoDB 、Memory、CSV等9种。 设置表的存储引擎&#xff1a; 数据表的存储位置 将查询结果插入新表 更新数据&#xff1a; 数据更新 更新数据记录 UPDATE 表名SET 字段1值1,字段2值2,...,字段n值 n [WHERE 条件]; 示例&a…

论文笔记:Pre-training to Match for Unified Low-shot Relation Extraction

论文来源&#xff1a;ACL 2022 论文地址&#xff1a;https://aclanthology.org/2022.acl-long.397.pdf 论文代码&#xff1a;https://github.com/fc-liu/MCMN &#xff08;笔记不易&#xff0c;请勿恶意转载抄袭&#xff01;&#xff01;&#xff01;&#xff09; 目录 A…

pnpm报错 cannot find package xxx,有的电脑正常运行,只有这个的电脑报错

pnpm build报错 cannot find package xxx&#xff0c;有的电脑正常运行&#xff0c;只有这一个报错 在网上查找各种资料发现是项目在电脑里的目录层级比较深导致的。 问题&#xff1a;在 Windows 系统上&#xff0c;文件路径过长&#xff08;超过 260 个字符&#xff09;可能…

VMware设置虚拟机与物理机在同一网段

1、设置虚拟网络编辑器 打开VMware编辑中的“虚拟网络编辑器...”菜单 将桥接模式选择为物理机的网卡。 2、设置虚拟机的网络适配器 打开“虚拟机|设置...”菜单&#xff0c;按下图设置。 3、查看Ubuntu的IP地址 输入命令&#xff1a; ip addr show 可查看ip地址是否与物…

2020前端面试 - JavaScript2.0篇

前言&#xff1a; 个人觉得面试其实是一个自我学习的过程&#xff0c;如果说短时间内找不到工作&#xff0c;那一定是你面的还不够多&#xff0c;不要气馁&#xff0c;不要放弃&#xff0c;在心底告诉自己&#xff0c;下一次面试&#xff0c;再下一次面试&#xff0c;一定能够拿…

基于Matlab使用蚁群算法寻找最优路径

基于Matlab使用蚁群算法寻找最优路径 与Dijkstra算法使用相同的地图。 每只蚂蚁都从起点出发&#xff0c;直到抵达终点。这与Example5_1.m 中解决旅行商问题不一样&#xff0c;旅行商问题中每一代的蚂蚁都是随机从一个节点出发。 文件说明 Example5_1.m 简单对参考资料2中的…

路由器原理和静态路由配置

一、路由器的工作原理 根据路由表转发数据 接收数据包→查看目的地址→与路由表进行匹配找到转发端口→转发到该端口 二、路由表的形成 它是路由器中维护的路由条目的集合&#xff0c;路由器根据路由表做路径选择&#xff0c;里面记录了网段ip地址和对应下一跳接口的接口号。…

uniapp学习(004-2 组件 Part.2生命周期)

零基础入门uniapp Vue3组合式API版本到咸虾米壁纸项目实战&#xff0c;开发打包微信小程序、抖音小程序、H5、安卓APP客户端等 总时长 23:40:00 共116P 此文章包含第31p-第p35的内容 文章目录 组件生命周期我们主要使用的三种生命周期setup(创建组件时执行)不可以操作dom节点…

最新CSS入门总结

CSS&#xff08;层叠样式表&#xff09;是一种用于网页样式设计的语言&#xff0c;它通过为 HTML 标签添加样式来控制网页的外观和布局。CSS 可以设置元素的颜色、字体、间距、对齐方式等&#xff0c;还可以用于创建响应式设计&#xff0c;以适应不同设备的屏幕尺寸。CSS 是前端…

再给我两分钟,我能教会你使用 nvm 一键搞定node 和 npm

1. nvm简介 NVM&#xff08;Node Version Manager&#xff09;是Node.js的版本管理工具&#xff0c;它允许用户在同一台机器上安装和管理多个Node.js版本。这对于需要在不同项目之间切换Node.js版本的开发者来说非常有用&#xff0c;因为不同的项目可能依赖于不同版本的Node.js…