《从Sora看多模态大模型发展》的研报来自浙商证券,写于2024年2月。
这篇报告主要探讨了多模态大模型的发展趋势,特别是OpenAI发布的视频生成模型Sora,以及其对行业发展的影响。以下是报告的核心内容概述:
- Sora模型的发布:
- OpenAI于2024年2月16日发布了视频生成模型Sora,该模型能够生成长达1分钟、不同宽高比和分辨率的视频和图片。
- Sora基于Diffusion Transformer技术,结合了视频压缩网络、潜空间patch、直接在原始大小训练和重新标注技术,能够处理图像和视频输入,实现多种视频生成和编辑功能。
视频压缩网络(Video compression network):减少视觉数据维度。输入原始视频,输出一个在时间和空间上都压缩了的潜在空间。Sora在这个压缩后的潜在空间中进行训练。(同时训练了一个解码器将生成的潜在表征转回原像素空间)
潜空间patch(Spacetime latent patches ):类比Transformer tokens,推理时通过在合适大小的网格中随机初始化patch控制生成视频的大小。
直接在原始图片的大小上训练:过去往往将视频或者图片压缩到固定大小(比如4秒钟、分辨率256*256),Sora直接在原始素材规格上训练。
为视频训练素材生成详细字幕和标注:Re-captioning technique字幕自动生成。首先训练一个能生成详细描述的标注模型,然后用它为训练集中的视频生成文本说明。DALL E3中已经使用过,使用GPT将简短prompt转化为详细说明,这些说明会被输入到视频模型中。这可以增强文本理解能力,可以提高文本的保真度和视频的整体质量,使得Sora能够生产准确遵循用户提升的高质量视频。
Sora核心能力:3D一致性、物体持久性、世界交互、模拟数字世界
Sora模型的局限性:虽然能模拟一些基础物理互动,比如玻璃的碎裂,但还不够精确;
其他相互作用,比如吃食物,并不总是能产生物体状态的正确变化;
长视频中存在逻辑不连贯,或者物体会无缘无故出现的现象。
- 多模态大模型的商业化前景:
- 国内外厂商如谷歌、字节跳动等也在布局多模态大模型领域,预计2024年文生视频将进入商业化探索阶段。
- 高质量数据和底层通用大模型是文生视频能力的关键因素,随着技术的进步,文生视频在时间长度、画面清晰度和内容逼真程度等方面有望实现显著提升。 - 全球视频内容市场的潜力:
- 据数据显示,2025年全球数字视频内容市场规模有望达到3271.9亿美元,2021-2025年复合年增长率约为13.7%。
- 海外已有Synthesia、Runway等厂商在文生视频领域形成成熟商业方案,应用于企业产品介绍、操作指南、客户服务等场景。 - 建议关注的标的公司:
- 大模型厂商:科大讯飞、云从科技、微软、谷歌。
- 多模态应用厂商:万兴科技、虹软科技、焦点科技、Adobe。
公司名称 | 代码 | AI+视频相关业务/产品 |
---|---|---|
科大讯飞 | 002230.SZ | 国产大模型龙头,多模态领域技术积累深厚 |
海康威视 | 002415.SZ | 研发视觉多模态大模型 |
大华股份 | 002236.SZ | 自研大华星汉大模型 |
云从科技-UW | 688327.SH | 国内CV领域龙头厂商之一 |
焦点科技 | 002315.SZ | AI外贸虚拟人视频助手 |
虹软科技 | 688088.SH | 视觉AI开放平台 |
万兴科技 | 300624.SZ | AI视频领域龙头,“天幕”大模型 |
国投智能 | 300188.SZ | AI视频图像鉴真工作站 |
当虹科技 | 688039.SH | AI智能视频解决方案 |
网达软件 | 603189.SH | 积极推动“大视频+AI"在垂直领域的布局 |
丝路视觉 | 300556.SZ | 子公司是视频染技术龙头 |
商汤-W | http://0020.HK | “日日新SenseNova"大模型 |
拓尔思 | 300229.SZ | 并面向媒体、金融、政务领域、拓天大模型 |
汉王科技 | 002362.SZ | 笔智能交互、NLP技术、大数据处理、智能人机交互、垂直领域大模型 |
- 风险提示:
- AI技术迭代不及预期的风险。
- AI商业化产品发布不及预期的风险。
- 政策不确定性带来的风险。
- 下游市场不确定性带来的风险。
报告还详细分析了多模态AI的核心技术环节、Sora模型的技术路线和应用案例,以及国内外其他厂商的AI视频生成算法及工具。此外,报告对AIGC在视频领域的商业化现状与展望进行了探讨,并预测了千亿级数字视频生成市场的未来潜力。