SceneXplain 是一个由多模态 AI 驱动的产品服务，它不仅 提供一流的图像和视频标注解决方案，还具备卓越的多模态视觉问答能力，为用户解锁视觉内容的全新维度。
在[《图像描述算法排位赛》中，我们探讨了图像描述（Image Caption）算法如何能够解码和诠释复杂的视觉信息。这些算法不仅仅地告诉你“图中有一个苹果”，更能深入到场景的分析，描述为“一个洒满阳光的窗台上，熟透的红苹果鲜艳而饱满，散发着诱人的甜香”。
为了进一步优化用户体验，SceneXplain 最近进行了一次重大产品升级，推出了全新的 Hearth（炉边）算法。在新算法的加持下，每张照片都仿佛被注入生命，成为了一个个微型的、充满故事性和情感深度的电影短片。
只需要上传一张照片，即可生成高度相关的人物和故事，包括分镜头、旁白、脚本…
在短视频盛行的时代，Hearth 算法就是为了重新点燃我们对这些“静态记忆”的热爱而设计的。它不仅使图像“说话”，分享它们背后的故事，以及承载的艺术、历史和个人记忆。这是一种从静态到动态，从视觉到听觉的革新。
📎 直接上手体验：scenex.jinaai.cn/a/community
哪些行业可以从 Hearth 算法中受益？
Hearth 算法具有广泛的应用前景，以下几个行业可能尤为受益，下面让我们感受几个实际应用案例：
更多维度的内容创作方式
内容创作者们用文字勾画世界，也总感觉少了点什么，如何让自己的内容独树一帜？有了 Hearth，你可以轻易地让故事加入背景音乐、声效甚至旁白，让读者不仅通过眼睛，也能通过耳朵听到你的世界。
用一张图生成完整的睡前故事音频
更具代入感的视频内容制作
利用 Hearth 算法，一张图片，就能即可创作出高度相关的分镜头和脚本，在前期制作中就融合视觉和音频元素，节省时间的同时，更加生动且更具代入感。
用一张图生成分镜头脚本的文案
互动性更强的营销与广告
在信息爆炸的环境，获取消费者注意力的时间窗口非常有限。Hearth 为品牌将普通的静态广告快速转化为具有深度和情感触触的视频内容，从而更有效地吸引和保留消费者。
用一张图为电影院做一个脑洞大开宣传视频
结合听觉视觉的教育讲述
想象一下，历史教育不再是一堆枯燥的年代和事件，而是一出时空穿越的大戏，Hearth 听觉和视觉的完美结合让每一节课都成为一次探险。
让平面教学插图更加生动
上面的故事不仅编织了一个曲折丰富的故事，还通过生动的人物对话将场景变得栩栩如生。每个人物都被赋予了鲜明的特征和语气，体现了从图像描述中获得的理解深度。
揭秘 Hearth 算法
看到这儿你可能好奇，Hearth 是如何实现这一切的。事实上，我们采用了一种融合 并行与顺序执行策略 的精密架构，以在优化计算性能的同时，生成高度精炼的故事。接下来，让我们将深入探讨该算法的工作机制：
1. 场景理解：不仅看，更要懂
当输入一个图像后，该算法就会同时识别图像的主体和上下文，同时还会从视觉数据中提取潜在的情感和复杂的细节。这些并行的处理流程利用了先进的计算机视觉技术，与我们传统的理解方法相结合，以捕捉图像的本质和微妙之处。
python复制代码def scene_understanding(image_input):subjects_and_contexts = get_subject_and_object(image_input)emotions_and_details = detect_emotions_and_details(image_input)return subjects_and_contexts, emotions_and_details
2. 大型语言模型（LLM）：故事的灵魂
场景理解完后，Hearth 算法会启用大型语言模型（LLM）来构建故事。它会根据从图像中提取的线索，定义故事的角色、环境，以及推导出场景的整体情感和动态。
python复制代码def llm_processing(subjects_and_contexts, emotions_and_details):characters_and_setting = derive_characters_and_setting(subjects_and_contexts)mood_and_dynamics = define_mood_and_dynamics(emotions_and_details)return characters_and_setting, mood_and_dynamics
3. 叙事构建：不仅要说，更要引人入胜
接着，算法会基于上述信息，编织出吸引人的故事和对话。这里会综合考虑角色、环境和情感，生成与所选故事类型匹配的情节和对话。
python复制代码def narrative_construction(characters_and_setting, mood_and_dynamics, genre):storyline = generate_storyline(characters_and_setting, mood_and_dynamics, genre)dialogues = create_dialogues(characters_and_setting, mood_and_dynamics, genre)return storyline, dialogues
4. 旁白情感渲染（SSML）：听得见的情感
为了让故事更加立体，Hearth 算法会为旁白添加相应的情感色彩。这样，你不仅能“听到”故事，更能“感受”到它。
python复制代码def ssml_voiceover_embedding(storyline, dialogues):ssml_output = generate_emotional_ssml(storyline, dialogues)return ssml_output
5. 故事审查和音频生成：最后的检验
最后，我们对生成的故事进行审查，来确保其逻辑连贯性，并保证和原始场景的相关性。审核通过，文本内容将被发送到 Azure 的文本转语音服务，将文本转换为身临其境的音频体验。
python复制代码def audio_generation(ssml_output):reviewed_story = review_narrative(ssml_output)audio_output = azure_tts(reviewed_story)return audio_output
通过以上五个步骤，Hearth 算法成功地把一个简单的图像转变为一个充满情感、有声叙述的故事，同时保留了图像本身的信息和情感。
已知限制
和其他前沿技术一样，它也有一些挑战：
幻觉问题：有时，Hearth 算法会为图片创造出一些实际不存在的细节。比如在一幅风景画，算法却在其中添加了一个从未出现过的小人物。这主要是因为算法在学习过程中看过太多的数据，有时会“想象”出一些内容。不过，我们正在努力修正这一点。
速度问题：要达到很高的准确度，算法需要花费更多的时间。但是，为了让算法运行得更快，我们正在研究如何进行优化，这样它在“讲故事”的时候就不会那么慢了。
内容过于政治正确：我们的算法比较倾向于生成符合公众接受度的内容。如果你需要生成一个恐怖故事，那它可能会避免制作过于惊悚的内容。我们正在努力让它可以根据需求生成更多样的内容，采取更平衡的叙事方法。
作为多模态人工智能的领军者，我们的目标是打造功能强大、用户友好的应用。面对上面的挑战，我们有信心在团队和社区的支持下，逐步去解决好。
读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用
对于0基础小白入门：
如果你是零基础小白，想快速入门大模型是可以考虑的。
一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
资源分享
大模型AGI学习包
资料目录
- 成长路线图&学习规划
- 配套视频教程
- 实战LLM
- 人工智能比赛资料
- AI人工智能必读书单
- 面试题合集
《人工智能\大模型入门学习大礼包》，可以扫描下方二维码免费领取！
1.成长路线图&学习规划
要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。
对于从来没有接触过网络安全的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。
2.视频教程
很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，其中一共有21个章节，每个章节都是当前板块的精华浓缩。
3.LLM
大家最喜欢也是最关心的LLM（大语言模型）
《人工智能\大模型入门学习大礼包》，可以扫描下方二维码免费领取！
