让大模型更接地气,腾讯交出一份阶段性答卷。
大模型狂奔一年多后,正迈向产业落地的深水区。如何用好这一革命性的新技术,已成为整个社会的一道必答题。
去年,国内大模型百花齐放,外界关注的焦点也集中在模型能力上。而今年,几乎所有大模型从业者都已意识到,大模型的发展不仅要仰望星空,更要脚踏实地。
然而,大模型的产业落地才刚刚开始,仍面临着一系列挑战,包括场景选择、结果准确性、数据保密、落地成本、内容安全等。能否解决好这些问题,将直接决定大模型落地的速度和深度。
因此,在过去半年,各个大模型厂商的工作重点趋于一致,除了不断提升基础模型能力,还集中精力提升大模型的落地能力。而在众多大模型厂商中,腾讯属于跑得较快的代表。
去年9月,腾讯在发布混元大模型时就强调“产业实用”,截至目前,混元已经在腾讯内部600多个业务和场景中落地测试,同时,腾讯推出的行业大模型也已在金融、医疗、教育、汽车、能源等20多个行业落地。
由于积累了丰富的实践经验,腾讯能够更准确地识别大模型落地的痛点。从ToB业务的角度来看,理解并解决这些痛点,将为腾讯带来新的机遇。
5月17日,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,“大模型的打造只是起点,把技术落地到产业场景,创造价值才是目标。腾讯将通过打造高性能的模型、高效率的工具平台、高敏捷的场景应用、高可用的算力基础设施,以及强安全的模型环境,构建离产业最近的AI。”
腾讯集团高级执行副总裁、云与智慧产业事业群CEO 汤道生
混元部分能力追平GPT-4
对大模型来说,由于Scaling law的存在,所以模型能力还尚未看到天花板。正因如此,讨论大模型落地前提,是要保证基础模型能力的领先性。
今年年初,腾讯混元完成了架构升级,从原先的Dense架构升级为MoE(Mixture of Experts)架构,并将模型扩展至万亿级参数规模。
一位大模型技术人士告诉21世纪经济报道记者,MoE架构是一种神经网络架构,它是通过多个专家(Experts)模型来处理输入数据的不同任务。相比Dense架构,MoE架构有两个优势:一是模型参数量更大,可吞吐更多tokens;二是实际激活量较小,可显著降低训练推理成本。
而通过模型架构的升级,腾讯混元整体性能相比上一代Dense模型提升了50%,并且在多轮对话、逻辑推理和数字推理领域的表现也变得更加出色。
5月17日,腾讯集团副总裁蒋杰在腾讯云生成式AI产业应用峰会上表示,腾讯混元大模型经过持续迭代,目前整体性能居国内第一梯队,部分中文能力追平GPT-4。
另外,随着产业信息的载体多元化,模型的需求不仅仅是处理单纯的文字,还需要处理图片、视频等多种信息。这也导致大模型的能力竞争,正在从单一的文生文,拓展到文生图、文生视频、图生图、图生视频等多模态能力。
在多模态方面,腾讯混元大模型目前也已取得不少成果。比如在生图领域,腾讯混元文生图基础架构已全面升级至Sora同款的 DiT 架构,具备了多轮绘图能力;在生视频领域,腾讯混元支持文生视频、图生视频、图文生视频、视频生视频等多种视频生成能力,视频生成长度可达16秒。
提供全链路AI开发工具支持
在对外输出混元大模型的能力时,腾讯提供了多种途径。
首先在腾讯云上,腾讯混元大模型提供了万亿参数hunyuan-pro、千亿参数hunyuan-standard以及百亿参数的hunyuan-lite等多种尺寸的模型服务,企业客户及开发者可以根据自身需求直接通过API调用。
腾讯混元模型服务通过腾讯云对外开放
其中,hunyuan-standard最新上线了支持256k超长上下文窗口的长文模型,具备单次处理超过38万字符的超长文本能力,在长文档的阅读理解和大规模数据分析方面展现出强大性能,能够为金融、医疗、教育、出行等行业的专业人士提供强有力的工作支持,显著提高工作效率。
汤道生表示,许多行业应用厂商在不同行业深耕多年,服务于业务的核心场景。他们在集成了混元大模型、TI-One等工具后,可以为客户带来产业升级的新动能,并打开新的创收机会。
5月17日,腾讯云也正式推出生成式AI生态计划。基于该生态计划,腾讯云将开放全量生成式AI产品,并为行业应用厂商提供PaaS、aPaaS、iPaaS等平台及原子能力,还计划培育千家生成式AI产品的专业服务伙伴。
png)
5分钟开发一款大模型应用
除此之外,为了进一步降低用户使用门槛,5月17日,腾讯还推出三款PaaS产品——“大模型知识引擎”、“大模型图像创作引擎”和“大模型视频创作引擎”。
三大AI引擎工具降低模型应用门槛
腾讯云副总裁、腾讯云智能负责人吴运声向记者表示,要让企业用上大模型以及用好大模型,需要解决三大挑战,分别是降低使用门槛、提高平台适配性和保障安全合规。
其中最关键的就是降低使用门槛。只有进一步降低工具使用门槛,减少对技术人才及专业技术能力依赖,让一线生产、经营人员也能“零门槛”用上大模型,才能加速生产经验与模型技术的融合。
我们这次发布的三款PaaS工具,可以实现数据工程、模型精调、应用开发的流程简化,进而助力企业更高效、简单地将大模型能力应用于生产、销售和服务等场景。
具体而言,大模型知识引擎是聚焦企业知识服务场景,以RAG(检索增强生成)技术架构为基础,整合了OCR文档解析、向量检索、大语言模型、多模态大模型等技术,让企业用自然语言,5分钟就可以开发出一款知识服务应用。
而图像、视频创作引擎,将通过大模型全面提高素材生成效率。比如“图像创作引擎”可为企业客户提供AI写真、线稿生图、图像风格化等能力;“视频创作引擎”可提供视频转译、视频风格化、画布拓展等多种功能。
吴运声向记者表示,过去一年,大模型在落地过程中遇到的一个重要挑战,就是需求和能力匹配的问题。“很多客户对于大模型有很高的预期,业务的很多需求想通过大模型一下子全部解决,这个在现阶段较难实现,还是需要在场景快速验证、分阶段推进”。
面对这一现状,腾讯的思路也十分明确。通过在模型之上构建多层次的能力,包括提供模块化、低门槛的AI工具等,去匹配不同客户的不同需求,进而让更多用户真正用上大模型,实现数据—模型—应用的飞轮效应,让大模型变得可优化,更实用,进而最大程度地放大模型技术生产力。
## 关于AI大模型学习指南
作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
一、全套AGI大模型学习路线
AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!
二、640套AI大模型报告合集
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
四、AI大模型商业化落地方案
2024最新版CSDN大礼包:《AGI大模型学习资源包》免费分享,微信扫码免费领取~