2023年9月15日,由市科委、中关村管委会,市发展改革委,市经济和信息化局联合指导的2023中关村科学城科创大赛圆满落下帷幕,该项赛事聚焦人工智能大模型,互联网3.0等前沿领域,吸引了国内外近300个优质项目报名。经过初赛、复赛、决赛的层层筛选,冲量在线与智谱华章、深势科技等优秀项目脱颖而出,进入大赛TOP10名单,并荣获优秀项目奖,获得资金及其他人才、空间、投融资、场景建设等多方位的政策支持。
由于大模型对训练数据量有较高依赖,因此在AIGC大模型时代,数据的隐私与安全保护的重要性日益凸显,隐私计算技术与AI算力的深度融合,构建“隐私增强AI算力”成为核心基础设施。
冲量在线打造的业界首个AIGC编排调度和异构加速产品,支持300亿参数大模型在A100/3090/国产GPU等单卡或多卡分布式部署和运行;采用海光、华为和飞腾等国产芯片,打破Intel、Nvidia和Microsoft垄断,采用软硬件结合的隐私计算技术实现性能近乎无损的AI训练和推理。
冲量在线研制的高性能异构隐私计算一体机,受到国产芯片厂商独家支持,提供了国产化自主创新、生产级应用一键适配的能力;国内首个TEE直通DCU的方案,解决AI场景下多方的信任问题。
基于前期软硬结合的隐私计算技术优势,冲量在线在大模型时代下打造了可信AIGC一体机,依托国产高性能算力GPU,极大程度提升AI大模型的训练和推理能力。内置多类开源模型,依托隐私计算和区块链技术,实现AIGC创作全过程都在分布式可信算力网络中完成,任何一方都无法获取用户的创意和作品,为各行业用户提供一站式图文生成服务。
基于隐私增强计算打造的可信MaaS(Model as a Service)服务平台,提供在安全环境下对模型的预训练、微调等,支持各类模型/大模型的安全对外输出和服务,支持模型的黑盒迁移。保证多方参与的训练数据、推理数据以及模型资产都不会对彼此泄露,赋能生成式AI对外服务的多种场景。
标杆案例
Benchmarking Cases
冲量在线打造了首个金融行业生产级案例,实现浦发银行AI模型在隐私安全环境中的SaaS化输出,赋能浦发银行AI能力安全对外输出和共享;与中国电信合作,在其智算中心构建了基于可信执行环境的安全隐私计算平台,依托云化方式输出自主研发的AI模型能力,降本增效、提升算力利用效率;拥有多个部委级案例,为工信部建设隐私计算一体机项目已完成落地,打造公安部的云边协同和数据共享平台,助力政务敏感数据上云场景落地。
隐私计算算力服务是高速发展市场,2021年美国市场容量超20亿美元,且年增长率超过100%,预计到2025年国内市场也将超过100亿元。AIGC行业大爆发带来的数据交易、隐私安全服务以及AI算力的大量需求,将构建千亿级的市场空间,未来,AI算力与隐私计算相结合将成为必然趋势,面对海量的市场空间,冲量在线将持续加快人工智能前沿技术研发,聚焦隐私增强的算力和数据统筹供给,为推进算力基础设施建设做出贡献,共同推动通用人工智能产业落地,进一步加快推动人工智能产业高质量发展。