揭秘AI 原生应用技术栈

0830ac53774d270641d7f04e4acb8217.jpeg

 

一次性把“AI 原生应用技术栈”说明白

   

AI热潮持续,厂商努力推动有价值的应用涌现,并打造服务AI原始应用的平台产品。本文精简介绍业界最新的AI原生应用技术栈,让您迅速把握前沿科技脉搏。

整体架构

AI技术栈逻辑图精简呈现,多层架构一览无余。以下详细解析图中①至⑤关键节点,揭示AI原始应用技术的核心魅力。

48355e1a4630c3107e34a31ab427821c.jpeg

① 大模型

AI热潮再起,OpenAI功不可没,ChatGPT展现AGI潜力。当前,GPT 4.0仍领跑大模型技术前沿。云厂商与创业公司纷纷提供模型支持,共同推动AI发展。

  • 国内大模型主要有:
    • RNIE 4.0(文心一言),百度出品
    • 通义千问,阿里出品
    • 盘古大模型,华为出品
    • 星火大模型,科大讯飞出品
    • Baichuan 3,王小川创业公司百川智能
    • abab 6.5,MiniMax出品
    • GLM-130B,智谱 AI
    • Yi-34B,零一万物,李开复老师创业公司
  • 海外大模型主要有
    • GPT 4.0,OpenAI 出品,背后金主爸爸是微软
    • Google Gemini 1.5,刚刚Google next 2024大会发布
    • Claude 3,背后金主爸爸是 AWS
    • Llama-3,meta 开源,开源最强模型

阿里巴巴董事长蔡崇信指出,国内整体实力较海外落后1-2年,国内公司更重模型创新,而海外创业公司更侧重于应用创新。这一差异凸显了国内外商业环境和思路的显著差距。

② Model Builder

f32e596c1fcc372046d8eea963b2f372.jpeg

Model Builder提供大模型部署、精调、推理服务一体化工具链,简化操作,轻松驾驭大型模型应用。

主要还是云厂商提供这块的服务,关于这部分的功能划分不完全一样。

  • 百度智能云Model Builder,实现模型复制、管理、评估与优化,支持一键调用与推理服务部署,高效便捷。
  • AWS Bedrock 负责基础大模型提供服务

199217e954a99acc85cc0fb56a8630d9.jpeg

  • Google Vertex AI,集Model Garden、Model Builder、Agent Builder等功能于一体,铸就强大品牌,为您的AI之旅提供一站式解决方案。
  • Azure 主要有两块服务:
    • OpenAI Service,引领AI前沿,提供GPT4、GPT3.5及卓越embedding等强大模型,助您解锁无限智能可能。
    • Azure AI Studio 第三方模型服务,如Llama

③向量数据库

生成式人工智能的飞跃,催生了大规模预训练模型的繁荣,其中,向量数据库成为关键环节。借助AI和机器学习,非结构化数据如文本、图像和视频,可转化为数学向量。向量数据库专为此而生,高效存储与检索向量数据,实现非结构化信息的精准检索与相似性计算。对大模型而言,它象征着高效与精准的模型应用新纪元。

大模型风潮中,向量数据库厂商备受资本瞩目。荷兰Weaviate获5000万美元B轮融资,美国Pinecone筹集1亿美元B轮融资。这些巨额融资彰显向量数据库领域的炙热关注度,预示着该领域正迎来前所未有的发展机遇。

大语言模型面临知识更新滞后、幻觉生成、行业知识匮乏及安全回答难题。引入向量存储模块作为长期记忆,借助数据反馈与干预,低成本解决上述挑战,显著提升模型性能与准确性。

  • 国内
    • 百度向量数据库
    • 腾讯向量数据库
    • 开源的 milvus(商业产品 zilliz)
  • 海外
    • pinecone

④Agent builder & ⑤App builder

Agent 智能体是个时髦概念,吴恩达最近的预测通过智能设计,用 GPT 3.5 就能达到 4.0 的效果。AI Agent 和大模型的区别在于,大模型与人类之间的交互是基于prompt 实现的,用户prompt 是否清晰明确会影响大模型回答的效果。而AI Agent的工作仅需给定一个目标,它就能够针对目标独立思考并做出行动。从原理上说,AI Agent的核心驱动力是大模型,在此基础上增加规划(Planning)、记忆(Memory)和工具使用(Tool Use)三个关键组件。 

App builder 的范围要更大一些,帮助开发者和应用构建 App,Agent 理论上是一种App。不过现在能直接通过工具就能构建的 App 类型还比较少,前面比较流行的低代码平台,本质也是帮助用户构建企业里面流程管理 App,也是其中一种。

  • 国内典型的有
    • 百度推出Agent Builder,专注于2C领域;同时,App Builder则致力于为企业提供2B解决方案,满足不同业务需求。
    • 字节 coze
    • google 在Vertex AI也包含了 Agent builder
  • 这类的builder 核心提供三个能力
    • 一键发布至各大平台,轻松实现App分发,确保用户轻松下载使用,构建者提供全流程打通能力,助力快速上线。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/22979.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

图形学初识--透视修正

文章目录 前言正文为什么需要透视矫正?1、视图坐标空间--->NDC坐标空间(透视投影)(1)直线:(2)三角形:总结: 2、NDC坐标空间--->屏幕坐标空间&#xff0…

PID控制算法介绍及使用举例

PID 控制算法是一种常用的反馈控制算法,用于控制系统的稳定性和精度。PID 分别代表比例(Proportional)、积分(Integral)和微分(Derivative),通过组合这三个部分来调节控制输出&#…

因子区间[牛客周赛44]

思路分析: 我们可以发现125是因子个数的极限了,所以我们可以用二维数组来维护第几个数有几个因子,然后用前缀和算出来每个区间合法个数,通过一个排列和从num里面选2个 ,c num 2 来计算即可 #include<iostream> #include<cstring> #include<string> #include…

用户反馈解决方案 —— 兔小巢构建反馈功能

目录 01: 前言 02: 用户反馈整体实现方案分析 03: 兔小巢全解析 04: 基于兔小巢实现用户反馈 05: 总结 01: 前言 在前台系统中&#xff0c;用户反馈 功能也是一个非常常见的需求。 通过反馈功能&#xff0c;我们可以知道当前的应用存在的一些不足和用户相应的一些诉求。…

【Linux系统】进程信号

本篇博客整理了进程信号从产生到处理的过程细节&#xff0c;通过不同过程中的系统调用和其背后的原理&#xff0c;旨在让读者更深入地理解操作系统的设计与软硬件管理手段。 目录 一、信号是什么 1.以生活为鉴 2.默认动作与自定义动作 3.信号的分类、保存、产生 二、产生…

蓝桥杯物联网竞赛_STM32L071KBU6_解决脉冲输出频率数值不稳定BUG

问题&#xff1a; 在用脉冲进行做题的时候发现脉冲输出的频率随着脉冲数值增大而越来越不稳定 典型的情况是10000HZ的时候会变成0HZ或者infHZ也就是无穷大 代码&#xff1a; int BEIGNNUMBER 0; int ENDNUMBER 0; unsigned char STATETIM 0; void HAL_TIM_IC_CaptureCal…

ChatGPT-4o抢先体验

速度很快&#xff0c;结果很智能&#xff0c;支持多模态输入输出&#xff0c;感兴趣联系作者

WordPress电脑版+手机版自动识别切换主题插件优化版

下载地址&#xff1a;WordPress电脑版手机版自动识别切换主题插件优化版 插件介绍&#xff1a; 电脑访问自动显示电脑版 手机访问自动显示手机版

FreeRTOS学习笔记-基于stm32(10)事件标志组

一、事件位、事件标志 事件位用来表明某个事件是否发生&#xff0c;事件位通常用作事件标志&#xff0c;就类似标志位。 二、事件标志组 一个事件组就是一组的事件位&#xff0c;就类似一个标志位寄存器&#xff0c;寄存器的每一位都是一个事件标志。与队列&#xff0c;信号量…

电子电器架构 --- 智能座舱技术分类

电子电器架构 — 智能座舱技术分类 我是穿拖鞋的汉子,魔都中坚持长期主义的汽车电子工程师。 老规矩,分享一段喜欢的文字,避免自己成为高知识低文化的工程师: 屏蔽力是信息过载时代一个人的特殊竞争力,任何消耗你的人和事,多看一眼都是你的不对。非必要不费力证明自己,…

3. ChaosBlade-Box平台安装

ChaosBlade-Box平台安装 参考自&#xff1a;https://chaosblade.io/docs/about-chaosblade/box-introduce/ 通过ChaosBlade-Box可实现 chaosblade、litmuschaos 等已托管工具自动化部署&#xff0c;按照社区的建立的混沌实验模型统一实验场景&#xff0c;根据主机、Kubernete…

Java基础29(编码算法 哈希算法 MD5 SHA—1 HMac 算法 堆成加密算法)

目录 一、编码算法 1. 常见编码 2. URL编码 3. Base64编码 4. 小结 二、哈希算法 1. 哈希碰撞 2. 常用哈希算法 MD5算法 SHA-1算法 自定义HashTools工具类 3. 哈希算法的用途 校验下载文件 存储用户密码 4. 小结 三、Hmac算法 小结&#xff1a; 四、对称加密…

js获取blob格式的json对象

我们上传文件时可能会携带某些参数&#xff0c;比如 let formData new FormData() formData.append("data",new Blob([JSON.stringify(this.params)],{type: "application/json }))当我们直接取时发现会取到一个file类型的对象&#xff0c;无法取到值 formDa…

鸿蒙轻内核M核源码分析系列七 动态内存Dynamic Memory

内存管理模块管理系统的内存资源&#xff0c;它是操作系统的核心模块之一&#xff0c;主要包括内存的初始化、分配以及释放。 在系统运行过程中&#xff0c;内存管理模块通过对内存的申请/释放来管理用户和OS对内存的使用&#xff0c;使内存的利用率和使用效率达到最优&#x…

【C++小知识】为什么C语言不支持函数重载,而C++支持

为什么C语言不支持函数重载&#xff0c;而C支持 编译链接过程函数名修饰过程总结 在了解C函数重载前&#xff0c;如果对文件的编译与链接不太了解。可以看看我之前的一篇文章&#xff0c;链接: 文件的编译链接 想要清楚为什么C语言不支持函数重载而C支持&#xff0c;有俩个过程…

FFmpeg中 Scaler 使用文档介绍

描述 在 FFmpeg 中,swscale 是一个用于图像缩放和像素格式转换的库,它是 libswscale 的一部分。这个库提供了一系列的功能,允许开发者在视频处理过程中改变视频帧的尺寸和像素格式。以下是 swscale 的一些关键点: 图像重缩放:swscale 允许开发者对视频帧进行尺寸调整,这在…

大模型Prompt-Tuning技术进阶

LLM的Prompt-Tuning主流方法 面向超大规模模型的Prompt-Tuning 近两年来&#xff0c;随之Prompt-Tuning技术的发展&#xff0c;有诸多工作发现&#xff0c;对于超过10亿参数量的模型来说&#xff0c;Prompt-Tuning所带来的增益远远高于标准的Fine-tuning&#xff0c;小样本甚至…

就在刚刚,雷军又做了个10亿的公司

在新能源的滚滚洪流中&#xff0c;宁德时代犹如一艘扬帆起航的巨轮&#xff0c;凭借其在电池技术领域的卓越表现&#xff0c;稳稳占据了行业的领航地位。近日&#xff0c;宁德时代与小米汽车两大巨头携手合作&#xff0c;共同创建了北京时代动力电池有限公司&#xff0c;注册资…

【保姆级讲解Outlook邮箱的使用技巧】

&#x1f3a5;博主&#xff1a;程序员不想YY啊 &#x1f4ab;CSDN优质创作者&#xff0c;CSDN实力新星&#xff0c;CSDN博客专家 &#x1f917;点赞&#x1f388;收藏⭐再看&#x1f4ab;养成习惯 ✨希望本文对您有所裨益&#xff0c;如有不足之处&#xff0c;欢迎在评论区提出…

Java基础27,28(多线程,ThreadMethod ,线程安全问题,线程状态,线程池)

目录 一、多线程 1. 概述 2. 进程与线程 2.1 程序 2.2 进程 2.3 线程 2.4 进程与线程的区别 3. 线程基本概念 4.并发与并行 5. 线程的创建方式 方式一&#xff1a;继承Thread类 方式二&#xff1a;实现Runable接口 方式三&#xff1a;实现Callable接口 方式四&…