微软Copilot+ PC:Phi-Silica

大模型技术论文不断,每个月总会新增上千篇。本专栏精选论文重点解读,主题还是围绕着行业实践和工程量产。若在某个环节出现卡点,可以回到大模型必备腔调重新阅读。而最新科技(Mamba,xLSTM,KAN)则提供了大模型领域最新技术跟踪。若对于如果构建生成级别的AI架构则可以关注AI架构设计专栏。技术宅麻烦死磕LLM背后的基础模型。

Phi-3-Silica

昨日微软宣布推出一种新的、更微型的小语言模型 (SLM) Phi-3-Silica,专为Copilot+ PC设计。Copilot+ PC本身配备强大神经处理单元 (NPU) 的个人计算机,能够应付AI计算。基于Windows的Phi-3-Silica仅仅拥有3B参数,是Phi-3系列中最小的。

Phi-3的特点显著:

  • 快速高效:以每秒 650 个令牌的速度处理信息,低功耗(1.5 瓦)。

  • 利用 NPU:Phi-3-Silica利用NPU执行特定任务,从而释放PC的其他计算资源。

  • 支持本地部署:Phi-3-Silica直接在Copilot+ PC上运行,无需依赖互联网连接,从而可能提高隐私性和响应能力。

  • 生态开放:三方开发人员可以利用 Phi-3-Silica为Windows生态系统创建新颖且用户友好的应用程序。

  • 增强体验:Phi-3-Silica和Copilot+ PC的动态组合有望彻底改变用户工作习惯与提升效率。

值得一提的是微软提供了有关Windows Copilot运行时的具体工作原理。该运行时包括一个 API 库,开发人员可以利用这些 API 来开发应用程序,并提供 AI 框架和工具链,供开发人员在 Windows 上发布自己的模型。

“Windows Copilot 库由随时可用的 AI API 组成,例如 Studio Effects、实时字幕翻译、OCR、Recall with User Activity 和 Phi Silica,这些 API 将于 6 月向开发人员提供,”Windows 和 Surface 主管 Pavan Davuluri 解释道。

开发人员将能够使用Windows Copilot库将Studio Effects、滤镜、肖像模糊和其他功能集成到他们的应用程序中。Meta正在将Windows Studio效果添加到WhatsApp中,这样您就可以在视频通话期间获得背景模糊和目光接触等功能。即使是实时字幕和新的人工智能翻译功能也可以被开发人员使用,几乎不需要任何代码。

微软昨天展示了其Recall AI 功能,允许 Copilot Plus PC记录和存储用户在 PC 上所做的一切,以便您可以回忆记忆并通过时间线进行搜索。这一切都由一个新的 Windows 语义索引提供支持,该索引于本地存储。

Davuluri 表示:“我们将为使用 Vector Embeddings API 的开发人员提供此功能,以便他们在自己的应用程序中以及应用程序数据中构建自己的矢量存储和 RAG。”

功能场景

Phi-Silica轻量且能够高效在设备上运行,基于其的应用可以提高PC的生产力、改善用户体验和隐私保护。

  • 功能有限的离线语音助手:在本地执行基本语音命令或回答简单问题,无需将数据发送到云端。

  • 设备上的情绪分析:在本地分析电子邮件或文档的语气,以在不损害隐私的情况下获得见解。

  • 安全语音搜索:使用完全在设备上处理的语音命令在本地文件或数据库中进行搜索。

  • 为视障用户提供文本到语音转换:Phi-Silica 可以大声朗读网页或文档上的文本,从而增强视障用户的可访问性。

  • 音频和视频实时字幕:无需访问互联网即可生成媒体文件字幕,从而提高聋哑或听力障碍用户的可访问性。

  • 个性化的语言学习工具:Phi-Silica 可以在学习应用程序中提供词汇建议或实时翻译等功能,为设备上的语言学习提供帮助。

  • 实时语言翻译:无需互联网连接即可即时翻译文档、标题或对话。

  • 离线理解:即使在没有网络的情况下也能保证正确书写或在本地总结长文档或文章,让用户快速掌握要点。

  • 智能听写和语音识别:Phi-Silica 可以为听写软件提供支持,该软件可以理解上下文并在本地纠正错误,从而提高准确性和速度。

后话

Phi Silica从Phi-3-mini(3.8B )、Phi-3-small(7B )、Phi-3-medium(14B )以及最近推出的宣布Phi-3-vision(4.2B)中脱颖而出,成为首个登录Windows最先进SLM,标志着将 AI 功能直接带给最终用户。

Phi Silica的推出紧随微软 Copilot+ PC发布之后,该发布承诺提供配备专用 AI 处理器的 Windows PC。首批 Copilot+ PC 将于 6 月中旬上市,将采用高通基于 Arm 的Snapdragon X Elite和Plus芯片。微软和主要 PC 制造商预计将在整个夏季推出这些支持 AI 的笔记本电脑。英特尔也在开发自身的Copilot+ PC 理器,代号为Lunar Lake,计划于 2024 年第三季度发布。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/840513.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C++入门:从C语言到C++的过渡(2)

目录 1.缺省参数 1.1缺省参数的概念 1.2缺省参数的分类及使用 1.3注意点 2.函数重载 2.1函数重载的定义 2.2函数重载的情况分类 2.3注意 2.4函数名修饰规则 3.引用 3.1引用的概念 3.2注意事项 3.3常引用 4.4引用的使用场景 4.4.1作为函数的参数 4.4.2做函数返回…

【学习笔记】Windows GDI绘图目录

题外话 不知几时开始,觉得学习过程中将内容记录下来,有助于加强记忆,还方便后续查找,顺便帮助有需要的人,更有来自您阅读、点赞、收藏和评论时给我带来的动力与兴奋。 目录 【学习笔记】Windows GDI绘图(一)图形概述…

B站大数据分享视频创作300天100+原创内容4000+粉

以今年五一作为一个里程碑参考点,给明年一个可以比较的数据。 我正经发力创作是2023.06.17 (前面几个视频是试水),300天不到一年时间 创作了100原创数据相关视频,创作频率应该很高了,收获了下面几个数字,审视自身&…

如何建设高效的外贸自建站?

建设高效的外贸自建站,首先要从明确目标和受众开始。了解你的目标市场和潜在客户是关键,这样你可以有针对性地进行设计和内容创作。站点的设计应该简洁明了,导航要方便,确保访客户能够快速找到所需的信息。 而内容是网站的核心。…

Java基础的语法---String

Java的String类是不可变的,意味着一旦创建,其值就不能被改变。String类提供了丰富的API来操作字符串。 以下是一些常用的方法: 构造方法: 有以下几种常见的: public class stringlearn {public static void main(S…

ATmega328P加硬件看门狗MAX824L看门狗

void Reversewdt(){ //硬件喂狗,11PIN接MAX824L芯片WDIif (digitalRead(11) HIGH) {digitalWrite(11, LOW); //低电平} else {digitalWrite(11, HIGH); //高电平 }loop增加喂狗调用 void loop() { …… Reversewdt();//喂狗 }

从0到1!得物如何打造通用大模型训练和推理平台

1.背景 近期,GPT大模型的发布给自然语言处理(NLP)领域带来了令人震撼的体验。随着这一事件的发生,一系列开源大模型也迅速崛起。依据一些评估机构的评估,这些开源模型大模型的表现也相当不错。一些大模型的评测情况可…

佩戴安全头盔监测识别摄像机

佩戴安全头盔是重要的安全措施,尤其在工地、建筑工程和工业生产等领域,安全头盔的佩戴对于工人的生命安全至关重要。为了更好地管理和监控佩戴安全头盔的情况,监测识别摄像机成为了一项重要的工具。监测识别摄像机可以通过智能技术监测并记录…

JavaScript-数组的增删改查

数组的操作一共有四种: 查询数组数据修改数组中元素的值数组添加新的数据删除数组中的元素 数组的初始化 有些编程语言的数组初始化是用{}包着的,而JS的数组初始化用[] let num[2,6,1,77,52,25,7]; 数组的查询 想要具体查询数组中的某个元素 可以用数…

项目9-网页聊天室7(消息传输模块之解决之前存在的问题:获取最后一条消息)

1.服务器中转的原因 IPV4不够用 (1)使用服务器中转,最大原因, 就是 NAT 背景下,两个内网的设备无法直接进行通信(不在同一个局域网内) (2)另外一个原因,通过服务器中转,是更容易在服务器这里记录历史消息随时方便咱们来查询历史记…

C语言实现Hash Map(2):Map代码实现详解

在上一节C语言实现Hash Map(1):Map基础知识入门中,我们介绍了Map的基础概念和在C中的用法。但我写这两篇文章的目的是,能够在C语言中实现这样的一个数据结构,毕竟有时我们的项目中可能会用到Map,但是C语言库中并没有提…

C语言学习笔记之指针(一)

目录 什么是指针? 指针和指针类型 指针的类型 指针类型的意义 指针-整数 指针的解引用 指针 - 指针 指针的关系运算 野指针 什么是野指针? 野指针的成因 如何规避野指针? 二级指针 什么是指针? 在介绍指针之前&#…

第十五届“北斗杯”全国青少年空天科技体验与创新大赛安徽赛区阜阳市解读会议

5月19日,第十五届“北斗杯”全国青少年空天科技体验与创新大赛安徽赛区阜阳解读活动在阜阳市图书馆隆重举行。共青团阜阳市委员会学少部副部长丁晓龙、阜阳市师范大学物理系副主任黄银生教授、安徽科技报阜阳站站长李伟、市人工智能学会秘书长郭广泽、“北斗杯”安徽…

【开发 | 环境配置】解决 VSCode 编写 eBPF 程序找不到头文件

问题描述: 在使用 vscode 编写 eBPF 程序时,如果不做一些头文件定位的操作,默认情况下头文件总是带有“红色下划线”,并且大部分的变量不会有提示与补全。 在编写代码文件较小时(或者功能需求小时)并不会…

开放式耳机什么牌子好用?五大高分力作安利,不容错过!

​开放式耳机如今备受瞩目,其独特的不入耳设计不仅避免了长时间佩戴对耳道的压力,还维护了耳朵的卫生健康,特别受运动爱好者和耳机发烧友青睐。然而,市场上的开放式耳机品质良莠不齐,让许多消费者在选择时陷入困惑。作…

嵌入式全栈开发学习笔记---C语言笔试复习大全20

目录 指针数组 数组指针 指针和二维数组 通过指针访问二维数组 通过数组指针访问二维数组 用指针表示二维数组并访问 地址等级 0级地址: 一级地址: 二级地址: 三级地址: 总结 指针的指针 命令行参数 上一篇复习了指…

路由_传递params参数和query参数

传递params参数 传递params参数可以直接在路径后面加上参数: 上述就是在路径变化的时候传过去三个值分别为哈哈、嘿嘿、呵呵的参数 但是这样的话会被认为三个参数是路径的一部分,计算机没有办法区分哪些是路径哪些是参数,所以首先要在这条路…

React useState数组新增和删除项

在React中,我们可以使用useState钩子来管理组件的状态,其中包括数组。如何在React函数组件中对数组进行增加和删除项的操作? 新增项时:我们可以对原数组进行解构,并把新增项一起加入到新数组; 删除项时&…

LeetCode 264 —— 丑数 II

阅读目录 1. 题目2. 解题思路3. 代码实现 1. 题目 2. 解题思路 第一个丑数是 1 1 1,由于丑数的质因子只包含 2 、 3 、 5 2、3、5 2、3、5,所以后面的丑数肯定是前面的丑数分别乘以 2 、 3 、 5 2、3、5 2、3、5 后得到的数字。 这样,我…

电脑同时配置两个版本mysql数据库常见问题

1.配置时,要把bin中的mysql.exe和mysqld.exe 改个名字,不然两个版本会重复,当然,在初始化数据库的时候,如果时57版本的,就用mysql57(已经改名的)和mysqld57 代替 mysql 和 mysqld 例如 mysql -u root -p …