Hinton的GLOM模型与千脑理论有何本质不同?


来源:AI科技评论

编译 :琰琰

校对 :青暮

Geoffrey Hinton在最新发表的一篇论文“如何在神经网络中表示部分-整体层次结构”中提出了一种被称为GLOM的新理论。

关于GLOM模型与千脑理论( Thousand Brains Theory )之间有何差异近日成了学者们讨论的热点。千脑理论是由Numenta联合创始人、计算机科学家,神经生物学家Jeff Hawkins于2018年提出的一种理解大脑运行机制的新方法。

基于此,Numenta公司近日发表了一则官方博文,文章中研究人员Marcus Lewis 从高层次概述了GLOM模型与千脑理论的共同点和差异。详细内容可见以下视频:

1

什么是千脑理论?

千脑理论( Thousand Brains Theory )是一种感知移动(sensorimotor )理论,它通过模拟大脑皮层的脑回路,提出了一种理解大脑运作过程的新方法。

Vernon Mountcastle 最早提出,皮层柱(Cortical Column)在大脑皮层的每一个功能区域和层级都执行相同的计算。唯一不同的是输入的变化。基于Mountcastle的理论,千脑理论提出,大脑并非构造一个物体的模型,而是平行地构造数千个物体的模型。

皮层柱用不同的感官输入构造模型。比如手掌上的手指可以代表五个不同的输入感官,每一柱对它们所感知到的东西进行投票并得出一种单一解释,这种解释也就是它们协商一致的结果。

这一理论的关键在于,大脑皮层的每一根皮层柱通过移动来学习构造物体的模型。也就是,通过观察我们的感官输入在移动时发生的变化。例如,当我们的眼睛在扫视时,大脑中的皮层柱会不断地预测新的感觉。

该理论还提出,大脑皮层主要处理由每个皮层柱产生的参照系。基于参考系,每一柱可以将感官输入与物体的位置和结构进行关联,例如当你触摸杯子时,你接收到的每个感觉都是相对于它在杯子上的位置进行处理的结果(参考系允许这种情况的发生)。

2

它与GLOM模型有何相似之处?

GLOM模型是建立在Hinton早期的胶囊研究基础之上的。早在2017年,Numenta公司副总裁Subutai Ahmad就分享了他对Hinton胶囊理论与 HTM 感知移动理论之间的看法。

GLOM是一种计算机视觉模型,它提出了一种改善AI理解视觉场景的新方法。与千脑理论类似,它也由大量结构相似的柱子组成。GLOM模型提出,每一柱都由五个不同层次的物体表示组成,并在不同的抽象层次上与特定的位置相关联(例如,当你触摸杯子时,柱的底层会形成一个弯曲边缘的表示,顶层会形成一个杯柄的表示)。Hinton认为,随着时间的推移,每一层级的表示都应该确定下来,即通过投票产生出一致的表示。最终,为物体建模的每一柱都将在顶层解析出物体(如咖啡杯)的一致表示。

由于Hinton的研究符合认知科学,而“千脑理论”是研究大脑皮层的一种模型,因此,Hinton提出的结构同样支持“千脑理论”,这是合乎逻辑的。总结来看,它们之间的相似性包括以下几点:

  • 结构相似的柱和层

  • 每一柱都将感官输入与特定位置相关联

  • 多个柱学习相同物体的表示。

  • 每一柱都学习完整物体的表示。

  • 横向连接用于相邻柱之间物体表示的局部共享

  • 每一列都使用自下而上、自上而下以及横向连接来对所感知物体表示进行投票。

3

GLOM和千脑理论的三大区别

移动

千脑理论的一个关键概念是:大脑皮层通过移动来学习。当我们移动时,大脑皮层会学习到我们周围成千上万个物体的模型。GLOM主要处理“单一且固定的时变图像”,它将视觉视为一系列帧,那么静态图像就是一系列相同的“固定”帧。但我们知道视觉不是静止的,它是一个互动的过程。我们的眼睛每秒可以快速扫视三次,每次扫视大脑的视觉输入都会发生变化。另外,当我们移动时,视觉输入也会随之改变。

可以讲,Hinton的论文并没有涉及感知移动问题,而这是千脑理论的核心组成部分。为了更好地训练GLOM模型识别物体,并解释大脑处理视觉的过程,Hinton可能需要结合移动来分析。

层次

千脑理论提出了一个全新的层次结构概念,而GLOM模型的每一个柱都有传统的特征检测器层次结构。在GLOM中,单个柱能够跨越整个层次结构,因为它的每个层次都表示一个抽象的级别(即层次结构级别);为了学习物体的模型,它通过自下而上和自上而下两种方法传递信息。与之相反,千脑理论中的每一柱都处于一个层次。皮质柱在层次结构、大脑不同区域和感知方式上共同发挥作用。

映射到新皮质

GLOM模型和千脑理论的最大区别在于:GLOM是受大脑启发的,但它并不映射到特定的大脑皮层或者实验性的神经科学。Hinton将其定义为一个计算机视觉问题,他用认知科学来解决“如何使计算机智能化”的问题,他指出,GLOM是受生物学启发而来,但作为一个生物模型,它已经达到了让人难以置信的地步。在这里,Hinton提供了一些GLOM部分的数学描述(非生物回路)。

相比之下,Numenta则将研究界定为一个智力问题,并试图解释“人类为什么是聪明的?”,研究人员的目标是了解大脑的功能和运作过程,并将这些核心原理应用到当今的机器学习系统中。与GLOM不同的是,千脑理论在生物学上是合理的,同时也是受限制的。因为它需要模拟大脑皮层中所有构成智力基础的脑回路的生理结构和细节。

GLOM提供了一种在神经网络中处理和表示视觉信息的创新方法。二者乍一看有相似之处,但归根结底,GLOM与Numenta的“千脑理论”仍有本质上的不同。大脑是目前唯一真正智能的计算机,具有无与伦比的学习和适应能力。要创造真正的智能系统,需要先了解大脑是如何工作的。

原文链接:

https://medium.com/@Numenta/comparing-hintons-glom-model-to-numenta-s-thousand-brains-theory-88ed999ab13d

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/484711.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ThinkPHP3(添加,修改,删除)

实现商品的添加 1、在add.html页面中更改表单元素的名称 Goods控制器的add()方法中获取商品分类 在add.html中循环获取 2、设置提交的位置 3、添加商品代码参见GoodsController.class.php 方法一: $this->redirect();也是跳转 方法二(用cr…

第二章 数据的表示和运算 2.1.1 进位计数制 [计算机组成原理笔记]

第二章 数据的表示和运算 2.1.1 进位计数制 本笔记参考书目&#xff1a; 计算机组成原理&#xff08;第六版.立体化教材&#xff09;白中英、戴志涛2021王道计算机组成原理视频公开课 本节重点&#xff1a; 二进制 <-> 八进制/十六进制十进制 -> 二进制 转载请注明…

重磅!脑机接口突破登Nature封面,脑中“笔迹”转屏幕文字破纪录,准确率超99%...

来源&#xff1a; 物联网之家研究团队将人工智能软件与一款脑机接口设备结合起来&#xff0c;与一名大脑中植入脑机接口设备的瘫痪患者合作&#xff0c;让该患者想象他拿着一支笔&#xff0c;在一张横线纸上“尝试”写字&#xff0c;就像他的手没有瘫痪一样。并将该男子手写意图…

python D28 粘包

一、两种粘包&#xff1a; MTU简单解释&#xff1a; MTU是Maximum Transmission Unit的缩写。意思是网络上传送的最大数据包。MTU的单位是字节。 大部分网络设备的MTU都是1500个字节&#xff0c;也就是1500B。如果本机一次需要发送的数据比网关的MTU大&#xff0c;大的数据包就…

第二章 数据的表示和运算 2.1.2 BCD码 [计算机组成原理笔记]

第二章 数据的表示和运算 2.1.2 BCD码 本笔记参考书目&#xff1a; 计算机组成原理&#xff08;第六版.立体化教材&#xff09;白中英、戴志涛2021王道计算机组成原理视频公开课 本节重点&#xff1a; 8421/2421/余3码 转载请注明文章来源&#xff01; BCD码 BCD&#xff…

世界因数学而改变

来源&#xff1a;数学中国1971年尼加拉瓜发行了十张一套题为“改变世界面貌的十个数学公式”邮票&#xff0c;由一些著名数学家选出十个以世界发展极有影响的公式来表彰。其实不难发现选出的“数学公式”很多都是物理学中的公式&#xff0c;当然正是因为有强大的数学&#xff0…

第一章 计算机网络 4 性能指标 [计算机网络笔记]

第一章 计算机网络 4 性能指标 本笔记参考书目&#xff1a; 计算机网络&#xff08;第8版&#xff09;谢希仁2021王道计算机网络视频公开课 本节重点&#xff1a; 数据率/带宽/吞吐量时延/时延带宽积/RTT/利用率 转载请注明文章来源&#xff01; 速率/数据率 速率&#xf…

数字孪生卫星:概念、关键技术及应用

来源&#xff1a;问空天作者&#xff1a;刘蔚然&#xff0c;陶 飞&#xff0c;程江峰&#xff0c;张连超&#xff0c;易旺民摘 要&#xff1a;在分析卫星产业发展趋势与升级转型新需求后&#xff0c;为推动卫星与新技术融合发展&#xff0c;提升大型卫星工程的整体管理水平与流…

第一章 计算机网络 5 分层结构/协议/接口/服务的概念 [计算机网络笔记]

第一章 计算机网络 5 分层结构/协议/接口/服务的概念 本笔记参考书目&#xff1a; 计算机网络&#xff08;第8版&#xff09;谢希仁2021王道计算机网络视频公开课 本节重点&#xff1a; 分层结构/协议/接口/服务实体/对等实体PCI/SDU/PDU 转载请注明文章来源&#xff01; 分…

机器学习2021 | 机器学习算法如何商业落地?

来源&#xff1a;传感器技术未来十年最火的科技发展方向之一&#xff0c;那就是AI技术&#xff0c;而使其得到迅猛发展的就是机器学习了。机器学习&#xff0c;顾名思义&#xff0c;就是人类定义一定的计算机算法&#xff0c;让计算机根据样本和人为干预&#xff0c;进行归纳和…

运行期优化

前言 在部分的商用虚拟机中&#xff0c;Java程序最初是通过解释器进行解释执行的&#xff0c;当虚拟机发现某个方法或代码块运行特别频繁的时候&#xff0c;就会把这些代码认定为“热点代码”。为了提高热点代码的执行效率&#xff0c;在运行时&#xff0c;虚拟机将会把这些代码…

第一章 计算机网络 6 OSI参考模型 [计算机网络笔记]

第一章 计算机网络 6 OSI参考模型 本笔记参考书目&#xff1a; 计算机网络&#xff08;第8版&#xff09;谢希仁2021王道计算机网络视频公开课 本节重点&#xff1a; OSI参考模型的7层次结构及其功能OSI参考模型数据传输的过程 转载请注明文章来源&#xff01; 计算机网络的…

第二章 数据的表示和运算 2.1.3 字符与字符串 [计算机组成原理笔记]

第二章 数据的表示和运算 2.1.3 字符与字符串 本笔记参考书目&#xff1a; 计算机组成原理&#xff08;第六版.立体化教材&#xff09;白中英、戴志涛2021王道计算机组成原理视频公开课 本节重点&#xff1a; ASCII码/汉字编码字符串在内存中的表示 转载请注明文章来源&…

评阅百篇博士论文后我发现:博士生发SCI越多,通常科研能力越差!

来源&#xff1a;秦四清科学网博客 作者&#xff1a;秦四清多年来&#xff0c;我评阅了上百部博士学位论文&#xff0c;也参加了上百次的博士学位论文答辩会&#xff0c;我和不少老师有一个共同的深刻感受&#xff1a;在攻读博士期间&#xff0c;发表了多篇sci论文的博士生&…

深入分析5nm芯片

来源&#xff1a; 半导体行业观察苹果公司于2020年10月发布了新型智能手机“iPhone 12”系列&#xff0c;搭载的是采用5纳米工艺的全球首个名为“A14 BIONIC”芯片。苹果公司将“A14 BIONIC”芯片应用到了iPhone 12、新款“iPad Air”。2020年11月苹果公司又发布了搭载“Apple …

第二章 数据的表示和运算 2.1.5 汉明(海明)校验码 [计算机组成原理笔记]

第二章 数据的表示和运算 2.1.5 汉明(海明)校验码 本笔记参考书目&#xff1a; 计算机组成原理&#xff08;第六版.立体化教材&#xff09;白中英、戴志涛2021王道计算机组成原理视频公开课 本节重点&#xff1a; 海明&#xff08;Hamming&#xff09;校验码原理和编码方法 …

vivado下创建基本时序周期约束

创建基本时钟周期约束。&#xff08;验证我们的设计能否在期望的频率上运行&#xff09; &#xff08;学习记录&#xff0c;晚一点会做实验传上来的。&#xff09; 时钟基本概念&#xff1a;https://blog.csdn.net/wordwarwordwar/article/details/78259208 时序约束的基本概念…

我国的人工智能芯片的市场规模及发展前景

来源&#xff1a;人工智能实验室图片来源&#xff1a;网络随着深度学习技术的快速发展&#xff0c;以及互联网和云计算时代海量数据和高效计算能力的支撑&#xff0c;计算机视觉技术、语音技术、自然语言理解技术等人工智能技术取得了突破性进展&#xff0c;并解锁多个行业的人…

TiDB 架构及设计实现

一. TiDB的核心特性 高度兼容 MySQL 大多数情况下&#xff0c;无需修改代码即可从 MySQL 轻松迁移至 TiDB&#xff0c;分库分表后的 MySQL 集群亦可通过 TiDB 工具进行实时迁移。 水平弹性扩展 通过简单地增加新节点即可实现 TiDB 的水平扩展&#xff0c;按需扩展吞吐或存储&am…

南洋理工75页最新「深度学习对话系统」大综述论文,最全面概述深度学习对话技术进展...

来源&#xff1a;专知 摘要对话系统是一个流行的自然语言处理(NLP)任务&#xff0c;因为它在现实生活中应用前景广阔。这也是一个复杂的任务&#xff0c;因为涉及到许多需要研究的自然语言处理任务。因此&#xff0c;关于深度学习的对话系统研究的大量工作开展了。在这个综述中…