熵最大导致智能?

640?wx_fmt=jpeg

来源:陶勇科学网博客

摘要:20世纪50年代开始,现代宏观经济学在研究经济增长时,发现了一个神秘的变量“技术进步(或者知识)A”,这个变量所带来的经济增长被称作“索洛剩余”。


2010年时笔者在Physical Review E发表了一篇利用统计物理学研究经济系统的文章[1]。文章中,笔者将“经济系统”类比作“热力学系统”,将“人”比作“微观粒子”,从而像统计物理学推导宏观热力学定律那样,也推导出宏观经济学定律。20世纪50年代开始,现代宏观经济学在研究经济增长时,发现了一个神秘的变量“技术进步(或者知识)A”,这个变量所带来的经济增长被称作“索洛剩余”。


有意思的是,一旦将统计物理学方法应用到经济系统,笔者发现这个所谓的“技术进步A”就是经济系统的“熵T”[1],见下面方程(1)。众所周知,物理熵S度量的是一个物理系统的无序程度。而笔者发现经济系统的“熵T”具有类似的性质:经济系统的“熵T”度量一个经济系统中社会成员的“选择自由”[1-2]。简单来说就是,社会成员的“集体选择策略空间”的自由度越大,那么社会的技术进步就会越快。


 T=lnW(N)                                                    (1)


其中W(N)代表社会成员的“集体选择策略空间”中元素的数目,N为社会成员数目。


笔者是2007年10月份左右首次得到方程(1),那时刚刚进入硕士研究生一年级。一开始,笔者感到这个结论很违反直觉,因为熵最大往往被联系到“热寂说”,所以很难想象将熵最大联系到社会的技术进步方向。不过,一想到Shannon将“信息”等同于“熵”,所以方程(1)似乎也有道理:信息增加,从而技术进步。


再后来,笔者接触到国内一个叫做“集智俱乐部”的网站,其中谈到蚂蚁的“群体智能”深深的触动了我。如果把社会的技术进步考虑作人类群体智能的提高,那么智能岂不就是熵最大的结果?按照方程(1),一个有趣的结果跃然纸上:智能就是个体寻求“选择自由”最大化的结果[3]。


方程(1)非常的简洁,笔者妄自揣测它应该符合爱因斯坦对于物理方程的偏爱标准——“方程的美在于优雅和简洁”。大家所知道的质能方程640?wx_fmt=png就是爱因斯坦对方程偏爱的标准。


但是如何利用方程(1)来实现“智能”呢?由于之前笔者不在人工智能领域,所以就放过了。

 

2017年5月一个偶然的原因,笔者在北京大学向几位经济学家介绍熵与技术进步、智能的关系时,为了寻求潜在的证据,上网搜索了“Maximizing Entropy”和“Intelligence”的词条。有趣的是,笔者惊奇的发现2013年哈佛大学的物理学家A. D. Wissner-Gross和夏威夷大学的数学家C. E. Freer在Physical Review Letters发表了一篇名为“因果熵力”的论文[4]。这篇论文按照最大因果熵产生原理的假设推测:一个主体为了确保未来的行动自由而不断尝试,智能行为通常便会在这个过程中自发出现。


什么是“熵力”呢?论文[4]的作者用了一个简单的例子来说明(见图1):粒子在一个盒子内运动,为了保证它可以运动的路径最多(路径选择自由最大),它应该处于盒子中的哪个位置呢?显然,粒子应该前往盒子的中心。这个把粒子从盒子边缘驱动到中心的力就是“熵力”,这个力保证了粒子前往熵最大的状态。粒子受到熵力而引发的行为可以想象为围棋游戏中,一位好的棋手会尽可能地保障更多的行动自由。论文[4]的作者认为这就是智能产生的本质:智能就是主体为了确保未来的行动自由最大化的产物。


640?wx_fmt=png

图1:熵力驱动粒子从边缘向中心运动


为实现利用熵力驱动熵最大化,A. D. Wissner-Gross与他的同事合作开发了一个名为Entropica的软件[5]。Entropica通过模拟熵力来演示复杂的动物与人类行为,比如人类直立行走、工具使用以及社会合作。


这里笔者仅以直立行走一例来说明A. D. Wissner-Gross的想法。A. D. Wissner-Gross利用“推车+木棍”(见图2)的这个系统来模拟人类“从猿到人”的转变。


在“推车+木棍”系统中,木棍最初是(向下)倒悬的,如果给推车“熵力”的作用,最终倒悬的木棍会旋转到(向上)直立的状态。并且木棍会稳定在(向上)直立的状态,这是因为木棍直立起来之后,就有了向下摆动的各种可能性,熵力正是要把系统驱动到未来选择最多的方向上去。


640?wx_fmt=png

图2:熵力驱动木棍从下向上


   图2的视频地址:https://physics.aps.org/articles/v6/46


 A. D. Wissner-Gross想通过这个例子来说明人类直立行走的原因:人类有灵巧的双手,只有直立起来,双腿行走,灵巧的双手才被解放出来做各种事情(见图3),即行动自由更大。从这个意义上来说,熵力推动了这个“进化”的过程,进化的方向正是熵最大的方向。


640?wx_fmt=png

图3:人类直立行走的演化 


目前,A. D. Wissner-Gross利用开发的软件Entropica注册了一个公司。下面是他在TED就“熵最大与智能”所做的一个演讲:


https://www.ted.com/talks/alex_wissner_gross_a_new_equation_for_intelligence

 

将熵最大作为解释智能的产生确实是一个很有吸引力的想法。不仅如此,甚至有人寄希望于利用熵最大来理解生物的进化,即用熵最大的“最可能者幸存”机制替代达尔文的“适者生存”机制[6]。


众所周知,目前人类利用两套不同的理论来描述“演化”[6]。在物理学中,人类利用“无序(熵最大)”来理解物理世界的演化,而在生物学中,人类又利用完全不同的“有序的进化”来理解生物世界的演化。这种天然的演化割裂非常的让人困惑和不自然。


就以熵最大导致智能的例子,人们很容易提出反驳:熵最大代表无序最大,一个很脏的房间里面的微粒混乱到了极点,难道能说这个房间的微粒拥有智能?另外,大脑结构总是进化到“有序”而“复杂”,这与熵最大难道不是矛盾的吗?


这两个问题的确是非常重要的问题。它们其实联系到一个更加根本的问题:


熵最大是否可能导致高度有序的结构?


答案是肯定的。这就是笔者最新的一个工作,下一篇博文将对此作出介绍。


参考文献:


 [1]. Yong Tao, Competitive market for multiple firms and economic crisis, Physical Review E 82 (2010) 036118


[2]. Yong Tao, Spontaneous economic order, Journal of Evolutionary Economics (2016) 26 (3): 467-500


[3]. Yong Tao, Swarm intelligence in humans: A perspective of emergent evolution. Physica A 502 (2018) 436-446


[4]. A. D. Wissner-Gross and C. E. Freer, Causal Entropic Forces. Phys. Rev. Lett. 110 (2013) 168702


[5]. https://www.insidescience.org/news/physicist-proposes-new-way-think-about-intelligence


[6]. J. Whitfield, Survival of the Likeliest? PLoS Biol 5 (2007) e142.


未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

640?wx_fmt=jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/495113.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

快速转 TypeScript 指南

From:https://segmentfault.com/a/1190000040582994 TypeScript 教程:https://www.runoob.com/typescript/ts-tutorial.html TypeScript 入门教程:http://ts.xcatliu.com/ TypeScript 超详细入门教程(上):…

城市大脑建设的3个误区,大脑模型的分歧是关键

作者:刘锋 互联网进化论作者 计算机博士城市大脑是目前智慧城市建设热门的概念,因该说这是一个在中国本土诞生的科技概念和技术模型,作为一个新的领域,城市大脑究竟如何建设,事实上存在了两种不同的发展路径&#xff0…

关于mysql修改密码后的问题

今天心血来潮,把连接mysql的密码改了,wampSever重启后就遇到“phpMyAdmin 试图连接到 MySQL 服务器,但服务器拒绝连接。您应该检查 config.inc.php 中的主机、用户名和密码,并且确定这些信息与 MySQL 服务器的管理员所给出的信息一…

JavaScript 和 typeScript 中的 import、from

From:https://segmentfault.com/a/1190000018249137?utm_sourcetag-newest Github - allowSyntheticDefaultImports should be the default?exports、module.exports和export、export deault到底是咋回事JavaScript 中有多种 export 的方式,而 TypeSc…

深度丨建立合资公司,深度参与运营:详解景驰的无人驾驶生意经

来源:亿欧摘要: 对于景驰科技而言,最终实现商业价值的做法绝对不仅仅是把改装好的无人车卖出高价。在该公司看来,切入无人驾驶需求最旺盛的出租车市场,与出行服务公司、主机厂乃至政府产业基金成立合资公司&#xff0c…

使用SQL Server存储ASP.NET Session变量

创建和配置ASP.NET Session状态数据库在基于NLB(网络负载平衡)环境下的ASP.NET Web应用程序开发,我们需要将Session存储在数据库中供多个Web应用程序调用,以下为配置方法及注意事项。1.创建用于存储ASP.NET Session的数据库&#…

学界 | DeepMind想用IQ题测试AI的抽象思维能力,进展还不错

来源:大数据文摘摘要:抽象理解能力一直是人类引以为豪的智慧来源。阿基米德基于对物体体积的抽象理解,悟到了物体的体积与物体浮力之间的关系。这就是抽象推理的魔力。基于神经网络的机器学习模型取得了惊人的成绩,但是测量其推理…

frida hook so层、protobuf 数据解析

手机安装 app ,设置代理,然后开始抓包。 发现数据没法解密,查看请求的 url 是 http://lbs.jt.sh.cn:8082/app/rls/monitor,使用 jadx 反编译 app 后搜索这个 url(提示:可以只搜索 url 中一部分,…

大数据技术与应用解读及案例分析(PPT)

来源:网络大数据摘要:大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据就是未来的石油。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学…

pywin32库 : Python 操作 windows 系统 API

Python 模块虽多,但也不可能满足所有需求。而且,模块为了便于使用,通常都封装过度,有些功能无法灵活使用,必须直接调用Windows API 来实现。要完成这一目标,有两种办法,一种是使用 C 编写 Pytho…

华为秘密作战计划曝光,重注研发AI芯片挑战英伟达,轮值董事长挂帅

雷刚 问耕 发自 凹非寺 量子位 报道 | 公众号 QbitAI摘要:据报道,对于如何把AI引入所有业务,华为内部已经开启了代号为“达芬奇”的作战计划,并且成为华为高层每月一次讨论会的重点议题,也有不少华为高管以“D项目”来…

Python --- ctypes库的使用

ctypes 的官方文档 英文文档:https://docs.python.org/3/library/ctypes.html中文文档:https://docs.python.org/zh-cn/3.10/library/ctypes.html Python--ctypes(数据类型详细踩坑指南):https://zhuanlan.zhihu.com/p/145165873…

机器学习近年来之怪现象

来源:网络大数据人工智能领域的发展离不开学者们的贡献,然而随着研究的进步,越来越多的论文出现了「标题党」、「占坑」、「注水」等现象,暴增的顶会论文接收数量似乎并没有带来更多技术突破。最近,来自卡耐基梅隆大学…

PySide6 : Qt for Python 教程

Qt for Python 教程:https://doc.qt.io/qtforpython/tutorials/index.html 官方文档示例:https://doc.qt.io/qtforpython/examples/index.html Qt for Python 提供了一系列带有演练指南的教程,以帮助新用户入门。 其中一些文档是从 C 移植到…

PySide6 信号、槽

信号与槽的入门应用(一):https://blog.csdn.net/jia666666/article/details/81774175 信号与槽的再细分(二):https://blog.csdn.net/jia666666/article/details/81774858 信号与槽的高级玩法(三…

芯片业又起波澜!博通189亿美元收购遭质疑,股价一度跌近19%

来源:华尔街见闻摘要:如果说博通上次收购高通面临的最大“对手”是特朗普政府,这次收购CA的“对手”可能是华尔街。如果说博通上次收购高通面临的最大“对手”是特朗普政府,这次收购CA的“对手”可能是华尔街。美东时间周三&#…

JavaScript常用技巧专题五

文章目录 一、使用适当的命名和注释来提高代码可读性二、优雅的写条件判断代码2.1、普通的if else2.2、三元运算符2.3、多个if else2.4、switch case2.5、对象写法2.6、Map写法 三、封装条件语句四、函数应该只做一件事五、Object.assign给默认对象赋默认值六、函数参数两个以下…

HTML 页面的生命周期、HTML 事件

From:https://blog.csdn.net/WuLex/article/details/101016936 1、页面生命周期 HTML页面的生命周期有以下三个重要事件,每个事件都有特定的用途 DOMContentLoaded : 浏览器已经完全加载 HTML,DOM 树已经构建完毕,js …

腾讯再次海选AI项目,1500进40,医疗零售机器人成新风向

雷刚 发自 凹非寺 量子位 报道 | 公众号 QbitAI一年一度风向标,腾讯又一次海选AI项目。去年第一期腾讯AI加速器结业后,鹅厂就马不停蹄开启了第二期报名,而且这一次报名企业更多、竞争更激烈、最终录取概率甚至不到3%。第二期AI加速器通过初试…

The Human Touch 将人工智能和机器人用于病人工作的实际和伦理意义

来源:IEEE电气电子工程师学会摘要:我们生活在一个科幻小说可以很快成为科学事实的时代。在一代人的时间里,互联网已经从技术奇迹变成了实用工具,移动电话重新定义了我们的交流方式。我们生活在一个科幻小说可以很快成为科学事实的…