熵最大导致智能?

640?wx_fmt=jpeg

来源:陶勇科学网博客

摘要:20世纪50年代开始,现代宏观经济学在研究经济增长时,发现了一个神秘的变量“技术进步(或者知识)A”,这个变量所带来的经济增长被称作“索洛剩余”。


2010年时笔者在Physical Review E发表了一篇利用统计物理学研究经济系统的文章[1]。文章中,笔者将“经济系统”类比作“热力学系统”,将“人”比作“微观粒子”,从而像统计物理学推导宏观热力学定律那样,也推导出宏观经济学定律。20世纪50年代开始,现代宏观经济学在研究经济增长时,发现了一个神秘的变量“技术进步(或者知识)A”,这个变量所带来的经济增长被称作“索洛剩余”。


有意思的是,一旦将统计物理学方法应用到经济系统,笔者发现这个所谓的“技术进步A”就是经济系统的“熵T”[1],见下面方程(1)。众所周知,物理熵S度量的是一个物理系统的无序程度。而笔者发现经济系统的“熵T”具有类似的性质:经济系统的“熵T”度量一个经济系统中社会成员的“选择自由”[1-2]。简单来说就是,社会成员的“集体选择策略空间”的自由度越大,那么社会的技术进步就会越快。


 T=lnW(N)                                                    (1)


其中W(N)代表社会成员的“集体选择策略空间”中元素的数目,N为社会成员数目。


笔者是2007年10月份左右首次得到方程(1),那时刚刚进入硕士研究生一年级。一开始,笔者感到这个结论很违反直觉,因为熵最大往往被联系到“热寂说”,所以很难想象将熵最大联系到社会的技术进步方向。不过,一想到Shannon将“信息”等同于“熵”,所以方程(1)似乎也有道理:信息增加,从而技术进步。


再后来,笔者接触到国内一个叫做“集智俱乐部”的网站,其中谈到蚂蚁的“群体智能”深深的触动了我。如果把社会的技术进步考虑作人类群体智能的提高,那么智能岂不就是熵最大的结果?按照方程(1),一个有趣的结果跃然纸上:智能就是个体寻求“选择自由”最大化的结果[3]。


方程(1)非常的简洁,笔者妄自揣测它应该符合爱因斯坦对于物理方程的偏爱标准——“方程的美在于优雅和简洁”。大家所知道的质能方程640?wx_fmt=png就是爱因斯坦对方程偏爱的标准。


但是如何利用方程(1)来实现“智能”呢?由于之前笔者不在人工智能领域,所以就放过了。

 

2017年5月一个偶然的原因,笔者在北京大学向几位经济学家介绍熵与技术进步、智能的关系时,为了寻求潜在的证据,上网搜索了“Maximizing Entropy”和“Intelligence”的词条。有趣的是,笔者惊奇的发现2013年哈佛大学的物理学家A. D. Wissner-Gross和夏威夷大学的数学家C. E. Freer在Physical Review Letters发表了一篇名为“因果熵力”的论文[4]。这篇论文按照最大因果熵产生原理的假设推测:一个主体为了确保未来的行动自由而不断尝试,智能行为通常便会在这个过程中自发出现。


什么是“熵力”呢?论文[4]的作者用了一个简单的例子来说明(见图1):粒子在一个盒子内运动,为了保证它可以运动的路径最多(路径选择自由最大),它应该处于盒子中的哪个位置呢?显然,粒子应该前往盒子的中心。这个把粒子从盒子边缘驱动到中心的力就是“熵力”,这个力保证了粒子前往熵最大的状态。粒子受到熵力而引发的行为可以想象为围棋游戏中,一位好的棋手会尽可能地保障更多的行动自由。论文[4]的作者认为这就是智能产生的本质:智能就是主体为了确保未来的行动自由最大化的产物。


640?wx_fmt=png

图1:熵力驱动粒子从边缘向中心运动


为实现利用熵力驱动熵最大化,A. D. Wissner-Gross与他的同事合作开发了一个名为Entropica的软件[5]。Entropica通过模拟熵力来演示复杂的动物与人类行为,比如人类直立行走、工具使用以及社会合作。


这里笔者仅以直立行走一例来说明A. D. Wissner-Gross的想法。A. D. Wissner-Gross利用“推车+木棍”(见图2)的这个系统来模拟人类“从猿到人”的转变。


在“推车+木棍”系统中,木棍最初是(向下)倒悬的,如果给推车“熵力”的作用,最终倒悬的木棍会旋转到(向上)直立的状态。并且木棍会稳定在(向上)直立的状态,这是因为木棍直立起来之后,就有了向下摆动的各种可能性,熵力正是要把系统驱动到未来选择最多的方向上去。


640?wx_fmt=png

图2:熵力驱动木棍从下向上


   图2的视频地址:https://physics.aps.org/articles/v6/46


 A. D. Wissner-Gross想通过这个例子来说明人类直立行走的原因:人类有灵巧的双手,只有直立起来,双腿行走,灵巧的双手才被解放出来做各种事情(见图3),即行动自由更大。从这个意义上来说,熵力推动了这个“进化”的过程,进化的方向正是熵最大的方向。


640?wx_fmt=png

图3:人类直立行走的演化 


目前,A. D. Wissner-Gross利用开发的软件Entropica注册了一个公司。下面是他在TED就“熵最大与智能”所做的一个演讲:


https://www.ted.com/talks/alex_wissner_gross_a_new_equation_for_intelligence

 

将熵最大作为解释智能的产生确实是一个很有吸引力的想法。不仅如此,甚至有人寄希望于利用熵最大来理解生物的进化,即用熵最大的“最可能者幸存”机制替代达尔文的“适者生存”机制[6]。


众所周知,目前人类利用两套不同的理论来描述“演化”[6]。在物理学中,人类利用“无序(熵最大)”来理解物理世界的演化,而在生物学中,人类又利用完全不同的“有序的进化”来理解生物世界的演化。这种天然的演化割裂非常的让人困惑和不自然。


就以熵最大导致智能的例子,人们很容易提出反驳:熵最大代表无序最大,一个很脏的房间里面的微粒混乱到了极点,难道能说这个房间的微粒拥有智能?另外,大脑结构总是进化到“有序”而“复杂”,这与熵最大难道不是矛盾的吗?


这两个问题的确是非常重要的问题。它们其实联系到一个更加根本的问题:


熵最大是否可能导致高度有序的结构?


答案是肯定的。这就是笔者最新的一个工作,下一篇博文将对此作出介绍。


参考文献:


 [1]. Yong Tao, Competitive market for multiple firms and economic crisis, Physical Review E 82 (2010) 036118


[2]. Yong Tao, Spontaneous economic order, Journal of Evolutionary Economics (2016) 26 (3): 467-500


[3]. Yong Tao, Swarm intelligence in humans: A perspective of emergent evolution. Physica A 502 (2018) 436-446


[4]. A. D. Wissner-Gross and C. E. Freer, Causal Entropic Forces. Phys. Rev. Lett. 110 (2013) 168702


[5]. https://www.insidescience.org/news/physicist-proposes-new-way-think-about-intelligence


[6]. J. Whitfield, Survival of the Likeliest? PLoS Biol 5 (2007) e142.


未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

640?wx_fmt=jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/495113.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

JQuery 方法查询大全

From:https://www.cnblogs.com/zengjie123/p/4893546.html jQuery 参考手册 - 选择器:https://www.w3school.com.cn/jquery/jquery_ref_selectors.asp 选择器:https://www.runoob.com/jquery/jquery-ref-selectors.html 一、核心 $ 是 jqu…

数据库中char, varchar, nvarchar的差异

1. char固定长度,最长n个字符。2. varchar最大长度为n的可变字符串。(n为某一整数,不同数据库,最大长度n不同)char和varchar区别:varchar必char节省空间,但在效率上比char稍微差一些。说varchar…

快速转 TypeScript 指南

From:https://segmentfault.com/a/1190000040582994 TypeScript 教程:https://www.runoob.com/typescript/ts-tutorial.html TypeScript 入门教程:http://ts.xcatliu.com/ TypeScript 超详细入门教程(上):…

对一句正则表达式的理解

在《Python基础教程》的第198页上看到这样一句&#xff1a; re.sub(emphasis_pattern, r<em>\1</em>, Hello, *world*!) 其中&#xff1a;emphasis_pattern r\*([^\*])\* 结果为&#xff1a;Hello, <em>world</em>! 对emphasis_pattern r\*([^\*])\*…

城市大脑建设的3个误区,大脑模型的分歧是关键

作者&#xff1a;刘锋 互联网进化论作者 计算机博士城市大脑是目前智慧城市建设热门的概念&#xff0c;因该说这是一个在中国本土诞生的科技概念和技术模型&#xff0c;作为一个新的领域&#xff0c;城市大脑究竟如何建设&#xff0c;事实上存在了两种不同的发展路径&#xff0…

关于mysql修改密码后的问题

今天心血来潮&#xff0c;把连接mysql的密码改了&#xff0c;wampSever重启后就遇到“phpMyAdmin 试图连接到 MySQL 服务器&#xff0c;但服务器拒绝连接。您应该检查 config.inc.php 中的主机、用户名和密码&#xff0c;并且确定这些信息与 MySQL 服务器的管理员所给出的信息一…

JavaScript 和 typeScript 中的 import、from

From&#xff1a;https://segmentfault.com/a/1190000018249137?utm_sourcetag-newest Github - allowSyntheticDefaultImports should be the default?exports、module.exports和export、export deault到底是咋回事JavaScript 中有多种 export 的方式&#xff0c;而 TypeSc…

深度丨建立合资公司,深度参与运营:详解景驰的无人驾驶生意经

来源&#xff1a;亿欧摘要&#xff1a; 对于景驰科技而言&#xff0c;最终实现商业价值的做法绝对不仅仅是把改装好的无人车卖出高价。在该公司看来&#xff0c;切入无人驾驶需求最旺盛的出租车市场&#xff0c;与出行服务公司、主机厂乃至政府产业基金成立合资公司&#xff0c…

使用SQL Server存储ASP.NET Session变量

创建和配置ASP.NET Session状态数据库在基于NLB&#xff08;网络负载平衡&#xff09;环境下的ASP.NET Web应用程序开发&#xff0c;我们需要将Session存储在数据库中供多个Web应用程序调用&#xff0c;以下为配置方法及注意事项。1.创建用于存储ASP.NET Session的数据库&#…

Linux工具快速教程

From&#xff1a;https://linuxtools-rst.readthedocs.io/zh_CN/latest/index.html 博客&#xff1a;http://blog.me115.comGithub地址&#xff1a;https://github.com/me115/linuxtools_rst分为三个部分&#xff1a; 第一部分为基础篇&#xff0c;介绍我们工作中常用的工具的…

学界 | DeepMind想用IQ题测试AI的抽象思维能力,进展还不错

来源&#xff1a;大数据文摘摘要&#xff1a;抽象理解能力一直是人类引以为豪的智慧来源。阿基米德基于对物体体积的抽象理解&#xff0c;悟到了物体的体积与物体浮力之间的关系。这就是抽象推理的魔力。基于神经网络的机器学习模型取得了惊人的成绩&#xff0c;但是测量其推理…

frida hook so层、protobuf 数据解析

手机安装 app &#xff0c;设置代理&#xff0c;然后开始抓包。 发现数据没法解密&#xff0c;查看请求的 url 是 http://lbs.jt.sh.cn:8082/app/rls/monitor&#xff0c;使用 jadx 反编译 app 后搜索这个 url&#xff08;提示&#xff1a;可以只搜索 url 中一部分&#xff0c;…

PHP session的工作原理

PHP SESSION原理我们知道&#xff0c;session是在服务器端保持用户会话数据的一种方法&#xff0c;对应的cookie是在客户端保持用户数据。HTTP协议是一种无状态协议&#xff0c;服务器响应完之后就失去了与浏览器的联系&#xff0c;最早&#xff0c;Netscape将cookie引入浏览器…

大数据技术与应用解读及案例分析(PPT)

来源&#xff1a;网络大数据摘要&#xff1a;大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据就是未来的石油。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能&#xff0c;互联网和脑科学…

pywin32库 : Python 操作 windows 系统 API

Python 模块虽多&#xff0c;但也不可能满足所有需求。而且&#xff0c;模块为了便于使用&#xff0c;通常都封装过度&#xff0c;有些功能无法灵活使用&#xff0c;必须直接调用Windows API 来实现。要完成这一目标&#xff0c;有两种办法&#xff0c;一种是使用 C 编写 Pytho…

JVM内存管理:深入Java内存区域与OOM

Java与C之间有一堵由内存动态分配和垃圾收集技术所围成的高墙&#xff0c;墙外面的人想进去&#xff0c;墙里面的人却想出来。 概述&#xff1a; 对于从事C、C程序开发的开发人员来说&#xff0c;在内存管理领域&#xff0c;他们即是拥有最高权力的皇帝又是执行最基础工作的劳动…

华为秘密作战计划曝光,重注研发AI芯片挑战英伟达,轮值董事长挂帅

雷刚 问耕 发自 凹非寺 量子位 报道 | 公众号 QbitAI摘要&#xff1a;据报道&#xff0c;对于如何把AI引入所有业务&#xff0c;华为内部已经开启了代号为“达芬奇”的作战计划&#xff0c;并且成为华为高层每月一次讨论会的重点议题&#xff0c;也有不少华为高管以“D项目”来…

Python --- ctypes库的使用

ctypes 的官方文档 英文文档&#xff1a;https://docs.python.org/3/library/ctypes.html中文文档&#xff1a;https://docs.python.org/zh-cn/3.10/library/ctypes.html Python--ctypes(数据类型详细踩坑指南&#xff09;&#xff1a;https://zhuanlan.zhihu.com/p/145165873…

java单利模式写法

public class Something {private Something() {}private static class LazyHolder {public static final Something INSTANCE new Something();}public static Something getInstance() {return LazyHolder.INSTANCE;} } 这样的懒汉单例模式的实现&#xff0c;唯一的缺点是当…

机器学习近年来之怪现象

来源&#xff1a;网络大数据人工智能领域的发展离不开学者们的贡献&#xff0c;然而随着研究的进步&#xff0c;越来越多的论文出现了「标题党」、「占坑」、「注水」等现象&#xff0c;暴增的顶会论文接收数量似乎并没有带来更多技术突破。最近&#xff0c;来自卡耐基梅隆大学…