生物智能与AI——关乎创造、关乎理解(上)

几百万年前,第一次人类智能的星火出现在非洲大陆,并且持续发展,最终在大约10万年前在智人的大脑中达到顶峰。作为现代人类,我们只能想象我们的古代祖先在窥视夜空时所经历的事情,以思考物理现实的本质,以及从内心窥视自己心理现实的本质。在过去的几百年里,我们的物种通过发现控制空间、时间、物质和能量的基本数学定律。在发展对物理现实的精确理解方面取得了巨大的智力进步,现在已经在量子力学的大框架中被编纂。然而,我们正处于探索心理现实本质的最初阶段。尤其是人类智能是如何从100亿个突触连接的1000亿个神经元的生物湿件中产生的?神经科学,心理学和认知科学等现代学科在过去100年中取得了重要进展,为解决这一重大问题奠定了基础。

但是,当涉及到我们的心智能力时,对于现代人来说,仅仅理解它们是不够的,我们非常希望在无生命系统中重现这些功能。本质上,人类作为进化的产物,有时也渴望扮演创造者的角色。这种向往渗透在人类文学的作品,事实上,人工智能(AI)这个新兴领域,通常与神经科学,心理学和认知科学领域合作,在创造具有类似人类能力的机器方面取得了巨大进步。在这篇文章中,我将进一步探讨人工智能,神经科学,心理学和认知科学以及数学,物理和社会科学中的联合学科在过去和未来将继续如何共同努力追求交织在一起的理解和创造智能系统的过程。

生物学与人工智能之间的富有成效的合作

在过去的60多年中,AI的发展受到了神经科学和心理学的深刻影响,其中也受到了神经科学和心理学的启发。在早期的几十年中,许多AI从业者在神经科学和心理学方面进行了很好的研究。在这里,我提供了神经科学,心理学和AI之间过去的相互作用:

l  这种相对简单的元素(神经元)的分布式网络能够实现源于神经科学的人类智能的显着计算,并且现在以神经网络的形式渗透到AI系统中。这个想法并不总是显而易见的,在大约一百年前,在高尔基和卡哈尔之间的著名辩论之后,它才变得坚定。

l  包括多维尺度和因子分析在内的各种降维技术最初是在心理测量学研究的背景下开发的。

l  著名的神经科学家霍勒斯·巴洛(Horace Barlow)发明了分解代码的概念,这反过来启发了独立成分分析(ICA)和当前的AI研究,旨在解开数据变异的独立因素。

l  托尔曼在认知图上的工作提供了方向,使得我们可以使用这些模型进行规划和导航。这巩固了内部模型形成作为动物智能的关键组成部分的思想,这部分目前处于人工智能研究的前沿。

l  Hopfield网络是理论神经科学的一个模型,为思考分布式、可寻址的存储器和检索提供了一个统一的框架,也启发了Boltzmann机器,这反过来又为证明深度神经网络模型的成功提供了关键的第一步。它还启发了许多弱约束的分布式以满足作为AI计算模型的想法。

l  目前主导机器视觉的深层卷积网络的关键核心直接受到大脑的启发。其中包括腹侧流中的分层视觉处理,它表明深度的重要性;视网膜的发现是整个视觉皮层的组织原理,导致卷积的出现;发现简单和复杂的细胞激发了最大池化等操作。

l  关于稀疏编码的研究工作是为了理解初级视觉皮层中定向边缘检测器,导致稀疏编码成为现代AI系统中的基本构建块。

l   时序差分学习等算法现在是强化学习领域的基础,它受到经典条件反射的动物实验的启发。

l   反过来,强化学习对基底神经节功能的解释具有显着影响,其中多巴胺能为基底神经节提供了非常重要的奖励预测误差信号,该信号也驱动许多强化学习算法。

l 大脑中存储系统的模块化启发了现代记忆神经网络,其在一定程度上将存储器存储和执行控制电路的操作分开,其决定何时从存储器读取和写入。

l 人类注意力系统激发了注意力机制和神经网络的结合,这些神经网络可以被训练以动态地注意力或忽略其状态和输入的不同方面以进行未来的计算决策。

l 语言学和认知科学中正式生成语法的发展导致概率语法的发展和CS的解析。

l Dropout等现代正则化技术的灵感来自于神经动力学的内在随机性。

人工智能未来的生物学启示

尽管当前人工智能系统在监督模式识别任务方面取得了显著的商业成功,但仿真人类智能仍然有很长的路要走。在这里,我将概述一些个人观点,其中我认为生物学和人工智能领域可以携手前进。

1、生物学上可信的信用分配(plausible credit assignment)

信用分配问题可能是神经科学和人工智能领域最大的开放性问题之一。很明显,假设你正在打网球而且你没有击中球。你的100万亿个突触中有哪一个应该受到指责?大脑如何在你的运动系统中专门找到并纠正突触组,尤其是在错误发生后几百毫秒内通过视觉系统传递错误时?在AI中,这种信用分配问题在许多情况下通过多层计算的反向传播来解决。然而,目前尚不清楚大脑如何解决这个问题。真实的情况是,大脑使用本地学习规则解决它:即每个突触仅使用物理上可用的信息来调整其强度,例如,由突触连接的两个神经元的电活动来奖励和惩罚的任何神经调节输入。解释这些本地突触规则是什么以及它们如何工作可能会对AI产生巨大影响,这可以一定程度上减少反向传播的通信开销。但更一般地说,解决困扰神经科学和人工智能的常见未解决问题应该通过将突触生理学家,计算神经科学家和AI从业者聚集在一起来集体解决生物学上可信的信用分配问题来推动进步。

2、融合突触复杂性

生物和人工神经模型之间的主要区别在于我们模拟连接神经元的突触的方式。在人工网络中,突触由单个标量值建模,反映乘法增益因子,转换神经元的输入如何影响神经元的输出。相反,每个生物突触都隐藏在极其复杂的分子信号通路中。例如,我们对最近事件记忆的海马突触各自包含数百种不同类型分子的化学反应网络,同时它具有整个复杂时间处理能力的动力系统。

在看到这种复杂性后,理论家或工程师可能会试图简单地将其视为生物学上的混乱,而这种混乱就是一种进化的偶然事件。然而,理论研究表明,这种突触复杂性可能确​​实对学习和记忆至关重要。事实上,在突触具有有限动态范围的记忆网络模型中,这样的突触本身就要求是具有复杂时间滤波特性的动态系统,以实现合理的网络存储容量。此外,最近在AI中正在利用更智能的突触作为解决灾难性遗忘问题的一种方法,其中训练学习两个任务的网络只能学习第二个任务,因为学习第二个任务会改变突触权重以这种方式消除从学习第一项任务中获得的知识。

一般地说,我们的人工智能系统很可能通过忽略生物突触的动态复杂性而取得重大的性能提升。正如我们为我们的网络添加空间深度以实现复杂的层次表示一样,我们可能还需要为突触添加动态深度以实现复杂的时间学习功能。

 

从系统级模块化大脑架构中获取灵感

通常,当前的商业AI系统涉及具有相对均匀的分层或循环架构的训练网络,其从随机权重开始。但是,对于更复杂的任务来说,这可能是一个难以解决的问题。事实上,生物进化的道路却截然不同。所有脊椎动物的最后共同祖先生活在5亿年前。从那以后,它的基本大脑一直在发展,导致大约1亿年前出现哺乳动物大脑,以及几百万年前的人类大脑。这种不间断的进化链导致了一个错综复杂的大脑结构,具有高度保守的计算元素和巨大的系统级模块化。事实上,我们目前缺乏工程设计原则,来解释像大脑一样复杂的传感,通信,控制和记忆网络可以在5亿年的时间内不断扩大规模和复杂性,同时永远不会失去在动态环境中自适应运行的能力。因此,AI从大脑的系统级结构中获取灵感可能非常有趣。

一个关键的系统属性是功能和结构的模块化。大脑不像我们目前的AI架构是同质的,而是有不同的模块,如海马(保留情节记忆和导航),基底神经节(潜在的强化学习和动作选择)和小脑(自动化的运动控制和通过监督学习获得更高层次的认知)。此外,人脑中的记忆系统(习惯记忆,运动技能,短期记忆,长期记忆,情景记忆,语义记忆)也是功能模块化的。此外,在运动系统中,嵌套反馈环架构占主导地位,通过简单的快速循环在20毫秒内实现自动运动校正,稍慢的智能循环通过运动皮层在50毫秒内实现更复杂的运动校正,最后经过整个大脑的视觉反馈实现对运动错误的有意识的校正。最后,所有哺乳动物大脑的一个主要特征是由大量相似的6层皮质柱组成的新皮层,所有这些都被认为是在单个规范计算模块上实现的变异。

总体而言,现代哺乳动物大脑具有显著的模块性,通过1亿年的进化保存下来,表明这种系统级模块化可能有利于在AI系统中实施。目前从白板上训练神经网络的方法是不可能走向更普遍的人类智能的途径。实际上,系统级模块化的组合带来的不同类型的纠错嵌套循环和动态复杂的突触可能都是解决生物学上可信的信用分配的关键因素。

 

原文链接
本文为云栖社区原创内容,未经允许不得转载。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/520259.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

linux7基础——给用户添加sudo权限

文章目录1. 切换到超级用户2. 修改sudoers文件内容1. 切换到超级用户 命令:su 密码:******** 此处的密码是root用户的密码2. 修改sudoers文件内容 默认的sudoers文件不具有写权限 a) 给文件sudoers 增加write权限 命令: #chmod uw /etc/sud…

Spring Cloud Config 规范

Spring Cloud Config 规范 首先Spring Cloud 是基于 Spring 来扩展的,Spring 本身就提供当创建一个Bean时可从Environment 中将一些属性值通过Value的形式注入到业务代码中的能力。那Spring Cloud Config 要解决的问题就是: 如何将配置加载到 Environm…

RabbitMQ开机启动 Centos7环境

文章目录8.1. 创建启动脚本8.2. 赋予启动脚本可执行权限8.3. 加入开机启动并指定用户8.4. 赋予可执行权限8.5. 重启MQ服务器测试8.6. 查看MQ服务运行状态8.7. 浏览器验证MQ管控台8.1. 创建启动脚本 操作说明:使用fismq用户操作,使用root用户权限的地方我…

微信几亿人在线的点赞、取消点赞系统,用Redis如何实现?

戳蓝字“CSDN云计算”关注我们哦!作者 | solocoder责编 | 阿秃点赞功能大家都不会陌生,像微信这样的社交产品中都有,但别看功能小,想要做好需要考虑的东西还挺多的,如海量数据的分布式存储、分布式缓存、多IDC的数据一…

java 16进制数组 字符串_byte数组转换成16进制字符串和字符数组的方法

byte数组转换成16进制字符串String&#xff1a;public class CommonUtil {/*** byte数组转换成16进制字符串* param src* return*/public static String bytesToHexString(byte[] src){StringBuilder stringBuilder new StringBuilder();if (src null || src.length < 0) …

年度大盘点:机器学习开源项目及框架

我们先来看看Mybridge AI 中排名靠前的顶级开源项目&#xff0c;再聊聊机器学习今年都有哪些发展&#xff0c;最后探寻下新的一年中会有哪些有值得我们期待的事情。 顶级的开源项目 BERT BERT&#xff0c;全称为Bidirectional Encoder Representations from Transformers&am…

centos7以普通用户开机启动某个服务或者指定脚本

文章目录1. 执行命令格式规范2. 添加到/etc/rc.d/rc.local3. 赋予可执行权限扩展知识&#xff1a;开头添加这句 source /etc/profile 原因为 下面几点1. 执行命令格式规范 #开机切换到fismq用户执行/app/start.sh su fismq -c "/app/rabbitmq_server-3.8.3/sbin/start_ra…

Andrew Ng教你如何引领公司进入AI时代

AI&#xff08;人工智能&#xff09;技术就像100年前的电力一样&#xff0c;正准备改变每个行业。从现在到2030年&#xff0c;它将创造约13万亿美元的GDP增长。虽然它已经在谷歌&#xff0c;阿里巴巴&#xff0c;微软等领先的科技公司中创造了巨大的价值&#xff0c;但其他许多…

IBM Cloud Paks:云端追光者也!

作者&#xff1a;阿秃 现如今&#xff0c;“企业上云”已毫无争议。 据知名云管理服务商RightScale 发布的2019年全球云计算市场调查显示&#xff0c;在众多云平台中混合云的采用率比重最高&#xff0c;达到了惊人的58%。可以想见&#xff0c;市场对混合云的庞大需求正吸引越…

java 装配_Spring 通过Java代码装配bean

1. 背景尽管在很多场景下通过组件扫描和自动装配实现Spring的自动化扫描配置是更为推荐的方式&#xff0c;但在有些情况下自动化扫描的方案行不通&#xff0c;如想要将第三方库中的组件装配到自己的应用中。在这种情况下必须通过显示 装配的方式。显示装配有两种可选方案&#…

生物智能与AI——关乎创造、关乎理解(下)

无监督学习&#xff0c;迁移学习和工程设计 AI系统与人类学习之间的另一个主要差异在于AI系统所需的大量标记数据才可以达到人类级别的性能。例如&#xff0c;最近的语音识别系统在11940小时的语音训练后才能对齐转录。如果我们每天大声地听到另一个人类阅读文本两个小时&…

如何利用tcpdump抓包?

文章目录一、基本使用1. 安装tcpdump2. 使用方法二、案例实战2.1. 企业案例背景2.2. 抓包实战三、网卡接口获取3.1. centos7.x使用3.2. centos6.x使用一、基本使用 1. 安装tcpdump yum install tcpdump -y2. 使用方法 tcpdump -i 网卡接口 协议 -n 注&#xff1a;协议可以接…

Gartner 发布2019年超融合魔力象限:新增深信服一员!

近日&#xff0c;国际权威研究分析机构Gartner公布了2019全球《超融合基础设施魔力象限》报告。 报告显示国内仅有三家云计算厂商进入2019超融合基础设施魔力象限&#xff0c;分别是深信服、华为、华云数据。其中深信服超融合&#xff08;sangfor aCloud&#xff09;凭借技术优…

java对象组合_java并发编程(三): 对象的组合

对象的组合&#xff1a;如何将现有的线程安全组件&#xff0c;组合成我们想要的更大规模的程序。设计线程安全的类&#xff1a;设计线程安全类的三个要素&#xff1a;1.找出构成对象状态的所有变量&#xff1b;2.找出约束状态变量的不变性条件&#xff1b;3.建立对象状态的并发…

深度学习目标检测系列:一文弄懂YOLO算法|附Python源码

在之前的文章中&#xff0c;介绍了计算机视觉领域中目标检测的相关方法——RCNN系列算法原理&#xff0c;以及Faster RCNN的实现。这些算法面临的一个问题&#xff0c;不是端到端的模型&#xff0c;几个构件拼凑在一起组成整个检测系统&#xff0c;操作起来比较复杂&#xff0c…

Keepalived时主备负载均衡器都有VIP的问题:VRRP协议问题

文章目录一、企业案例背景二、异常现象三、分析结论解决思路3.1. 分析结论3.2. 解决思路四、SElinux 处理4.1. 查看SElinux的状态&#xff1a;4.2. 关闭SElinux五、Firewalld防火墙配置5.1. 开启vrrp 协议5.2. 重新启动防火墙5.3. 查看启动日志5.4. 虚拟ip验证5.5. 停止master节…

数据不足,如何进行迁移学习?

现在&#xff0c;人工智能的发展处于跳跃式阶段&#xff0c;我们也对AI在大型数据集的应用进展感到吃惊。更重要的是&#xff0c;那些我们没有跟踪的数十亿张照片或餐厅的评论并没有被遗漏掉&#xff1a;迁移学习技术让收集数据变得更加“容易”。另外&#xff0c;得益于PyTorc…

MongoDB+阿里云 最新数据库独家上线!

近日&#xff0c;开源数据库厂商MongoDB与阿里云在北京达成战略合作&#xff0c;作为合作的第一步&#xff0c;最新版MongoDB 4.2数据库产品正式上线阿里云平台。 目前阿里云成为全球唯一可提供最新版MongoDB服务的云厂商&#xff0c;双方合作打通了企业在云上使用最新版开源数…

一天超2000次,阿里如何打响音视频超时空战役?

在阿里&#xff0c;音视频会议已经成为跨地区沟通、开会以及招聘的首选方式。据悉&#xff0c;目前阿里巴巴的办公网络与音视频会议已经覆盖全球33个国家和地区&#xff0c;其中&#xff0c;音视频会议在过去3个月平均每天召开超过2000余场。在使用如此频繁、覆盖面如此之广的音…

java pppoe_PPPoE拨号流程

PPP会话的建立&#xff0c;需要两端的设备都发送LCP数据包来配置和测试数据通信链路。用户主机与接入集中器根据在发现阶段所协商的PPP会话连接参数进行PPP会话。一旦PPPoE会话开始&#xff0c;PPP数据就可以以任何其他的PPP封装形式发送。所有的以太网帧都是单播的。PPPoE会话…