奇点、技术失控与技术启示录

640?wx_fmt=jpeg

来源:资本实验室


回顾过去,我们可以看到历史上各个时期涌现出的众多超越时代的新公司、新产品、新思维和新模式。尽管绝大多数创新产品最终都失败了,但先行者们致力于要解决所在时代各种问题和困难的精神,却影响着下一代的技术进步,并为这些问题的最终解决铺平了道路。


到了今天,我们比以往任何时期都更依赖于技术。而且,随着这种趋势的继续加剧,我们未来使用的技术会比现在更多。


然而,随着对技术依赖性的增加,与之相关的突破点会同时增加,而与之相关的问题也会随之出现。


此外,现代技术总是比相关的监管政策或法律要早几年出现,并且新技术会以迅雷不及掩耳之势在社会蔓延开来。新技术成长与政策监管的时间差会导致很多意想不到的事情发生,当我们的创新不再失败时会发生什么?或者如果一次出现太多失败时,又会发生什么?


1.奇点与失控的技术


技术是把双刃剑。即使随着我们自动化管理自身行为的能力提高,例如物联网、人工智能和大数据等新技术让我们把很多模糊的事情变得数据化、精准化、可预测,但这些技术背后也可能潜伏着很多的错误和风险。并且,新技术应用的程度越深、越广,各种错误发生的潜在可能性也就越大。


近日,著名未来学家托马斯•弗雷(Thomas Frey)对人类技术发展可能引起的灾难,也就是“技术启示”或“技术末世”(techno-apocalypse)进行了预判和分析,并提出了有价值的警示和反思。


640?wx_fmt=jpeg


目前,大多数关于技术启示的理论倾向于基于某种形式的奇点。技术奇点是一个根据技术发展史总结出的观点,认为未来将要发生一件不可避免的事件:技术发展将会在很短的时间内发生极大的接近于无限的进步。


一般设想技术奇点由超越现今人类并且可以自我进化的机器智能或者其它形式的超级智能的出现所引发。因此,最终技术的发展会完全超乎全人类的理解能力,并将导致人类社会出现不可想象的变化。


20世纪50年代,计算机科学家和物理学家约翰·冯·诺伊曼首次提出了“奇点”的概念。进入到21世纪,美国哲学家雷·库茨维尔的著作《奇点临近》再一次把这一概念推到聚光灯下。与此同时,更多世界级科学家和企业家都关注奇点,并表达了自己的观点。


包括斯蒂芬·霍金、比尔·盖茨和埃隆·马斯克在内的一些行业领先者都对人类未来发出了警告,认为我们需要警惕超越人类智慧的超级智能会摆脱人类控制并摧毁人类。


现代社会注重“进步”这一概念,即通过增益和减少的平衡尺度来扭转有害的方向,控制着事件向我们认为“正确”的方向发展。


对于所有的技术进步,我们首先会聚焦在积极、正面的方向进行审视,但这种技术“进步”方式有时可能会有所帮助,但也可能掩盖某些隐藏的缺点,最终可能会出现“好心办坏事”的局面。


我们现在已经拥有强大的能力去感知和监测变化,诸如降低全球大流感、生态崩溃、核战争、小行星撞击和气候变化等风险。但在托马斯·弗雷看来,人类面临的最大风险是不正常的人类行为,而这种行为越来越受到技术的影响。随着安静的心灵受到贪婪的侵蚀,我们冒着恶化的风险进入到一个生存主义社会。在这个社会中,我们最需要提防的是信任的缺失。


2.未来技术启示的五种场景


托马斯•弗雷预测了未来需要预防的五个技术启示场景,这些场景可以让更多人了解技术失控造成的危害。


  • 极端隐私失败


激进的透明度倡导者向人们宣传构建在数字化模型世界中的幸福生活,并认为如果我们都知道每个人的所有数据,我们将创造出一个更加安全的社会。但是,事实并非如此。


640?wx_fmt=jpeg


当我们了解邻居的一切时,这意味着我们也知道他们的信用卡号码、银行帐号和密码。当这种情况发生时,我们很快就会失去“拥有东西”的能力,而所有权是现代世界所依据的基本权利。


因此,当剑桥数据公司的分析人员使用Facebook账户浏览人们的个人电脑时,不仅发现了犯罪数据,而且还发现了可窃取的资产和可再分配的个人财富形式。


对于那些试图创造一个新的世界秩序的人来说,很容易想象到通过这种后门方法来重写“人类的所有权代码”,而这势必将导致一个非常混乱和功能失调的世界。


  • 全球机场系统崩溃


航空已经成为快速连接全球各地的最重要的交通方式,亚特兰大、北京、迪拜和东京的机场已经成为世界上最繁忙的机场。


如果这些机场遭遇一系列精心策划的技术事故,将会对整个全球航空运输网络造成巨大的连锁反应。


640?wx_fmt=jpeg


无论是改变交通控制系统的网络袭击,还是无人机造成的机场混乱而导致任何一个机场的关闭都将产生严重的影响。


如果这种问题不及时得到修正,并且有可能在多个机场快速复制,那么这种问题可能会上升到技术启示录的水平。


航空运输是一个基于多种依赖关系的、复杂的全球系统。迄今为止,尽管它是所有交通方式中最安全的,但其核心是建立在信任的基础之上。但信任是一件难以量化的事情,一旦失去信任就难以重建。


  • 破坏大型科技公司


世界已经变得非常依赖于谷歌、亚马逊、苹果、微软和阿里巴巴等少数几家重要的科技公司。但反过来看,完全可能通过某种精心的动作,并使用一系列的策略来破坏和摧毁其中一家重要公司。试想一下,如果这些公司遭到攻击,系统被破坏,数据被泄露,我们的社会发生什么样的变化。


640?wx_fmt=jpeg


通过专注于独特的个人定位和细微的影响点,某些机构可以在没有被注意到的时候,破除我们非常依赖的数字服务,直到发现时,为时已晚。


  • 暗网力量


在暗网,招募超级黑客会相对容易,因为他们可以保持匿名,并很容易形成组织,而通过一系列的行动可以攻击那些造成全球主要问题的关键决策者。


640?wx_fmt=jpeg


但这种“自我正义”式的行为,可能会使一批重要的企业分崩离析,导致无数人失业,而最终带来的危害会比他们试图去解决的原始问题更糟糕。


  • 佩克堡水坝事件


二十年前,托马斯•弗雷曾想象和描绘过一场人为攻击造成的灾难:美国佩克堡水坝(全世界最大的填土坝之一,位于美国蒙大拿州密苏里河的上游)被毁后,230亿立方米的洪水倾泄而下,在一天半的时间里,穿过密苏里河流域,对三千英里长的地区造成令人难以置信的破坏。


640?wx_fmt=jpeg


由于穿过美国中心地区,破坏将造成超过1500万人无家可归,数千人失踪或死亡,主要发电厂被摧毁,整个国家的电力恢复将需要非常长的一段时间。


然而以上只是物理性的破坏,这次攻击几乎使地球上每个人都受到不同程度的影响。五家联邦储备银行将倒闭,成千上万的大公司将破产,全球股市陷入动荡,众多保险公司无力赔偿损失,全球粮食供应系统陷入混乱,而供水系统、地下管道系统和其它一些基础设施需要数年才能修复。


当然,这只是托马斯•弗雷想象出来的场景。这个例子只是警示我们,在现在社会中,任何一个事件的影响都不会是孤立的。牵一发而动全身,当全世界形成一个统一的大系统后,我们需要重新思考其可能具有的脆弱性。


未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。


  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”


640?wx_fmt=jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/492641.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Linux常用命令 -- screen

Linux常用命令 -- screen 打开一个screen $screen 这时在机器上就会存在一个screen,这个screen会被以默认的方式命名: $screen -lsThere is a screen on:4087.pts-5.jackson-virtual-machine (01/11/2015 05:33:22 PM) (Detached) 1 Socket in /var/…

Gartner预测2019年十大「数据和分析技术」趋势:增强型分析成为重要卖点

来源:机器之能摘要:处于数据和分析位置的领导人必须审视这些趋势对业务带来的潜在影响,并相应调整业务模式和运营,否则就有可能失去竞争优势。增强型数据分析,增强型数据管理,持续型智能,可解释…

NSIS脚本解释

NSIS脚本语言编程,与hello world项目 https://blog.csdn.net/dbzhang800/article/details/6411870 NSIS是一种为程序打包的脚本语言,有一定的语法规则; 参考:https://blog.csdn.net/xingzheouc/article/details/46502245 对NSIS…

iOS开发-多线程编程技术(Thread、Cocoa operations、GCD)

简介 在软件开发中,多线程编程技术被广泛应用,相信多线程任务对我们来说已经不再陌生了。有了多线程技术,我们可以同做多个事情,而不是一个一个任务地进行。比如:前端和后台作交互、大任务(需要耗费一定的时…

命令行调用VS编译器

不用打开VS编译器,直接用命令行操作, 参考:https://blog.csdn.net/luoweifu/article/details/49847749

万字长文带你看尽深度学习中的各种卷积网络

来源:AI科技评论摘要:深度学习中的各种卷积网络大家知多少?深度学习中的各种卷积网络大家知多少?对于那些听说过却又对它们没有特别清晰的认识的小伙伴们,这篇文章非常值得一读。Kunlun Bai 是一位人工智能、机器学习、…

Nexus搭建Maven服务器

参考:http://blog.csdn.net/ichsonx/article/details/14642897 1、 为什么使用Nexus 如果没有私服,我们所需的所有构件都需要通过maven的中央仓库和第三方的Maven仓库下载到本地,而一个团队中的所有人都重复的从maven仓库下载构件无疑加大了仓…

python压缩文件

参考博客: https://wanglinyong.github.io/2018/06/28/Python压缩解压zip文件/

通信测试:5G 时代的“卖水人”

来源:中泰证券摘要:“金矿”变成了5G,卖水人的故事已拉开帷幕。前言十八世纪末期,在美国的西进运动中,人们在萨克拉门托河里发现了金砂,工人、农民、海员和传教士,前仆后继前来淘金,…

关于mysql内存表的一个帖子(转载)

地址:http://bbs.csdn.net/topics/360030699 引用楼主 zgycsmb 的回复:问:1mysql的内存表性能怎么样2mysql的内存表与system v 这种共享内存机制比起来,如何3 mysql的内存表怎么用,能不能给个例子&#xf…

Python爬取网页

参考: https://www.cnblogs.com/xiao-apple36/p/8433400.html

2019数字化趋势:未来5年政府、零售数字化程度将达80%

来源:阿里云摘要:2月20日,阿里云研究中心发布《2019数字化趋势报告》。报告指出,当前数字化的应用领域正从互联网行业向政府、金融、零售、农业、工业、交通、物流、医疗健康等行业深入。其中,政府、零售业等将成为受云…

MySql 表分区

http://www.cnblogs.com/acpp/archive/2010/08/09/1795464.html转载于:https://www.cnblogs.com/gaobing/p/4224677.html

QT中读写.ini配置文件的操作

ini 文件(即Initialization file)&#xff1a;这种类型的文件中通常存放的是一个程序的初始化信息。ini文件由若干个节(Section)组成&#xff0c;每个Section由若干键(Key)组成&#xff0c;每个Key可以赋相应的值。 //...添加头文件 #include <QSettings> //读写ini文件…

量子计算何时具有真正的商业价值?

来源&#xff1a;IEEE电气电子工程师学会我们对新技术的迷恋似乎总是遵循着同样的轨迹&#xff1a;我们时而着迷&#xff0c;时而崇拜&#xff0c;时而失望&#xff0c;时而沮丧&#xff0c;最终得到的满足比我们最初想象的要少。1954年&#xff0c;德州仪器公司宣称其新型晶体…

[转帖]FPGA--Vivado

来源&#xff1a;http://home.eeworld.com.cn/my/space-uid-639749-blogid-267593.html 一般的&#xff0c;在Verilog中最常用的编码方式有二进制编码(Binary)、格雷码(Gray-code)编码、独热码(One-hot)编码。二进制码和格雷码是压缩状态编码。 若使用格雷编码&#xff0c;则相…

国内5G工程建设面临的6大挑战

来源&#xff1a;5G产业圈摘要&#xff1a;2019年被很多人认为是5G建设元年&#xff0c;但是&#xff0c;5G建设要面临的这些难题&#xff0c;你清楚几个&#xff1f;1、网络云化带来的规划和运维挑战5G网络全面云化&#xff0c;在带来功能灵活性的同时&#xff0c;也带来很多技…

QT中的滚动条QScrollArea

QT里的滚动条操作&#xff0c; 我理解的QScrollArea对象的使用为&#xff0c;把某个widget绑定到该QScrollArea对象&#xff0c;scrol->setWidget(widget); 绑定的widget对象的长宽超过边界时&#xff0c;会有滚动条的效果。 #include <QtGui/QApplication> #include…

iis5.1/6.0/7.0+ 配置url重写 无扩展名伪静态

最近在搞url重写 遇到iis 无扩展名及html映射问题 供后人查看 因为考虑功能比较多(URLRewriter组件有些功能满足不了要求)所以就用了HttpModule方法重写 iis5.1中 添加应用程序映射 .* (注意 这种方法只有5.1中可以)到 C:\WINDOWS\Microsoft.NET\Framework\v2.0.50727\aspnet_i…

无人驾驶重塑竞争生态圈

来源&#xff1a;智车科技摘要&#xff1a;中国有可能成为L4技术以及相关应用的世界领导者&#xff1b;在2030年&#xff0c;中国极有可能成为世界最大的无人驾驶市场&#xff1b;无人驾驶L4生态会是“共生”的&#xff0c;价值链将趋向扁平化&#xff1b;传统汽车领城的公司需…