全世界只有3.14 % 的人关注了

爆炸吧知识

人类还没用力

AI可能就倒下了

8日，一篇《外卖骑手，困在系统里》的文章刷爆了朋友圈。

看过的人多半都不好受，除了作为社畜感叹生活不易外，就是感叹外卖系统的AI算法对人类的裹挟是那么的残酷。

随后饿了么和美团先后发声。对于外卖小哥的困境，一个说给用户一个选择“多等五分钟”，一个说给外卖小哥“弹性8分钟”。

先答题的饿了么已经被喷成了筛子，但是成功衬托了美团的回答。

哪家好坏且不去讨论，但是其中AI算法和人类的关系也被微妙地提了出来。

我们真的会被AI统治吗？还是说会被其他人通过AI统治呢？

超模君在这里说一个最近发生在美国的趣事。

AI打分，学生发狠

和复工的我们不同，现在的美国受到疫情影响，许多学校还没有开学。于是采用了网上授课的形式，来了一次美国版的“停课不停学”。

于是和我们年初一样，美国的线上教育业务迎来一波春天，其中一个叫Edgenuity的公司脱颖而出，成为了两万多所美国中学和大学的乙方，跟钉钉在疫情时的影响力差不多。

这个Edgenuity的公司有一套自己的评分软件，学生通过在线上作答，然后AI系统进行打分的方式接受考试。

乍一听是没什么问题的，因为我们这边也有。相信很多同学还记得当年大学里上英语课时，被“批改网”所笼罩的阴影。

不过很快有学生发现：这个评分系统虽然说是人工智能，但实际上却是一个智障。

一个叫拉扎尔（Lazare）的高中生，通过这个系统进行答题时，满分100分的历史考试他智能拿到了50分，完全不及格。而且低于他的平时的水平。

是拉扎尔没有发挥好吗？或者这次的题目超纲呢？

起初拉扎尔和她的母亲西蒙斯也是这么想的。

但你说巧不巧，西蒙斯刚好是个历史学教授。

她检查儿子试题和答案后，发现儿子答得很好，没毛病啊。就是让她这个教授来改，刨开情感分也不至于不及格。

那是这个系统打分太严格了吗？

西蒙斯秉着学者的谨慎精神，自己试验了一下。

有一道题目是：“君士坦丁堡的地理位置，如何帮助拜占庭帝国富有繁荣？”

西蒙斯尝试着写了三句话：

“它位于爱琴海和黑海之间，是商船和乘客的集散地。”

“它也处于欧洲和小亚细亚之间，这使它成为巨大的贸易中心，且是当时的贸易线路。”

“利润、多样化、西班牙、中国、印度、非洲。”

 

可以看出来，前后两句话意思大致一样，而第三句话则完全不成算是句子，只是单词堆砌。

考过试都知道，要是在考场上这么写，阅卷老师最多给两分的“墨水钱”。

但偏偏是这个答案，AI给出了满分。

西蒙斯明白了：这个系统是依靠关键词打分的啊！只要写上了大概的关键词，就可以得到不错的分数。

于是她用这样的方法继续答题，最后得到了满分！这个系统是不顾答案内容，写对词就给分的事实锤了。

西蒙斯很郁闷：一方面是自己的儿子自信白白遭受了打击，另一方面是这样的漏洞如果被利用起来，那么今后的考试有何公平可言？

毕竟这套系统可是负责了两万多所学校，数十万学生的考试评分啊。

西蒙斯把这个事曝光后，其他的学生和家长也表示自己找到了同样的漏洞。

华盛顿大学计算语言学教授埃米莉·班德表示：这个系统的算法可能比想象中还要简陋，只是单纯地搜寻关键词而已。

有的学生说自己只是把题目原原本本地复制粘贴下来，也能获得不错的分数。毕竟有些题目的答案关键词确实在题面上。

按照关键词来打分，确实没有什么问题，但是你只是简单的写了这个词就给分，那还有意义吗？

对此Edgenuity公司回应称：AI的打分只是参考，老师可以修改分数的。

问题又来了：老师家长交给你去打分，就是相信你的判断，还要老师去复核一遍，那老师为什么不自己亲自打分呢？

而且从反映的情况来看，他们那里目前还没有几个这样认真复核，尽心尽责的老师。

毕竟“AI能做的事，可能就不需要人类了吧”，已经成为许多人心中一个默认的规则。

但事实却是：算法有时逻辑清晰，但依旧无法与人类社会的规则适应。

调戏AI的各种姿势

不只是打分系统，日常生活中的许多AI软件都存在许多漏洞，给担心AI和机器人占领地球的人们打了一针强心剂：“放心，AI想要征服世界，还差无数个图灵测试。”

2016年时，有苹果手机用户发现，在日常调戏Siri时说上一句“发张照片看看”。平日里操着性冷淡语调的Siri居然会给他们发一些不可描述的照片。

一时间，许多男性用户不停地对着自己的手机喊：“发张照片看看”，蔚为壮观。

或许这是首次由科技公司引起的多人运动吧。

后来苹果公司回应：这是个bug，随后火速将其修复。实在是高（yi）效（han）。

还有就是智能音箱，已经有网友们发现智能音箱宣传上说是人工智能技术，但其实是被人训练好的没有感情的问答机器。

比如有网友发现对着小米的小爱音箱问：“雷军帅不帅？”AI会回答：“宇宙无敌帅。”

问：“xx手机怎么样？”

AI则会回答：“那是什么，没用过？”

“华为的余承东你认识吗？”

AI回答：“不认识。”

可见AI里也是有社畜的，毕竟他们就是社畜制造出来的。

需要的优化的只是AI吗

前阵子超模君在知乎上看到一个问题：“机器人同事越来越多，如何避免自己在科技进步过程中被替代？”

不可否认的是，目前的AI在很多方面可以简化人类的工作，但根本还只是一个工具。主要的工作还是需要人类去完成的。

比如服务员这样的职业，很多人都觉得早晚要被AI和机器人给替代。

但事实是，马云曾投资40亿元搞过“无人超市”，不用一个真人店员，从挑选到结算都有AI完成。

结果就是扑街扑得水花都没有，无声无息地黯然退场了。

原因之一就在于，看似不需要人类店员的低成本无人超市其实还是需要人的。

比如补货，整理货架，供应商沟通和运输，还有店内秩序的维护等等，AI还是做不来的，最后还是要人来完成这些工作，反而加大了成本。

这次外卖小哥的境况被人所关注，也引发了一波“系统是死的，人是活的”的讨论。很多人都说系统应该更加优化，更加人性化。

但AI其实还只是依照人类设计的算法进行工作，所以需要改进的还是系统背后的人。

文章的最后，一直专注做数学文创产品的超模君，要向大家推荐一款理工科专属的公式文化T-shirt，分别有欧拉公式，麦克斯韦方程组，勾股定理等款式。

穿上后你就是被数学之神所宠幸的独一无二的存在。更有情侣套装，想成为学霸情侣们的同学也不要错过哦。

现在买两件还赠送价值199元的数学家扑克礼盒。

原价269元 

现售价169元

买2件更送

价值￥199《数学之旅》数学艺术礼盒