人工智能无法修复自动化已经破坏的东西

没错，如今不断涌现出“我们日益恶化的反乌托邦的快照”之类的故事，但这篇来自行业杂志《美国银行家》(American Banker)的文章却脱颖而出。这篇文章揭示了企业人工智能的一个新的前沿用例:在呼叫中心的工作人员被愤怒的来电者骚扰、系统评估他们处于崩溃边缘后，通过向他们播放播放他们最喜欢的流行音乐的家庭视频蒙太奇，试图防止他们“失去理智”。

相当黯淡!但这是一个很好的例子，说明人工智能和自动化是如何在工作场所得到应用的——以比最初看到的更多的方式。

一、细节

人工智能将禅宗带到First Horizon的呼叫中心

呼叫中心的座席整天都要处理愤怒或困惑的客户，他们的压力往往会爆满，因此离职率也很高。根据CMP Research的《2023-2024年客户联络执行基准报告》，约53%的美国呼叫中心座席表示，他们的工作压力水平很高，他们可能会在未来六个月内离开公司。

一些人认为这是一个人工智能可以解决的问题。一个精心设计的算法可以检测到呼叫中心代表失去理智的迹象，并采取措施，比如给客服代表发送一段配有音乐的家庭照片的轻松视频蒙太奇。

First Horizon正在利用人工智能和这种视频“重置”，为整天与客户通电话的人带来平静和幸福的状态。

如果这出现在《黑镜》的b级情节中，我们会觉得有点过分。但让我恼火的不仅仅是这里吹捧的人工智能“解决方案”极其乏味的本质(尽管它确实如此)，甚至还有一个事实，即这是一种可笑的愤世嫉俗的努力，试图掩盖一个问题，你知道，当员工压力大到“失去工作”的时候，给他们一点实际的休假时间，这个问题本来可以解决，尽管这也会让我恼火。事实是，这种高科技的节省成本的解决方案正被用来解决自动化首先造成的一系列问题。

想想看:究竟为什么这些员工压力如此之大?为什么他们要处理这么多“愤怒”和“困惑”的客户——相当多的人每天都对他们大喊大叫——以至于根据他们自己的雇主的说法，他们处于崩溃的边缘?

一个线索出现了:“今天，大约85%到95%的客户呼叫First Horizon字段是在交互式语音应答中以自助方式处理的，”该银行的一位高管说。啊哈!这告诉我们，无论多少年前，First Horizon银行的管理层都被另一种自动化技术所吸引，即交互式语音应答(IVR)，现在它被用于处理绝大多数的来电。因此，像大多数同行一样，First Horizon银行能够用IVR系统取代许多呼叫中心工作人员，或者允许其呼叫量膨胀而不雇用更多的人，直到大多数呼叫根本不是由人接听，而是由IVR接听。问题是，每个人都非常讨厌IVR。

这是目前最受诟病的自动化形式之一，这就是为什么许多客户在找到呼叫中心的工作人员时，面色铁青。这些呼叫者一直在为银行节省人力成本的自动化系统导航数分钟甚至数小时(并鼓励恼怒的呼叫者挂断电话并放弃他们的问题，因为这可能需要更多的资源来解决)，现在他们对浪费了这么多时间感到愤怒是可以理解的。

为了更好地说明:假设你是First Horizon的客户;为了防止欺诈，银行冻结了你的信用卡(这是自动警告系统的结果)，你终于让自助结账亭开始工作(这是节省人力的自动化技术的结果)，你的孩子在尖叫，信用卡被拒绝了。你打电话给银行,你路由到一个交互式语音菜单,你不能得到的东西去正确的选项,现在孩子已经洒了一个购物袋,你忙于您再等着打卡号码在你的手机和你后面的人摇头,不,错了部门和预先录制的语音无人机所以你再试一次,现在响了,你终于度过的人。你并不想让人觉得你疯了，你知道安装这样一个难以理解的、让人精神崩溃的系统并不是这个可怜的工人的错，但这个工人就在电话的另一端，当你要解释你的问题时，你忍不住生气了。

这些听起来熟悉吗?也许你有圣人般的耐心，这是忍受一个充斥着破碎的自动化承诺的世界而不会“失去它”所必需的。不是每个人都这样!关键是，这些都是First Horizon呼叫中心的工作人员每天都要面对的情况;打电话的人对那些怒不可遏的人表现出礼貌但难以掩饰的激动。焦虑的顾客，大喊大叫的人，辱骂者，各种各样的人。我在呼叫中心工作过，我懂。

这就是为什么这个故事让我有点崩溃。第一层和销售的公司,他们在这个人工智能解决方案告诉低工资工人工作是吸收客户的愤怒,第一层的东西弄乱了起来,然后用自动化使它不可能回答——“我们得到你强调由于几十年的削减成本和坏的自动化,但是您现在可以听流行歌曲和看AI-curated假期幻灯片作为治疗,然后返回调用地雷。”这是一种极大的侮辱。

我用杂货店的那个例子来说明这些自动化的小例子的影响是多么普遍。单独来看，它们都不是世界末日——也许，除了那些曾经依赖于被自动化取代的工作的工人——有些是出于好意(防止欺诈)。但总的来说，它们是一种腐蚀性的力量，侵蚀着社会纽带，破坏着人际交往，通常会让我们作为人类的日子变得不那么愉快。

几乎没有人的生活得到改善，除了那些节省劳动力成本的公司——即便如此也不总是如此。我过去曾把这种糟糕的自动化称为自动化，因为没有人是赢家。(甚至有一位艺术史学家就此写过一篇学术论文!)顾客不喜欢它，员工讨厌它，到处都是，它使我们的体验受到影响。如果大多数IVR系统消失，世界将会变得更好，我们可以再次与真正的人类谈论我们的问题，而真正的人类可以尝试解决这些问题——想象一下!

但是，像First Horizon这样的银行并没有在预算中为更聪明的人类员工腾出空间，而是决定为承诺不断提高效率的最新技术趋势掏腰包——这一次，人工智能的“重置”按钮给管理层留下了深刻印象，但对员工却屈尊俯就。工作场所技术的历史在很大程度上是这样的:旨在压榨工人的高科技项目，由管理层传承下来，然后嫁接到先前的问题上。

这是对生成式人工智能的最大担忧。ChatGPT将成为天网(SkyNet)的想法并没有让我失眠，但我确实担心，它与Copilot、Gemini、Cohere和Anthropic一样，正被世界各地数以百万计的管理人员用来偷工省钱，而呼叫中心公司几十年来一直在偷工省钱。其结果将是工作岗位的流失和退化，客户服务的恶化，机构的空心化，以及各种糟糕的模拟，所有这些都是为了让少数硅谷巨头及其客户公司有朝一日能从节省的劳动力成本中获利。结果将是最新一波糟糕的自动化浪潮，遍布互联网、我们的手机和我们的生活。

这个(人造)艺术品在网上引发了很多好的讨论。还有一些不好的讨论:Medium的首席执行官出现在《大西洋月刊》在Threads上的提到中，他说该平台应该因为第一个“亲人类”而受到赞扬。我是被Medium解雇的70名记者之一，因为Medium认为在报酬微薄的用户生成内容上运营平台更便宜，所以我反驳说，这不是很人性化。一场辩论随之而来，在我写这篇文章的时候，辩论还在继续……

对《大西洋月刊》与OpenAI的授权协议有何感想，a)许多《大西洋月刊》的员工自己都感到惊讶，b)在这篇文章发表后才宣布。答案是:我强烈反对这种授权交易!我认为它们对新闻行业不利，是对科技公司的最新投降，在过去20年里，科技公司一直在以各种方式压制新闻业。如果我或其他自由撰稿人不能退出，那么只要《大西洋月刊》有这项政策，我还会继续为它撰稿吗?可能不是!我必须了解更多——作家通常可以在合同中划出例外，这通常在各种方面都很糟糕，但这可能是繁重和耗时的。至少，应该征求贡献者的同意，将他们的工作添加到训练数据集中，并为此提供补偿。