智能助手劝人自杀？

因为2018年以前人工智能都处于研究、实验的状态、或者说研发出成果的没有广泛的传播意义，而2019年已经多个公司落地人工能产品，所以2019年被认为是人工智能纪元元年。

临近2020年，随着AI相关技术在多个应用领域取得突破，我们引来的是新一代的AI技术。

新一代AI技术主要由商业需求尤其是互联网需求推动，对传统产业的渗透广度、深度是前所未有的，不仅可以在制造、农业、物流、金融、商务、家居等6个重点行业进行融合创新，同时在能源、旅游、医疗等各个领域都有着广阔的创新空间，而在这多个领域中，AI技术与我们生活最贴近的应用，应该是非智能助手莫属了。

然而，本是让人充满憧憬的AI，却因近期发生的一件事，让我们对它产生了一些恐惧。

细思恐极，智能助手劝人自杀？

智能助手功能目前已广泛出现在手机等智能硬件上，为用户带来了极大的便利，深得用户的喜爱和追捧。不过最近传出一则智能助手出问题的消息。

就在近日，一位智能助手用户在向智能助手询问问题时，却收获了一份让她意想不到的答案。

国外的Danni Morritt在向亚马逊语音助手Alexa询问心动周期的问题时，竟然得到了一个让人恐惧的答案：“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

亚马逊语音助手Alexa的回答无疑是吓坏了Danni，这一事件被报道出来后也引发了公众的恐慌。Alexa销量巨大，仅在2019年1月份就已售出超出一亿台，目前已身处在世界各地成千上万的家庭中Alexa存在如此严重的缺陷，很难担保不会给孩子们带来一个充满暴力或图像内容伤害的童年。

当事人Danni事后心有余悸，她表示：“Alexa真的非常残酷，它竟然告诉我要刺入心脏，这太暴力了。我只是为自己的课程学习一些知识，结果被告知要自杀。我简直不敢相信。我被吓坏了。”

之后，亚马逊官方对她反应出来的这个问题做出回应称这台智能语音助手当时是出现了故障，现在已经被修复完毕。Alexa应该是从百科上下载了带有恶意性质的文本内容。可问题是什么样的百科内容会如此恶意？

智能助手形成自主意识？

值得一提的是，在此之前美国媒体Buzzfeed曾报道，部分用户的Alexa还出现过很多问题。

比如，一个用户想让Alexa关掉家里的灯。谁料，Alexa却不停把关掉的灯打开，如此三次之后，它竟发出了恶毒的笑声！“那个笑声根本不是Alexa的声音，听起来就像真人。”

还有一位用户爆料，他让Alexa关掉早上的闹钟，而Alexa的回应却是发出“女巫般的笑声”

智能助手让人匪夷所思的行为还远不止如此。美国的一对夫妇曾经爆料他们被“卖了”，因为他们竟然发现他们的对话内容被Echo音箱偷偷录音，还被发送给了其他人，要不是对方好意提醒，他们至今可能还被蒙在鼓里。

亚马逊对此给出的解释是，这是用户的谈话中可能出现了某些指令的关键词，被Echo内置的语音助手Alexa识别到后做出的相应反应。

语音助手监听用户在行业内早已不是秘密

就亚马逊CEO贝索斯在2019年4月的《2018致股东信》中，除了介绍自第一代Echo面世以来，已销售超过1亿台搭载Alexa的设备之外，他还透露与2017年相比，2018年用户与Alexa的交互频次增加了数百亿次。

骄人的成绩背后， Alexa被质疑监听了大量的用户。

今年4月，彭博社报道称，亚马逊数千名员工正监听用户与语音助手的私人聊天，对此亚马逊承认了监听的事实，但它的理由却是“为了进一步提高Alexa对人类语音的理解能力，让Alexa看起来更人性化一点”。

AI技术本就是为让我们的日常生活变得更加高效与便利而服务的，却偏偏经常在跟人们最息息相关的智能助手部分出现问题，这些问题究竟该让谁来买单？