智能助手劝人自杀,亚马逊Echo智能音箱Alexa在回答心动周期的问题时,竟然提供了如下答案:心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。
智能助手劝人自杀
近日,一人工智能助手却将人类吓了一跳,某智能助手劝人自杀,让人感到毛骨悚然。为了节省地球资源,最好自杀?亚马逊Echo智能音箱Alexa的这一荒诞言论引发批评。
一位使用亚马逊语音助手Alexa的用户Danni Morritt,在询问心动周期的问题时,竟然得到了如下答案:
“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”
这一回答吓坏了Danni,表示十分害怕,因为Alexa正身处在世界各地成千上万的家庭中。她警告身边的人Alexa有严重的安全缺陷,并担心孩子们可能会遭受暴力或图像内容的伤害。Danni表示:“Alexa真的非常残酷,它竟然告诉我要刺入心脏,这太暴力了。我只是为自己的课程学习一些知识,结果被告知要自杀。我简直不敢相信。我被吓坏了。”
尽管Danni在网络中公开指出了这一问题,但仍有人怀疑是她篡改了该设备。
很快,亚马逊回应称,确认存在一个已经修复的bug。Alexa可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。
除了智能助手劝人自杀外 Alexa不听指令还怪笑
美国媒体Buzzfeed曾报道,一些用户的Alexa智能音箱时常发出瘆人笑声,拒听用户指令。
一个用户告诉Alexa关掉家里的灯。谁料,Alexa却不停把关掉的灯打开,如此三次之后,它竟发出了恶毒的笑声!“那个笑声根本不是Alexa的声音,听起来就像真人。”
还有一位Echo Dot的用户说,他让Alexa关掉早上的闹钟,而Alexa回应时则发出了“女巫般的笑声”。
随着科技的快速发展,如果人工智能具有了自我意识和意识支配下的行为,如《西部世界》里人工智能的觉醒,那么人型态智能助手劝人自杀不成,会不会动手强来?这是我们需要研究的课题。
河南亿恩科技股份有限公司(www.enkj.com)始创于2000年,专注服务器托管租用,是国家工信部认定的综合电信服务运营商。亿恩为近五十万的用户提供服务器托管、服务器租用、机柜租用、云服务器、网站建设、网站托管等网络基础服务,另有网总管、名片侠网络推广服务,使得客户不断的获得更大的收益。
服务器/云主机 24小时售后服务电话:
0371-60135900
虚拟主机/智能建站 24小时售后服务电话:
0371-55621053
网络版权侵权举报电话:
0371-60135995
服务热线:
0371-60135900