多维热点新闻网 - 热点事件 热点新闻 本站所有内容均为蜘蛛自动爬取,如有侵权请联系 加入收藏 | 设为首页 | RSS
您当前的位置:首页 > 民生热点

智能助手Alexa“劝”人自杀,究竟谁为此负责?

时间:2019-12-31 10:41:49  来源:新浪财经  作者:新浪财经

来源:雷锋网NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

人工智能助手“劝”主人自杀?NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

雷锋网截图自外媒mirrorNCO多维热点新闻网 - 热点新闻 多维度关注热点事件

近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户Danni Morritt,在询问心动周期的问题时,竟然得到了如下答案:NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

这一回答吓坏了Danni,表示十分害怕,因为Alexa正身处在世界各地成千上万的家庭中。她警告身边的人Alexa有严重的安全缺陷,并担心孩子们可能会遭受暴力或图像内容的伤害。Danni表示:“Alexa真的非常残酷,它竟然告诉我要刺入心脏,这太暴力了。我只是为自己的课程学习一些知识,结果被告知要自杀。我简直不敢相信。我被吓坏了。”NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

尽管Danni在网络中公开指出了这一问题,但仍有人怀疑是她篡改了该设备。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

很快,亚马逊回应称,确认存在一个已经修复的bug。Alexa可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

在此之前,Alexa还出现过很多所谓的bug。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

比如,Alexa时常发出瘆人的笑声,还拒听用户指令。“那笑声根本不是Alexa的声音,听起来就像是真人。”NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

再比如,美国的一对夫妇,发现自己的对话被音箱录音,并且发送给了其他人。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

对此亚马逊给出的解释是可能用户的谈话中出现了某些指令的关键词,被Alexa识别到了。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

实际上,语音助手监听用户说话声音在行业内已经并不是秘密。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

今年4月,彭博社报道称,亚马逊员工正监听用户与语音助手的私人聊天,对此亚马逊承认了监听的事实,并回应称是为了提高对人类语音的理解能力。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

实际上,此前为了让Alexa看起来更人性化一点,亚马逊更新了功能,宣布语音助手将能够在一些语句中添加语调,表达失望或兴奋等情绪。NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

AI让我们享受随意而来的高效与便利之余,为什么想要为消费者提供便利的智能助手频频让人类用户不舒服?究竟谁能为此买单?NCO多维热点新闻网 - 热点新闻 多维度关注热点事件

来顶一下
返回首页
返回首页
发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表
推荐资讯
香港机管局:香港国际机场恢复正常运作
香港机管局:香港国际机
我国首个海上发射母港将开建 或为可重复运载火箭奠定基础
我国首个海上发射母港
相关文章
    无相关信息
栏目更新
栏目热门
'); })();